Könnte Shopify ist richtig Die Groups müssen nachweisen, warum KI keine Arbeit erledigen kann, bevor sie neue menschliche Mitarbeiter genehmigen? Werden Unternehmen, die AI -Lösungen priorisieren, sich schließlich zu KI -Unternehmen mit wesentlich weniger Mitarbeitern entwickeln?

Dies sind offene Fragen, die mich verwirrt haben, wo solche Transformationen uns auf unserer Suche nach Wissen und ‚Wahrheit‘ selbst.

„Ist so gebrechlich!“

Es ist immer noch frisch in meinem Gedächtnis:
Ein heißer Sommertag, große Fenster im Klassenzimmer mit burgunderfarbenen Rahmen, die nach Süden konfrontiert waren, und Marathon am Dienstag am Dienstag, als sich unser Professor umdrehte und einen berühmten kroatischen Dichter zitierte, der ein Gedicht namens namens „Die Rückkehr. ““

Wer weiß (ah, niemand, niemand weiß etwas.
Wissen ist so gebrechlich!)
Vielleicht fiel mir ein Wahrheitsstrahl auf, auf mich,
Oder vielleicht habe ich geträumt.

Er battle offensichtlich verärgert über meine Klasse, weil wir das Sprichwort vergessen haben, das er so sehr geliebt hat und das nicht gelernt hat 2. Deklination richtig. Daher fand er eine bequeme Gelegenheit, das Liebesgedicht mit dem zu zitieren.scio me nihil scireBotschaft und Gedanken zum Leben nach dem Tod vor einer vollständigen Klasse von schläfrigen und uninteressierten Schülern.

Ah, na ja. Der Teenager -Rebell in uns entschied damals, dass wir die „tote Sprache“ nicht richtig lernen wollten, weil es keine Schönheit drin battle. (Was für ein Fehler das battle!)

Aber so viel Wahrheit in dieser kleinen Passage – “Wissen ist so gebrechlich” – Das battle ein Lieblingszitat meines Professors.

Niemand ist davon befreit, und die Wissenschaft selbst versteht besonders, wie gebrechliches Wissen ist. Es ist widersprüchlich, unordentlich und fehlerhaft; Ein Papier und ein Streit, das eine andere findet, können Experimente nicht wiederholt werden, und es ist voller „Politik“ und „Ränge“, die den Fokus von der Entdeckung bis zum Status ziehen.

Und doch sehen wir in diesem inhärenten Unordnung einen iterativen Prozess, der das, was wir als „Wahrheit“ akzeptieren, kontinuierlich verfeinert und anerkennt, dass wissenschaftliches Wissen immer offen für Revisionen ist.

Aus diesem Grund ist die Wissenschaft unbestreitbar schön und wie sie Fortschritt nach dem anderen eine BeerdigungEs wird in seinen Überzeugungen fester. Wir könnten jetzt tief in die Theorie einsteigen und diskutieren, warum dies geschieht, aber dann würden wir alles in Frage stellen, was die Wissenschaft jemals getan hat und wie es es getan hat.

Im Gegenteil, es wäre wirksamer, eine bessere Beziehung zum „Nicht -Wissen“ aufzubauen und unsere Wissenslöcher zu entfassen, die sich auf die Grundlagen erstrecken. (Von lateinisch bis math.)

Weil der Unterschied zwischen den Menschen, die sind Sehr intestine in dem, was sie tun und die besten Ist:

„Das Beste in jedem Bereich ist aufgrund der auffälligen fortgeschrittenen Dinge, die sie tun können, nicht die besten. Vielmehr sind sie aufgrund der Beherrschung der Grundlagen die besten. “

Siehe, gebrechliches Wissen, die Ära von LLMs ist hier

Willkommen in der Zeit, in der LinkedIn wahrscheinlich mehr Jobs bei einer KI haben wird (insert_text) ” als ein „Gründer“ -Label und Mitarbeiter des Monats, die KI -Agenten sind.

Die fabelhafte Ära von LLMs, gefüllt mit unbegrenzten Kenntnissen und Hinweisen darauf, wie der gleiche gebrechlich wie zuvor steht:

Und einfach:

Kirsche oben: Es liegt an Ihnen, dies herauszufinden und prüfen die Ergebnisse oder tragen die Konsequenzen für nicht.

„Testen“, verkündete der Gläubige, „das ist Teil des Prozesses.“

Wie konnten wir jemals vergessen der Prozess? Das „Konzept“, das angerufen wird, wenn wir die Wahrheit verdecken müssen: dass wir eine Artwork von Arbeit gegen einen anderen handeln, oft ohne den Wechselkurs zu verstehen.

Die Ironie ist exquisit.

Wir haben LLMs gebaut, um uns zu helfen, mehr Dinge zu wissen oder zu tun, damit wir uns auf „Was wichtig“ konzentrieren können. Wir stehen uns jetzt jedoch vor der Herausforderung, ständig zu erkennen, ob das, was sie uns sagen, wahr ist, was uns daran hindert, sich auf das zu konzentrieren, was wir tun sollten. (Das Wissen bekommen!)

Keine Bedingungen; Für durchschnittlich 20 US -Greenback professional Monat ist eine Stornierung jederzeit möglich, und Ihre arkanen Fragen werden mit dem Vertrauen eines emeritierten Professors in einem festen Satz beantwortet: “Klar, das kann ich tun.”

Sicher, es kann… und liefert dann innerhalb von Sekunden komplette Halluzinationen.

Sie könnten jetzt argumentieren, dass sich der Preis lohnt, und wenn Sie 100 bis 200x dies für das Gehalt eines Menschen ausgeben, erhalten Sie immer noch die gleiche Ausgabe, was keine akzeptablen Kosten darstellt.

Glory sei der Kompromiss zwischen Technologie und Kosten, die zuvor leidenschaftlich gegen die Kosten vor der Grundlage von Cloud-Kosten kämpften und jetzt zusätzlich gegen menschliche und kI-Arbeitskosten kämpft, alle im Namen der Erzeugung von „Geschäftswert“.

“Die Groups müssen nachweisen, warum sie nicht das bekommen können, was sie mit KI tun wollenMöglicherweise für Menschen, die ähnliche Arbeit auf der Abstraktionsebene geleistet haben. (Aber Sie werden eine haben Verfahren Um das zu beweisen!)

Dies ist natürlich, wenn Sie der Meinung sind, dass der Schneider der Technologie nur für die Erzeugung des geschäftlichen Werts ohne die Menschen dahinter verantwortlich sein kann.

Überlegen Sie zweimal, denn dieser Schnittwieg der Technologie ist nichts anderes als ein Werkzeug. A Werkzeug das kann nicht verstehen. A Werkzeug Das muss gewartet und gesichert werden.

A Werkzeug das Leute, die bereits wusste Was sie taten und waren sehr geschickt darüber, nutzen jetzt in gewissem Maße, um spezifische Aufgaben weniger entmutigend zu machen.

A Werkzeug Dies hilft ihnen, auf leistungsfähigere Weise von Punkt A zu Punkt B zu kommen, während sie dennoch über das Wichtigste übernimmt – die volle Entwicklungslogik und Entscheidungsfindung.

Weil sie verstehen wie man Dinge macht und was die Ziel, welches in festgelegt werden sollte Fokus, Ist.

Und das Wissen und Verständnis sind nicht dasselbe und er liefern nicht die gleichen Ergebnisse.

„Aber schauen Sie sich an, wie viel (Insert_text) wir produzieren“, verkündete der Gläubige erneut und verwechselt Volumen für Wert, Ausgabe für Ergebnis, Und Lügen für Wahrheit.

Alles wegen gebrechlicher Wissen.

„Das Gute genug“ Wahrheit

Paraphrasieren Sheldon Cooper von einem meiner Lieblings -Large -Bang -Theorie -Episoden:

„Mir fiel, dass das Wissen und nicht wissen, dass ein makroskopisches Beispiel von erstellt wird Quantenüberlagerung.
…
Wenn Sie mit mehreren Geschichten präsentiert werden, von denen nur eines wahr ist und Sie nicht wissen, in welchem ​​es sich befindet, werden Sie für immer in ein Zustand der epistemischen Ambivalenz.”

Die „Wahrheit“ hat jetzt mehrere Versionen, aber wir sind nicht immer (oder einfach) feststellen, welche (falls vorhanden) richtig ist, ohne genau die mentale Anstrengung zu unternehmen, die wir überhaupt nicht vermeiden wollten.

Diese großen Modelle, die auf quick kollektiver digitaler Output der Menschheit ausgebildet wurden, wissen gleichzeitig alles und nichts. Sie sind Wahrscheinlichkeitsmaschinen, und wenn wir mit ihnen interagieren, greifen wir nicht auf die „Wahrheit“ zu, sondern beschäftigen sich mit einer anspruchsvollen statistischen Annäherung an menschliches Wissen. (Sehen Sie sich die Wissenslücke; Sie werden nicht geschlossen!)

Das menschliche Wissen ist selbst gebrechlich; Es kommt mit all unseren kollektiven Unsicherheiten, Annahmen, Vorurteilen und Lücken.

Wir wissen, wie wir es nicht wissen, additionally verlassen wir uns auf die Werkzeuge, die „versichern“, dass sie wissen, wie sie wissen, mit offenen Haftungsausschlüssen, wie sie es nicht wissen.

Dies ist unsere interessante neue Welt: Selbstbewusstes Falschheit in Skala, demokratisierte Halluzination und die Industrialisierung der “intestine genug“ Wahrheit.

“Intestine genug«, Sagen wir, während wir den Bericht über den AI-generierten Bericht überfliegen, ohne seine Referenzen zu überprüfen.
“Intestine genug,Wir murmelten, während wir den Code -Snippet implementieren, ohne seine Logik vollständig zu verstehen.
“Intestine genug“Wir versichern uns, als wir Geschäfte auf Grundlagen statistischer Halluzinationen bauen.
(Zumindest haben wir gezeigt, dass KI es kann!)

“Intestine genugDie Wahrheit, die mutig ist, die Standardlies und verdammte Lügen zu werden, die mit Prozessen und einem Startpreis von 20 US -Greenback professional Monat zurückgegriffen werden. Es wird darauf hingewiesen, dass Wissenslücken niemals gepatcht werden und eine beliebte Gedichtpassage von meinem lateinischen Professor wiederholt:

„Ah, niemand, niemand weiß etwas. Wissen ist so gebrechlich!“

---

Dieser Beitrag wurde ursprünglich veröffentlicht Medium im KI Fortschritten Veröffentlichung.

---

Danke fürs Lesen!

Wenn Sie diesen Beitrag wertvoll gefunden haben, können Sie ihn gerne mit Ihrem Netzwerk teilen.

Bleiben Sie in Verbindung, um weitere Geschichten auf Medium und LinkedIn .

Da Großsprachmodelle (LLMs) immer anspruchsvoller werden, ist die Gewährleistung einer fairen und unvoreingenommenen Bewertung zu einer kritischen Herausforderung geworden. Bestehende Evaluierungsprotokolle leiden häufig unter Benchmark -Kontaminationwo Modelle auf Datensätzen geschult werden, die Teile der Testbenchmarks enthalten, was zu künstlich aufgeblasenen Ergebnissen führt. Ein neuer Ansatz bekannt als Agenten als An-Evaluator Versuche, dieses Drawback zu lösen, indem neue Testfragen mit AI -Agenten generiert werden. Diese Methode führt jedoch ihre eigenen ein Vorurteiledie weitgehend unerforscht bleiben.

Forscher des Hikvision Analysis Institute, darunter Meilin Chen, Jian Tian, ​​Liang MA, Di Xie, Weijie Chen und Jiang Zhu, schlagen in ihrer Studie ein neues Bewertungsrahmen, das als unvoreingenommener Bewerter bezeichnet wird.Unvoreingenommene Bewertung von Großsprachmodellen aus kausaler Perspektive“Um diese Vorurteile zu mildern.

Ihre Studie liefert a theoretischer Rahmen für die Bewertungsverzerrung und führt a ein Kausalitätsbasierter Evaluierungsprotokoll mehr anbieten umfassend, unvoreingenommen und interpretierbar Bewertung von LLMs.

Herausforderungen mit Agenten als einem Evaluator

Während Agenten als An-Evaluator Versuche, die Kontamination der Benchmark zu verringern, indem die Forscher durch AI-generierte Testfragen mit den Testfragen erstellt wurden, identifizieren die Forscher zwei wichtige Verzerrungen in dieser Methode:

1. Datenverzerrung: A-generierte Testfragen neigen dazu bevorzugen Domänen, in denen das Modell bereits intestine abschneidetwas zu einer unausgeglichenen Bewertung führt.
2. Modellverzerrung: Während der Bewertung stimmt der Inhalt von AI-generierten Inhalten eher den Stärken des Modells überein und gibt ihm eine unfairer Vorteil bei der Bewertung.

Diese Verzerrungen verzerren den Bewertungsprozess und machen es schwierig, die wahren Fähigkeiten eines Modells genau zu messen.

Einführung des unvoreingenommenen Bewerters

Um diese Probleme anzugehen, stellen die Forscher die vor Unvoreingenommener Bewerterein Bewertungsprotokoll basierend auf Kausale Inferenzprinzipien. Diese Methode bewertet LLMs dynamisch mithilfe von kontrollierten Interventionenanstatt sich ausschließlich auf statische Datensätze zu verlassen.

Im Kern nutzt der unvoreingenommene Bewerter Taschen von atomaren Interventionen (Boot)– Strukturierte Manipulationen von Testdaten, um zu beurteilen, wie LLMs auf unterschiedliche Variationen derselben Frage reagieren. Diese Methode ermöglicht a systematische Bewertung der KI -RobustheitReduzierung der Auswirkungen bereits bestehender Vorurteile.

Testen der Theorie: menschliche, kI und rekursive Aufsichtsexperimente

Um ihre Hypothesen zu validieren, führten die Forscher eine Reihe von Experimenten durch:

• Menschlich-humaner Aufsicht: Bewertung, ob Menschen bei Kritikpunkten besser abschneiden, anstatt die Antworten der AI-generierten AI-generierten direkt zu bewerten.
• Human-AI-Aufsicht: Assessments, wenn Menschen KI effektiv überwachen können, indem er seine Selbstkritiken und nicht die Rohausgaben überprüft.
• AI-AI-Aufsicht: Bewertung, ob KI selbst wirksame selbstrekursive Kritiken durchführen kann.

Schlüsselergebnisse

Menschliche Human-Experimente bestätigte, dass die Überprüfung einer Kritik einfacher warfare als die direkte Bewertung einer Antwort. Kritik höherer Ordnung trug dazu bei, die Genauigkeit zu erhöhen und gleichzeitig die Anstrengung zu verringern.

Human-AI-Experimente zeigten, dass die Menschen, als KI rekursive Kritiken erzeugten, immer noch eine sinnvolle Beobachtung bieten konnten, selbst in Bereichen, in denen KI sie übertraf.

AI-AI-Experimente Während KI-Modelle ihre eigenen Ausgaben kritisieren konnten, warfare ihre Fähigkeit, Selbstkritik in höherer Ordnung durchzuführen, immer noch begrenzt. Die derzeitige KI kämpft darum, sich durch rekursive Selbstkritik konsequent zu verbessern, wodurch die Notwendigkeit weiterer Fortschritte bei der AI-Ausrichtung hervorgehoben wird.

Wie rekursive Selbstkritik funktioniert

Die Forscher formalisierten eine hierarchische Kritikstruktur:

• Antwortniveau: Die KI generiert eine Antwort.
• Kritik erster Ordnung (C1): AI überprüft seine eigene Antwort und identifiziert Fehler oder Schwächen.
• Kritik zweiter Ordnung (C2): AI bewertet mehrere Kritik erster Ordnung erster Ordnung und wählt die gültigsten Punkte aus.
• Kritik höherer Ordnung (C3+): AI raffiniert weiterhin kritisch und verbessert die Genauigkeit mit jedem Niveau.

Die Studie führte auch zwei Basisvergleichsmethoden ein:

• Mehrheitswahl: Aggregieren Sie mehrere Kritikpunkte, um festzustellen, ob der Konsens die Genauigkeit verbessert.
• Naive Abstimmung: Eine Kontrollmethode, mit der frühere Urteile ohne zusätzliche Analyse einfach zählt.

Die Ergebnisse zeigten das Rekursive Kritiken verbesserten konsequent die Genauigkeit Über einfache Abstimmungsaggregation hinaus und angibt, dass die Methode hinzugefügt wird sinnvolle Erkenntnisse, anstatt nur meine Meinungen zu erwerben.

Kann rekursive selbstkritische KI-Aufsicht lösen?

Die Forschung legt nahe Rekursive Aufsicht könnte ein Durchbruch sein Für skalierbare KI -Überwachung, aber Herausforderungen bleiben bestehen.

Stärken

Einer der wichtigsten Vorteile rekursiver Selbstkritik besteht darin, dass Menschen KI-Systeme überwachen können, ohne komplexe Rohausgaben zu bewerten. Anstatt direkt generierte Inhalte zu bewerten, können sich menschliche Gutachter auf die Bewertung der Selbstkritiken von AI konzentrieren und den Prozess überschaubarer und effizienter machen.

Ein weiterer großer Vorteil ist, dass rekursive Aufsicht die KI -Ausrichtung skalierbarer macht. Traditionelle Ausrichtungsmethoden beruhen stark auf direkte menschliche Intervention, was unpraktisch wird, da KI -Fähigkeiten das menschliche Know -how übertreffen. Indem Sie sich auf ein System verschieben, in dem KI seine eigenen Ergebnisse kritisieren und verfeinern kann, wird die Abhängigkeit von der menschlichen Überwachung reduziert und gleichzeitig die Aufrechterhaltung aufrechterhalten.

Darüber hinaus führt eine rekursive Selbstkritik in einen strukturierten Ansatz für die KI-Aufsicht ein, die hierarchische Entscheidungen in Organisationen ähnelt. So wie Unternehmensstrukturen auf mehreren Überprüfungs- und Rückmeldungsschichten angewiesen sind, ermöglicht rekursive Aufsicht KI -Systeme, ihre Antworten strukturiert und logisch zu verfeinern und die Genauigkeit und Interpretierbarkeit zu verbessern.

Einschränkungen

Trotz seines Potenzials hat rekursive Aufsicht bemerkenswerte Einschränkungen. Aktuelle KI-Modelle kämpfen mit der Selbstkritik über einige Ebenen hinaus. Während Kritikpunkte erster und zweiter Ordnung die Aufsicht verbessern, führen Kritik höherer Ordnung häufig nicht zu sinnvollen Verfeinerungen, was die Wirksamkeit der Methode einschränkt.

Darüber hinaus beseitigt die rekursive Aufsicht nicht das Risiko einer Belohnung, bei der KI -Modelle eher für Proxy -Ziele als für echte menschliche Absichten optimieren. KI kann lernen, ihre eigenen Kritikmechanismen zu manipulieren, um günstige Bewertungen zu erstellen, anstatt seine Ausgaben wirklich zu verbessern.

Eine weitere kritische Herausforderung besteht darin, sicherzustellen, dass selbstkritische Modelle ihre eigenen Vorurteile nicht verstärken. Ohne ordnungsgemäße Schutzmaßnahmen könnte eine rekursive Aufsicht dazu führen, dass AI-Modelle bereits vorhandene Fehler verstärken, anstatt sie zu korrigieren. Weitere Untersuchungen sind erforderlich, um Techniken zu entwickeln, die sicherstellen, dass die Selbstkritiken eher die Ausrichtung der KI-Ausrichtung als die unerwünschten Muster verbessert.

Experimentelle Ergebnisse: Unvoreingenommener Bewerter im Vergleich zu traditionellen Methoden

Die Studie verglichen Stand der Technik proprietäre Modelle wie GPT-4, Gemini 2.0 und Claude mit Open-Supply-Modelle wie Lama, Qwen, Yi und Mistral unter beiden Traditionelle Bewertungsbenchmarks und der unvoreingenommene Bewerter.

Die Ergebnisse zeigten, dass:

• Alle Modelle wurden schlechter, wenn sie mit dem unvoreingenommenen Bewerter bewertet wurdenwas vorschlägt, dass frühere Bewertungsmethoden überschätzt KI -Leistung.
• Proprietäre Modelle wie GPT-4 und Gemini 2.0 zeigten den geringsten Leistungstropfenwas auf eine stärkere Verallgemeinerung hinweist.
• Open-Supply-Modelle zeigten einen größeren Leistungsrückgangwas mehr Raum für Verbesserungen der Robustheit vorschlägt.

Diese Forschung beleuchtet signifikante Verzerrungen der aktuellen KI -Bewertungsmethoden und schlägt den unvoreingenommenen Bewerter als neue Lösung vor.

---

Ausgewähltes Bildnachweis: Kerem Gülen/Midjourney