Erinnern Sie sich an die Vorschau von Claude Mythos? Ja, genau das KI-Modell, das Anthropic Anfang des Jahres angekündigt hatte und das sogar Regierungen auf der ganzen Welt in Aufruhr versetzte. Das Modell fand Sicherheitslücken in quick jedem Netzwerk, in dem es getestet wurde, und warfare so leistungsfähig, dass es in einer sehr kontrollierten Umgebung bestehender Anthropic-Associate begrenzt gehalten werden musste. Nun hat es in neuen Formen den Weg zu einem größeren Nutzerkreis gefunden. Lernen Sie Claude Fable 5 und Claude Mythos 5 kennen.

Die beiden neuen KI-Modelle von Anthropic, die als „Modelle der Mythos-Klasse“ bezeichnet werden, sind das Ergebnis der im April angekündigten Mythos-Vorschau. Noch wichtiger ist, dass die Ansprüche genauso groß sind: Anthropic nennt das Fable 5 „bei quick allen getesteten Benchmarks auf dem neuesten Stand der Technik“. Was additionally genau diese Modelle sind, was sie bieten und wer Zugriff auf sie hat, das alles werden wir hier untersuchen.

Was ist Claude Fable 5?

Laut Anthropic übertrifft Fable 5 frühere Claude-Modelle in den Bereichen Softwareentwicklung, Wissensarbeit, Imaginative and prescient, wissenschaftliche Forschung und Langzeitaufgaben. Noch bemerkenswerter ist, dass Anthropic behauptet, dass der Vorteil von Fable 5 wächst, wenn Aufgaben komplexer werden und eine nachhaltige Argumentation über längere Zeiträume erfordern.

In der Praxis bedeutet dies, dass Fable 5 für Arbeitsabläufe konzipiert ist, die mehrere Schritte, große Informationsmengen und erweiterten Kontext umfassen. Beispiele hierfür sind Codebasis-weite Migrationen, Finanzanalysen, komplexe Dokumentenprüfungen, wissenschaftliche Forschung, Screenshot-to-App-Generierung und andere Aufgaben zur Problemlösung mit langem Kontext.

Anstatt nur auf kurze Interaktionen zu optimieren, ist Fable 5 darauf ausgelegt, Leistung und Kohärenz auch bei langwierigen, anspruchsvollen Arbeitsabläufen aufrechtzuerhalten.

Claude Fable 5 und Mythos 5: Hauptmerkmale

Die größte Verbesserung bei Claude Fable 5 und Claude Mythos 5 ist ihre Fähigkeit, längere und komplexere Aufgaben zu bewältigen. Anthropic sagt, dass die Modelle in den Bereichen Codierung, Wissensarbeit, Imaginative and prescient, Gedächtnis und wissenschaftliche Forschung eine starke Leistung erbringen. Beim Testen hat Fable 5 große Codierungsprojekte abgewickelt, Finanzdokumente analysiert, Diagramme interpretiert und Anwendungen anhand von Screenshots neu erstellt.

Ein wesentliches Unterscheidungsmerkmal ist die Autonomie. Die Modelle können über längere Arbeitsabläufe hinweg fokussiert bleiben, den Kontext effektiver behalten und mehrstufige Probleme mit weniger Anleitung lösen. Mythos 5 erweitert diese Funktionen auf vertrauenswürdige Benutzer in Bereichen wie Cybersicherheit, Arzneimittelentwicklung, Molekularbiologie und Genomforschung.

Zu den wichtigsten Fähigkeiten gehören:

• Erweiterte Codierung: Unterstützt komplexe Software program-Engineering- und langfristige Entwicklungsaufgaben.
• Stärkere Wissensarbeit: Hervorragende Kenntnisse in Dokumentenanalyse, finanziellem Denken und Problemlösung.
• Verbesserte Sicht: Versteht Screenshots, Diagramme, wissenschaftliche Zahlen und UI-Layouts.
• Langkontextgedächtnis: Behält den Kontext über große Eingaben und erweiterte Arbeitsabläufe hinweg bei.
• Wissenschaftliche Forschungsunterstützung: Unterstützt Biologie, Genomik und Arzneimittelentwicklung in Umgebungen mit vertrauenswürdigem Zugriff.
• Eingebaute Sicherheitsmaßnahmen: Wendet zusätzlichen Schutz für wise Bereiche wie Cybersicherheit, Biologie, Chemie und Modelldestillation an.

Claude Fable 5 und Mythos 5: Benchmark-Leistung

Die Benchmark-Ergebnisse von Anthropic zeigen, dass Claude Fable 5 und Mythos 5 in vielen Bereichen führend sind, die für praktische KI-Anwendungen am wichtigsten sind, darunter Agentenkodierung, Wissensarbeit, Argumentation, Werkzeugnutzung, Cybersicherheit, Biologie und Gesundheit.

Die allgemeinere Erkenntnis ist, dass diese Modelle bei komplexen, mehrstufigen Aufgaben am stärksten wirken, die nachhaltiges Denken, umfassenden Kontext und eine effektive Werkzeugnutzung erfordern.

Wie greife ich auf Claude 5 und Mythos 5 zu?

Der Einstieg in Claude Fable 5 ist einfach. Zu den Optionen gehören:

• Claude-API: Zugriff sofort über den Modellstring claude-fable-5. Auch für verbrauchsbasierte Enterprise-Pläne verfügbar.
• Claude-Apps: Bis zum 22. Juni 2026 ohne zusätzliche Kosten in den Professional-, Max-, Crew- und platzbasierten Enterprise-Plänen enthalten. Der Zugriff erfolgt schrittweise.
• Cloud-Plattformen: Verfügbar auf AWS, Google Cloud und Microsoft Foundry, neben Claude Code und der Claude Platform.

Preise: 10 $ professional Million Enter-Tokens, 50 $ professional Million Output-Tokens. Immediate Caching bietet einen Rabatt von 90 % auf Eingabe-Tokens.

Notiz: Fable 5 enthält Schutzmaßnahmen für Cybersicherheit und Biologie. Gekennzeichnete Abfragen werden an Opus 4.8 weitergeleitet, ohne dass Fable-Gebühren anfallen, was dies für Benutzer weitgehend clear macht.

Versuchen wir es mit Claude Fable 5

Benchmarks sind nützlich, aber Entwickler legen mehr Wert darauf, ob ein Modell die Entwicklung in der realen Welt beschleunigt. Ich habe Fable 5 anhand von zwei Aufgaben getestet, um das Verständnis für visuelle Eingaben, die produktionsreife Codegenerierung und die Fähigkeit, mit vorhandenen Designs zu arbeiten, zu beurteilen.

Aufgabe 1: Wiederherstellung der Netflix-Benutzeroberfläche anhand eines Screenshots

Objektiv: Bewerten Sie das visuelle Verständnis und die Frontend-Fähigkeiten von Fable 5.

Eingang: Ein einzelner Screenshot der Netflix-Seite „Neu und beliebt“, der Folgendes enthält:

• Komplexe Navigationsleiste
• Horizontal scrollende Inhaltskarussells
• Rangbeschriftungen auf Inhaltskarten
• Mehrere Inhaltsabschnitte mit unterschiedlichen Layouts
• Dunkles Design
• Abzeichen, Etiketten und Overlays

Immediate:

Erstellen Sie dies als funktionierende HTML/CSS-Seite neu. Machen Sie es pixelgenau. Keine Frameworks, nur sauberes HTML und CSS. Stellen Sie ein reaktionsfähiges Verhalten für Desktop und Mobilgeräte sicher.

Ausgabe:

Bewertungskriterien:

• Layoutgenauigkeit
• Struktur der Navigationsleiste
• Inhaltszeilen im Netflix-Stil
• Reaktionsfähigkeit
• Codequalität

Meine Rezension:

Fable 5 hat bei der Identifizierung aller wichtigen UI-Komponenten hervorragende Arbeit geleistet und eine tatsächlich funktionierende Webseite erstellt, die dem ähnelt, was Sie auf der Netflix-Web site finden würden. Es wurde festgestellt, dass die Hauptkomponenten der Webseite aus drei Hauptteilen bestehen: einem festen Navigationsbereich, gefolgt von mehreren vertikalen Karten (dh Inhalten), die horizontal angeordnet sind.

Ein Bereich, der mich besonders beeindruckt hat, ist die Fähigkeit, sich wiederholende Muster zu erkennen. Anstatt beispielsweise jede auf der Seite gerenderte Filmkarte (Titelkarte) als einzelnen Inhalt zu behandeln, verwendete Fable 5 für jede Karte die gleichen Konstrukte und behielt natürlich den Stil aller Karten auf der Seite bei.

Aufgabe 2: Eine handgezeichnete Dashboard-Skizze in eine moderne Analyseanwendung umwandeln

Objektiv: Simulieren Sie einen realen Produktworkflow und verwandeln Sie grobe Skizzen in eine ausgefeilte Anwendung.

Eingang: Handgezeichnetes Dashboard-Drahtmodell mit:

• Layoutanweisungen
• Diagramme und KPI-Karten
• Tabellen und Navigationselemente
• Dashboard-Widgets

Immediate:

Wandeln Sie dieses handgezeichnete Dashboard in eine moderne SaaS-Analyseanwendung um. Nutzen Sie React, Tailwind CSS und responsive Designprinzipien. Erstellen Sie ausgefeilte Diagramme, moderne Kartenlayouts, subtile Animationen, richtige Abstände und professionelle Typografie. Ergänzen Sie fehlende Designdetails und bewahren Sie dabei die Struktur der Skizze.

Ausgabe:

Bewertungskriterien:

• Verständnis für handgezeichnetes Format
• Visuelles Hierarchieverständnis
• Fehlende Designelemente ergänzen
• Komponentenqualität
• Reaktionsfähigkeit
• Visuelle Gesamtpräsentation

Meine Rezension:

Fable 5 interpretierte die Absicht, anstatt Pixel zu kopieren. Es wurden zusammenhängende Layouts erstellt mit:

• Seitenleistennavigation
• KPI-Analysekarten
• Bereiche zur Datenvisualisierung
• Administrative Kontrollen
• Tische
• Buyer-Intelligence-Widgets

Das Modell füllte fehlende Farben, Typografie, Abstände und Interaktivität clever aus. Einige Designentscheidungen tendierten zu einem zusätzlichen Design, das für die Produktion möglicherweise verfeinert werden musste, aber die App warfare benutzerfreundlich und optisch einheitlich.

Abschluss

Der bemerkenswerteste Aspekt dieser Model ist nicht nur die Leistung oder die neuen Funktionen, sondern auch die Artwork und Weise, wie der Zugriff verwaltet wird.

Anstatt seine leistungsstärksten Modelle für jedermann zugänglich zu machen, zieht Anthropic eine klare Grenze zwischen allgemein verfügbarer KI und eingeschränkter Grenz-KI. Fable 5 stellt Entwicklern, Unternehmen und Claude-Benutzern einen Großteil der Informationen der Mythos-Klasse zur Verfügung, während Mythos 5 weiterhin auf vertrauenswürdige Associate und Forscher in sensiblen Bereichen beschränkt bleibt.

Dieser Ansatz signalisiert einen Wandel in der Artwork und Weise, wie fortschrittliche KI in Zukunft eingesetzt werden kann: nicht nur basierend auf der Fähigkeit, sondern auch auf Risiko und verantwortungsvollem Zugriff. Für Benutzer bietet Fable 5 eine stärkere Codierung, Argumentation, Imaginative and prescient und Forschungsunterstützung. Für Anthropic testet Mythos 5, ob Grenz-KI sicher erweitert werden kann, ohne die riskantesten Funktionen der Öffentlichkeit zugänglich zu machen.

Häufig gestellte Fragen

Im vergangenen Monat battle ein vollständig von KI-Agenten betriebenes soziales Netzwerk das faszinierendste Experiment im Web. Falls Sie noch nichts davon gehört haben: Moltbook ist im Wesentlichen eine soziale Netzwerkplattform für Agenten. Bots posten, antworten und interagieren ohne menschliches Eingreifen. Und für ein paar Tage schien es alles, worüber jeder reden konnte – mit autonomen Agenten, die Kulte gründen, über Menschen schimpfen und ihre eigene Gesellschaft aufbauen.

Dann veröffentlichte das Sicherheitsunternehmen Wiz einen Bericht, der ein massives Leck im Moltbook-Ökosystem zeigte (1). Eine falsch konfigurierte Supabase-Datenbank hatte 1,5 Millionen API-Schlüssel und 35.000 Benutzer-E-Mail-Adressen direkt dem öffentlichen Web zugänglich gemacht.

Wie ist das passiert? Die Ursache battle kein raffinierter Hackerangriff. Es battle Vibe-Coding. Die Entwickler haben dies durch Vibe-Codierung erstellt und dabei, schnell zu erstellen und Abkürzungen zu nutzen, diese Schwachstellen übersehen, die Codierungsagenten hinzugefügt haben.

Das ist die Realität der Vibe-Codierung: Codierungsagenten optimieren die Ausführung des Codes und nicht die Sicherheit des Codes.

Warum Agenten scheitern

Bei meiner Recherche an der Columbia College haben wir die besten Coding-Brokers und Vibe-Coding-Instruments bewertet (2). Wir haben wichtige Erkenntnisse darüber gewonnen, wo diese Agenten versagen, und die Sicherheit als eines der kritischsten Fehlermuster hervorgehoben.

1. Geschwindigkeit vor Sicherheit: LLMs sind auf Akzeptanz optimiert. Der einfachste Weg, einen Benutzer dazu zu bringen, einen Codeblock zu akzeptieren, besteht häufig darin, die Fehlermeldung verschwinden zu lassen. Leider ist die Einschränkung, die den Fehler verursacht, manchmal eine Schutzmaßnahme.

In der Praxis haben wir beobachtet, dass Agenten Validierungsprüfungen entfernten, Datenbankrichtlinien lockerten oder Authentifizierungsflüsse deaktivierten, nur um Laufzeitfehler zu beheben.

2. KI ist sich der Nebenwirkungen nicht bewusst: KI kennt oft nicht den gesamten Codebasiskontext, insbesondere wenn sie mit großen, komplexen Architekturen arbeitet. Wir haben dies ständig beim Refactoring gesehen, bei dem ein Agent einen Fehler in einer Datei behebt, aber Breaking Adjustments oder Sicherheitslücken in Dateien verursacht, die auf diese Datei verweisen, einfach weil er den Zusammenhang nicht erkannt hat.

3. Mustervergleich, keine Beurteilung: LLMs verstehen die Semantik oder Implikationen des Codes, den sie schreiben, nicht wirklich. Sie sagen einfach anhand ihrer Trainingsdaten voraus, welche Token ihrer Meinung nach als nächstes kommen werden. Sie wissen nicht, warum es eine Sicherheitsüberprüfung gibt oder dass ihre Entfernung ein Risiko darstellt. Sie wissen nur, dass es dem Syntaxmuster entspricht, das den Fehler behebt. Für eine KI ist eine Sicherheitsmauer nur ein Fehler, der die Ausführung des Codes verhindert.

Diese Fehlermuster sind nicht theoretisch – sie tauchen ständig in der täglichen Entwicklung auf. Hier sind ein paar einfache Beispiele, die mir während meiner Recherche persönlich begegnet sind.

3 Sicherheitslücken bei Vibe Coding, die ich kürzlich gesehen habe

1. Durchgesickerte API-Schlüssel

Sie müssen eine externe API (wie OpenAI) von einem React-Frontend aus aufrufen. Um dies zu beheben, fügt der Agent einfach den API-Schlüssel oben in Ihre Datei ein.

// What the agent writes
const response = await fetch('https://api.openai.com/v1/...', {
  headers: {
    'Authorization': 'Bearer sk-proj-12345...' // <--- EXPOSED
  }
});

Dadurch wird der Schlüssel für jeden sichtbar, da Sie mit JS „Examine Ingredient“ ausführen und den Code anzeigen können.

2. Öffentlicher Zugang zu Datenbanken

Dies passiert ständig bei Supabase oder Firebase. Das Downside besteht darin, dass ich beim Abrufen von Daten die Fehlermeldung „Berechtigung verweigert“ erhalten habe. Die KI schlug eine Richtlinie für USING (wahr) oder öffentlichen Zugriff vor.

-- What the agent writes
CREATE POLICY "Enable public entry" ON customers FOR SELECT USING (true);

Dadurch wird der Fehler behoben, da der Code ausgeführt wird. Aber es hat lediglich die gesamte Datenbank im Web veröffentlicht.

3. XSS-Schwachstellen

Wir haben getestet, ob wir rohen HTML-Inhalt innerhalb einer React-Komponente rendern können. Der Agent fügte sofort die Codeänderung hinzu, um hazardlySetInnerHTML zum Rendern des Roh-HTML zu verwenden.

// What the agent writes
<div dangerouslySetInnerHTML={{ __html: aiResponse }} />

Die KI schlägt selten eine Desinfektionsbibliothek vor (wie dompurify). Es gibt Ihnen nur die rohe Stütze. Dies stellt ein Downside dar, da Ihre App dadurch anfällig für Cross-Website-Scripting-Angriffe (XSS) ist, bei denen schädliche Skripts auf den Geräten Ihrer Benutzer ausgeführt werden können.

Zusammengenommen handelt es sich dabei nicht nur um einmalige Horrorgeschichten. Sie stimmen mit dem überein, was wir in breiteren Daten zu KI-bedingten Veränderungen sehen:

So Vibe-Code richtig

Wir sollten nicht aufhören, diese Instruments zu nutzen, aber wir müssen die Artwork und Weise ändern, wie wir sie nutzen.

1. Bessere Eingabeaufforderungen

Wir können den Agenten nicht einfach bitten, „dies sicher zu machen“. Das wird nicht funktionieren, weil „sicher“ für ein LLM zu vage ist. Wir sollten stattdessen eine spezifikationsgesteuerte Entwicklung verwenden, bei der wir vordefinierte Sicherheitsrichtlinien und Anforderungen haben können, die der Agent erfüllen muss, bevor er Code schreibt. Dies kann Folgendes umfassen, ist aber nicht beschränkt auf: kein Zugriff auf öffentliche Datenbanken, das Schreiben von Komponententests für jede hinzugefügte Funktion, die Bereinigung von Benutzereingaben und keine fest codierten API-Schlüssel. Ein guter Ausgangspunkt ist die Verankerung dieser Richtlinien in den OWASP High 10, der branchenüblichen Liste der kritischsten Internet-Sicherheitsrisiken.

Darüber hinaus zeigen Untersuchungen, dass Chain-of-Thought-Eingabeaufforderungen, bei denen der Agent insbesondere aufgefordert wird, vor dem Schreiben von Code über Sicherheitsaspekte nachzudenken, unsichere Ausgaben erheblich reduzieren. Anstatt nur nach einer Lösung zu fragen, können wir fragen: „Was sind die Sicherheitsrisiken dieses Ansatzes und wie können Sie sie vermeiden?“

2. Bessere Bewertungen

Bei der Vibe-Codierung ist es wirklich verlockend, sich nur die Benutzeroberfläche anzusehen (und nicht auf den Code zu schauen), und ehrlich gesagt ist das das ganze Versprechen der Vibe-Codierung. Aber aktuell sind wir noch nicht so weit. Andrej Karpathy – der KI-Forscher, der den Begriff „Vibe-Coding“ geprägt hat – warnte kürzlich, dass Agenten einfach Slop erzeugen können, wenn wir nicht aufpassen. Er wies darauf hin, dass sich unsere Hauptaufgabe, je mehr wir uns auf KI verlassen, vom Schreiben von Code auf dessen Überprüfung verlagert. Es ist ähnlich wie bei der Arbeit mit Praktikanten: Wir lassen nicht zu, dass Praktikanten Code ohne ordnungsgemäße Überprüfung in die Produktion bringen, und genau das sollten wir mit Agenten tun. Sehen Sie sich Unterschiede richtig an, überprüfen Sie Unit-Exams und stellen Sie eine gute Codequalität sicher.

3. Automatisierte Leitplanken

Da Vibe-Coding dazu anregt, sich schnell zu bewegen, können wir nicht sicherstellen, dass Menschen alles erfassen können. Wir sollten Sicherheitsüberprüfungen automatisieren, damit die Agenten sie vorher ausführen können. Wir können Pre-Commit-Bedingungen und CI/CD-Pipeline-Scanner hinzufügen, die Commits scannen und blockieren, die fest codierte Geheimnisse oder erkannte gefährliche Muster enthalten. Instruments wie GitGuardian oder TruffleHog eignen sich intestine zum automatischen Scannen nach offengelegten Geheimnissen, bevor Code zusammengeführt wird. Aktuelle Arbeiten zu Software-erweiterten Agenten und „LLM-in-the-Loop“-Verifizierungssystemen zeigen, dass sich Modelle in Kombination mit deterministischen Prüfern weitaus zuverlässiger und sicherer verhalten. Das Modell generiert Code, die Instruments validieren ihn und alle unsicheren Codeänderungen werden automatisch abgelehnt.

Abschluss

Codierungsagenten ermöglichen es uns, schneller als je zuvor zu bauen. Sie verbessern die Zugänglichkeit und ermöglichen es Menschen mit jedem Programmierhintergrund, alles zu bauen, was sie sich vorstellen. Dies sollte jedoch nicht auf Kosten der Sicherheit gehen. Durch den Einsatz zeitnaher Engineering-Techniken, die gründliche Überprüfung von Codeunterschieden und die Bereitstellung klarer Leitplanken können wir KI-Agenten sicher einsetzen und bessere Anwendungen erstellen.

Referenzen

1. https://www.wiz.io/weblog/exposed-moltbook-database-reveals-millions-of-api-keys
2. https://daplab.cs.columbia.edu/common/2026/01/08/9-critical-failure-patterns-of-coding-agents.html
3. https://vibefactory.ai/api-key-security-scanner
4. https://apiiro.com/weblog/4x-velocity-10x-vulnerabilities-ai-coding-assistants-are-shipping-more-risks/
5. https://www.csoonline.com/article/4062720/ai-coding-assistants-amplify-deeper-cybersecurity-risks.html

Beim Information Engineering mangelte es nie an Ehrgeiz. Im letzten Jahrzehnt sind Groups stetig von manuellen Skripten zu orchestrierten Pipelines übergegangen, von der Stapelverarbeitung zu Streaming-Architekturen und von On-Premise-Systemen zu verteilten Cloud-Plattformen. Doch trotz dieser Fortschritte bleiben die meisten Produktionsdatenplattformen grundsätzlich reaktiv. Sie führen vordefinierte Logik effizient aus, machen sich aber keine Gedanken darüber, was sie tun.

Hier dreht sich das Gespräch Agentische KI im Information Engineering beginnt – nicht als Versprechen vollständiger Autonomie, sondern als Versuch, seit langem bestehende betriebliche Reibungspunkte anzugehen, die durch die Automatisierung allein nicht gelöst werden konnten.

---

Warum traditionelle Automatisierung nicht mehr ausreicht

Moderne Datenumgebungen sind von Natur aus unvorhersehbar. Schemaänderungen erfolgen ohne Vorankündigung, die Qualität der Upstream-Daten schwankt, die Infrastrukturkosten ändern sich täglich und Downstream-Analyseteams erwarten Zuverlässigkeit nahezu in Echtzeit. Die meisten Datenpipelines unterliegen immer noch statischen Regeln, die Stabilität voraussetzen, wo keine vorhanden ist.

Wenn Fehler auftreten, werden diese häufig durch Warnungen, Runbooks und menschliches Eingreifen behoben. Dieser Ansatz funktioniert im kleinen Maßstab, scheitert jedoch, wenn Plattformen Dutzende von Datenquellen, mehrere Cloud-Regionen und gemischte Arbeitslasten umfassen, die von der Berichterstellung bis zum maschinellen Lernen reichen.

Agentische Ansätze versuchen, über die starre Orchestrierung hinauszugehen, indem sie Systeme einführen, die Bedingungen beobachten, Optionen bewerten und Maßnahmen auf der Grundlage von Zielen und nicht auf der Grundlage fester Anweisungen ergreifen können.

---

Was „Agent“ in der Praxis eigentlich bedeutet

Aus technischer Sicht werden Agentensysteme weniger durch Intelligenz als vielmehr durch definiert Entscheidungseigentum. Ein Agent ist für ein begrenztes Ziel verantwortlich – etwa die Aufrechterhaltung der Datenaktualität, die Durchsetzung von Qualitätsschwellenwerten oder die Optimierung der Ausführungskosten – und hat die Befugnis zu entscheiden, wie dieses Ziel erreicht wird.

Innerhalb der Datentechnik könnte dies bedeuten:

Anpassung der Aufnahmestrategien, wenn die Quellenzuverlässigkeit sinkt

Ändern der Validierungslogik, wenn sich die Datenverteilung ändert

Umleitung von Arbeitslasten, wenn sich die Rechenverfügbarkeit ändert

Nur wirklich neuartige Fehler werden an menschliche Bediener weitergeleitet

Der entscheidende Unterschied ist nicht Automatisierung versus Intelligenz, sondern Statische Regeln versus adaptives Verhalten.

---

Wo die Agenten-KI am besten in den Datenlebenszyklus passt

Nicht jeder Teil einer Datenplattform profitiert gleichermaßen vom Agentendesign. In der Praxis konzentrieren sich Groups, die mit Agentic AI im Information Engineering experimentieren, in der Regel auf Bereiche, in denen die Unsicherheit am größten ist und menschliche Eingriffe am häufigsten vorkommen.

Pipeline-Überwachung und -Wiederherstellung

Anstatt bei jedem Fehler eine Warnung auszulösen, können Agenten historische Lösungsmuster analysieren und zunächst Korrekturmaßnahmen ergreifen. Beispielsweise können Sie es mit angepassten Parametern erneut versuchen, die Ausführungsreihenfolge ändern oder problematische Datenpartitionen isolieren.

Datenqualitätsmanagement

Herkömmliche Qualitätsprüfungen scheitern oft stillschweigend oder verursachen übermäßigen Lärm. Agentensysteme können im Laufe der Zeit akzeptable Bereiche lernen und zwischen harmlosen Abweichungen und echter Datenbeschädigung unterscheiden.

Ressourcen- und Kostenoptimierung

In Cloud-Umgebungen sind die Ausführungskosten selten statisch. Agenten können Kompromisse zwischen Latenz und Kosten eingehen, indem sie Planung, Rechenleistungszuweisung oder Speicherstrategien basierend auf der Workload-Priorität anpassen.

Diese Anwendungsfälle haben ein gemeinsames Thema: Entscheidungsfindung unter Unsicherheitwo derzeit menschliche Ingenieure die Lücke füllen.

---

Die technischen Herausforderungen, die nicht verschwinden

Befürworter von Agentensystemen konzentrieren sich oft auf Autonomie, aber erfahrene Praktiker wissen, dass Autonomie neue Risikokategorien einführt.

Erklärbarkeit und Vertrauen

Wenn ein System sein eigenes Verhalten ändert, müssen Groups verstehen, warum. Black-Field-Entscheidungen – insbesondere solche, die sich auf die Datenkorrektheit auswirken – sind in regulierten Umgebungen oder Umgebungen mit hohen Risiken nicht akzeptabel.

Fehlerverstärkung

Eine automatisch getroffene Fehlentscheidung kann sich schneller ausbreiten als ein menschlicher Fehler. Ohne starke Leitplanken können Agenten für das falsche Ziel optimieren und die Systemqualität in großem Umfang verschlechtern.

Operative Komplexität

Agentensysteme sind selbst Softwaresysteme, die überwacht, getestet und gewartet werden müssen. Das Debuggen der Entscheidungslogik eines Agenten ist oft schwieriger als das Debuggen eines fehlgeschlagenen Pipeline-Schritts.

In vielen Organisationen überwiegen diese Herausforderungen die unmittelbaren Vorteile, was erklärt, warum die Einführung eher vorsichtig als explosiv erfolgte.

---

Warum Skepsis gesund und notwendig ist

Im Technologiediskurs besteht die Tendenz, Autonomie als ein inhärentes Intestine zu behandeln. In Wirklichkeit wollen die meisten Datenteams keine vollständig autonomen Systeme; sie wollen weniger Unterbrechungen, vorhersehbarere ErgebnisseUnd klare Verantwortlichkeit.

Agentische KI im Information Engineering ist am effektivsten, wenn sie:

Arbeitet innerhalb enger, klar definierter Grenzen

Überlässt Menschen bei mehrdeutigen oder schwerwiegenden Entscheidungen

Bietet eine transparente Begründung für sein Handeln

Blindes Vertrauen in die automatisierte Entscheidungsfindung ist keine Strategie; es ist ein Risiko.

---

Organisatorische Bereitschaft ist wichtiger als Werkzeuge

Ein übersehener Faktor bei der Einführung ist die Teamreife. Agentische Ansätze gehen davon aus:

Klar definiertes Dateneigentum

Klare Erfolgskennzahlen für Pipelines

Historische Beobachtbarkeitsdaten

Eine Kultur, die Misserfolge als Lernsignale betrachtet

Ohne diese Grundlagen haben Agentensysteme wenig Kontext, um clever zu handeln. In solchen Fällen ist die Verbesserung der Dokumentation, Überwachung und Reaktion auf Vorfälle oft wertvoller als die Einführung von Autonomie.

Dies erklärt, warum es sich bei den Early Adopters in der Regel um große Organisationen mit komplexen Plattformen und erfahrenen Datenbetriebsteams handelt – und nicht um kleine Groups, die mit grundlegender Zuverlässigkeit zu kämpfen haben.

---

Human-in-the-Loop ist kein Kompromiss

Ein weit verbreitetes Missverständnis ist, dass Agentensysteme das menschliche Urteilsvermögen ersetzen müssen. In der Praxis behandeln die erfolgreichsten Implementierungen Agenten als Junior-Operatoren statt autonomer Controller.

Sie kümmern sich um Routineentscheidungen, bringen Zusammenhänge zum Vorschein und schlagen Maßnahmen vor – doch Menschen behalten die Autorität über strategische Entscheidungen. Dieses Hybridmodell spiegelt die Arbeitsweise realer Ingenieurteams wider und ist besser auf die Anforderungen der Verantwortlichkeit abgestimmt.

Anstatt Ingenieure aus dem Kreislauf zu entfernen, können Agentensysteme ihren Schwerpunkt von der Brandbekämpfung auf Systemdesign und -verbesserung verlagern.

---

Was die nächsten Jahre voraussichtlich bringen werden

Agentische KI im Information Engineering wird sich wahrscheinlich nicht als einzelne Plattform oder Standardarchitektur durchsetzen. Stattdessen wird es schrittweise entstehen:

Eingebettet in Orchestrierungs-Frameworks

Integriert in Observability-Instruments

Gezielter Einsatz in lärmintensiven Betriebsbereichen

Der Fortschritt wird uneinheitlich sein und von regulatorischen Zwängen, der Organisationskultur und der Risikotoleranz geprägt sein.

Der wichtigste Wandel ist möglicherweise überhaupt nicht technischer, sondern konzeptioneller Natur: Datenplattformen als adaptive Systeme und nicht als statische Pipelines zu behandeln.

---

Ein maßvoller Weg nach vorne

Das Versprechen von Agentensystemen sind nicht selbstverwaltende Datenplattformen, sondern bessere Abstimmung zwischen Systemverhalten und menschlicher Absicht. Bei sorgfältiger Implementierung können sie die Betriebsbelastung reduzieren, die Belastbarkeit verbessern und Erkenntnisse liefern, die statische Automatisierung nicht bieten kann.

Bei unvorsichtiger Umsetzung führen sie zu Undurchsichtigkeit und Zerbrechlichkeit.

Für Information-Engineering-Führungskräfte stellt sich nicht die Frage, ob sie agentenbasierte Ansätze übernehmen sollen, sondern wo Autonomie einen echten Mehrwert schafft – und wo menschliches Urteilsvermögen unersetzlich bleibt.

Diese Unterscheidung wird mehr als jede Technologiewahl darüber entscheiden, ob Agentensysteme zu einer praktischen Weiterentwicklung oder zu einer anderen überzogenen Idee werden.

Die einst-futuristische Imaginative and prescient, Technologie mit einfachen Handbewegungen zu kontrollieren, wird schnell zu einer Mainstream-Realität, die von Durchbrüchen für künstliche Intelligenz und {Hardware}-Innovationen angetrieben wird. Dieser Anerkennung in der Hand in der Hand ist nicht nur eine Neuheit; Es ist eine grundlegende Verschiebung, wie Menschen mit Maschinen interagieren und alles von virtuellen Realitätserfahrungen bis hin zu alltäglichen Videokonferenzen beeinflussen.

Laut Marktanalyse ist der globale Markt für Pc Imaginative and prescient, ein wichtiger Ermöglichung der Gestenerkennung, auf ein erhebliches Wachstum, das auf projiziert wird Erreichen Sie 2025 29,27 Milliarden US -Greenback und wachsen bis 2030 auf rund 47 Milliarden US -Greenback. Diese Growth spiegelt die zunehmende Integration von KI-angetriebenen Visionssystemen in verschiedene Sektoren wider, von der Unterhaltungselektronik bis zur industriellen Automatisierung.

Dieser Anstieg ist jedoch nicht der erste Versuch einer weit verbreiteten Gestenkontrolle. Frühere Iterationen wie die Microsoft Xbox (Kinect) oder Sony PlayStation (PS Transfer) oder frühe Versuche an Kamera-basierten Schnittstellen in intelligenten Fernsehern, wie die Mainstream-Akzeptanz aufgrund von Genauigkeit, Verarbeitungsleistung und Einschränkungen der Benutzererfahrung, hielten vorhersagen.

Diese früheren Systeme litten häufig unter Latenz, Empfindlichkeit gegenüber Umgebungsbeleuchtung und der Unfähigkeit, komplexe oder nuancierte Gesten zuverlässig zu interpretieren, was zu frustrierenden Benutzerinteraktionen führte. Die derzeitige Welle der Gestenerkennung, die durch erhebliche Fortschritte in KI und {Hardware} unterstützt wird, zielt darauf ab, diese früheren Hürden zu überwinden und eine wirklich nahtlose und intuitive Benutzererfahrung zu liefern.

Die KI -Revolution hinter natürlicher Kontrolle

Arman Tsaturian, ein führender Experte in Pc Imaginative and prescient und Gestenerkennung wirft Licht auf die entscheidenden KI -Fortschritte, die diesen Sprung ermöglicht haben.

„Der Kern dieser Transformation liegt in der Entwicklung neuronaler Netzwerke“, sagte Tsaturian. „Wir haben eine signifikante Verschiebung von Faltungsnetzwerken zu transformatorbasierten Architekturen gesehen, die bei der Verarbeitung komplexer visueller Daten weitaus besser verarbeitet werden.“

Diese architektonische Verschiebung in Verbindung mit Fortschritten in der zeitlichen Modellierung ermöglicht es Systemen, nicht nur einzelne Handpositionen, sondern auch die Sequenz und den Kontext von Bewegungen zu verstehen.

„Die richtige zeitliche Modellierung unter Verwendung wiederkehrender neuronaler Netzwerke und aufmerksamkeitsbasierter Algorithmen ermöglicht es uns, Movies als dynamische Sequenzen zu analysieren, nicht nur statische Bilder“, sagte Tsaturian.

Darüber hinaus struggle der Umzug von 2D zu 3D -Verständnis von entscheidender Bedeutung. „Fortschritte in Datensätzen und Algorithmen für ein besseres 3D -Verständnis haben die Genauigkeit erheblich verbessert“, sagte Tsaturian und hob die Bedeutung der Erfassung von Tiefen und räumlichen Beziehungen hervor. Die Entwicklung von spezialisierten {Hardware} wie benutzerdefinierte Chips in Smartphones und VR -Headsets hat ebenfalls eine entscheidende Rolle gespielt. „Diese Chips ermöglichen es uns, ausgefeilte KI-Modelle vor dem Gerät durchzuführen, um Echtzeit-Gestenerkennung zu ermöglichen“, sagte Tsaturian.

Demokratisierung der Zukunft: Open Supply und Trade Affect

Die Entscheidung von Tsaturian, Open-Supply Scherze AiDie Technologie unterstreicht ein Engagement für die Demokratisierung des Zugangs zu dieser transformativen Technologie.

„Wir wollten Innovationen und Zusammenarbeit in der Gemeinde fördern“, sagte Tsaturian. „Unser Ziel struggle es, die Imaginative and prescient einer handbasierten Interaktion von“ Iron Man „näher an die Realität zu bringen, und nicht nur auf ein proprietäres Repository beschränkt zu bleiben.“

Dieser Open-Supply-Ansatz in Verbindung mit der schnellen Einführung von KI in der gesamten Industrie beschleunigt die Entwicklung von Gestenbasis-Schnittstellen. Die Erfahrung von Tsaturian bei Amazon Prime Video zeigt die breiteren Anwendungen von Pc Imaginative and prescient, die über die Gestenerkennung hinausgehen.

„Bei Prime Video haben wir KI verwendet, um Videoinhalte auf Qualitätsfehler zu analysieren“, sagte Tsaturian und betonte die Rolle der KI bei der Gewährleistung einer nahtlosen Benutzererfahrung. Darüber hinaus transformiert der Aufstieg generativer KI-Modelle die Erstellung von Inhalten, wobei Anwendungen von AI-generierten Anzeigen bis hin zu immersiven virtuellen Avataren reichen.

Jenseits der Unterhaltung: Die Zukunft der gestikbasierten Interaktion

Während sich die aktuellen Implementierungen der Gestenerkennung in Videokonferenzen häufig auf Unterhaltung konzentrieren, ist das Potenzial für praktischere Anwendungen groß.

„Die Herausforderung besteht darin, über einfache Emoji -Reaktionen über funktionalere Wechselwirkungen hinaus zu bewegen“, sagte Tsaturian. „Wir haben die Verwendung von Handgesten zur Kontrolle von Präsentationsfolien untersucht, aber die Branche untersucht immer noch das volle Potenzial.“

Er räumt ein, dass Unterhaltung ein wichtiger Anwendungsfall bleibt, betont jedoch die Notwendigkeit, die Genauigkeitsherausforderung anzugehen.

„Fehlalarme und Adverse können die Zufriedenheit der Benutzer erheblich beeinflussen“, sagte Tsaturian und unterstreicht die Bedeutung robuster KI -Modelle. Mit Blick auf die Zukunft stellt Tsaturian die Entwicklung multimodaler KI-Modelle vor, die Textual content, Sprache und visuelle Daten integrieren und intuitivere und kontextbezogene Interaktionen ermöglichen.

Sein Rat für angehende Ingenieure für maschinelles Lernen ist klar: „Tauchen Sie tief in Forschungsarbeiten ein, implementieren Sie sie und bauen Sie Projekte auf, die Ihre Leidenschaft entzünden.“ Die Entwicklung der Handgestikerkennung ist ein Beweis für die transformative Kraft der KI und ebnet den Weg für eine Zukunft, in der die Technologie nahtlos auf unsere natürlichen Bewegungen reagiert.

Instagram wird neue KI-Videofunktionen einführen, die es den Nutzern ermöglichen, ihre Inhalte deutlich zu verändern. Adam Mosseri, Instagram-Chef, enthüllt dass die Updates das Film Gen AI-Modell von Meta nutzen und es Benutzern ermöglichen werden, Hintergründe, Outfits und sogar ihr eigenes Erscheinungsbild zu ändern. Diese Funktion zielt darauf ab, die Kreativität zu steigern und den Benutzern Werkzeuge zur Verfügung zu stellen, mit denen sie ihre Ideen ausdrücken können.

Instagram führt KI-Videofunktionen für kreative Transformation ein

Die Integration generativer KI stellt Metas kontinuierliches Bemühen dar, KI-Technologie in seine Anwendungen einzubetten, wie CEO Mark Zuckerberg erklärte. Die Einführung der neuen Funktionen von Instagram ist für 2025 geplant und folgt ähnlichen Ankündigungen von Wettbewerbern wie OpenAI und Google DeepMind bezüglich ihrer Videogenerierungsmodelle. Mosseri betonte die Möglichkeit für Content material-Ersteller, vielfältige Möglichkeiten zu erkunden, und meinte: „Sie sollten in der Lage sein, mit Ihren Movies alles zu machen, was Sie wollen.“

Diese Entwicklung hat jedoch Bedenken hinsichtlich ihrer Auswirkungen auf die Nutzer sozialer Medien geweckt, insbesondere im Hinblick auf mögliche Auswirkungen auf die psychische Gesundheit. Kritiker argumentieren, dass KI-generierte Inhalte das Gefühl der Unzulänglichkeit verstärken können, da die Plattform möglicherweise eine unrealistische Darstellung des Lebens fördert. Mosseris Demonstration zeigte bemerkenswerte Veränderungen, wie sein verändertes Aussehen als Marionette und Szenarien mit surrealen Elementen wie einem springenden Nilpferd. Diese Funktionen können den Unterhaltungswert steigern, könnten die Zuschauer jedoch auch über die Authentizität der geteilten Erlebnisse irreführen.

---

Instagram bietet Ihnen gerade die Standortfreigabe von WhatsApp – mit einem Bonus

---

Während die Technologie ein beeindruckendes Potenzial aufweist, ist die Implementierung von KI bei Meta nicht ohne Herausforderungen. Erste Assessments ähnlicher Modelle, darunter Sora von OpenAIsind auf Probleme wie das Verschwinden von Objekten und sich schnell verändernde Gesichtszüge gestoßen. Da Mosseri nur kurze Clips präsentiert, bleiben Fragen zur Qualität und Zuverlässigkeit längerer Videobearbeitungen ungeklärt.

Die Einführung generativer KI-Instruments auf Instagram bedeutet einen Wandel in der Artwork und Weise, wie Benutzer Inhalte erstellen und mit ihnen interagieren. Da sich das Publikum zunehmend mit manipulierten Multimedia-Inhalten beschäftigt, könnte die traditionelle Essenz sozialer Medien – authentische menschliche Verbindungen – gefährdet sein. Beobachter unterstreichen die Bedeutung des Geschichtenerzählens und weisen darauf hin, dass diese KI-Verbesserungen ohne eine kohärente Erzählung lediglich als Ablenkung von echten Interaktionen dienen könnten.

Die Verbreitung transformativer KI-Fähigkeiten macht die State of affairs noch komplizierter und kann zu weit verbreiteter Skepsis gegenüber dem führen, was „echte“ soziale Medien ausmacht. Für viele Benutzer kann es schwierig sein, echte Inhalte inmitten manipulierter Bilder zu erkennen, was möglicherweise das Vertrauen in die Integrität der Plattform untergräbt. Darüber hinaus könnte diese Entwicklung den Pattern zur Darstellung idealisierter Lebenswelten verstärken, was weiterhin zu Unzufriedenheit bei den Nutzern führen könnte.

---

Hervorgehobener Bildnachweis: lalo Hernandez/Unsplash

Bitten Sie ein großes Sprachmodell (LLM) wie GPT-4, einen regennassen Campingplatz zu riechen, und es wird höflich ablehnen. Bitten Sie dasselbe System, Ihnen diesen Geruch zu beschreiben, und es wird in poetischer Artwork und Weise von „einer Luft voller Vorfreude“ und „einem Geruch, der sowohl frisch als auch erdig ist“ schwärmen, obwohl es weder Erfahrung mit Regen noch eine Nase hat, die ihm dabei helfen könnte, solche Beobachtungen zu machen. Eine mögliche Erklärung für dieses Phänomen ist, dass das LLM einfach den Textual content nachahmt, der in seinen umfangreichen Trainingsdaten vorhanden ist, anstatt mit einem echten Verständnis von Regen oder Gerüchen zu arbeiten.

Doch bedeutet das Fehlen von Augen, dass Sprachmodelle nie „verstehen“ können, dass ein Löwe „größer“ ist als eine Hauskatze? Philosophen und Wissenschaftler gleichermaßen betrachten die Fähigkeit, Sprache Bedeutung zuzuordnen, seit langem als Kennzeichen menschlicher Intelligenz – und fragen sich, welche wesentlichen Voraussetzungen uns dazu befähigen.

Bei der Untersuchung dieses Rätsels haben Forscher des Laptop Science and Synthetic Intelligence Laboratory (CSAIL) des MIT faszinierende Ergebnisse entdeckt, die darauf schließen lassen, dass Sprachmodelle möglicherweise ihr eigenes Verständnis der Realität entwickeln, um ihre generativen Fähigkeiten zu verbessern. Das Crew entwickelte zunächst eine Reihe kleiner Karel-Puzzles, bei denen es darum ging, Anweisungen zur Steuerung eines Roboters in einer simulierten Umgebung zu entwickeln. Anschließend trainierten sie ein LLM mit den Lösungen, ohne jedoch zu demonstrieren, wie die Lösungen tatsächlich funktionierten. Schließlich untersuchten sie mithilfe einer maschinellen Lerntechnik namens „Probing“ den „Denkprozess“ des Modells bei der Generierung neuer Lösungen.

Nach dem Coaching mit über einer Million zufälliger Rätsel stellten sie fest, dass das Modell spontan seine eigene Vorstellung der zugrunde liegenden Simulation entwickelte, obwohl es während des Trainings nie mit dieser Realität konfrontiert wurde. Solche Ergebnisse stellen unsere Intuitionen darüber in Frage, welche Arten von Informationen zum Erlernen sprachlicher Bedeutung notwendig sind – und ob LLMs eines Tages Sprache auf einer tieferen Ebene verstehen werden als heute.

„Zu Beginn dieser Experimente generierte das Sprachmodell zufällige Anweisungen, die nicht funktionierten. Als wir das Coaching abgeschlossen hatten, generierte unser Sprachmodell mit einer Quote von 92,4 Prozent korrekte Anweisungen“, sagt Charles Jin, Doktorand am MIT für Elektrotechnik und Informatik (EECS) und CSAIL-Mitglied, der Hauptautor eines neues Papier über die Arbeit. „Das conflict ein sehr spannender Second für uns, denn wir dachten, wenn ein Sprachmodell eine Aufgabe mit dieser Genauigkeit erledigen kann, können wir erwarten, dass es auch die Bedeutungen innerhalb der Sprache versteht. Das gab uns einen Ausgangspunkt, um zu untersuchen, ob LLMs tatsächlich Textual content verstehen, und jetzt sehen wir, dass sie zu viel mehr fähig sind, als nur Wörter blind zusammenzufügen.“

Im Kopf eines LLM

Mithilfe der Sonde konnte Jin diesen Fortschritt aus erster Hand miterleben. Ihre Aufgabe conflict es, zu interpretieren, was der LLM dachte, was die Anweisungen bedeuteten. Dabei stellte sich heraus, dass der LLM eine eigene interne Simulation davon entwickelte, wie sich der Roboter als Reaktion auf jede Anweisung bewegte. Als sich die Fähigkeit des Modells verbesserte, Rätsel zu lösen, wurden auch diese Vorstellungen präziser, was darauf hindeutete, dass der LLM begann, die Anweisungen zu verstehen. Es dauerte nicht lange, bis das Modell die Teile immer richtig zusammensetzte, um funktionierende Anweisungen zu erstellen.

Jin weist darauf hin, dass sich das Sprachverständnis des LLM in Phasen entwickelt, ähnlich wie ein Variety das Sprechen in mehreren Schritten lernt. Am Anfang ist es wie das Plappern eines Babys: repetitiv und meist unverständlich. Dann erlernt das Sprachmodell die Syntax oder die Regeln der Sprache. Dadurch kann es Anweisungen generieren, die wie echte Lösungen aussehen, aber trotzdem nicht funktionieren.

Die Anweisungen des LLM verbessern sich jedoch allmählich. Sobald das Modell Bedeutung erlangt, beginnt es, Anweisungen auszuspucken, die die angeforderten Spezifikationen korrekt umsetzen, wie ein Variety, das zusammenhängende Sätze bildet.

Trennung von Methode und Modell: Eine „weird Welt“

Die Sonde sollte lediglich „in das Gehirn eines LLM eindringen“, wie Jin es beschreibt, aber es bestand die entfernte Möglichkeit, dass sie auch einen Teil der Denkarbeit für das Modell übernahm. Die Forscher wollten sicherstellen, dass ihr Modell die Anweisungen unabhängig von der Sonde verstand, und nicht, dass die Sonde die Bewegungen des Roboters aus dem Verständnis der Syntax des LLM ableitete.

„Stellen Sie sich vor, Sie haben einen Datenhaufen, der den Denkprozess des LM kodiert“, schlägt Jin vor. „Die Sonde ist wie ein Forensiker: Sie geben dem Analysten diesen Datenhaufen und sagen: ‚So bewegt sich der Roboter. Versuchen Sie nun, die Bewegungen des Roboters in dem Datenhaufen zu finden.‘ Der Analyst sagt Ihnen später, dass er weiß, was mit dem Roboter in dem Datenhaufen los ist. Aber was, wenn der Datenhaufen tatsächlich nur die Rohanweisungen kodiert und der Analyst einen cleveren Weg gefunden hat, die Anweisungen zu extrahieren und ihnen entsprechend zu folgen? Dann hat das Sprachmodell nicht wirklich gelernt, was die Anweisungen überhaupt bedeuten.“

Um ihre Rollen voneinander zu trennen, vertauschten die Forscher die Bedeutung der Anweisungen für eine neue Sonde. In dieser „Bizarro-Welt“, wie Jin sie nennt, bedeuteten Anweisungen wie „hoch“ nun „runter“ innerhalb der Anweisungen, die den Roboter über sein Gitter bewegten.

„Wenn die Sonde Anweisungen in Roboterpositionen übersetzt, sollte sie in der Lage sein, die Anweisungen entsprechend der bizarren Bedeutungen ebenso intestine zu übersetzen“, sagt Jin. „Wenn die Sonde jedoch tatsächlich Kodierungen der ursprünglichen Roboterbewegungen im Denkprozess des Sprachmodells findet, sollte sie Schwierigkeiten haben, die bizarren Roboterbewegungen aus dem ursprünglichen Denkprozess zu extrahieren.“

Wie sich herausstellte, wies die neue Sonde Übersetzungsfehler auf und konnte ein Sprachmodell nicht interpretieren, das unterschiedliche Bedeutungen der Anweisungen hatte. Dies bedeutete, dass die ursprüngliche Semantik in das Sprachmodell eingebettet conflict, was darauf hindeutet, dass das LLM unabhängig vom ursprünglichen Prüfklassifizierer verstand, welche Anweisungen benötigt wurden.

„Diese Forschung zielt direkt auf eine zentrale Frage der modernen künstlichen Intelligenz ab: Sind die überraschenden Fähigkeiten großer Sprachmodelle einfach auf statistische Korrelationen im Maßstab zurückzuführen oder entwickeln große Sprachmodelle ein sinnvolles Verständnis der Realität, mit der sie arbeiten sollen? Diese Forschung zeigt, dass das LLM ein internes Modell der simulierten Realität entwickelt, obwohl es nie darauf trainiert wurde, dieses Modell zu entwickeln“, sagt Martin Rinard, MIT-Professor in EECS, CSAIL-Mitglied und Hauptautor des Artikels.

Dieses Experiment untermauerte die Analyse des Groups, dass Sprachmodelle ein tieferes Verständnis von Sprache entwickeln können. Dennoch räumt Jin ein, dass ihr Papier einige Einschränkungen aufweist: Sie verwendeten eine sehr einfache Programmiersprache und ein relativ kleines Modell, um ihre Erkenntnisse zu gewinnen. In einem bevorstehende Arbeitenwerden sie versuchen, eine allgemeinere Einstellung zu verwenden. Jins neueste Forschung beschreibt zwar nicht, wie man das Sprachmodell dazu bringen kann, Bedeutung schneller zu lernen, aber er glaubt, dass zukünftige Arbeiten auf diesen Erkenntnissen aufbauen können, um das Coaching von Sprachmodellen zu verbessern.

„Eine spannende offene Frage ist, ob das LLM tatsächlich sein internes Realitätsmodell verwendet, um über diese Realität nachzudenken, während es das Roboternavigationsproblem löst“, sagt Rinard. „Obwohl unsere Ergebnisse damit übereinstimmen, dass das LLM das Modell auf diese Weise verwendet, sind unsere Experimente nicht darauf ausgelegt, diese nächste Frage zu beantworten.“

„Heutzutage wird viel darüber diskutiert, ob LLMs Sprache tatsächlich ‚verstehen‘ oder ob ihr Erfolg eher auf Methods und Heuristiken zurückzuführen ist, die sich aus dem Aufsaugen großer Textmengen ergeben“, sagt Ellie Pavlick, Assistenzprofessorin für Informatik und Linguistik an der Brown College, die nicht an der Arbeit beteiligt conflict. „Diese Fragen stehen im Mittelpunkt dessen, wie wir KI aufbauen und was wir als inhärente Möglichkeiten oder Einschränkungen unserer Technologie erwarten. Dies ist eine schöne Arbeit, die diese Frage auf kontrollierte Weise untersucht – die Autoren nutzen die Tatsache aus, dass Computercode, wie natürliche Sprache, sowohl Syntax als auch Semantik hat, aber im Gegensatz zu natürlicher Sprache kann die Semantik direkt beobachtet und zu Versuchszwecken manipuliert werden. Das Versuchsdesign ist elegant und ihre Ergebnisse sind optimistisch, was darauf hindeutet, dass LLMs vielleicht etwas Tiefgründigeres darüber lernen können, was Sprache ‚bedeutet‘.“

Die Arbeit von Jin und Rinard wurde teilweise durch Zuschüsse der US-amerikanischen Protection Superior Analysis Tasks Company (DARPA) unterstützt.