Eine Demo eines KI-Agenten läuft in einem Reinraum. Eingaben sind vorhersehbar, der Werkzeugsatz ist begrenzt und jemand im Workforce bringt ein festgefahrenes Gespräch nonetheless und leise wieder auf den richtigen Weg, bevor ein Interessent es bemerkt. Keiner der Schutzmaßnahmen überlebt den Übergang zur Produktion, wo die Eingaben mehrdeutig werden, die Werkzeugsätze erweitert werden und niemand bereitsteht, irgendetwas anzustoßen.
Agentensysteme retten schwache Technik nicht. Sie verstärken alles, was bereits unter ihnen existiert: Jede Lücke in der Beobachtbarkeit, jeder fehlende Take a look at, jede unklare Eigentumslinie wird größer, sobald ein Agent anfängt, selbstständig Entscheidungen zu treffen und Maßnahmen zu ergreifen. Das Muster zeigt sich deutlich in zwei aktuellen Studien, einer von internen Ingenieurteams und einer von den für sie verantwortlichen Führungskräften.
Was die Produktionsdaten zeigen
LangChain führte vom 18. November bis 2. Dezember 2025 seine Umfrage „State of Agent Engineering“ durch und sammelte 1.340 Antworten von Ingenieuren, Produktmanagern und Geschäftsführern. 63 Prozent der Befragten waren im Technologiebereich tätig, 10 Prozent im Finanzdienstleistungssektor, 6 Prozent im Gesundheitswesen und kleinere Anteile in den Bereichen Bildung, Konsumgüter und Fertigung. Die Unternehmensgröße tendierte eher zu kleineren Organisationen: 49 Prozent hatten weniger als 100 Mitarbeiter, während nur 9 Prozent in Unternehmen mit 10.000 oder mehr Mitarbeitern arbeiteten.
Für die meisten Befragten hat die Einführung die Pilotphase bereits hinter sich. Die Umfrage ergab, dass 57,3 Prozent Agenten bereits in der Produktion einsetzen, weitere 30,4 Prozent arbeiten aktiv an der Bereitstellung. Piloten sind nicht mehr die dominierende Geschichte. Produktion ist.
Qualität ist das vorherrschende Drawback in der Produktionsrealität und wird von 32 Prozent der Befragten als größtes Einzelhindernis genannt, was Genauigkeit, Relevanz, Konsistenz, Ton und Einhaltung von Richtlinien betrifft. Latenzspuren liegen knapp dahinter bei 20 Prozent. Die beiden Zahlen deuten auf dasselbe zugrunde liegende Drawback hin: Es ist schwieriger, einen Agenten zuverlässig zum Laufen zu bringen, als ihn einmal zum Laufen zu bringen.
Die Observability hat besser mitgehalten als die Analysis. LangChain hat herausgefunden, dass 89 Prozent der Unternehmen irgendeine Type der Agenten-Beobachtbarkeit implementiert haben und 62 Prozent über eine detaillierte Nachverfolgung verfügen, die einzelne Schritte und Device-Aufrufe abdeckt. Bei den Groups, die bereits Agenten speziell in der Produktion einsetzen, steigen die gleichen Zahlen auf 94 Prozent Beobachtbarkeit und 71,5 Prozent vollständige Nachverfolgung. Die Bewertung hinkt deutlich hinterher: 52,4 Prozent führen Offline-Bewertungen anhand von Testsätzen durch, nur 37,3 Prozent führen On-line-Bewertungen im Dwell-Verkehr durch, und selbst bei Produktionsteams erreicht die On-line-Bewertungszahl nur 44,8 Prozent. Die menschliche Begutachtung bleibt mit 59,8 Prozent die am weitesten verbreitete Bewertungsmethode, dicht gefolgt von LLM als Richter mit 53,3 Prozent.
Das Muster in der gesamten Umfrage ist konsistent. Groups können viel einfacher erkennen, was ihre Agenten tun, als systematisch beurteilen zu können, ob der Agent das Richtige getan hat.
Die Aussicht von oben sieht schlechter aus
Wenn Ingenieure eine Qualitäts- und Bewertungslücke beschreiben, beschreiben die für die Systeme Verantwortlichen etwas, das eher einer Kontrolllücke ähnelt. Das Institute for Enterprise Worth von IBM befragte weltweit 2.000 C-Degree-Führungskräfte im Technologiebereich und veröffentlichte die Ergebnisse am 8. Juni 2026. Zwei Drittel der befragten CIOs und CTOs gaben an, dass sie für KI-Systeme verantwortlich sind, die sie nicht vollständig kontrollieren. Siebzig Prozent gaben an, dass ihre Groups Technologie schneller bereitstellen, als die IT sie verfolgen kann. 77 Prozent gaben an, dass die KI-Einführung die Governance-Fähigkeiten ihres Unternehmens übersteigt. Nur 11 Prozent gaben an, dass sie sich vollständig auf das bevorstehende Ausmaß des Einsatzes von KI-Agenten vorbereitet fühlen, obwohl dieselben Führungskräfte bis 2027 einen Anstieg der Zahl der eingesetzten Agenten um 38 Prozent erwarten.
IBM CIO Matt Lyteson formulierte den Wandel direkt in der Pressemitteilung des Unternehmens: „Für CIOs und CTOs besteht die Herausforderung nun darin, KI-Systeme zu skalieren, die kontinuierlich und autonom arbeiten.“ Die Zeile erfasst den strukturellen Wandel, den die Agenten einführen. Eine herkömmliche Anwendung wartet auf eine Anfrage und gibt eine Antwort zurück. Ein Agent läuft weiter, entscheidet weiter und handelt weiter, weit über den Punkt hinaus, an dem sich zuletzt ein Mensch gemeldet hat.
Warum Demos überleben und die Produktion nicht
Eine Demo-Umgebung entfernt nahezu alle zustandsbrechenden Agenten im Feld. Die Eingaben sind sauber und nicht mehrdeutig. Das Toolset ist klein und intestine verständlich und erstreckt sich nicht über ein Dutzend interner Systeme mit inkonsistenten Berechtigungen. Der Benutzer ist eher freundlich als kontrovers oder einfach nur verwirrt. Kosten- und Tariflimits sind selten bindend. Die Verantwortung für jedes Scheitern liegt auf der Hand, denn die Present wird von einer Individual geleitet.
Die Produktion entfernt alle fünf Schutzmaßnahmen auf einmal. Ständig treffen mehrdeutige Eingaben ein. Veraltete Daten liegen hinter Instruments, die der Agent aufruft, ohne zu wissen, dass die Daten veraltet sind. Die Berechtigungsgrenzen variieren je nach System, Benutzer und Aktion. Wiederholungsversuche und Ratenbeschränkungen führen zu Zeitproblemen, mit denen eine Demo nie konfrontiert wird. Audit- und Compliance-Anforderungen erfordern eine Aufzeichnung dessen, was passiert ist und warum, nicht nur eine korrekt aussehende endgültige Antwort.
Agentensysteme erhöhen den Einsatz noch weiter, da sie mehr tun, als nur Fragen zu beantworten. Sie wählen Werkzeuge aus, verändern den Zustand und verketten Entscheidungen über mehrere Schritte hinweg, sodass ein einzelnes schwaches Glied am Anfang einer Kette zu mehreren nachgelagerten Ausfällen führt, bevor irgendjemand das erste erkennt.
Eine Taxonomie des Produktionsversagens
Produktionsausfälle in Agentensystemen fallen in der Regel in eine Reihe erkennbarer Kategorien und treten nicht als einmalige Fehler auf.
Qualitätsmängel umfassen falsche, inkonsistente oder nicht den Richtlinien entsprechende Ergebnisse, das von den Befragten von LangChain am häufigsten genannte Drawback.
Latenzfehler treten auf, wenn die mehrstufige Argumentations- und Device-Aufrufkette eines Agenten für den von ihm bedienten Workflow zu lange dauert, was die Benutzer frustriert, selbst wenn die letztendliche Antwort richtig ist.
Integrationsfehler treten auf, wenn ein Agent auf ein bestehendes System trifft, das nie für autonome Anrufer entwickelt wurde, und gleichzeitig spröde APIs, inkonsistente Datenformate und undokumentierte Grenzfälle zum Vorschein kommen.
Berechtigungsfehler treten auf, wenn der Zugriff eines Agenten nicht dem beabsichtigten Umfang entspricht, weil er entweder mehr erreichen kann, als er sollte, oder weil zu strenge Einschränkungen dazu führen, dass er Aufgaben nicht ausführen kann, die er ausführen sollte.
Gedächtnis- und Kontextfehler treten bei längeren Sitzungen auf, wenn ein Agent den Überblick über frühere Entscheidungen verliert, Aufgaben wiederholt oder sich innerhalb desselben Gesprächs widerspricht.
Toolfehler treten auf, wenn ein externes System, von dem der Agent abhängig ist, eine Zeitüberschreitung erfährt, fehlerhafte Daten zurückgibt oder sich inkonsistent verhält und der Agent keine gute Ausweichmöglichkeit hat, außer es blind erneut zu versuchen.
Stille Erfolgsversprechen sind wohl die gefährlichste Kategorie: Ein Agent meldet eine Aufgabe als abgeschlossen, wenn sie nur teilweise erfolgreich warfare oder völlig fehlgeschlagen ist, weil nichts im System die Selbstmeldung des Agenten in Frage stellt.
Governance-Fehler überwiegen alle anderen, das IBM-Drawback, dass niemand den vollständigen Überblick darüber hat, was ein Agent im gesamten Unternehmen tun kann, getan hat und derzeit tut.
Ein praktischer Rahmen: Verfolgen, Auswerten, Einschränken, Wiederherstellen
Betrachten Sie einen Kundenrückerstattungs-Agenten als praktisches Beispiel, da die oben genannten Fehlermodi konkret in einem Arbeitsablauf auftauchen, den sich die meisten Entwicklungsteams vorstellen können.
Jeder Lauf wird zuerst verfolgt. Eine vollständige Ablaufverfolgung erfasst die Laufkennung, den Benutzer oder die Sitzung, die Eingabeaufforderungsversion, die Modellversion, die Device-Schemaversionen, die Kennungen aller abgerufenen Kontexte, die geltenden Richtlinienregeln, jeden getätigten Device-Aufruf, die Latenz, die Token-Nutzung und die endgültige Antwort an den Kunden.
Die Bewertung erfolgt auf drei Ebenen statt auf einer. Bei der Auswertung auf Run-Ebene wird überprüft, ob die endgültige Antwort richtig, stimmig und richtlinienkonform warfare. Die Auswertung auf Hint-Ebene überprüft, ob der Agent das richtige Device ausgewählt, es mit gültigen Parametern aufgerufen, etwaige Fehler ordnungsgemäß behandelt und die richtige Quelle für seine Ansprüche angegeben hat. Bei der Auswertung auf Thread-Ebene wird überprüft, ob der Agent während einer Konversation mit mehreren Runden konsistent geblieben ist und nicht einer früheren Aussage widersprochen hat.
Über jeder Ebene befinden sich Leistungsschalter. Liegt der Konfidenzwert unter einem festgelegten Schwellenwert, wird das Gespräch an einen Menschen weitergeleitet, anstatt den Agenten raten zu lassen. Ein Rückerstattungsbetrag über einem festgelegten Schwellenwert erfordert vor der Ausführung eine menschliche Genehmigung. Ein fehlgeschlagener oder inkonsistenter Device-Aufruf hindert den Agenten daran, dem Kunden mitzuteilen, dass die Aufgabe erledigt ist, und leitet ihn stattdessen an einen Fallback-Pfad weiter. Eine Sitzung, die eine maximale Anzahl an Werkzeugaufrufen oder ein Kostenbudget überschreitet, wird angehalten und eskaliert, anstatt auf unbestimmte Zeit fortzufahren.
Fehler werden dann nach einem Zeitplan in den Evaluierungssatz zurückgemeldet. Produktionsspuren werden wöchentlich abgetastet, Fehler mit hoher Schwere und aufkommende Fehlercluster werden dem Offline-Bewertungssatz hinzugefügt und die vollständige Evaluierungssuite wird erneut ausgeführt, bevor eine Eingabeaufforderung, ein Modell oder ein Werkzeugwechsel versendet wird.
Das Muster bei LangSmith, MLflow Tracing, den OpenInference-Konventionen von Arize Phoenix, Galileo und Open-Supply-Optionen wie Langfuse ist konsistent, auch wenn sich die Produkte unterscheiden. Jedes erfasst einen Lauf als strukturierte Ablaufverfolgung und nicht als Black-Field-Transkript und unterteilt die Ablaufverfolgung in Bereiche für Modellaufrufe, Abrufschritte, Toolaufrufe und Leitplankenprüfungen. Die Entwicklung der Agententools verläuft in Richtung OpenTelemetry-kompatibler Requirements, sodass die Agententelemetrie eine Verbindung zu den Observability-Techniques-Engineering-Groups herstellen kann, die bereits arbeiten, anstatt in einem separaten, reinen KI-Dashboard zu leben, das niemand sonst überprüft.
Das Gegenargument, das es wert ist, ernst genommen zu werden
Keines der oben genannten Dinge bedeutet, dass Agenten eine schlechte Wahl sind. Viele Agenten funktionieren intestine in engen, intestine instrumentierten Arbeitsabläufen, bei denen die Werkzeugoberfläche klein bleibt, Eingaben eingegeben werden und Richtliniengrenzen klar definiert sind. Das Erfolgsmuster, das sich sowohl aus den LangChain- als auch aus den IBM-Daten ergibt, ist eingeschränkte Autonomie statt uneingeschränkter Autonomie: eine kleine Werkzeugoberfläche, klare Richtliniengrenzen, echte Beobachtbarkeit, echte Bewertung und menschliche Eskalation, die für Maßnahmen mit großer Wirkung reserviert ist.
Das wahre Unterscheidungsmerkmal für die Zukunft
Die Daten zeigen in eine Richtung. Agentische KI verstärkt die technische Disziplin, die ein Workforce bereits besitzt, im Guten wie im Schlechten. Ein Workforce mit starker Nachverfolgung, echter Bewertungsabdeckung und klaren Eskalationspfaden wird dafür sorgen, dass ein Agent die bestehende Disziplin auf neue Arbeitsabläufe ausdehnt. Ein Workforce, dem solche Leitplanken fehlen, wird feststellen, dass ein Agent die Lücke schneller und sichtbarer aufdeckt, als dies bei einer herkömmlichen Anwendung jemals der Fall wäre.
Die besten Agententeams, die aus der aktuellen Zeit hervorgehen, ähneln weniger schnellen Ingenieuren, die klugen Formulierungen nachjagen, sondern eher wie ausgereiften SRE-, Sicherheits- und Produktteams, die zufällig eine neue Artwork von System betreiben. Unternehmen, die auf agentenbasierte KI ohne operative Grundlage setzen, setzen nicht auf die Technologie. Sie wetten, dass niemand die Lücke bemerkt, bis es zu spät ist, um eine Rolle zu spielen.