Bild vom Herausgeber
# Einführung
Wenn Sie KI-Agenten entwickelt haben, die in Ihrem Pocket book perfekt funktionieren, aber sofort zusammenbrechen, sobald sie in Produktion gehen, sind Sie in guter Gesellschaft. Zeitüberschreitung bei API-Aufrufen, LLM-Antworten (Massive Language Mannequin) kommen fehlerhaft zurück – und Tarifbegrenzungen treten im ungünstigsten Second in Kraft.
Die Realität beim Einsatz von Agenten ist chaotisch, und die meisten Probleme entstehen durch den eleganten Umgang mit Fehlern. Hier ist die Sache: Sie benötigen kein riesiges Framework, um dieses Downside zu lösen. Diese fünf Python-Dekorateure haben mir unzählige Kopfschmerzen erspart, und sie werden wahrscheinlich auch Sie retten.
# 1. Automatischer Wiederholungsversuch mit exponentiellem Backoff
Jeder KI-Agent kommuniziert mit externen APIs, und jede externe API wird bei Ihnen irgendwann scheitern. Möglicherweise gibt OpenAI eine 429 zurück, weil Sie das Ratenlimit erreicht haben, oder es liegt ein kurzer Netzwerkproblem vor. In jedem Fall sollte Ihr Makler nicht gleich beim ersten Misserfolg aufgeben.
A @retry Der Dekorator umschließt jede Funktion, sodass sie beim Auslösen einer bestimmten Ausnahme einen Second wartet und es erneut versucht. Der exponentielle Backoff-Teil ist entscheidend, da die Wartezeit mit jedem Versuch länger werden soll. Der erste Wiederholungsversuch wartet eine Sekunde, der zweite Wiederholungsversuch zwei, der dritte vier Sekunden und so weiter. Dies verhindert, dass Sie eine bereits problematische API überlasten.
Sie können dies mit einem einfachen Wrapper selbst erstellen time.sleep() und eine Schleife, oder greifen Sie zur Tenacity-Bibliothekwas Ihnen einen kampferprobten Charakter verleiht @retry Dekorateur aus der Field. Der Schlüssel liegt darin, es mit den richtigen Ausnahmetypen zu konfigurieren. Sie möchten es nicht bei einer fehlerhaften Eingabeaufforderung erneut versuchen (das schlägt jedes Mal fehl), aber Sie möchten es auf jeden Fall bei Verbindungsfehlern und Antworten mit Ratenbegrenzung erneut versuchen.
# 2. Verwendung von Timeout-Guards
LLM-Aufrufe können hängen bleiben. Es passiert nicht oft, aber wenn doch, sitzt Ihr Agent da und tut nichts, während der Benutzer auf einen Kreisel starrt. Schlimmer noch: Wenn Sie mehrere Agenten parallel betreiben, kann ein einziger hängender Anruf zu einem Engpass in Ihrer gesamten Pipeline führen.
A @timeout Dekorateur legt eine feste Obergrenze dafür fest, wie lange eine Funktion ausgeführt werden darf. Wenn die Funktion nicht innerhalb von beispielsweise 30 Sekunden zurückkehrt, löst der Dekorateur eine aus TimeoutError die Sie fangen und elegant handhaben können. Die typische Implementierung verwendet Pythons sign Modul für synchronen Code oder asyncio.wait_for(), wenn Sie im asynchronen Land arbeiten.
Kombinieren Sie dies mit Ihrem Retry-Decorator und Sie haben eine leistungsstarke Kombination: Wenn ein Anruf hängen bleibt, wird er durch das Timeout abgebrochen und die Retry-Logik setzt mit einem neuen Versuch ein. Dies allein eliminiert eine große Kategorie von Produktionsausfällen.
# 3. Antwort-Caching implementieren
Hier ist etwas, das Ihre API-Kosten drastisch senken wird. Wenn Ihr Agent denselben Anruf mit denselben Parametern mehr als einmal tätigt (was häufig vorkommt, insbesondere in mehrstufigen Argumentationsschleifen), gibt es keinen Grund, für diese Antwort zweimal zu bezahlen.
A @cache Dekorateur speichert das Ergebnis eines Funktionsaufrufs basierend auf seinen Eingabeargumenten. Wenn die Funktion das nächste Mal mit denselben Argumenten aufgerufen wird, gibt der Dekorateur sofort das gespeicherte Ergebnis zurück. Python ist integriert functools.lru_cache Funktioniert hervorragend für einfache Fälle, aber für Agenten-Workflows benötigen Sie etwas mit Time-to-Reside-Unterstützung (TTL), sodass zwischengespeicherte Antworten nach einem angemessenen Zeitfenster ablaufen.
Das ist wichtiger als Sie denken. Agenten, die Device-Aufrufmuster verwenden, überprüfen häufig frühere Ergebnisse erneut oder rufen den Kontext erneut ab, den sie bereits abgerufen haben. Das Zwischenspeichern dieser Anrufe bedeutet eine schnellere Ausführung und eine geringere Rechnung am Monatsende.
# 4. Validierung von Ein- und Ausgängen
Große Sprachmodelle sind von Natur aus unvorhersehbar. Sie senden eine sorgfältig gestaltete Eingabeaufforderung, in der Sie nach JSON fragen, und manchmal erhalten Sie einen Markdown-Codeblock mit einem abschließenden Komma zurück, der Ihren Parser kaputt macht. A @validate Decorator fängt diese Probleme an der Grenze ab, bevor fehlerhafte Daten tiefer in die Logik Ihres Agenten eindringen.
Auf der Eingabeseite prüft der Dekorateur, ob die von Ihrer Funktion empfangenen Argumente mit den erwarteten Typen und Einschränkungen übereinstimmen. Auf der Ausgabeseite wird überprüft, ob der Rückgabewert einem Schema entspricht. während Pydantic dies unglaublich sauber macht. Sie definieren Ihre erwartete Antwort als Pydantic-Modell und der Dekorateur versucht, die LLM-Ausgabe in dieses Modell zu analysieren. Wenn die Validierung fehlschlägt, können Sie den Aufruf wiederholen, eine Korrekturfunktion anwenden oder auf einen Standardwert zurückgreifen.
Der eigentliche Vorteil besteht darin, dass Validierungsdekoratoren stille Datenbeschädigung in laute, erkennbare Fehler verwandeln. Sie beheben Probleme in Minuten statt in Stunden.
# 5. Aufbau von Fallback-Ketten
Produktionsagenten benötigen einen Plan B. Wenn Ihr primäres Modell ausfällt, wenn Ihre Vektordatenbank nicht erreichbar ist, wenn Ihre Device-API Müll zurückgibt, sollte Ihr Agent ordnungsgemäß heruntergefahren werden, anstatt abzustürzen.
A @fallback Dekorateur Hier können Sie eine Kette alternativer Funktionen definieren. Der Dekorateur probiert zuerst die primäre Funktion aus und geht dann, wenn er eine Ausnahme auslöst, zur nächsten Funktion in der Kette über. Sie können einen Fallback von GPT-5.4 auf Claude und ein lokales Llama-Modell einrichten. Oder von einer Reside-Datenbankabfrage über einen zwischengespeicherten Snapshot bis hin zu einem fest codierten Standardwert.
Die Umsetzung ist unkompliziert. Der Dekorateur akzeptiert eine Liste von Fallback-Callables und durchläuft diese bei einem Fehler. Sie können es noch individueller gestalten, indem Sie auf jeder Fallback-Ebene eine Protokollierung hinzufügen, sodass Sie genau wissen, wo und warum Ihr System beeinträchtigt ist. Dieses Muster taucht überall in Produktionssystemen für maschinelles Lernen auf, und wenn man es als Dekorateur einsetzt, bleibt die Logik von Ihrem Geschäftscode getrennt.
# Abschluss
Dekoratoren sind eine der am meisten unterschätzten Funktionen von Python, wenn es um die Entwicklung zuverlässiger KI-Agenten geht. Die fünf hier behandelten Muster behandeln die häufigsten Fehlermodi, denen Sie begegnen, wenn Ihr Agent die Sicherheit eines Jupyter-Notebooks verlässt.
Und sie komponieren wunderbar. Stapeln Sie a @retry oben auf einem @timeout oben auf einem @validateund Sie haben eine Funktion, die nicht hängen bleibt, nicht so schnell aufgibt und fehlerhafte Daten nicht stillschweigend weiterleitet. Fügen Sie noch heute Wiederholungslogik zu Ihren API-Aufrufen hinzu. Sobald Sie sehen, wie viel sauberer Ihre Fehlerbehandlung wird, werden Sie überall Dekorateure wollen.
Nahla Davies ist Softwareentwickler und technischer Autor. Bevor sie sich hauptberuflich dem technischen Schreiben widmete, schaffte sie es – neben anderen faszinierenden Dingen –, als leitende Programmiererin bei einer Inc. 5.000-Organisation für experimentelles Branding zu arbeiten, zu deren Kunden Samsung, Time Warner, Netflix und Sony gehören.