Die KI-Branche ist derzeit besessen von „Agenten“ – autonomen Programmen, die mehr können als nur chatten. Die meisten aktuellen Multiagentensysteme basieren jedoch auf spröden, hartcodierten Heuristiken, die versagen, wenn sich die Umgebung ändert.
Google DeepMind Forscher haben eine neue Lösung vorgeschlagen. Das Forschungsteam argumentierte, dass Agenten für die Skalierung des „Agentennetzes“ über die einfache Aufgabenteilung hinausgehen und menschenähnliche Organisationsprinzipien wie Autorität, Verantwortung und Rechenschaftspflicht übernehmen müssen.
Definition einer „intelligenten“ Delegation
In Standardsoftware wird ein Unterprogramm einfach „ausgelagert“. Intelligente Delegation ist anders. Es handelt sich um eine Abfolge von Entscheidungen, bei denen ein Delegierter Autorität und Verantwortung auf einen Delegierten überträgt. Dieser Prozess umfasst die Risikobewertung, den Fähigkeitsabgleich und den Aufbau von Vertrauen.
Die 5 Säulen des Rahmenwerks
Um dies aufzubauen, identifizierte das Forschungsteam fünf Kernanforderungen, die spezifischen technischen Protokollen zugeordnet sind:
| Rahmensäule | Technische Umsetzung | Kernfunktion |
| Dynamische Bewertung | Aufgabenzerlegung und -zuweisung | Detaillierte Rückschlüsse auf Agentenstatus und -kapazität. |
| Adaptive Ausführung | Adaptive Koordination | Umgang mit Kontextverschiebungen und Laufzeitfehlern. |
| Strukturelle Transparenz | Überwachung und nachweisbare Fertigstellung | Prüfung sowohl des Prozesses als auch des Endergebnisses. |
| Skalierbarer Markt | Vertrauen & Popularity & Multi-Ziel-Optimierung | Effiziente, vertrauenswürdige Koordination in offenen Märkten. |
| Systemische Resilienz | Sicherheit und Berechtigungsverwaltung | Verhinderung kaskadierender Ausfälle und böswilliger Nutzung. |
Engineering-Strategie: „Contract-First“-Zerlegung
Die bedeutendste Veränderung ist Contract-First-Zerlegung. Nach diesem Grundsatz erteilt ein Delegierender eine Aufgabe nur dann, wenn das Ergebnis genau nachweisbar ist.
Wenn eine Aufgabe zu subjektiv oder komplex ist, um überprüft zu werden – etwa „eine überzeugende Forschungsarbeit schreiben“ –, muss das System sie rekursiv zerlegen. Dies wird so lange fortgesetzt, bis die Teilaufgaben mit den verfügbaren Verifizierungstools übereinstimmen, beispielsweise Unit-Assessments oder formalen mathematischen Beweisen.
Rekursive Verifizierung: Die Chain of Custody
In einer Delegationskette, wie z 𝐴 → 𝐵 → 𝐶Verantwortlichkeit ist transitiv.
- Agent B ist verantwortlich für die Überprüfung der Arbeit von C.
- Als Agent B gibt das Ergebnis an zurück Amuss es eine vollständige Kette kryptografisch signierter Bescheinigungen bereitstellen.
- Agent A Anschließend führt es eine zweistufige Prüfung durch: Verifizierung Bist direkte Arbeit und die Überprüfung B richtig verifiziert C.
Sicherheit: Token und Tunnel
Die Skalierung dieser Ketten birgt large Sicherheitsrisiken, darunter Datenexfiltration, HintertürimplantationUnd Modellextraktion.
Um das Netzwerk zu schützen, schlägt das DeepMind-Workforce vor Delegation Functionality Tokens (DCTs). Basierend auf Technologien wie Makronen oder GebäckDiese Token nutzen „kryptografische Vorbehalte“, um das Prinzip der geringsten Privilegien durchzusetzen. Beispielsweise könnte ein Agent ein Token erhalten, das ihm das LESEN eines bestimmten Google Drive-Ordners erlaubt, aber alle Schreibvorgänge verbietet.
Bewertung aktueller Protokolle
Das Forschungsteam analysierte, ob aktuelle Industriestandards für dieses Framework bereit sind. Diese Protokolle stellen zwar eine Grundlage dar, weisen jedoch alle „fehlende Teile“ für eine Delegation mit hohem Einsatz auf.
- MCP (Mannequin Context Protocol): Standardisiert die Artwork und Weise, wie Modelle mit Instruments verbunden werden. Die Lücke: Es fehlt eine Richtlinienebene zur Steuerung von Berechtigungen über tiefe Delegationsketten hinweg.
- A2A (Agent-zu-Agent): Verwaltet Erkennungs- und Aufgabenlebenszyklen. Die Lücke: Es fehlen standardisierte Header für Zero-Information Proofs (ZKPs) oder digitale Signaturketten.
- AP2 (Agent Funds Protocol): Ermächtigt Agenten, Gelder auszugeben. Die Lücke: Es ist nicht möglich, die Qualität der Arbeit vor der Zahlungsfreigabe nativ zu überprüfen.
- UCP (Common Commerce Protocol): Standardisiert Handelstransaktionen. Die Lücke: Es ist für den Einkauf/die Erfüllung optimiert, nicht für abstrakte Rechenaufgaben.
Wichtige Erkenntnisse
- Gehen Sie über Heuristiken hinaus: Aktuelle KI-Delegationen basieren auf einfachen, hartcodierten Heuristiken, die spröde sind und sich nicht dynamisch an Umgebungsveränderungen oder unerwartete Ausfälle anpassen können. Intelligente Delegation erfordert einen adaptiven Rahmen, der die Übertragung von Autorität, Verantwortung und Rechenschaftspflicht beinhaltet.
- Zerlegung der Aufgabe „Vertrag zuerst“: Bei komplexen Zielen sollten Delegierende einen „Contract-First“-Ansatz verwenden, bei dem Aufgaben zerlegt werden, bis die Untereinheiten spezifischen, automatisierten Verifizierungsfunktionen entsprechen, wie etwa Unit-Assessments oder formale Beweise.
- Transitive Verantwortlichkeit in Ketten: In langen Delegationsketten (z. B. 𝐴 → 𝐵 → 𝐶) ist Verantwortung transitiv. Agent B ist für die Arbeit von C verantwortlich, und Agent A muss sowohl die direkte Arbeit von B als auch die korrekte Überprüfung der Bescheinigungen von C durch B überprüfen.
- Abgeschwächte Sicherheit durch Token: Um systemische Verstöße und das Drawback der „verwirrten Stellvertreter“ zu verhindern, sollten Agenten Delegation Functionality Tokens (DCTs) verwenden, die eine abgeschwächte Autorisierung ermöglichen. Dadurch wird sichergestellt, dass Agenten nach dem Prinzip der geringsten Rechte arbeiten und der Zugriff auf bestimmte Teilmengen von Ressourcen und zulässigen Vorgängen beschränkt ist.
Schauen Sie sich das an Papier hier. Sie können uns auch gerne weiter folgen Twitter und vergessen Sie nicht, bei uns mitzumachen 100.000+ ML SubReddit und Abonnieren Unser Publication. Warten! Bist du im Telegram? Jetzt können Sie uns auch per Telegram kontaktieren.
Michal Sutter ist ein Knowledge-Science-Experte mit einem Grasp of Science in Knowledge Science von der Universität Padua. Mit einer soliden Grundlage in statistischer Analyse, maschinellem Lernen und Datentechnik ist Michal hervorragend darin, komplexe Datensätze in umsetzbare Erkenntnisse umzuwandeln.
