Der Einsatz automatisierter Softwaresysteme, sogenannter KI-Agenten, hat in letzter Zeit explosionsartig zugenommen. Ein Bericht vom November 2025 von MIT Sloan College of Administration und Boston Consulting Group fanden heraus, dass 35 Prozent der befragten Unternehmen bereits KI-Agenten eingesetzt hatten, während weitere 44 Prozent planten, bald Agenten-KI zu implementieren.
Die Grundlagen und möglichen Auswirkungen dieser immer beliebter werdenden Instruments verstehenMIT-Nachrichten sprach mit Phillip Isola, einem außerordentlichen Professor am Fachbereich Elektrotechnik und Informatik (EECS) und Mitglied des Labors für Informatik und künstliche Intelligenz (CSAIL), der die Intelligenz von KI-Agenten sowie die zugrunde liegenden Modelle und Mechanismen untersucht, die Agenten-KI-Systeme antreiben.
Q: Was ist agentische KI und wie unterscheidet sie sich von generativen KI-Modellen wie ChatGPT und Claude?
A: Agentische KI ist KI, die in der Welt Maßnahmen ergreift. Bei diesen Aktionen kann es sich um eine physische Aktion wie die Robotermanipulation oder um eine digitale Aktion wie die Buchung eines Fluges handeln. Auf der anderen Seite denken wir, dass generative KI Geschichten, Gedichte, Kunst und Bilder erfindet, anstatt Maßnahmen für uns zu ergreifen.
Das Wort „Agent“ ist nur ein Markenname. Normalerweise handelt es sich dabei um KI, die Menschen dabei hilft, mit einer Anwendung, einer Web site oder der physischen Welt zu interagieren. Die meisten Agenten, denen wir heute begegnen, sind digitale Agenten, etwa Kundendienstmitarbeiter, mit denen Sie über Produktbeschwerden sprechen können.
Die meisten Unternehmen, die Agenten anbieten, verwenden dieselben wenigen KI-Modelle unter der Haube und geben ihnen die Möglichkeit, Maßnahmen zu ergreifen und sich daran zu erinnern, was passiert ist. Ein Agent beginnt mit einem grundlegenden generativen KI-System wie Claude im Kern. Dann legen Unternehmen unterschiedliche Hüllen um dieses Grundmodell für ihr Produkt oder ihre Anwendung. Diese Wrapper können spezifische Instruments sein, die der Agent verwenden kann, und diese Instruments hängen von der Anwendung ab. Möglicherweise hat der Agent Zugriff auf einen Taschenrechner, um mathematische Probleme zu lösen, oder möglicherweise hat er Zugriff auf eine kompliziertere Festplatte und ein Betriebssystem, damit er sich die Finanzdaten eines Unternehmens und vergangene Geschäftsverhandlungen merken kann.
Die größte Herausforderung bei der Entwicklung von Agenten-KI ist der Mangel an Trainingsdaten. Wenn ich ein System erstellen möchte, das on-line gehen und einen Flug für mich buchen kann, scheint das ziemlich einfach zu sein. Aber wir haben nicht viele Daten, die genau beschreiben, wie das geht – wo man die Maus bewegt, welche Tasten man anklickt, was man tut, wenn etwas schiefgeht, oder wie man jemanden anruft und über den Preis des Flugtickets verhandelt. Eine Möglichkeit, ein solches System zu trainieren, besteht darin, den KI-Agenten die Web sites der Fluggesellschaften besuchen zu lassen, Dinge auszuprobieren und zu sehen, was funktioniert und was nicht. Diese Umgebungen sind schwer zu modellieren, daher muss der Agent oft durch Versuch und Irrtum lernen.
Q: Was sind einige vielversprechende Anwendungen der Agenten-KI?
A: Ich denke, der Bereich, in dem wir den größten Erfolg hatten, waren Codierungsagenten. Dies ist etwas, das sich aus der generativen KI entwickelt hat. Menschen trainieren Sprachmodelle anhand von Code und können dann vorhersagen, was ein Mensch tun würde, um ein Codierungsproblem zu lösen. Darüber hinaus kann ein Agent dies lernen, indem er eine Feedbackschleife durchläuft, in der er verschiedene Lösungen ausprobiert und prüft, ob er die richtige Antwort gegeben hat. Solange er die Antwort überprüfen kann, kann der KI-Agent diese Versuch-und-Irrtum-Schleife durchlaufen, bis er eine gute Strategie gefunden hat.
Es besteht jedoch immer ein Gleichgewicht zwischen der Automatisierung der Entscheidungsfindung und der bloßen Unterstützung und Info von Menschen. Analytische KI-Methoden sind ebenso wie die Systeme, die dabei helfen, mögliche Ergebnisse von Entscheidungen vorherzusagen, nicht agentischer Natur, sondern für menschliche Entscheidungsträger sehr informativ. In Fällen, in denen viel auf dem Spiel steht oder die sicherheitskritisch sind, wie Medizin, Sicherheit, hochrangige Geschäftsrichtlinien usw., ist die Technologie möglicherweise nicht bereit für die vollständige Automatisierung dieser Prozesse durch KI, oder wir sind damit möglicherweise nicht einmal zufrieden.
Q: Gibt es Risiken, über die wir beim Einsatz von KI-Agenten nachdenken sollten?
A: Ein großes Risiko besteht darin, dass es oft sehr einfach ist, Agenten dazu zu bringen, bestimmte Arbeiten für Sie zu erledigen. Mit Coding-Agenten können Sie „Vibe-Code“ erstellen und den Agenten einfach bitten, einen Code für Sie zu erstellen, sodass Sie die harte Arbeit nicht selbst erledigen müssen. Da es so einfach ist, besteht ein großes Risiko, dass die Leute sich nicht genügend Mühe geben, um zu überprüfen, ob es das Richtige tut. Es werden Fehler auftreten, personal Daten werden durchgesickert – das passiert bereits.
Agenten sind nicht perfekt in dem Sinne, dass sie möglicherweise Fehler machen, weil sie nicht intestine ausgebildet sind und nicht wissen, was sie tun sollen. Aber selbst wenn sie sehr kompetent sind, könnte der KI-Agent einen Fehler machen, weil der Mensch einen Fehler gemacht hat, wenn ein Mensch sie nicht richtig nutzt oder ihm eine zu vage Anweisung gibt. Wenn die Menschen weniger daran beteiligt sind, alle Konsequenzen zu durchdenken, sind wir meiner Meinung nach möglicherweise anfälliger für solche Fehler.
Ein weiterer Aspekt ist das Risiko einer Dequalifizierung. Es ist unklar, wie weit das gehen wird, aber wenn wir uns darauf verlassen, dass Agenten unsere Hausaufgaben, unsere Codierung und unsere Mathematik erledigen, verlieren wir möglicherweise die Fähigkeit, dies selbst zu tun, und wir verlieren diese Fähigkeit möglicherweise zu früh, weil die Technologie noch nicht bereit ist, diese Prozesse vollständig zu automatisieren.
Q: Wie sieht die Zukunft der Agenten-KI aus?
A: Was wir heute als „Agentische KI“ bezeichnen, bezieht sich auf große Sprachmodelle, die Werkzeuge zur Interaktion mit digitalen und physischen Systemen nutzen. Eine offensichtliche Einschränkung besteht darin, dass diese unter der Haube die Architektur eines Sprachmodells haben und auf Textdaten trainiert werden. Um noch leistungsfähigere KI-Agenten zu entwickeln, müssen wir möglicherweise Movies, physikalische Kräfte, Zeitreihen, Radarscans und andere Modalitäten modellieren. Wir benötigen möglicherweise Modelle mit grundlegend unterschiedlichen Architekturen, die kontinuierliche Daten, hochdimensionale Daten, stochastische Daten usw. verarbeiten können.
Aber andererseits könnte ein extrem gutes Codierungsmodell vielleicht als Puppenspieler für die Schnittstelle zu Sensoren, Aktoren und Internet-APIs fungieren? Sobald Sie ein superintelligentes Denksystem haben, das Mathematik, Sprache und Code versteht, können Sie ihm vielleicht eine Kamera und eine Tastatur geben und es wird herausfinden, was im räumlichen Bereich zu tun ist. Wird die nächste KI-Welle nur Claude mit Sensoren, Aktoren und Werkzeugen sein, oder wird es etwas sein, das von Grund auf neu entwickelt wurde? Das ist die große Frage, mit der sich viele Leute in der KI derzeit auseinandersetzen.