Papst Leo XIV. warnte, dass autonome Waffen bereits außerhalb der menschlichen Reichweite liegen
Papst Leo XIV. wählte seine Worte mit Bedacht. Einige autonome Waffensysteme seien „praktisch außerhalb jeder menschlichen Reichweite, um sie zu steuern“, sagte er. Die am 25. Mai 2026 veröffentlichte Enzyklika Magnifica Humanitas des Vatikans fasst diesen Second klar zusammen. Die Menschheit hat Waffen gebaut, die sie möglicherweise nicht mehr aufhalten kann.
Maschinen, die Ziele auswählen
Autonome Waffensysteme stehen an der Schnittstelle von Robotik und künstlicher Intelligenz. Auf der einfachsten Ebene kann ein solches System ein Ziel identifizieren, auswählen und angreifen. Kein Mensch trifft die letzte Entscheidung. Auf fortgeschrittenen Leveln laufen ganze Missionsprofile ohne menschliches Eingreifen in Echtzeit ab. Die Waffe sucht, klassifiziert und schlägt selbstständig zu.
Die Investitionen in solche Systeme haben stark zugenommen. Der Markt für autonome militärische Waffen perception sich im Jahr 2024 auf rund 8,9 Milliarden US-Greenback. Analysten gehen davon aus, dass er bis 2030 18 Milliarden US-Greenback erreichen wird. Breitere Schätzungen gehen davon aus, dass der Sektor automatisierter Waffensysteme im Jahr 2025 44 Milliarden US-Greenback erreichen wird. Prognosen deuten darauf hin, dass die Zahl bis 2034 auf 73 Milliarden US-Greenback steigen wird. Die genauen Zahlen variieren je nach Analyst. Die Fahrtrichtung nicht.
Das Kernargument der Enzyklika
Leos Enzyklika beschränkt sich nicht auf symbolische Anliegen. Der Textual content des Vatikans argumentiert, dass KI-gestützte Waffen den Krieg „machbarer“ machen und weniger der moralischen Beurteilung unterliegen. Leo fordert „strengste ethische Beschränkungen“ für KI in der Kriegsführung. Die direkteste Aussage des Dokuments: „Kein Algorithmus kann Krieg moralisch akzeptabel machen.“
Das Argument der Rechenschaftspflicht folgt aus derselben Prämisse. Wenn eine Streikentscheidung automatisiert oder undurchsichtig werde, sei es einfacher, sich der Verantwortung zu entziehen, argumentiert Leo. Der Vatikan fordert, dass Entscheidungsprozesse „nachvollziehbar und rekonstruierbar“ bleiben. Die Schuld, so heißt es in dem Dokument, dürfe nicht „in der Maschine“ versinken. Die Anwendung tödlicher Gewalt „kann nicht an undurchsichtige oder automatisierte Prozesse delegiert werden“. Es muss unter „wirksamer, selbstbewusster und verantwortungsvoller menschlicher Kontrolle“ bleiben.
Mit dem Begriff „verantwortungsvolle menschliche Kontrolle“ begegnet die Enzyklika der größten Herausforderung der modernen Robotik.
Das Drawback der menschlichen Kontrolle
Robotik- und KI-Experten diskutieren seit langem über die Kontrolle unter einem eher technischen Etikett. Die Kategorien sind Human-in-the-Loop, Human-on-the-Loop und Human-out-of-the-Loop.
Bei einem Human-in-the-Loop-System muss eine Individual jedes Ziel genehmigen, bevor Gewalt angewendet wird. Ein Human-on-the-Loop-System ermöglicht es der Maschine, zu agieren, während eine Individual zusieht und eingreifen kann. Ein „Mensch-Out-of-the-Loop“-System wählt und greift ohne menschliches Eingreifen in Echtzeit aus.
Die Kategorien klingen sauber. In der Praxis verschwimmen die Grenzen. Ein Mensch, der eine Empfehlung „genehmigt“, die er nicht in den verfügbaren Sekunden prüfen kann, übt keine Kontrolle aus. Ein Vorgesetzter, der beobachtet, wie ein System schneller reagiert, als es die Erkenntnis zulässt, ist kein wirkliches Versehen. Das Cockpit ist an die Wand gemalt.
Wenn die Aufsicht versagt: Eine zivile Parallele
Der Fehlermodus ist nicht hypothetisch. Im März 2018 hat ein autonomes Testfahrzeug in Tempe, Arizona, einen Fußgänger angefahren und getötet. Das Nationwide Transportation Security Board stellte fest, dass ein Sicherheitsbeauftragter anwesend struggle. Das automatisierte System struggle aktiv. Organisationsdesign, ein komprimiertes Antwortfenster und Schnittstellenbeschränkungen machten eine sinnvolle menschliche Aufsicht in der Praxis fragil.
Der zivile Fall veranschaulicht einen genauen Punkt. Es gab einen menschlichen Vorgesetzten. Sicherheitsprotokolle existierten. Beides erwies sich nicht als ausreichend, da das System schneller agierte, als der Mensch reagieren konnte. Autonome Waffen arbeiten mit höheren Geschwindigkeiten, in anspruchsvolleren Umgebungen und mit weitaus höheren Risiken.
Ein Governance-Vakuum
Es gibt keinen verbindlichen internationalen Vertrag, der autonome Waffensysteme regelt. Die Rechtslücke bedeutet nicht, dass das humanitäre Völkerrecht verschwindet. Dies bedeutet, dass es schwieriger wird, die Verantwortung zu ermitteln, wenn eine Maschine handelt und Menschen Schaden zufügt.
Das geltende Recht verpflichtet Staaten und Einzelpersonen, nicht Maschinen. Gesetzliche Rahmenbedingungen müssen die Verantwortung auf Kommandeure, Betreiber, Programmierer oder politische Entscheidungsträger zurückführen. Wenn eine automatisierte Entscheidungskette ausreichend undurchsichtig wird, wird die Spur unterbrochen.
Es gibt diplomatische Fortschritte, die jedoch nur langsam voranschreiten. Eine Decision der UN-Generalversammlung vom Dezember 2024 zu autonomen Waffen wurde mit 166 Stimmen bei 3 Gegenstimmen und 15 Enthaltungen angenommen. Im Jahr 2026 nehmen 128 Staaten an den Genfer Gesprächen über einen möglichen unverbindlichen Rahmen teil. Die Marketing campaign to Cease Killer Robots, ein Zusammenschluss von mehr als 270 NGOs in 70 Ländern, drängt weiterhin auf ein rechtsverbindliches Instrument. Bis Mitte 2026 gibt es kein solches Instrument. Es ist unwahrscheinlich, dass die vom UN-Generalsekretär selbst gesetzte Frist von 2026 eingehalten wird.
Das Proliferationsproblem
Die Governance-Lücke ist am wichtigsten, wenn man darüber hinausgeht, wer heute autonome Waffen baut, und darüber, wer sie morgen erwirbt.
Fortschrittliche Systeme existieren heute hauptsächlich innerhalb strukturierter militärischer Institutionen. Es gelten interne Protokolle, die Verantwortlichkeit der Befehlskette und rechtliche Überprüfungsprozesse, so unvollkommen sie auch sein mögen. Keine der Bedingungen gilt, sobald sich die Technologie verbreitet. Wer ein Design kopiert und verändert, kann die im Unique enthaltenen Schutzmaßnahmen verlieren.
Leos Enzyklika warnt ausdrücklich davor, die KI-Fähigkeiten in den Händen „weniger Akteure“ zu konzentrieren, die allen anderen Regeln auferlegen können. Auf autonome Waffen angewendet, hat die Warnung zwei Auswirkungen. Konzentration ohne Verantwortung ist eine Gefahr. Eine Verbreitung ohne Regierungsführung ist etwas anderes und möglicherweise schwerwiegender.
Der Maschine ist es egal, wer sie einsetzt. Es ist ihm auch egal, wenn überhaupt niemand die Aufsicht hat.
Was als nächstes kommt
Magnifica Humanitas ist kein Grundsatzdokument. Eine päpstliche Enzyklika kann Regierungen nicht zwingen, Beschaffungsregeln festlegen oder Vertragstexte formulieren. Leos Intervention, die mitten in die aktiven UN-Verhandlungen gerät, ist, dem technischen Drawback den schärfsten moralischen Rahmen zu geben.
Eine Waffe, die niemand stoppen, verfolgen oder zur Verantwortung ziehen kann, ist kein Verteidigungsgut. Noch weiß kein Rechtssystem, wie es zu regeln ist.
Die 128 Staaten, die sich in Genf treffen, haben bis September 2026 Zeit, einen unverbindlichen Textual content auszuarbeiten. Unverbindlichkeit ist ein Anfang. Die Technologie wartet, wie Leo bemerkte, nicht auf einen Konsens.