KI erfindet Waffen: USA stoppen Angriff auf China-Frachter gerade noch

Ein fehlerhafter Bericht hat angeblich beinahe einen bewaffneten Konflikt zwischen den USA und China ausgelöst. Eine halluzinierende KI soll dem US-Militär falsche Daten über angebliche Nuklear­komponenten auf einem chinesischen Frachter geliefert haben.

Beinahe-Eskalation durch KI

KI macht nicht immer das, was ihre Nutzer gerne von ihr hätten. Sie löscht wichtige Daten, lässt Webseiten unbeabsichtigt vom Netz gehen und hackt fremde Server. Zwar sind diese Vorfälle für die Betroffenen teils dramatisch, es besteht jedoch nie eine Gefahr für Leib und Leben. In einem neuen Fall, der jetzt ans Licht gekommen ist, ist das jedoch anders.

Demnach entgingen die USA und China im Nahen Osten nur knapp einer militärischen Auseinandersetzung. Ein Analyst des US-Militärs nutzte angeblich einen Chatbot, um Geheimdiensthinweise auszuwerten. Das System erfand dabei jedoch die Information, dass ein chinesisches Schiff Bauteile für ein Atomwaffenprogramm transportiere. Daraufhin bereiteten US-Streitkräfte das bewaffnete Entern des Frachters vor, unterstützt von Kampfflugzeugen.


Erst kurz vor dem geplanten Einsatz erkannten Verantwortliche den Fehler. Der Chatbot hatte frei zugängliche Daten mit geheimen Signalinformationen verknüpft und dabei eine sogenannte Halluzination erzeugt. Der Analyst verließ sich jedoch offenbar ohne Überprüfung auf das Ergebnis und erstellte daraus seinen Bericht.

Wie CNN schreibt, war der ursprüngliche Report komplett falsch und hätte laut der Quelle "beinahe einen Krieg ausgelöst". Dennoch treibt das US-Verteidigungsministerium die Integration von künstlicher Intelligenz weiter aggressiv voran. Verteidigungsminister Pete Hegseth veröffentlichte im Januar eine Strategie für die schnelle Einführung entsprechender Technologien. Das Ziel ist es, Entscheidungen direkt auf dem Schlachtfeld zu beschleunigen.

Gefahren der Automatisierung

Der Vorfall verdeutlicht den Druck, unter dem Geheimdienste stehen, Informationen immer schneller zu verarbeiten. Allerdings kann KI "Fakten" erfinden, wenn ihre Trainingsdaten keinen ausreichenden Kontext bieten. Bereits 2023 wählte das Cambridge Dictionary das Wort "halluzinieren" zum Wort des Jahres.

Trotz der Risiken nutzen mittlerweile rund 1,5 Millionen zivile und militärische Mitarbeiter des Pentagons generative Werkzeuge. Die Regierung setzt dabei auf kommerzielle Anbieter, deren Systeme für den behördlichen Gebrauch angepasst wurden. Für solche Programme investiert das Pentagon jährlich etwa 500 Millionen US-Dollar (etwa 435 Millionen Euro). Zu den eingesetzten Lösungen gehören unter anderem:

Konflikte mit der Industrie

Die Zusammenarbeit mit den Unternehmen verläuft dabei nicht immer reibungslos. Anthropic weigerte sich etwa zunächst, seine Modelle für die Entwicklung autonomer Waffen freizugeben. Die Trump-Regierung stufte die Firma daraufhin als Sicherheitsrisiko ein, bis ein Bundesrichter das Vorgehen als rechtswidrig erklärte.

Das Militär erprobt künstliche Intelligenz auch für die Steuerung unbemannter Drohnen. Wenn Sensoren falsche Umgebungsdaten erfassen, kann jedoch auch das weitreichende Folgen haben. Daher wächst die Sorge vor vollständig autonomen Waffensystemen. Junge Analysten neigen laut Experten zudem immer mehr dazu, den Ergebnissen von KI-Modellen unkritisch zu vertrauen.

Das jetzige Ereignis zeigt erneut eindringlich die großen Gefahren, die entstehen, wenn automatisierte Systeme fehlerhafte Daten für militärische Entscheidungen liefern und keine gründliche Kontrolle durchgeführt wird. Es könnte nur eine Frage der Zeit sein, bis eine halluzinierende KI tatsächlich einen militärischen Konflikt auslöst.

Was haltet ihr vom Einsatz künstlicher Intelligenz beim Militär? Teilt eure Gedanken und Bedenken gerne in den Kommentaren mit uns!


Siehe auch: