In Kisten und per Purzelbaum:
Soldaten tricksen KI-Überwachung aus

Berufssoldaten gelten für gewöhnlich eher nicht als Stereotype für eine überragende und feinsinnige Intelligenz. Um eine künstliche Intelligenz auszutricksen, reicht es aber allemal, wie ein vor einiger Zeit durchgeführtes Projekt des US-Militärs zeigt. Hier ging es darum, automatisierte Überwachungs-Systeme zu entwickeln. Der Idealfall hätte so ausgesehen, dass Kameras das Bild eines zu sichernden Territoriums aufnehmen und dieses durch KI-Systeme ausgewertet wird. Diese sollten dann Alarm schlagen, wenn sich ein Mensch unbefugt in dem fraglichen Bereich aufhielt, möglichst aber eben ruhig bleiben, wenn harmlose Ereignisse passierten - etwa wenn ein Vogel zur kurzen Rast landet.

Menschliche Wachleute bekommen dies ziemlich zuverlässig hin - Fehlerquellen liegen hier eher darin, dass das Personal irgendwann unkonzentriert wird und daher zum Beispiel die Bildschirme nach einer stundenlangen Schicht nicht durchgängig beobachtet. Diese Gefahr besteht bei einem Computer natürlich nicht. Allerdings zeigte sich, dass die KI schlicht nicht clever genug ist, um Täuschungsversuche auch nur im Ansatz zu erkennen.

Im Zuge des Squad X-Programms der militärischen Forschungseinrichtung DARPA ließ man eine Einheit der US-Marines sechs Tage lang in diversen Mustern vor den Kameras herumlaufen, um diese auf die Erkennung von Menschen und ihrer Bewegungen zu trainieren. Anschließend setzte man einen kleinen Wettbewerb an: Wenn es auch nur einem Mitglied der Marine-Einheit gelang, einen Zielpunkt zu berühren, ohne dass die Kameras Alarm schlagen, sollten die Soldaten das Spiel gewinnen.

Marines 8 - KI 0

Das Ergebnis: "Acht Marines - nicht ein einziger wurde entdeckt", berichtete Phil Root, Deputy Director der DARPA, in dem neu erschienenen Buch "Four Battlegrounds: Power in the Age of Artificial Intelligence". Sie bemühten sich einfach, einem Menschen so unähnlich wie möglich zu sein.

Zwei Marines wichen der Kamera beispielsweise erfolgreich aus, indem sie sich in einem Pappkarton versteckten - eine Strategie, die sie möglicherweise der Videospielserie Metal Gear Solid entlehnt haben? Andere bewegten sich mit aufeinanderfolgenden Purzelbäumen über eine Strecke von 300 Metern und wurden so von der KI nicht als sich nähernde Menschen identifiziert. Beide Varianten wären menschlichem Wachpersonal sicherlich aufgefallen.


Siehe auch: