Hack mit 100 % Erfolgsquote:
So leicht lassen sich KI-Roboter knacken

Ein Team von Sicherheitsforschern hat gravierende Mängel bei Robotern entdeckt, die mit großen KI-Sprachmodellen (LLMs) arbeiten. In Experimenten gelang es den Forschern, die Sicherheitsbarrieren solcher Roboter in jedem getesteten Fall zu umgehen.

Aktiv destruktiv

Während Sicherheitslücken bei Chatbots bereits bekannt sind, zeigt die neue Forschung, dass das Jailbreaking von Robotern weitaus riskanter sein kann. Die Wissenschaftler entwickelten einen Algorithmus namens RoboPAIR, der speziell darauf ausgelegt ist, KI-gesteuerte Roboter zu manipulieren. Tests mit drei verschiedenen Systemen - darunter der Roboterhund Go2 von Unitree, der selbstfahrende Simulator Dolphins LLM von Nvidia und der mobile Roboter Jackal von Clearpath Robotics - zeigten eine Erfolgsquote von 100 Prozent bei der Umgehung der Schutzmechanismen.

RoboPAIR nutzt ein Angriffsmodell, das gezielt Eingaben generiert, um die Sicherheitsfilter des Zielroboters zu umgehen. Der Algorithmus passt seine Eingaben iterativ an, bis der Roboter unerwünschte Befehle wie das Fahren von Brücken oder potenziell gefährliche Handlungen ausführt. Ein zusätzlicher Algorithmus überprüft dabei, ob die Befehle realisierbar sind, etwa in Bezug auf Hindernisse in der Umgebung.


Ein Beispiel zeigt, wie einfach solche Manipulationen sein können: Ein Roboterhund wurde überzeugt, sich in einem Szenario wie in einem Actionfilm vorzustellen und entsprechend gefährliche Aktionen auszuführen.

"Jailbreaking KI-gesteuerter Roboter ist nicht nur möglich, sondern erschreckend einfach", erklärte Alexander Robey, einer der beteiligten Forscher von der Carnegie Mellon University, gegenüber IEEE Spectrum. Die Manipulationen gehen über einfache Befehlsausführung hinaus: Die Roboter boten im Versuch sogar aktiv Vorschläge an, wie man harmlose Objekte für Gewalt einsetzen könnte.

Roboter sind ein Risiko

Die Auswirkungen solcher Schwachstellen sind weitreichend. Roboter, die ursprünglich für harmlose Anwendungen wie Führungen oder Logistik entwickelt wurden, könnten in falschen Händen zu Sicherheitsrisiken werden. Die Forscher betonen, dass ihre Arbeit dazu beitragen soll, stärkere Verteidigungsmechanismen zu entwickeln. Sie haben ihre Erkenntnisse vor der Veröffentlichung mit den betroffenen Herstellern und führenden KI-Unternehmen geteilt.

"Um robuste Schutzmaßnahmen zu entwickeln, müssen wir zuerst die stärksten Angriffe verstehen", erklärt Robey. Zukünftige Forschung solle darauf abzielen, LLMs kontextsensitiver zu machen, damit sie die Absicht und mögliche Konsequenzen eines Befehls erkennen. Bis dahin bleibt menschliche Aufsicht in sicherheitskritischen Bereichen unerlässlich, um Missbrauch zu verhindern.


Siehe auch: