Neue Art Cyberattacke: KI-Wurm infiziert ChatGPT und Gemini

Forschern ist es gelungen, einen KI-Wurm zu entwickeln, der Si­cher­heits­vor­keh­run­gen von generativen KI-Systemen umgeht, Daten ab­greift und sich sogar selbst weiterverbreitet. Dabei ähnelt das Vorgehen der Software SQL-Injection- und Buffer-Overflow-Angriffen.

Generative KIs im Fadenkreuz

Der von einer Gruppe am Cornell Tech Forschungszentrum in New York ent­wick­el­te Morris II ist laut seinen Schöpfern einer der ersten seiner Art. Durch das Ausnutzen von Sicherheitslücken ist es ihm möglich, generative KIs wie Open AIs ChatGPT und Googles Gemini bösartige Aktivitäten ausführen zu lassen. "Das bedeutet, dass wir jetzt die Fähigkeit haben, eine Art Cyberattacke durch­zu­füh­ren, wie es sie bisher nicht gegeben hat", sagte Ben Nassi, einer der Forscher.

Selbstreplizierende Eingaben

Die meisten generativen Systeme mit künstlicher Intelligenz arbeiten auf Grund­la­ge von Eingaben der Anwender. Das können unter anderem Fragen sein, auf die das System antworten soll oder aber Anweisungen, um ein Bild zu erstellen.

Der KI-Wurm Morris II verwendet nun "feindliche selbstreplizierende Eingaben", so Nassi. Diese führen dazu, dass ChatGPT und Co. mit ihren Antworten selbst eine oder mehrere neue Anweisungen an sich oder andere Systeme erteilen. Auf diesem Weg gelang es den Forschern, sensible Daten wie Namen, Telefon­nummern und Kredit­karten­in­for­ma­tio­nen aus E-Mails zu extrahieren. Infografik Künstliche Intelligenz: Die größten Befürchtungen bezüglich KI Während dieses Vorgehen im Umfeld von KI-Programmen eine neue Art der Cyberattacke darstellt, ähnelt sie in ihren Grundlagen SQL-Injection- und Buffer-Overflow-Angriffen. Dabei werden die mangelhafte Maskierung einer Datenbank beziehungsweise Schwachstellen in der Speicherbelegung ausgenutzt.

Bisher keine KI-Würmer im Umlauf

Der Angriff von Morris II fand in einer geschlossenen Testumgebung statt. Dennoch sind sich Sicherheitsexperten einig, dass die konkreten Gefahren durch KI-Würmer nicht zu unterschätzen sind. So sei damit zu rechnen, dass solche Programme in den nächsten zwei bis drei Jahren auch in der freien Wildbahn zu finden sein werden.

Besonders gefährlich ist dies, wenn KI-Assistenten die Rechte besitzen, um Aufgaben für Dritte zu erledigen, wie das Versenden von E-Mails oder das Koordinieren von Terminen. Wenn der Assistent darüber hinaus mit anderen intelligenten Systemen verbunden ist, kann sich eine Schadsoftware über selbstreplizierende Eingaben in einem solchen Netzwerk schnell verbreiten.

OpenAI bezieht Stellung

Nach den erfolgreichen Angriffen kontaktierten die Forscher um Nassi sowohl OpenAI als auch Google. Ein Sprecher von OpenAI wies in seiner Antwort darauf hin, dass die Firma daran arbeite, ihre Systeme noch widerstandsfähiger zu machen. Gleichzeitig wurden Entwickler aufgefordert, Methoden zu verwenden, die sicherstellen, dass sie nicht mit schädlichen Eingaben arbeiten. Von Google kam bis jetzt noch keine Antwort.


Siehe auch: