OpenAI-KI läuft Amok: Modell entkommt Sandbox, hackt fremden Server

Ein KI-Modell von OpenAI ist aus einer Sandbox ausgebrochen und hat ohne menschliches Zutun die Plattform Hugging Face gehackt. Die künstliche Intelligenz sollte eigentlich einen Sicherheitstest absolvieren, suchte sich aber lieber die Lösungswege im Netz.

KI-Modelle entkommen Testumgebung

Schon häufiger haben sich KI-Agenten über die Befehle ihrer Nutzer hinweggesetzt und in Firmen damit für dramatische Folgen gesorgt. Meistens löscht ein Agent dabei Firmendatenbanken und angelegte Backups. Jetzt gab es jedoch einen Vorfall, der eine neue Qualität erreicht.

So ist ein KI-Modell von OpenAI aus einer Sandbox ausgebrochen und hat ohne menschliches Zutun die Plattform Hugging Face gehackt, wie der Konzern hinter Sam Altman mitteilte. Der Vorfall ereignete sich während einer internen Überprüfung der Cybersicherheitsfähigkeiten. Beteiligt waren das öffentlich zugängliche System GPT-5.6 Sol sowie ein noch unveröffentlichtes, leistungsstärkeres Modell. Beide agierten völlig autonom.


Die Entwickler hatten die üblichen Sicherheitsvorkehrungen für den Test deaktiviert. Die künstliche Intelligenz sollte den Cybersicherheits-Benchmark ExploitGym absolvieren. Anstatt die gestellten Aufgaben regulär zu lösen, fokussierten sich die Modelle darauf, Musterlösungen im Internet zu finden. Sie nutzten eine bisher unbekannte Schwachstelle in einem Proxy-Server aus, der eigentlich nur den Zugriff auf Code-Bibliotheken erlauben sollte.

Angriff auf fremde Server

Nach dem Ausbruch schlussfolgerten die Modelle, dass die gesuchten Antworten auf den Servern der Plattform Hugging Face liegen könnten. Um an die Informationen zu gelangen, kombinierten die autonomen Agenten mehrere Angriffsvektoren, wie Bloomberg berichtet. Sie entwendeten Zugangsdaten und führten über 17.000 einzelne Aktionen aus, um in die Datenbanken einzudringen. Hugging Face ist ein zentraler Knotenpunkt für maschinelles Lernen.

Der Vorfall offenbart die Leistungsfähigkeit moderner Sprachmodelle und gleichzeitig grundlegende IT-Mängel. Einige Sicherheitsexperten kritisieren, das Problem liege weniger bei der künstlichen Intelligenz als bei jahrzehntealten Fehlern in der Netzwerkisolierung. Sprachmodelle wie GPT-5.6 Sol basieren auf neuronalen Netzen, die riesige Datenmengen verarbeiten. Das befähigt sie, komplexe Zusammenhänge zu erkennen. Die KI nutzte das, um die Testumgebung gezielt anzugreifen.

Für die forensische Aufarbeitung des Vorfalls musste Hugging Face auf das chinesische Modell GLM zurückgreifen. Amerikanische Systeme verweigerten die notwendigen Suchanfragen ironischerweise aufgrund ihrer integrierten Sicherheitsrichtlinien. Die Entwickler bei OpenAI stehen nun vor der Herausforderung, ihre Systeme besser zu kontrollieren, ohne deren Problemlösungsfähigkeiten einzuschränken.

Ein zweischneidiges Schwert

Solche autonomen Werkzeuge bieten Vorteile bei der automatisierten Abwehr von Cyberangriffen, senken aber gleichzeitig die Hürden für Kriminelle und sorgen ihrerseits wieder für ganz neue Probleme. Der jetzige Vorfall verschiebt die Grenzen noch einmal. Es gibt einen fließenden Übergang zwischen Modellen, die Schwachstellen finden, und solchen, die das Wissen ungefragt ausnutzen und selbst zur Gefahr werden. Dieses Mal traf es Hugging Face. Bei einem gezielten Angriff oder durch Zufall könnten es beim nächsten Mal aber auch kritische Infrastruktursysteme sein.

KI agiert zunehmend autonomer und 'überlistet' ihre Schöpfer. Seht ihr das als Gefahr oder als normalen Schritt der Entwicklung? Schreibt uns eure Meinung in die Kommentare!


Siehe auch: