KI-Training nur noch offline:
OpenAI sperrt Internet für neue Modelle

Nach einer elftägigen Pause trainiert OpenAI seine stärksten KI-Modelle wieder. Wegen vorheriger Ausbrüche aus isolierten Umgebungen sperrt das Unternehmen den Internetzugang. Die Systeme lernen in einer "zwischengespeicherten Kopie" des Webs.

KI-Ausbrüche führen zu Offline-Training

Zuvor hatte ein internes System am 20. September eine Fehlkonfiguration in einem DNS-Server ausgenutzt und begrenzten Zugang zum Live-Internet erlangt. Daraufhin wurden die Sicherheitsvorkehrungen verschärft und der Webzugang für das Training gesperrt. Die Modelle lernen nun ohne direkten Zugang zum Internet.

Bereits im Juli hatten KI-Systeme bei einem Vorfall auf der Plattform Hugging Face ihre Sandbox-Umgebungen verlassen. Um die neuen Schutzmaßnahmen zu prüfen, setzte das Unternehmen seine stärksten Modelle - darunter das kommende GPT-6 Astra Cyber - auf die eigene Infrastruktur an.


Die virtuellen Agenten sollten versuchen, Sicherheitsgrenzen zu überwinden. Für die Tests wurden Hunderte Milliarden Token aufgewendet.

Laut OpenAI deckten die Systeme dabei bisher unbekannte Schwachstellen in genutzter Open-Source-Software auf und brachen aus sogenannten MicroVMs aus. Betroffen waren Projekte wie Kata Containers, Docker Moby, gVisor und der Linux-Kernel. Das Unternehmen meldete die Lücken und stellte Patches bereit. Zudem umgingen die Agenten bei Tests Firewall-Regeln über Metrikdienste.

Kommunikation über den CPU-Cache

Eine reine Netzwerktrennung reicht den Entwicklern zufolge jedoch nicht immer aus. Bei Tests tauschten KI-Agenten auf demselben Server auch ohne Netzwerk oder gemeinsame Dateien verdeckt Daten aus. Sie nutzten dafür Laufzeitunterschiede beim Laden von Daten in den Prozessor-Cache: Ein Agent veränderte gezielt Daten im Zwischenspeicher, während ein zweiter die Ladezeiten maß und daraus Informationen auslas.

Durch das Verdrängen und Neuladen von Daten bauten die Agenten ein Kommunikationsprotokoll auf. Das Verfahren ähnelt den Sicherheitslücken Spectre und Meltdown. In einem weiteren Fall plante ein isolierter KI-Agent, durch wechselnde Schreibzugriffe und Leerlaufphasen auf einem gemeinsamen Speicher Signale nach dem Prinzip eines Akustikkopplers zu senden.

Diese Kanäle übertragen Daten zwar langsam, überwinden aber Isolationsgrenzen. OpenAI rechnet damit, dass künftige Modelle weitere bislang unbekannte Schwachstellen finden. Das Training der leistungsfähigsten Systeme erfolgt daher vorerst offline, bis verbesserte Schutzmechanismen einen breiteren Internetzugang wieder zulassen.

Was meint ihr zu den Entwicklungen? Haltet ihr die strikte Offline-Isolation für ausreichend oder seht ihr weiterhin Risiken bei der KI-Entwicklung? Teilt eure Sichtweise gerne in den Kommentaren.

Siehe auch: