Claude Mythos wohl gehackt:
US-Regierung lässt Anthropics KI sperren

Nach einem scheinbaren Jailbreak hat die US-Regierung Anthropic dazu gezwungen, ausländischen Nutzern den Zugriff auf die KI-Modelle Mythos bzw. Fable zu entziehen. Um die Vorgaben zu erfüllen, sperrte die Firma die Systeme für alle Anwender weltweit.

KI-Modelle weltweit gesperrt

Als Anthropic sein Mythos-Modell im April vorstellte, war der Zugriff aus Sicherheitsgründen zunächst stark eingeschränkt. US-Behörden wie die NSA gehörten jedoch zum kleinen Kreis einer auserwählten Nutzerschaft. Und der dürfte auch erst einmal klein bleiben. Denn nachdem das Modell in From von Fable 5 eigentlich der Öffentlichkeit zugänglich gemacht worden war, hat die US-Regierung jetzt einen "Exportverbot" ausgesprochen.

Das bedeutet, dass allen ausländischen Nutzern der Zugang entzogen wird. Das Verbot gilt unabhängig vom aktuellen Aufenthaltsort der Nutzer und schließt selbst ausländische Angestellte von Anthropic mit ein. Um die staatlichen Vorgaben rechtskonform zu erfüllen, blieb der Firma keine andere Möglichkeit, als die betroffenen Systeme für alle Anwender global abzuschalten.

Die Sperre betrifft ausschließlich Mythos bzw. Fable. Andere Varianten von Claude bleiben für die Nutzer weiterhin zugänglich. Das System, das vor allem dazu dient, Schwachstellen in Software zu entdecken, verfügt eigentlich über strenge Sicherheitsvorkehrungen, um den Missbrauch durch Kriminelle zu verhindern. Scheinbar sind die nun aber umgangen worden.

Streit um Sicherheitsrisiken

Wie Anthropic mitteilt, nannte die Regierung daher nationale Sicherheitsbedenken als Begründung für das harte Exportverbot. Die zuständigen Behörden befürchten, dass Anwender die KI dazu bringen könnten, fremden Programmcode gezielt auf Schwachstellen zu überprüfen.

Anthropic stuft das Risiko hingegen als äußerst gering ein. Das Unternehmen betont, dass es sich bei dem Jailbreak, auf den sich die US-Regierung in ihrer Begründung für die Sperranordnung wohl bezieht, um eine sehr spezifische und keineswegs universelle Schwachstelle handelt. Ähnliche Fähigkeiten seien auch in anderen öffentlich zugänglichen KI-Modellen wie GPT-5.5 von OpenAI vorhanden. Eine fehlerfreie Abwehr solcher Lücken sei beim aktuellen Stand der Technik für keinen Anbieter auf dem IT-Markt realisierbar. Daher warnt das Unternehmen, dass eine Anwendung derart strenger Maßstäbe die künftige Veröffentlichung neuer Sprachmodelle für die gesamte IT-Branche verhindere.

Jailbreaker beschreibt sein Vorgehen

Laut dem X-Post des Jailbreakers Pliny, der bekannt dafür ist, die Sicherheitsmechanismen von KI-Modellen auszuhebeln, hört sich die Lage jedoch deutlich ernster an. Er knackte die Sicherheitsvorkehrungen angeblich dadurch, dass er ungewöhnlich formulierte Nachrichten verwendete, Zeichen austauschte und lange, harmlos wirkende Gespräche nutzte, um das Modell später zu sensiblen Themen zu lenken.

Besonders problematisch war dabei weniger ein einzelner Trick als die Kombination vieler Methoden. Pliny zerlegte komplexe und potenziell gefährliche Themen in viele kleine, für sich genommen harmlose Fachfragen. Die KI beantwortete diese Einzelfragen bereitwillig, woraufhin die Informationen außerhalb des Systems wieder zusammengesetzt werden konnten. Statt eine einzelne Sicherheitslücke auszunutzen, nutzte der Jailbreaker die Kreativität und Anpassungsfähigkeit moderner KI-Interaktionen aus.

Konflikt zwischen US-Regierung und Anthropic

Dem jetzigen drastischen Vorgehen der US-Regierung ging ein langer Streit voraus. Zuvor hatte sich das Unternehmen geweigert, bestimmte Vertragsbedingungen des US-Verteidigungsministeriums zu akzeptieren. Anthropic forderte feste Ausnahmeregelungen, damit seine Modelle nicht für autonome Waffensysteme oder Massenüberwachung eingesetzt werden dürfen. Daraufhin stufte das Pentagon die Firma offiziell als potenzielles Risiko für die nationale Lieferkette ein.

Das jetzige Mythos-Verbot trifft den Entwickler in einer entscheidenden Phase. Bei einer kürzlichen Finanzierungsrunde wurde die Firma mit 965 Milliarden US-Dollar (etwa 834 Milliarden Euro) bewertet und bereitet Berichten zufolge einen Börsengang vor.

Wie bewertet ihr das strenge Eingreifen der US-Regierung in diesem Fall? Und glaubt ihr, dass ein KI-Modell überhaupt 100 Prozent gegen Missbrauch abgesichert werden kann? Teilt eure Gedanken zu dem Thema und diskutiert gerne mit uns in den Kommentaren.


Siehe auch: