Fable 5 und Mythos 5: Das US-Exportverbot für KI-Modelle ist beendet

Die US-Regierung beendet die Sperre für die KI Claude Fable 5 von Anthropic. Der neue Filter gegen Jailbreaks schießt jedoch spürbar über das Ziel hinaus. Bei völlig harmlosen Code-Anfragen verweigert das System im Alltag nun oft seinen Dienst.

US-Regierung beendet KI-Sperre

Die US-Regierung hat die Exportkontrollen für die künstlichen Intelligenzen Claude Fable 5 und Mythos 5 gestern offiziell aufgehoben. Das Entwicklerstudio Anthropic darf die Systeme damit wieder für Nutzer und Unternehmen zugänglich machen. Zuvor hatte das Handelsministerium am 12. Juni ein weltweites Zugriffsverbot verhängt, nachdem Entwickler von Amazon eine Schwachstelle in den Sicherheitsmechanismen entdeckt hatten.

Durch gezielte Eingaben ließ sich Fable 5 zuvor dazu bringen, Software-Schwachstellen aufzuzeigen und Code zur Ausnutzung bereitzustellen. Um das Problem zu beheben, trainierten die Entwickler einen neuen Sicherheitsklassifikator. Das System blockiert nun die gemeldeten Umgehungsversuche in über 99 Prozent der Fälle. Fable 5 ist ab dem ersten Juli wieder auf den Plattformen des Unternehmens verfügbar. Zum aktuellen Zeitpunkt sind die Modelle bei uns jedoch noch nicht wieder freigegeben.


Wie das Unternehmen in einem Anthropic-Blogbeitrag schreibt, bringt der neue Filter auch Nachteile mit sich. Die strengeren Vorgaben führen dazu, dass das Modell bei alltäglichen Programmieraufgaben häufiger harmlose Anfragen fälschlicherweise blockiert. Anthropic plant, den Filter kontinuierlich anzupassen, um echte Missbrauchsversuche besser von legitimen Anfragen zu unterscheiden.

Unterschiedliche Einsatzgebiete

Während Fable 5 als Endkundenversion konzipiert ist, richtet sich Mythos 5 primär an Spezialisten im Bereich der Cybersicherheit. Das Modell besitzt weniger Filter und eignet sich zur aktiven Suche nach Sicherheitslücken in IT-Systemen. Der Zugang zu Mythos 5 bleibt weiterhin stark reglementiert und steht nur ausgewählten Partnerorganisationen zur Verfügung.

Um zukünftige Vorfälle besser einordnen zu können, arbeitet Anthropic mit Firmen wie Amazon, Microsoft und Google an einem gemeinsamen Bewertungsrahmen für Jailbreaks. Das Konzept soll helfen, die Schwere von Sicherheitslücken objektiv zu beurteilen. Der vorgeschlagene Standard bewertet Schwachstellen nach vier Kriterien:

Mehr Zusammenarbeit bei KI-Sicherheit

Zusätzlich intensiviert das Unternehmen die Kooperation mit staatlichen Stellen. Zukünftige Modelle, die für die nationale Sicherheit relevant sind, sollen vor der Veröffentlichung von Regierungsvertretern geprüft werden. Bei schwerwiegenden Missbrauchsmustern verpflichtet sich der Entwickler zu einer schnellen Informationsweitergabe an die Behörden.

Wie bewertet ihr das Eingreifen der Regierung bei KI-Modellen? Findet ihr die strengen Sicherheitsvorgaben richtig oder bremsen sie die Entwicklung? Teilt eure Meinung in den Kommentaren!


Siehe auch: