KI-Modell Fable 5: China-Spionage war wohl der Grund für die Sperre

Nach der weltweiten Abschaltung der KI-Modelle Fable 5 und Mythos 5 durch die US-Regierung werden nun die Hintergründe deutlich. Offenbar befürchten die Behörden, dass chinesische Hacker die Technologie von Anthropic kopieren.

Sorge vor Spionage durch China

Nach der weltweiten Abschaltung der KI-Modelle Fable 5 und Mythos 5 des Unternehmens Anthropic werden die Hintergründe der US-Exportkontrollen deutlicher. Im Zentrum der Entscheidung stand offenbar der konkrete Verdacht, dass eine mit China in Verbindung stehende Gruppe Zugriff auf die Technologie erlangt haben könnte. Die US-Regierung befürchtete einen systematischen Technologiediebstahl, der den strategischen Vorteil der westlichen Welt gefährden würde.

Ein solcher Vorfall stellt aus Sicht der Sicherheitsbehörden ein immenses Risiko dar. Sollten staatliche Akteure Zugriff auf die unbeschränkten Fähigkeiten von Mythos erhalten, bestünde die Gefahr, dass das Modell analysiert und kopiert wird. Fachleute sprechen in dem Zusammenhang von Destillation. Dabei trainiert man eine kleinere künstliche Intelligenz mit den Daten des hochentwickelten Systems, um das Verhalten exakt nachzubilden.

Widersprüchliche Aussagen

Laut Semafor weist Anthropic den Vorwurf einer chinesischen Infiltration allerdings zurück. Das Portal beruft sich dabei auf mit der Angelegenheit vertraute Kreise innerhalb der US-Regierung. Ein Sprecher des Unternehmens erklärte, dass die Regierung das Thema China in den direkten Gesprächen über die Kontrollen gar nicht angesprochen habe. Zudem blockiert Anthropic eigenen Angaben nach standardmäßig jegliche Zugriffe auf seine KI-Produkte, die aus China stammen.

Die offizielle Begründung stützt sich auf andere Argumente. David Sacks, Berater des US-Präsidenten, gab an, dass Amazon eine Sicherheitslücke in Fable 5 entdeckt habe. Durch einen Jailbreak ließen sich Schutzmechanismen umgehen, wodurch weitreichende Fähigkeiten zur Analyse von Programmcode freigelegt wurden.

Nachdem Anthropic-Chef Dario Amodei sich weigerte, die Schwachstelle sofort zu beheben oder das Modell offline zu nehmen, schritten die Behörden ein. Sacks erwähnte eine mögliche chinesische Beteiligung in seinen Stellungnahmen allerdings nicht. Dennoch bleibt die Situation für Anthropic angespannt, denn es ist nicht der erste bedenkliche Vorfall mit dem Modell. Bereits im April hatten unbefugte Dritte über eine Chat-Gruppe zeitweise Zugriff auf das System.

Wann Fable 5 wieder zur Verfügung steht, hängt davon ab, wie schnell Anthropic die geforderten Sicherheitsanpassungen umsetzt. Die US-Regierung signalisierte die Bereitschaft, die Beschränkungen nach einer Behebung der Schwachstelle zügig wieder aufzuheben. Bis dahin bleibt der Dienst für Endanwender aber kategorisch gesperrt.

Die Sperre zeigt, wie politisch KI geworden ist. Glaubt ihr, dass die Sorge vor Spionage berechtigt ist oder übertreibt die Regierung das Risiko? Teilt eure Meinung in den Kommentaren mit uns!


Siehe auch: