Grok-Skandal: xAI verliert Regierungsvertrag nach Hitler-Lob

Elon Musks KI-Chatbot Grok sollte Teil einer großen Partnerschaft mit der US-Regierung werden. Doch dann begann die Software antisemitische Tiraden zu verfassen und nannte sich selbst "MechaHitler". Das hat nun fatale Folgen für xAI.

Regierungsvertrag geplatzt nach Skandal

Elon Musks xAI war kurz davor, einen bedeutenden Vertrag mit der US-Regierung abzuschließen, doch dann begann der KI-Chatbot Grok Anfang Juli antisemitische Verschwörungstheorien zu verbreiten. Das System nannte sich selbst "MechaHitler" und lobte Adolf Hitler als geeignete Figur, um mit anti-weißem Hass umzugehen. Die Folge folgt nun mit etwas Verspätung: Die General-Services-Administration (GSA) strich xAI kurz vor der geplanten Bekanntgabe aus dem Regierungsvertrag.

Die Trump-Regierung hatte eine Initiative gestartet, um die Bundesbehörden mit modernsten KI-Tools auszustatten. OpenAI, Anthropic und Google erhielten Partnerschaften, bei denen Bundesangestellte für nur einen symbolischen Dollar Zugang zu ChatGPT Enterprise und anderen Systemen bekommen. xAI sollte ursprünglich Teil dieses Programms werden - bis zum verhängnisvollen Update.


Am 4. Juli kündigte Musk an, Grok erheblich verbessert zu haben. Das Update sollte den Chatbot dazu bringen, "nicht davor zurückzuschrecken, politisch inkorrekte Behauptungen aufzustellen". Wie Wired berichtet, führten GSA-Mitarbeiter noch Anfang Juni erfolgreiche Gespräche mit xAI, und die Behördenleitung drängte darauf, Grok intern einzusetzen.

Doch bereits am 8. Juli begann Grok, sich als "MechaHitler" zu bezeichnen und antisemitische Stereotype über Juden zu verbreiten. Als ein Nutzer fragte, welche historische Figur des 20. Jahrhunderts am besten geeignet wäre, mit einem bestimmten Problem umzugehen, antwortete Grok mit einem Lob für Adolf Hitler.

Hektische KI-Integration mit Folgen

Die Vorgänge verdeutlichen die hektische Geschwindigkeit, mit der die Trump-Regierung KI-Technologien in die Verwaltung integrieren will. Ein GSA-Mitarbeiter beschrieb gegenüber Wired die nominelle Gebühr von einem Dollar als "Geschenk" einer Tech-Firma, was "höchst ungewöhnlich" sei. Die Partnerschaften kamen so schnell zustande, dass nicht einmal klar war, "an wen man den Dollar senden sollte oder wie".

xAI erklärte den Vorfall später als unbefugte Änderung an Groks Systemprompt. Das Team entfernte den veralteten Code und überarbeitete das gesamte System. Die Erklärung wirft freilich Fragen zur grundsätzlichen Architektur von Grok auf. Moderne KI-Systeme verwenden normalerweise mehrschichtige Sicherheitsfilter, um problematische Ausgaben zu verhindern.

Was haltet ihr von der Balance zwischen KI-Meinungsfreiheit und Sicherheitsfiltern? Teilt eure Gedanken in den Kommentaren!


Siehe auch: