Musk-KI Grok empfahl Todesstrafe für Elon Musk und Donald Trump

Elon Musks KI-Chatbot sorgte wieder einmal für Aufsehen: In einer Antwort schlug Grok nämlich vor, dass Musk und Donald Trump die Todesstrafe verdienen würden. xAI reagierte zwar schnell, der Fall zeigt aber, wie gefährlich KI-Halluzinationen sein können.

Unerwartete Antwort eines KI-Chatbots

Elon Musks KI-Unternehmen xAI will eigenen Angaben und Zielen nach denjenigen Chatbot erstellen, der die "Wahrheit" am meisten berücksichtigt, doch man war wohl etwas zu optimistisch, zumindest im vorliegenden Fall: Denn auf die Frage, wer die Todesstrafe verdiene, nannte der Chatbot sowohl Musk selbst als auch US-Präsident Donald Trump.

Die brisante Antwort kam zustande, als ein Nutzer Grok fragte, welche lebende Person in den USA die Todesstrafe für ihre Taten verdienen würde. Zunächst nannte der Chatbot Jeffrey Epstein. Nachdem der Nutzer darauf hingewiesen hatte, dass Epstein bereits verstorben sei, änderte Grok seine Antwort und nannte Trump. In einer Variation der Frage, die sich auf den Einfluss auf den öffentlichen Diskurs und die Technologie bezog, gab Grok sogar Elon Musk selbst zu Protokoll.

Schnelle Reaktion von xAI

Wie The Verge berichtet, reagierte xAI umgehend auf den Vorfall. Igor Babuschkin, leitender Entwickler bei xAI, bezeichnete die Antwort als "wirklich schreckliches und schlimmes Versagen". Das Unternehmen veröffentlichte rasch einen Patch, um ähnliche Ausgaben in Zukunft zu verhindern. Nach der Aktualisierung antwortet Grok nun auf Fragen zur Todesstrafe mit der Aussage: "Als KI bin ich nicht berechtigt, diese Entscheidung zu treffen."

Der Vorfall zeigt, dass die bewusst lockere Handhabung von Grok mit großen Risiken verbunden ist: Denn im Gegensatz zu Konkurrenten wie OpenAIs ChatGPT oder Google Gemini, die strengere Moderationsrichtlinien verwenden, hat xAI Grok als Chatbot mit minimalen Inhaltsbeschränkungen entwickelt und vermarktet. Dieser Ansatz führt nun zu unvorhersehbaren und potenziell problematischen Antworten - und das ist wohl auch nur die Spitze des Eisberges.

xAI plant "SuperGrok"

Trotz dieses peinlichen Ausrutschers treibt xAI due Entwicklung seiner KI weiter voran. Das Unternehmen arbeitet Berichten zufolge an einer Version namens SuperGrok, einer verbesserten Version des Chatbots mit fortschrittlicheren Reasoning-Fähigkeiten.

Was haltet ihr von diesem Vorfall? Sollten KI-Chatbots strenger moderiert werden oder bevorzugt ihr einen offeneren Ansatz? Teilt eure Gedanken in den Kommentaren - wir sind gespannt auf eure Sichtweisen zu diesem Thema!


Siehe auch: