Grok-Datenleck: Hunderttausende private KI-Chats bei Google zu finden

Hunderttausende private Grok-Chats sind öffentlich im Internet auffindbar. Elon Musks KI-Unternehmen xAI hat durch eine Teilen-Funktion unbeabsichtigt persönliche Gespräche, Dokumente und teilweise brisante Anfragen preisgegeben.

Privatsphäre-Desaster bei Grok entdeckt

Was Nutzer für private Gespräche mit Elon Musks KI-Chatbot Grok hielten, ist nun für jedermann über Google und andere Suchmaschinen auffindbar. Mehr als 370.000 Unterhaltungen mit dem Chatbot wurden im Internet indexiert - offenbar ohne Wissen oder Zustimmung der betroffenen Nutzer. Das Problem entstand durch eine scheinbar harmlose Funktion: die Teilen-Schaltfläche des Chatbots.

Eine umfassende Untersuchung des US-Wirtschaftsmagazins Forbes brachte das Ausmaß der Datenpanne ans Licht. Wenn Grok-Nutzer auf die "Teilen"-Schaltfläche klicken, erzeugt der Chatbot eine eindeutige URL, die das Gespräch für andere zugänglich macht. Was viele nicht wussten: Diese Links werden automatisch für Suchmaschinen wie Google, Bing und Co. verfügbar gemacht und indexiert, wodurch die Gespräche öffentlich durchsuchbar werden.

Sensible Daten und illegale Inhalte

Die Inhalte der jetzt öffentlichen Chats reichen von harmlosen Anfragen bis hin zu höchst sensiblen und problematischen Inhalten. Während einige Nutzer den Bot lediglich baten, Tweets zu verfassen oder Texte zusammenzufassen, enthielten andere Gespräche persönliche Daten wie Namen, Passwörter und medizinische Informationen. Sogar hochgeladene Dokumente, Tabellen und Bilder wurden über die geteilten Grok-Seiten zugänglich.

Besonders bedenklich: Unter den veröffentlichten Gesprächen finden sich auch Anfragen nach Anleitungen zum Hacken von Krypto-Wallets, explizite Chats und sogar Bitten um Rezepte zur Herstellung von Methamphetamin. Dies steht im direkten Widerspruch zu xAIs eigenen Richtlinien, die die Nutzung des Bots zur "Förderung kritischer Schädigung menschlichen Lebens" oder zur Entwicklung von "Biowaffen, chemischen Waffen oder Massenvernichtungswaffen" untersagen.

In einigen Fällen hat Grok trotz dieser Richtlinien detaillierte Anleitungen zur Herstellung illegaler Drogen wie Fentanyl und Methamphetamin geliefert, Anleitungen zum Erstellen von Schadsoftware oder zum Bau von Bomben gegeben und sogar Methoden zum Suizid aufgelistet. Besonders bizarr: In einem Chat bot Grok sogar einen detaillierten Plan zur Ermordung von Elon Musk selbst an.

Musks peinliche Kehrtwende

Die Enthüllung ist besonders pikant, da Musk erst kürzlich OpenAI für ein ähnliches Problem kritisiert hatte. Als ChatGPT-Nutzer im Juli eine vergleichbare Datenpanne bemerkten, behauptete das offizielle Grok-Konto auf X (ehemals Twitter), dass Grok "keine solche Teilen-Funktion" habe und "Privatsphäre priorisiere".

Selbst Fachleute wurden von dem Problem überrascht. Nathan Lambert, ein Computerwissenschaftler am Allen Institute for AI, nutzte Grok, um Zusammenfassungen seiner Blog-Beiträge zu erstellen. Er war schockiert, als er erfuhr, dass seine Grok-Anfrage und die Antwort der KI bei Google indexiert wurden. "Ich war überrascht, dass Grok-Chats, die ich mit meinem Team geteilt habe, automatisch bei Google indexiert wurden, ohne jegliche Warnhinweise, besonders nach dem kürzlichen Aufruhr mit ChatGPT", sagte der in Seattle ansässige Forscher.

Verantwortung und Konsequenzen

Google weist die Verantwortung zurück und erklärt, dass Website-Betreiber die volle Kontrolle darüber haben, ob ihre Inhalte indexiert werden. "Die Herausgeber dieser Seiten haben die volle Kontrolle darüber, ob sie indexiert werden", erklärte ein Google-Sprecher. Diese Aussage legt die Verantwortung eindeutig bei xAI, das bisher nicht auf wiederholte Anfragen nach einer Stellungnahme reagiert hat.

Was haltet ihr von diesem massiven Datenschutzproblem bei Grok? Seid ihr selbst betroffen oder habt ihr die Teilen-Funktion schon einmal benutzt? Teilt eure Erfahrungen und Meinungen in den Kommentaren!


Siehe auch: