Claude KI-Datenleck: Private Chats waren bei Google frei zugänglich

Wegen einer unzureichend geschützten Teilen-Funktion sind private Chatprotokolle der Anthropic-KI Claude ins öffentliche Netz gelangt. Webcrawler erfassten die URLs und listeten medizinische Berichte sowie persönliche Daten in Suchmaschinen.

Sensible KI-Gespräche im Netz

Zahlreiche Nutzer des Sprachmodells Claude haben unwissentlich vertrauliche Informationen mit der gesamten Öffentlichkeit geteilt. Am vergangenen Wochenende tauchten private Chatprotokolle und programmierte Anwendungen in den Ergebnissen großer Suchmaschinen auf. Ursache war die Teilen-Funktion der KI-Plattform, die eigentlich für den Austausch mit Kollegen oder Freunden gedacht ist.

Wer einen Link zu einem Gespräch generiert, macht das Dokument laut Warnhinweis des Anbieters Anthropic für jeden mit dem Link zugänglich. Viele Anwender übersahen das Risiko, dass Webcrawler diese ungeschützten URLs erfassen können. Die Bandbreite der geleakten Inhalte reicht von harmlosen Notizen bis hin zu kritischen Daten.


Die Daten ließen sich laut 404 Media über spezifische Suchanfragen aufspüren. Neben reinen Textchats sind auch sogenannte Artifacts betroffen. Das sind kleine, von der Künstlichen Intelligenz generierte Programme und Werkzeuge, die Nutzer direkt im Browser ausführen können.

Unter den auffindbaren Dokumenten befanden sich medizinische Patientenberichte, interne Firmenauswertungen und private Krypto-Schlüssel. Auch persönliche Daten wie Namen, Telefonnummern und Adressen von Kindern waren frei im Netz abrufbar. Selbst Unterhaltungen mit erotischen Rollenspielen, die eigentlich gegen die Nutzungsbedingungen verstoßen, tauchten in den Suchergebnissen auf.

Fehlender technischer Schutz

Ein Vorteil der Teilen-Funktion ist die einfache Zusammenarbeit an Projekten ohne zusätzliche Software. Der Nachteil zeigt sich in der unzureichenden technischen Absicherung. Anthropic verlässt sich auf eine einfache Textdatei, um Suchmaschinen vom Indexieren abzuhalten. Ein robusterer Schutz durch spezifische HTML-Tags fehlt auf den generierten Webseiten komplett.

Wenn geteilte Links in öffentlichen Foren oder sozialen Netzwerken gepostet werden, ignorieren viele Suchmaschinen die rudimentären Sperrlisten und nehmen die Seiten in ihren Index auf. Dadurch werden Unterhaltungen, die nur für einen kleinen Kreis bestimmt waren, plötzlich für die gesamte Welt auffindbar und dauerhaft archiviert.

Schuldfrage bleibt ungeklärt

Der Entwickler sieht die Verantwortung bei den Anwendern. Wer Inhalte aktiv teile, mache sie öffentlich zugänglich. Suchmaschinenbetreiber betonen hingegen, dass sie lediglich das sichtbare Netz abbilden. Sie verweisen auf die Pflicht der Webseitenbetreiber, ihre Seiten mit den korrekten technischen Markierungen vor dem Auslesen zu schützen.

Mittlerweile scheinen die meisten betroffenen Suchergebnisse verschwunden zu sein. Nutzer können ihre Freigaben überprüfen und anpassen, um die Privatsphäre zu wahren. Dafür müssen sie die allgemeinen Einstellungen öffnen, den Bereich für Privatsphäre ansteuern und geteilte Unterhaltungen verwalten oder löschen.

Um sensible Daten bestmöglich zu schützen, sollten vertrauliche Texte manuell kopiert und über sichere Kanäle verschickt werden. Das Problem ist nicht neu, da ähnliche Vorfälle bereits im vergangenen Jahr bei verschiedenen Diensten auftraten.

Nutzt ihr die Teilen-Funktion bei Diensten oder kopiert ihr Texte lieber in sichere Dokumente? Teilt eure Erfahrungen zu dem Vorfall gerne in den Kommentaren!


Siehe auch: