Google Gemini: KI greift unerlaubt auf Dokumente in Google Drive zu

Probleme mit der Privatsphäre und künstlicher Intelligenz gab es in der Vergangenheit schon des Öfteren. Jetzt hat ein Nutzer entdeckt, dass Googles KI-Assistent trotz Deaktivierung der entsprechenden Einstellung Dokumente in Google Drive analysiert und zusammenfasst.

KI und die Sorge um die Privatsphäre

Nach Recall von Microsoft hat nun anscheinend auch Google mit Gemini ein Privatsphäreproblem. Erst vor ein paar Wochen hatte das Unternehmen seinen KI-Assistenten in Form einer neuen Sidebar in seine Cloud-Anwendungen wie Google Docs und Google Drive eingebunden. Damit sollen Nutzern in der Lage sein, mithilfe des Assistenten Dokumente zu analysieren, zusammenzufassen und sich Vorschläge machen zu lassen.

Gemini analysiert Dokumente ohne Erlaubnis

Jetzt berichtet Kevin Bankston in einem Post auf X (via Tom's Hardaware) allerdings, dass die KI auf persönliche und sensible Dokumente ohne Erlaubnis und ohne eine Aufforderung seinerseits zugegriffen hat.

Demnach fasste Gemini ein Steuerdokument von Bankston zusammen, ohne dass dieser darum gebeten hatte. Auf die Frage, welche Einstellung er ändern müsse, damit Gemini das in Zukunft nicht mehr tut, verwies ihn die KI auf eine nicht existierende Seite in den Einstellungen.

Google missachtet Einstellungen der Nutzer

Nach einer manuellen Suche fand Bankston schließlich die betreffende Option. Allerdings sei diese bereits deaktiviert gewesen. Gemini hätte also nicht auf die Datei zugreifen dürfen. Der KI-Assistent tat es trotzdem. In einem Test konnte Neowin das Problem bestätigen. Auch dort analysierte Gemini trotz deaktivierter Funktion alle Dokumente in Google Drive und fasste sie zusammen.

"Don't be evil"

Google hat mittlerweile Stellung bezogen und lässt folgendes über einen seiner Sprecher wissen:

Unsere generativen KI-Funktionen sind so konzipiert, dass die Nutzer die Wahl haben und die Kontrolle über ihre Daten behalten. Die Verwendung von Gemini in Google Workspace erfordert die proaktive Aktivierung durch den Nutzer. Wenn das geschieht, werden seine Inhalte unter Wahrung der Privatsphäre verwendet, um nützliche Antworten auf seine Aufforderungen zu generieren, aber nicht ohne seine Zustimmung gespeichert.

Zudem verweist das Unternehmen nochmals auf seine Webseite, auf der der Umgang mit Nutzerdaten geschildert wird. Daten aus Dokumenten oder Dateien würden nicht gespeichert oder zu KI-Trainingszwecken verwendet.

Vorfälle häufen sich

Beinahe jeden Tag berichten wir über künstliche Intelligenz. Das liegt daran, dass mittlerweile jede Firma in der IT-Branche versucht, die Technologie sinnvoll in seine Produkte einzubauen. Die großen Unternehmen wie Microsoft, Meta und Google haben zudem ihre eigenen LLMs und KI-Assistenten, die immer tiefer in die Angebote und Systeme eingebettet werden. Dabei kam es schon des Öfteren zu Problemen mit Datenschutz und der Privatsphäre der Nutzer.


Siehe auch: