Gmail & Co. werden durch KI-Integration leichter angreifbar

Googles Integration der Gemini AI in seine Workspace-Produkte, darunter Gmail, Google Slides und Google Drive, hat zwar die Benutzerfreundlichkeit gesteigert, jedoch auch erhebliche Sicherheitsbedenken geweckt.

Gemini AI als Einfallstor

Sicherheitsexperten haben auf Schwachstellen hingewiesen, die Angriffe wie indirekte Prompt Injection Attacken ermöglichen könnten. Trotz dieser Warnungen entschied Google, das Problem nicht als Sicherheitslücke zu behandeln, sondern als "beabsichtigtes Verhalten", berichtete das US-Magazin Forbes.

Gemini AI, das auch in Gmail integriert ist, ist wie viele andere große Sprachmodelle anfällig für sogenannte Prompt Injection Attacken. Diese Angriffe manipulieren die KI über Eingaben, die in Form weniger offensichtlicher Kanäle wie E-Mails, Dokumente oder Webseiten eingeschleust werden. Ein Bericht zeigte demnach, wie Angreifer durch manipulierte Inhalte die generierten Antworten von Gemini beeinflussen könnten. Dies eröffnet potenzielle Szenarien für Phishing, Datenmanipulation und die Verbreitung bösartiger Links.


Die Sicherheitsforscher Jason Martin und Kenneth Yeung legten Google detaillierte Analysen und Beispiele vor, wie Angriffe in der Praxis aussehen könnten. Google markierte die gemeldeten Probleme jedoch als "nicht zu beheben". Dies löste eine Diskussion darüber aus, ob Nutzer durch solche Entscheidungen unzureichend geschützt werden.

Besser deaktivieren

Eine der Schwachstellen betrifft den sogenannten "Link Trap"-Angriff, bei dem die KI über eine manipulierte Eingabe einen bösartigen Link generiert. Nutzer könnten durch scheinbar harmlose Antworten dazu gebracht werden, diesen Link anzuklicken, wodurch vertrauliche Daten an Angreifer gelangen könnten. Besonders kritisch: Solche Angriffe erfordern keine erweiterten Berechtigungen der KI, da der finale Schritt - das Anklicken des Links - vom Nutzer selbst ausgeführt wird.

Sicherheitsforscher empfehlen Nutzern, smarte Funktionen wie die KI-Integration in Gmail zu deaktivieren, um Risiken zu minimieren. Zudem sollten Berechtigungen für KI-Systeme so eingeschränkt werden, dass sie keinen Zugriff auf sensible Daten haben.


Siehe auch: