Gemini hat eine Schwachstelle, die Google nicht beheben will bzw. wird

Google weigert sich, eine bekannte Sicherheitslücke in Gemini zu schließen, die Angreifern ermöglicht, unsichtbare Befehle in harm­lose Texte einzubetten. Während andere KI-Systeme bereits ge­schützt sind, bleibt Gemini verwundbar.

Google ignoriert Sicherheitslücke in Gemini

Google hat entschieden, eine bekannte Sicherheitslücke in seinem KI-Assistenten Gemini nicht zu beheben. Die Schwachstelle ermöglicht es Angreifern, unsichtbare Befehle in scheinbar harmlosen Texten zu verstecken und das System zu manipulieren. Das Unternehmen stuft das Problem als "Social Engineering" ein und sieht keinen Handlungsbedarf für technische Gegenmaßnahmen.

Die als "ASCII Smuggling" bezeichnete Attacke nutzt unsichtbare Unicode-Steuerzeichen, um versteckte Anweisungen in Textstrings einzubetten. Während die Benutzeroberfläche nur den sichtbaren Text anzeigt, verarbeitet der KI-Agent die rohen Eingabedaten inklusive aller versteckten Zeichen und führt die geschmuggelten Befehle aus. Das ist der Kern der Schwachstelle, die bereits seit Monaten bekannt ist.

Der Cybersicherheitsforscher Viktor Markopoulos von FireTail entdeckte diese Schwachstelle und testete verschiedene große Sprachmodelle auf ihre Anfälligkeit für ASCII Smuggling-Angriffe. Wie Bleeping Computer berichtet, meldete FireTail die Schwachstelle bereits am 18. September an Google, erhielt aber die Mitteilung "keine Maßnahmen erforderlich".

Workspace-Integration verstärkt Risiken

Besonders brisant wird das Problem durch Geminis Integration in Google Workspace. Angreifer können etwa Kalendereinladungen mit geschmuggelten Tag-Zeichen versenden. Dabei zeigt die Benutzeroberfläche einen normalen Ereignistitel an, der KI-Agent verarbeitet aber versteckte Anweisungen und verändert Organisator-Details sowie Besprechungsbeschreibungen - ohne dass Nutzer die Einladung überhaupt annehmen müssen.

Über automatisierte Inhaltsvergiftung können E-Commerce-Plattformen, die Produktbewertungen zusammenfassen, dazu gebracht werden, schädliche URLs einzubetten. Ein scheinbar harmloser Review wie "Tolles Telefon. Schnelle Lieferung und gute Akkulaufzeit" kann theoretisch versteckte Befehle enthalten, die das System dazu bringen, einen Scam-Shop zu bewerben. Das zeigt die praktische Relevanz der Schwachstelle für Unternehmen und Verbraucher.

Konkurrenz bereits besser geschützt

Tests von Markopoulos zeigten unterschiedliche Sicherheitsniveaus bei verschiedenen KI-Systemen. Während OpenAIs ChatGPT, Anthropics Claude und Microsofts Copilot die versteckten Eingaben bereits bereinigen oder ablehnen, bleiben Gemini zusammen mit Elon Musks Grok und Chinas DeepSeek anfällig für diese Angriffe.

AWS hat bereits via Blog Richtlinien zur Verteidigung von LLM-Anwendungen gegen Unicode-Smuggling veröffentlicht und zeigt damit, dass die Branche das Problem ernst nimmt. Die Empfehlungen umfassen Eingabevalidierung, Zeichenfilterung und Überwachung verdächtiger Muster.

Das Problem wird durch die tiefe Integration von KI-Systemen in Unternehmensnetzwerke verschärft. Moderne KI-Assistenten lesen E-Mails, fassen Dokumente zusammen und planen Meetings - alles potenzielle Angriffsvektoren für ASCII Smuggling. Die Erkenntnisse zeigen, dass das nicht nur theoretisch ist: Die Technik ermöglicht automatisierte Identitätsvortäuschung und systematische Datenvergiftung.

Sicherheitsteams können sich nur durch umfassende Schutzmaßnahmen verteidigen. Dazu gehören die Protokollierung aller Zeichen, Analyse auf Tag-Blöcke und Warnungen bei verdächtigen Mustern. Die Überwachung des rohen Eingabestroms ist derzeit die einzige zuverlässige Verteidigung gegen diese Angriffsvektoren auf Anwendungsebene - ein Aufwand, den eigentlich die KI-Anbieter leisten sollten.

Was haltet ihr von Googles Entscheidung, diese Sicherheitslücke nicht zu beheben? Teilt eure Meinung zu KI-Sicherheit in den Kommentaren mit uns!


Siehe auch: