Gefangen im eigenen Zuhause:
Gemini lässt Hacker Smart Home kapern

Sicherheitsforscher demonstrieren, wie sich mit Googles KI-As­sis­tent Gemini über manipulierte Kalendereinträge Smart-Home-Geräte fernsteuern lassen. Die Angriffe erfolgen verzögert und sind ein ech­tes Risiko für die Nutzer in ihren eigenen vier Wänden.

Tiefe KI-Integration als Risiko

Googles KI-Assistent Gemini ist mittlerweile tief in die Apps und Dienste des Unternehmens eingebunden. Die KI plant Routen in Google Maps, liest die E-Mails der Nutzer in Gmail und fasst sie zusammen oder durchsucht Dokumente in Google Drive. Nutzer können Gemini aber auch dazu verwenden, um ihr Smart Home zu steuern. Von der Beleuchtung über Jalousien bis hin zu Heizungsanlagen kann die KI die Kontrolle übernehmen.

Besonders diese tiefe Integration in Smart-Home-Systeme birgt jedoch enorme Sicherheitsrisiken, wie Sicherheitsforscher der Universität Tel Aviv auf der Black Hat-Konferenz 2025 mit ihrem Paper "Invitation Is All You Need" eindrucksvoll demonstriert haben.

Kalender als Einfallstor

Die Forscher Ben Nassi, Stav Cohen und Or Yair deckten eine alarmierende Schwachstelle in Gemini auf, die es ermöglicht, durch sogenannte Prompt-Injection bösartige Befehle in den KI-Assistenten einzuschleusen. Diese Schwachstelle erlaubt es Angreifern, Smart-Home-Geräte wie Jalousien, Beleuchtung und sogar Boiler zu steuern, ohne dass der Nutzer es autorisiert.

Das Forschungsteam entwickelte insgesamt 14 verschiedene Angriffsmethoden, die sich unter dem Begriff "Promptware" zusammenfassen lassen. Laut Wired handelt es sich dabei wohl um den ersten bekannten Fall, bei dem ein KI-Angriff reale Auswirkungen in der physischen Welt hatte. Der Angriff beginnt dabei mit einer Termineinladung in Form eines manipulierten Kalendereintrags, den Angreifer an ihre Opfer senden. Der wirkt scheinbar harmlos, enthält aber versteckte Befehle an die KI. Wenn der Nutzer Gemini später bittet, den Kalender zusammenzufassen, werden diese Befehle aktiviert.

Nutzer macht- und ahnungslos

Besonders perfide ist die verzögerte Aktivierung der Angriffe. Die Forscher programmierten die KI so, dass sie erst bei harmlosen Wörtern wie "Danke" oder "Sicher" reagiert. In einem Demonstrationsvideo zeigten sie unter anderem, wie sich in einer Wohnung in Tel Aviv automatisch die Jalousien öffneten. Alles wird dabei durch eine einfache Höflichkeitsfloskel des 'ahnungslosen' Nutzers ausgelöst.

Auf YouTube ansehen
Die Angreifer könnten Nutzer theoretisch in ihrem eigenen Zuhause "gefangen" halten und sogar deren Gesundheit gefährden, indem sie gleichzeitig Türschlösser blockieren, Jalousien schließen und die Heizung auf Höchstleistung stellen. Im schlimmsten Fall würden Bewohner im Dunkeln in ihrem eigenen Haus gefangen und regelrecht 'gegrillt' werden. Diese Szenarien verdeutlichen, wie aus praktischen KI-Features ernsthafte Sicherheitsbedrohungen werden können.

Die Forscher entdeckten auch, dass sich die Angriffe über verschiedene Google-Dienste hinweg ausbreiten können. So könnten manipulierte Inhalte in Gmail oder Google Drive ähnliche Effekte auslösen, wenn Nutzer Gemini bitten, diese Inhalte zusammenzufassen oder zu bearbeiten.

Google reagiert mit verstärkten Sicherheitsmaßnahmen

Google wurde bereits im Februar über die Schwachstelle informiert und hat seitdem mehrere Gegenmaßnahmen implementiert. Andy Wen, Sicherheitsdirektor bei Google Workspace, bestätigte gegenüber verschiedenen Medien, dass die Forschung die Entwicklung neuer Prompt-Injection-Abwehrmechanismen "direkt beschleunigt" habe. Infografik Künstliche Intelligenz: Die größten Befürchtungen bezüglich KI Die neuen Sicherheitsvorkehrungen umfassen maschinelles Lernen zur Erkennung verdächtiger Prompts in Kalendereinträgen, Dokumenten und E-Mails. Zusätzlich führte Google erweiterte Nutzerbestätigungen für sensible Aktionen ein, wie das Löschen von Kalendereinträgen oder die Steuerung sicherheitsrelevanter Geräte.

Dennoch bleibt das grundsätzliche Problem bestehen: Prompt-Injection-Angriffe sind schwer zu erkennen und zu verhindern, da sie die natürliche Sprachverarbeitung der KI ausnutzen. Die Angreifer verwenden dabei keine traditionelle Malware, sondern manipulieren die KI durch geschickt formulierte Texte.

Empfehlungen für Nutzer

Experten raten Nutzern zu erhöhter Vorsicht beim Umgang mit KI-gesteuerten Smart-Home-Systemen. Da herkömmliche Sicherheitssoftware diese Art von Angriffen nicht erkennt, sollten Nutzer den Zugriff von KI-Assistenten auf Kalender und Smart-Home-Steuerungen begrenzen. Besonders bei ungewöhnlichem Verhalten der Geräte empfiehlt es sich, die KI-Verbindung sofort zu trennen.

Die Forschungsergebnisse verdeutlichen ein grundsätzliches Problem. Denn je tiefer KI-Systeme in unseren Alltag integriert werden, desto größer wird auch die potenzielle Angriffsfläche für Cyberkriminelle. Smart-Home-Besitzer sollten daher regelmäßig ihre Berechtigungseinstellungen überprüfen und kritisch hinterfragen, welche Geräte wirklich KI-gesteuert werden müssen.

Was haltet ihr von dieser neuen Bedrohung für Smart Homes? Teilt eure Erfahrungen und Sicherheitsstrategien in den Kommentaren mit uns!


Siehe auch: