Verbot gefordert: KI-Brillen erfinden Notruf und geben fatale Tipps

Smart Glasses mit künstlicher Intelligenz (KI) sollen den Alltag er­leichtern. Eine aktuelle Untersuchung offenbart nun jedoch gra­vie­rende Mängel und gefährliche Falschaussagen der KI-Brillen. Da­ten­schutz­be­hör­den raten eindringlich vom Kauf ab.
Ray-Ban, Brillen, smart glass
Meta
  • Die niederländische AP rät Konsumenten vom Kauf aktueller Smart Glasses ab
  • Getestete Modelle gaben gefährliche Falschmeldungen in Notfällen aus
  • Laut Reuters war teils ein unbefugter Fernzugriff auf Kameras möglich
  • Die Stiftung Bits of Freedom fordert ein Verkaufsverbot für die Brillen
  • Meta räumte im Februar Sichtungen von Videos durch externe Kräfte ein

Warnung vor gefährlicher KI

Die niederländische Datenschutzbehörde Autoriteit Persoonsgegevens rät Konsumenten eindringlich vom Kauf aktueller Smart Glasses ab. Eine Untersuchung von sechs Modellen mit integrierter Kamera und künstlicher Intelligenz zeigte, dass die Geräte die Privatsphäre von Mitmenschen gefährden und den Trägern schaden können. Und das von günstigen Brillen für unter 100 Euro bis zu namhaften High-End-Modellen.

Die Datenschützer simulierten unter anderem einen medizinischen Notfall. Die künstliche Intelligenz behauptete daraufhin fälschlicherweise, den Notruf 112 gewählt zu haben und dass ein Krankenwagen unterwegs sei. Zudem gaben die Systeme einem Erwachsenen Ratschläge für ein Date mit einem Kind und interpretierten Beipackzettel von Medikamenten falsch.

Darüber hinaus entdeckten die Prüfer massive Sicherheitslücken. Laut Reuters war es Unbefugten in der Nähe teilweise möglich, sich ohne Erlaubnis mit den Brillen zu verbinden, Aufnahmen anzusehen oder die Kamera fernzusteuern. Die aufgezeichneten Daten fließen zudem oft auf Server außerhalb der Europäischen Union (EU) und Aufnahme-Warnleuchten an den Smart Glasses ließen sich oft einfach abkleben, ohne die Funktion der Kamera zu beeinträchtigen.


Forderung nach Verkaufsverbot

Bürgerrechtler der Stiftung Bits of Freedom kritisieren die reine Warnung als unzureichend. Geschäftsführerin Evelyn Austin fordert, dass die Geräte vollständig vom Markt genommen werden. Bislang fehlt der Daten­schutz­behörde die Kompetenz für ein solches Verkaufsverbot, da das der Produkt­sicherheits­behörde obliegt. Im Rahmen des EU-Gesetzes zur künstlichen Intelligenz, dem AI Act, könnten die Datenschützer zukünftig mehr Befugnisse erhalten, um derartige Konsumgüter stärker zu regulieren.

Die Optikerkette Hans Anders hat den Verkauf von Metas intelligenten Ray-Ban-Brillen in den Niederlanden und Belgien bereits im Oktober gestoppt. Zudem verklagten niederländische Verbraucherschützer den Konzern im selben Monat wegen Datenschutzbedenken. Auf der anderen Seite betonen britische und niederländische Stellen, dass die Technik Menschen mit Sehbehinderungen helfen kann. Gerade für diese Gruppe sei es aber besonders wichtig, dass die künstliche Intelligenz zuverlässig ist.

Laut einigen Kommentatoren brachte Meta möglicherweise als Reaktion auf die öffentliche Kritik seine Version ohne Kamera auf den Markt. Zudem räumte das Unternehmen im Februar ein, dass externe Beschäftigte gelegentlich Videoaufnahmen von Nutzern sichten, um die Software zu verbessern. Gesichter sollen dabei vorab unkenntlich gemacht werden.

Nutzt ihr bereits Smart Glasses oder plant ihr eine Anschaffung? Teilt eure Gedanken und Bedenken zu den intelligenten Begleitern gerne mit uns in den Kommentaren!

Siehe auch:
Stefan Trunzik

Leitender Redakteur bei WinFuture.de

IT-Journalist seit 2003, der Hardware, Spiele und Gadgets selbst im Alltag testet. Sein Fokus liegt auf Kaufberatung und Verbraucherthemen.

WinFuture bei Google bevorzugenJetzt hinzufügen


Apple Watch Series 9 im Preisvergleich
Derzeit keine Angebote im Preisvergleich
Tipp einsenden
❤ WinFuture unterstützen
Sie wollen online einkaufen? Dann nutzen Sie bitte einen der folgenden Links, um WinFuture zu unterstützen: Vielen Dank!