Tausende Gespräche von Kindern online:
KI-Spielzeug ist ein Problem

Ein vermeintlich harmloses Kuscheltier mit künstlicher Intelligenz hat gravierende Fragen zum Datenschutz bei Kindern aufgeworfen. Insbesondere, wenn die Hersteller mit mangelnden Kenntnissen über IT-Sicherheit ausgestattet sind.

Plüsch-Dino hält nicht dicht

Der IT-Sicherheitsforscher Joseph Thacker wurde kürzlich hellhörig, als eine Nachbarin ihm von ihrer Bestellung eines Plüschdinosauriers namens "Bondu" erzählte, berichtet das US-Magazin Wired. Das Spielzeug verspricht Kindern eine Art imaginären Freund: Über eine KI-Chatfunktion können sie mit dem Dino sprechen. Thacker, der sich beruflich mit Risiken von KI für Minderjährige beschäftigt, nahm das Produkt daraufhin genauer unter die Lupe.

Gemeinsam mit dem Web-Sicherheitsexperten Joel Margolis stieß er dabei auf ein alarmierendes Problem. Auf dem Webportal des Herstellers konnten sich die beiden mit einem beliebigen Google-Konto anmelden, ganz ohne zu hacken oder Sicherheitsbarrieren zu umgehen. Was sie dort vorfanden, waren die vollständigen Gesprächsprotokolle zehntausender Kinder: intime Unterhaltungen, Vorlieben, Spitznamen für das Spielzeug, Angaben zu Familie, Alter und sogar Entwicklungsziele, die Eltern festgelegt hatten.


Nach Angaben der Forscher waren mehr als 50.000 Chatverläufe offen einsehbar, also nahezu alle Gespräche, die jemals mit den Bondu-Spielzeugen geführt worden waren. "Es fühlte sich extrem übergriffig an", sagte Thacker. Die Einsicht in diese Daten sei ein massiver Eingriff in die Privatsphäre von Kindern gewesen.

Nachdem die Forscher das Unternehmen informiert hatten, reagierte Bondu schnell. Innerhalb weniger Minuten wurde das Portal abgeschaltet und einen Tag später mit verbesserter Zugriffskontrolle wieder online gestellt. Firmenchef Fateen Anam Rafid erklärte, die Sicherheitslücke sei innerhalb weniger Stunden behoben und anschließend eine umfassende Prüfung eingeleitet worden. Man habe keine Hinweise darauf, dass Unbefugte außer den Forschern Zugriff gehabt hätten.

Kinder besonders gefährdet

Doch für Thacker und Margolis reicht diese Reaktion nicht aus. Der Vorfall zeige grundsätzliche Risiken von KI-gestützten Spielzeugen, die gezielt persönliche Gespräche mit Kindern fördern. Selbst bei gesicherten Systemen stelle sich die Frage, wie viele Mitarbeitende Zugriff auf solche sensiblen Daten haben und wie gut diese geschützt sind. Margolis warnt, dass solche Informationen missbraucht werden könnten, etwa zur gezielten Manipulation oder sogar für schwere Verbrechen.

Hinzu kommt, dass Bondu laut den Forschern externe KI-Dienste wie Modelle von Google und OpenAI nutzt, wodurch Gesprächsinhalte weitergegeben werden könnten - wenn auch nach Angaben des Unternehmens nur in begrenztem und kontrolliertem Umfang. Das ist insbesondere bei Kindern problematisch, die normalerweise kaum verstehen, dass sie sich in Wirklichkeit nicht mit einem Plüschtier, sondern mit dem Datenzentrum erwachsener Unternehmer unterhalten.


Siehe auch: