Schluss mit Anonymität: KI kann Nutzer oft recht leicht enttarnen

Die Einrichtung eines anonymen Social-Media-Kontos bedeutet nicht, dass interessierte Kreise den dahinterstehenden Nutzer nicht enttarnen könnten. Aktuelle KI-Modelle schaffen dies auch ohne Zugriff auf eventuelle Spuren in der Datenverbindung.

Perfekt in der Mustererkennung

Die KI-Forscher Simon Lermen und Daniel Paleka untersuchten laut eines Berichts des Guardian, wie Künstliche Intelligenz öffentlich verfügbare Informationen auswertet. Ihr Ergebnis: Große Sprachmodelle (LLM) können komplexe Privatsphäre-Angriffe automatisieren und damit erheblich günstiger und einfacher machen. Das zwinge dazu, grundlegend neu zu bewerten, was im Internet überhaupt noch als privat gelten könne.

In ihrem Experiment fütterten die Wissenschaftler eine KI mit Daten aus anonymen Accounts. Das System sammelte anschließend alle verfügbaren Hinweise und suchte im Netz nach Übereinstimmungen. Als Beispiel nennen die Autoren einen fiktiven Nutzer, der online über Schulprobleme schreibt und erwähnt, mit seinem Hund durch einen bestimmten Park zu gehen. Aber auch subtilere Hinweise lassen Rückschlüsse zu. Eine KI könnte solche Details schnell mit anderen Plattformen abgleichen und so den anonymen Account einer realen Person zuordnen.


Solche Szenarien könnten weitreichende Folgen haben. Laut Studie könnten Regierungen KI einsetzen, um anonym auftretende Aktivisten oder Dissidenten zu überwachen. Gleichzeitig könnten Kriminelle personalisierte Betrugsversuche starten. Schon heute würden öffentlich zugängliche Informationen häufig für sogenannte Spear-Phishing-Angriffe genutzt, erklärte Lermen. Dabei geben sich Angreifer als vertraute Personen aus, um Opfer zum Anklicken schädlicher Links zu bewegen.

KI macht auch Fehler

Mit KI sinke nun die technische Einstiegshürde für solche Angriffe deutlich: Ein öffentlich verfügbares Sprachmodell und Internetzugang könnten ausreichen. Der Informatikprofessor Peter Bentley von der University College London sieht auch Risiken, falls kommerzielle Produkte zur gezielten Enttarnung von Nutzern entstehen. Gleichzeitig warnt er vor Fehlzuordnungen. Sprachmodelle machten regelmäßig Fehler, was dazu führen könne, dass Menschen fälschlich mit bestimmten Online-Aktivitäten in Verbindung gebracht werden.

Auch Marc Juárez von der University of Edinburgh äußerte laut der Zeitung Bedenken. KI könne nicht nur soziale Netzwerke auswerten, sondern auch andere öffentliche Datenquellen kombinieren. Viele dieser Datensätze seien möglicherweise nicht ausreichend anonymisiert für das KI-Zeitalter.

Allerdings sei KI kein perfektes Werkzeug zur Enttarnung. Wenn zu wenige Informationen vorliegen oder zu viele mögliche Treffer existieren, lasse sich keine eindeutige Identität bestimmen, erklärte Marti Hearst von der University of California, Berkeley. Die Forscher empfehlen Plattformen daher, den Zugriff auf Nutzerdaten stärker zu begrenzen, automatisiertes Datensammeln zu erkennen und Massenexporte einzuschränken. Gleichzeitig sollten Nutzer selbst vorsichtiger sein, welche persönlichen Details sie online preisgeben.


Siehe auch: