Sicherheitsforscher entwickelt Muster, um KI-Kameras zu verwirren

Ein Sicherheitsexperte hat ein spezielles Muster entwickelt, das KI-gestützte Überwachungskameras gezielt verwirrt. Objekte wie Autos oder Menschen werden von der Software nicht mehr erkannt. Das System schützt so die Privatsphäre im öffentlichen Raum.

KI-Muster verwirrt smarte Kameras

Auf der Hacker-Konferenz Def Con in Las Vegas hat der Sicherheitsexperte Bill Swearingen kürzlich das Projekt noRecognition präsentiert. Dessen Ziel ist es, automatisierte Überwachungssysteme daran zu hindern, Personen oder Fahrzeuge zu identifizieren. Dafür verhüllte Swearingen einen Toyota Yaris mit einem generierten Muster und fuhr an einer Kamera vorbei. Die Erkennungssoftware, die auch beim umstrittenen Flock-System zum Einsatz kommt, scheiterte daran, das Auto zu klassifizieren.

Das System nutzt das Prinzip des Adversarial Machine Learning. Das Muster verhindert nicht, dass eine Kamera das Video aufzeichnet. Es zielt vielmehr auf die nachgelagerte Software ab, die das Bildmaterial analysiert. Für das menschliche Auge wirkt das Design wie ein abstraktes Konstrukt, es führt aber die neuronalen Netze der Erkennungsalgorithmen in die Irre. Dadurch ordnet die Software das Gesehene falsch ein.

Training durch Millionen Tests

Laut TechCrunch berichtet, investierte Swearingen ein Jahr in die Entwicklung. In rund 31 Millionen Durchläufen trainierte ein Modell für maschinelles Lernen sich selbst darauf, Schwachstellen in offenen Algorithmen zu finden. Scheiterte ein Muster, passte das System das Design so lange an, bis die Erkennung fehlschlug.

Laut Swearingen überlistet die Software mittlerweile elf gängige Erkennungssysteme, darunter Technologien von Anbietern wie Flock, Axon und Clearview AI. Als Motivation für das Projekt nannte der Entwickler die zunehmende Dichte an Überwachungskameras in seiner Heimatstadt Kansas City. Das Vorhaben soll Menschen die Möglichkeit geben, sich der automatisierten Erfassung im öffentlichen Raum zu entziehen.

Skepsis und Zukunftspläne

Trotz der erfolgreichen Tests gibt es Einschränkungen: Bislang haben unabhängige Forscher die Daten nicht verifiziert, da Swearingen die effektivsten Muster vorerst unter Verschluss hält. Zudem könnten veränderte Lichtverhältnisse, abweichende Kamerawinkel oder Software-Updates der Hersteller die Wirksamkeit im Alltag reduzieren. Anbieter von Überwachungstechnik werden ihre Modelle vermutlich zeitnah anpassen, um die entstandene Lücke wieder zu schließen.

Um die Technologie für Endanwender zugänglich zu machen, läuft aktuell auf Kickstarter eine Crowdfunding-Kampagne. Geplant sind Kleidungsstücke wie T-Shirts und Kapuzenpullover, die mit den Mustern bedruckt sind. Auch spezielle Folien für Fahrzeuge befinden sich in Planung. Die Herausforderung besteht nun darin, die Muster groß und hochauflösend genug zu gestalten. Sie müssen auf Distanz funktionieren, ohne im Alltag unpraktisch zu sein.

Was haltet ihr von solchen Mustern gegen Kamera-Überwachung? Teilt eure Gedanken und Bedenken dazu gerne unten in den Kommentaren mit uns!


Siehe auch: