Flock-Kameras verfolgen Journalisten über Tage und schicken die Polizei

Das KI-gestützte Kamera-System Flock hat jetzt gezeigt, welche Folgen der Einsatz solcher Technologien haben kann. Nach einem kleinen Eingabefehler verfolgte es einen unschuldigen Journalisten über Tage und sorgte für dessen Verhaftung.

KI-gestütztes Überwachungs-Netzwerk

Der Vorfall ereignete sich Ende Juni, als der Redakteur eines Automagazins mit einem rund 155.000 Dollar (etwa 142.600 Euro) teuren Range Rover unterwegs war, den ihm der Hersteller für einen Fahrzeugtest zur Verfügung gestellt hatte. Nach einem Einkauf wurde das Paar auf dem Parkplatz eines Kaufhauses plötzlich von vier Polizeifahrzeugen gestoppt. Die Beamten gingen zunächst davon aus, dass entweder das Fahrzeug oder dessen Kennzeichen gestohlen worden seien, berichtete The Drive.

Wie sich später herausstellte, hatte die Polizei den Wagen bereits mehrere Tage lang mithilfe des Kamera- und KI-Systems Flock verfolgt. Das Netzwerk erfasst Kennzeichen im Straßenverkehr und meldet Fahrzeuge, die in Fahndungsdatenbanken als gestohlen registriert sind. Nachdem eine Kamera den Range Rover erneut erkannt hatte, bereiteten die Beamten einen Zugriff vor.


Erst nach etwa einer Stunde klärte sich die Situation auf. Das Kennzeichen des Testwagens stammte aus einer Serie von Herstellerkennzeichen aus dem US-Bundesstaat New Jersey. Bei einer Jaguar-Land-Rover-Niederlassung in Los Angeles war zuvor ein ähnliches Kennzeichen als verloren gemeldet worden. Allerdings wurde bei der Eingabe in das Fahndungssystem eine zweistellige Nummer im Kennzeichen ausgelassen. Da die KI des Kamerasystems diese kleine Ziffer ebenfalls nicht berücksichtigte, wurden mehrere Fahrzeuge mit ähnlichen Kennzeichen fälschlicherweise als gestohlen erkannt.

Nach Angaben der Beamten waren allein in Minnesota in derselben Woche vier weitere Fahrzeuge mit vergleichbaren Herstellerkennzeichen erfasst worden. Der gestoppte Journalist sei lediglich der erste gewesen, der persönlich mit der Polizei konfrontiert wurde. Die Beamten ließen das Paar schließlich frei und weiterfahren, rieten jedoch dringend, das Fahrzeug bis zur Korrektur der Daten nicht mehr zu benutzen, da jederzeit ein erneuter Polizeieinsatz drohen könne.

Nicht mal Diebstahl

Einige Tage später bestätigte ein Polizeibericht den eigentlichen Ursprung des Problems: Das ursprünglich gemeldete Kennzeichen war nicht gestohlen worden, sondern ging bei einem Fotoshooting verloren. Durch die unvollständige Erfassung in der Datenbank entstand jedoch eine fehlerhafte Fahndung, die sich über das automatisierte Überwachungssystem auf weitere Fahrzeuge übertrug.

Der Fall lenkt erneut den Blick auf die Zuverlässigkeit KI-gestützter Überwachungssysteme und die Folgen fehlerhafter Datensätze. Nach Einschätzung des Betroffenen zeigt der Vorfall, wie schnell ein einzelner Eingabefehler zu einem riskanten Polizeieinsatz führen kann, insbesondere, wenn automatisierte Systeme und Sicherheitsbehörden eng miteinander verknüpft sind.


Siehe auch: