Amazons Gesichtserkennung identifiziert 28 Politiker als Kriminelle

Das Thema biometrische Daten ist auch eines, das in der Politik sehr gerne herangezogen wird. So mancher Law-and-Order-Politiker sieht darin nämlich schon ein mächtiges Werkzeug gegen Kriminalität und Terror. Datenschützer und Bürgerrechtler sind hingegen skeptisch und warnen vor Big Brother und Überwachungsstaat.
Infografik: Schöne neue, biometrische Welt
Amazons Gesichtserkennung Rekognition wird schon länger heftig kritisiert, denn Bürgerrechtsorganisationen sind der Ansicht, dass deren Einsatz in freier Wildbahn zu Missbrauch führen könnte. Die American Civil Liberties Union (ACLU) hat nun einen weiteren Kritikpunkt angeführt bzw. beweisen können.

28 False Positives

Denn man konnte zeigen, dass Rekognition alles andere als perfekt arbeitet. Die ACLU hat Rekognition nämlich mit 25.000 Polizeifotos aus einer "öffentlichen Quelle" gefüttert und hat diese Datenbank mit den öffentlichen Fotos der insgesamt 535 Mitglieder des US-amerikanischen Kongresses verglichen.

Wie VentureBeat berichtet, wurden dabei 28 Politiker von der Amazon-Software fälschlicherweise als Kriminelle identifiziert. Besonders problematisch: Elf der 28 "False Positives" waren nicht-kaukasischer Herkunft. Die Software hatte also vor allem Probleme beim richtigen Erkennen von Menschen mit anderen Hautfarben als weiß, denn der Anteil der falschen Matches lag bei 38 Prozent. Der Kongress hat aber einen Anteil von 20 Prozent an Vertretern mit afrikanischer oder asiatischer Abstammung.

Die Aktion der American Civil Liberties Union hat Wirkung gezeigt. Denn sie hat drei demokratische Abgeordnete dazu gebracht, einen offenen Brief (PDF) an Amazon-CEO Jeff Bezos zu verfassen. Dabei schreiben sie, dass Gesichtserkennung zwar ein wertvolles Werkzeug der Polizeiarbeit sein mag, aber die "Effizienz und Auswirkung" solcher Software und Technologie noch nicht vollständig verstanden werde.

Sie verweisen auf die Folgen für Bürgerrechte und Privatsphäre und auch deren Zuverlässigkeit, Gesichtserkennung stelle in ihrer derzeitigen Form eine Gefahr dar.

Siehe auch: Heftige Kritik an Amazon-Gesichtserkennungssoftware für die Polizei Amazon, Privatsphäre, Gesichtserkennung, Rekognition Amazon