Autonomes Fahren: Dunkelhäutige Fußgänger werden eher überfahren

Probleme von KI-Systemen beim Umgang mit dunkelhäutigen Menschen hatten bisher vor allem verletzte Gefühle zur Folge. Wie sich nun herausstellte, sind entsprechende Fehler aber ein weitaus gravierenderes Problem, wenn sie in autonomen Fahrzeugen auftreten. Das kann im schlimmsten Fall tödliche Folgen haben. Schon seit Jahren gibt es immer wieder Probleme in der Bild­er­ken­nungs­soft­ware Googles. Die dahintersteckenden Algorithmen für das Maschinenlernen hatten Schwierigkeiten bei der korrekten Einordnung, wenn sie es mit dunkelhäutigen Menschen zu tun bekamen. Hinter dem Problem steckt nicht unbedingt eine Schwäche der Software (oder gar der Hardware) selbst, sondern eine mangelhafte Auswahl bei den Trainingsdaten.

Denn jede Maschinenlernen-KI reproduziert letztlich die Essenz der Informationen, die sie vorgesetzt bekommt. Und während bei vielen Menschen hier im Zweifelsfall in letzter Instanz noch eine gewisse Moral als Filter eingreift, kommen die so antrainierten Effekte bei einem Computersystem recht klar durch. Das musste auch Microsoft lernen, als dessen KI mit Social Media-Kommentaren erzogen wurde und letztlich begann, rassistische und antisemitische Vorurteile nachzuplappern.

Weiße leben länger

Den gleichen Effekt haben Forscher vom Georgia Institute of Technology jetzt bei einer Analyse acht verschiedener KIs ausfindig gemacht, die in autonomen Fahrzeugen dafür sorgen, dass die Umgebung beobachtet wird und das Auto angemessen reagiert. Diese Systeme wurden in Simulationen mit Straßenszenen konfrontiert, in denen immer wieder Fußgänger aller Art auftauchten. Die Reaktionen wurden in der Folge mit der so genannten Fitzpatrick-Skala abgeglichen, die zur Klassifizierung menschlicher Hauttöne entwickelt wurde.

Auch hier zeigte sich, dass die Systeme wesentlich schlechter mit Personen umgehen konnten, deren Hautfarbe in die dunkelsten drei Stufen der Skala eingestuft werden kann. Über alle möglichen Verkehrssituationen, Wetterverhältnisse und sonstigen Optionen hinweg lag die korrekte Personenerkennung um durchschnittlich 5 Prozent unter dem allgemeinen Mittel. Das bedeutet schlicht, dass dunkelhäutige Menschen mit einem höheren Risiko leben, von einem autonomen Fahrzeug überfahren zu werden.

Siehe auch: Dunkelhäutige oder Gorillas? Googles Bilderkennung weiterhin ratlos