Tesla: KI-Kameras interpretieren Verkehrsschild falsch - mit Folgen

Für eine ordentliche Teilnahme am Straßenverkehr reicht es nicht, wenn die Systeme ihre Umgebung regelgerecht interpretieren. Das zeigen Experimente, in denen Sicherheits-Forscher McAfees Teslas Assistenz-Systeme mit einem Stück Klebeband austricksten. Menschliche Fahrer achten im besten Fall nicht nur auf ihre Umgebung, sondern sind auch in der Lage, viel weitergehende Situationen großräumig einzuschätzen. Das führt dazu, dass grobe Fehler in einer bestimmten Umgebung eher als außergewöhnliches Problem erkannt und entsprechend behandelt werden. Solch eine Feinabstimmung der Realität ist bei auto­ma­ti­sier­ten Systemen eher selten anzutreffen.

Das kann zu enormen Sicherheitsproblemen führen. In dem Experiment wurde das anhand eines Tesla-Fahrzeugs demonstriert, in dem das Mobileye EyeQ3-Kamerasystem in Ver­bin­dung mit dem Bordcomputer unter anderem auch dafür zuständig ist, Verkehrsschilder zu er­ken­nen und die Fahrassistenten mit den notwendigen Informationen zu versorgen.

Stur den Regeln nach!

Auf einem Schild, das die zulässige Höchst­ge­schwin­dig­keit auf 35 Meilen pro Stunde re­gu­liert, wurde die aufgedruckte Ziffer 3 durch ein Stück schwarzes Klebeband ver­ändert. Vor­bei­fah­rende Menschen würden mit sehr hoher Wahr­schein­lich­keit weiterhin die richtige Zahl auf dem Schild sehen. Das Bildanalyse-System im Tesla interpretierte die Weisung des Schildes al­ler­dings dahingehend, dass eine Höchst­ge­schwin­dig­keit von 85 Meilen pro Stunde vor­ge­ge­ben wurde. Die direkte Folge bestand darin, dass der Fahrassistent begann, das Fahr­zeug or­dent­lich zu beschleunigen.

Selbst wenn ein menschlicher Fahrer das Schild falsch interpretiert hätte, wäre ihm anhand der Umgebung sicherlich aufgefallen, dass eine solche Geschwindigkeitsbegrenzung nicht son­der­lich sinnvoll ist und wohl ein Fehler vorliegen muss. Ein Computer, dem umfangreichere "Lebenserfahrungen" fehlen, kommt natürlich kaum zu solch einem Schluss. Das dürfte ent­spre­chend auch kein Problem der Tesla-Technologie allein sein, auch wenn diese im ak­tuel­len Fall für das Experiment genutzt wurde.

Siehe auch: Teslas Autopilot erfasst Schlaglöcher, um sie später zu vermeiden