Tesla: KI-Kameras interpretieren Verkehrsschild falsch - mit Folgen

Problem, Störung, Verkehrsschild Bildquelle: Pixabay
Für eine ordentliche Teilnahme am Straßenverkehr reicht es nicht, wenn die Systeme ihre Umgebung regelgerecht interpretieren. Das zeigen Experimente, in denen Sicherheits-Forscher McAfees Teslas Assistenz-Systeme mit einem Stück Klebeband austricksten. Menschliche Fahrer achten im besten Fall nicht nur auf ihre Umgebung, sondern sind auch in der Lage, viel weitergehende Situationen großräumig einzuschätzen. Das führt dazu, dass grobe Fehler in einer bestimmten Umgebung eher als außergewöhnliches Problem erkannt und entsprechend behandelt werden. Solch eine Feinabstimmung der Realität ist bei auto­ma­ti­sier­ten Systemen eher selten anzutreffen.

Das kann zu enormen Sicherheitsproblemen führen. In dem Experiment wurde das anhand eines Tesla-Fahrzeugs demonstriert, in dem das Mobileye EyeQ3-Kamerasystem in Ver­bin­dung mit dem Bordcomputer unter anderem auch dafür zuständig ist, Verkehrsschilder zu er­ken­nen und die Fahrassistenten mit den notwendigen Informationen zu versorgen.

Tesla-System interpretiert Verkehrsschild falsch

Stur den Regeln nach!

Auf einem Schild, das die zulässige Höchst­ge­schwin­dig­keit auf 35 Meilen pro Stunde re­gu­liert, wurde die aufgedruckte Ziffer 3 durch ein Stück schwarzes Klebeband ver­ändert. Vor­bei­fah­rende Menschen würden mit sehr hoher Wahr­schein­lich­keit weiterhin die richtige Zahl auf dem Schild sehen. Das Bildanalyse-System im Tesla interpretierte die Weisung des Schildes al­ler­dings dahingehend, dass eine Höchst­ge­schwin­dig­keit von 85 Meilen pro Stunde vor­ge­ge­ben wurde. Die direkte Folge bestand darin, dass der Fahrassistent begann, das Fahr­zeug or­dent­lich zu beschleunigen.

Selbst wenn ein menschlicher Fahrer das Schild falsch interpretiert hätte, wäre ihm anhand der Umgebung sicherlich aufgefallen, dass eine solche Geschwindigkeitsbegrenzung nicht son­der­lich sinnvoll ist und wohl ein Fehler vorliegen muss. Ein Computer, dem umfangreichere "Lebenserfahrungen" fehlen, kommt natürlich kaum zu solch einem Schluss. Das dürfte ent­spre­chend auch kein Problem der Tesla-Technologie allein sein, auch wenn diese im ak­tuel­len Fall für das Experiment genutzt wurde.

Siehe auch: Teslas Autopilot erfasst Schlaglöcher, um sie später zu vermeiden Problem, Störung, Verkehrsschild Problem, Störung, Verkehrsschild Pixabay
Diese Nachricht empfehlen
Kommentieren33
Jetzt einen Kommentar schreiben


Alle Kommentare zu dieser News anzeigen
Kommentar abgeben Netiquette beachten!
Einloggen

Jetzt als Amazon Blitzangebot

Ab 15:40 Uhr Android 8.1 tablet 10 inch 1920 x 1200 Full HD IPS touchscreen, dual camera 3 MP en 8 MP, 4 GB RAM 64 GB geheugen, Octa Core CPU, WiFi/Wlan/Bluetooth/GPS TYD-108 (zwart)Android 8.1 tablet 10 inch 1920 x 1200 Full HD IPS touchscreen, dual camera 3 MP en 8 MP, 4 GB RAM 64 GB geheugen, Octa Core CPU, WiFi/Wlan/Bluetooth/GPS TYD-108 (zwart)
Original Amazon-Preis
108,00
Im Preisvergleich ab
?
Blitzangebot-Preis
91,80
Ersparnis zu Amazon 15% oder 16,20

WinFuture Mobil

WinFuture.mbo QR-Code Auch Unterwegs bestens informiert!
Nachrichten und Kommentare auf
dem Smartphone lesen.

Folgt uns auf Twitter

WinFuture bei Twitter

Interessante Artikel & Testberichte

Tipp einsenden