Phantom-Bilder von Verkehrszeichen verwirren Teslas Autopiloten

So genannte Phantombilder können die Bildanalyse-Systeme autonomer und teilautonomer Fahrzeuge empfindlich stören. Das zeigten jetzt Sicherheitsforscher aus Israel, die auf Werbetafeln am Straßenrand für Sekundenbruchteile Verkehrszeichen einblendeten. Vor vielen Jahren gab es immer wieder Gerüchte, wonach in die Zelluloidfilme der Kinos einzelne Bilder mit Werbe- oder Propaganda-Nachrichten eingebaut wurden. Diese seien für den Betrachter zwar nicht wahrnehmbar, würden aber Botschaften im Unterbewusstsein verankern. Was nichts anderes als eine Verschwörungstheorie ohne Wirkungsnachweis war, könnte bei automatisierten Systemen tatsächlich passieren.

Einblendungen in Videos, die lediglich für Sekundenbruchteile vorhanden sind, lassen sich vom Menschen kaum wahrnehmen. Technische Systeme erkennen die Bilder aber sehr gut, wenn sie nicht gerade noch sehr viel kürzer sichtbar sind, als die Framerate der jeweiligen Aufnahmetechnik. Und für die KI-Systeme, die die Bilder analysieren, macht die Länge der Sichtbarkeit nicht unbedingt viel aus.

Lösung ist machbar

Die Forscher der Ben Gurion Universität nutzten dies aus, um Informationen in Werbespots zu verstecken, die auf Werbetafeln an Straßen gezeigt werden. Kurzzeitig wurden hier Stop-Schilder oder Verkehrszeichen zur Geschwindigkeitsbegrenzung eingeblendet - mal so, dass auch Menschen sie bei hinreichender Aufmerksamkeit wahrnehmen, in anderen Versuchen so kurz, dass quasi nur die Computeroptik schnell genug ist.

Beides genügte, um die Fahrautomatik zu Reaktionen zu bringen. Als beispielsweise in einer McDonald's-Werbung für eine halbe Sekunde ein Stop-Schild sichtbar war, ließ der Autopilot eines Tesla-PKW das Fahrzeug anhalten. Gleiches funktionierte auch bei weniger auffälligen Manipulationen. Und auch nicht nur bei Tesla-Systemen, sondern auch bei der Technologie des konkurrierenden Anbieters Mobileye.

Laut den Forschern kann dies zu ernsten Problemen im Straßenverkehr führen, wenn Angreifer es beispielsweise darauf anlegen, Chaos zu verursachen. Es dürfte in manchen Fällen schon ausreichen, wenn ein Fahrzeug aufgrund eines für andere unsichtbaren Impulses plötzlich stark abbremst, um eine Kettenreaktion oder Unfälle zu verursachen. Aus Sicht der Wissenschaftler gibt es aber auch Möglichkeiten, das Problem zu unterbinden - etwa indem die Bildanalyse die erkannten Bildinformationen in einen Kontext zu den umgebenden Sichtbereichen setzt - was dann aber eben auch eine höhere Rechenleistung erfordert.

Siehe auch:


Problem, Störung, Verkehrsschild Problem, Störung, Verkehrsschild Pixabay
Diese Nachricht empfehlen
Jetzt einen Kommentar schreiben


Alle Kommentare zu dieser News anzeigen
Kommentar abgeben Netiquette beachten!
Einloggen

Jetzt als Amazon Blitzangebot

Ab 00:00 Uhr RCA auf HDMI Adapter, Faersi 1080P RCA HDMI Adapter AV zu HDMI Video Audio Konverter Adapter für PS2/PS4/Wii/Xbox/N64/PS3/VHS/VCR/TV/DVD Unterstützt PAL/Ntsc mit USB-NetzkabelRCA auf HDMI Adapter, Faersi 1080P RCA HDMI Adapter AV zu HDMI Video Audio Konverter Adapter für PS2/PS4/Wii/Xbox/N64/PS3/VHS/VCR/TV/DVD Unterstützt PAL/Ntsc mit USB-Netzkabel
Original Amazon-Preis
12,49
Im Preisvergleich ab
?
Blitzangebot-Preis
10,61
Ersparnis zu Amazon 15% oder 1,88

Tipp einsenden

❤ WinFuture unterstützen

Sie wollen online einkaufen? Dann nutzen Sie bitte einen der folgenden Affiliate-Links, um WinFuture zu unterstützen: Vielen Dank!