Phantom-Bilder von Verkehrszeichen verwirren Teslas Autopiloten

So genannte Phantombilder können die Bildanalyse-Systeme autonomer und teilautonomer Fahrzeuge empfindlich stören. Das zeigten jetzt Sicherheitsforscher aus Israel, die auf Werbetafeln am Straßenrand für Sekundenbruchteile Verkehrszeichen einblendeten. Vor vielen Jahren gab es immer wieder Gerüchte, wonach in die Zelluloidfilme der Kinos einzelne Bilder mit Werbe- oder Propaganda-Nachrichten eingebaut wurden. Diese seien für den Betrachter zwar nicht wahrnehmbar, würden aber Botschaften im Unterbewusstsein verankern. Was nichts anderes als eine Verschwörungstheorie ohne Wirkungsnachweis war, könnte bei automatisierten Systemen tatsächlich passieren.

Einblendungen in Videos, die lediglich für Sekundenbruchteile vorhanden sind, lassen sich vom Menschen kaum wahrnehmen. Technische Systeme erkennen die Bilder aber sehr gut, wenn sie nicht gerade noch sehr viel kürzer sichtbar sind, als die Framerate der jeweiligen Aufnahmetechnik. Und für die KI-Systeme, die die Bilder analysieren, macht die Länge der Sichtbarkeit nicht unbedingt viel aus.

Lösung ist machbar

Die Forscher der Ben Gurion Universität nutzten dies aus, um Informationen in Werbespots zu verstecken, die auf Werbetafeln an Straßen gezeigt werden. Kurzzeitig wurden hier Stop-Schilder oder Verkehrszeichen zur Geschwindigkeitsbegrenzung eingeblendet - mal so, dass auch Menschen sie bei hinreichender Aufmerksamkeit wahrnehmen, in anderen Versuchen so kurz, dass quasi nur die Computeroptik schnell genug ist.

Beides genügte, um die Fahrautomatik zu Reaktionen zu bringen. Als beispielsweise in einer McDonald's-Werbung für eine halbe Sekunde ein Stop-Schild sichtbar war, ließ der Autopilot eines Tesla-PKW das Fahrzeug anhalten. Gleiches funktionierte auch bei weniger auffälligen Manipulationen. Und auch nicht nur bei Tesla-Systemen, sondern auch bei der Technologie des konkurrierenden Anbieters Mobileye.

Laut den Forschern kann dies zu ernsten Problemen im Straßenverkehr führen, wenn Angreifer es beispielsweise darauf anlegen, Chaos zu verursachen. Es dürfte in manchen Fällen schon ausreichen, wenn ein Fahrzeug aufgrund eines für andere unsichtbaren Impulses plötzlich stark abbremst, um eine Kettenreaktion oder Unfälle zu verursachen. Aus Sicht der Wissenschaftler gibt es aber auch Möglichkeiten, das Problem zu unterbinden - etwa indem die Bildanalyse die erkannten Bildinformationen in einen Kontext zu den umgebenden Sichtbereichen setzt - was dann aber eben auch eine höhere Rechenleistung erfordert.

Siehe auch: