KI-Waffenscanner fällt durch:
Wasserflaschen als Gefahr erkannt
Eine US-Highschool hat den Test eines KI-gestützten Waffenscanners vorerst abgebrochen. Das System, das WLAN-Signale zur Erkennung nutzt, löste zu viele Fehlalarme aus, da es alltägliche Schulmaterialien mit Waffen verwechselte.
Das von dem Unternehmen CurvePoint entwickelte System Wi-Ai nutzt keine Kameras, sondern analysiert WLAN-Signale. Kleine Sensoren messen an den Gebäudeeingängen, wie Personen und die von ihnen getragenen Objekte die Radiowellen reflektieren und verändern. Die Software sucht dabei nach Mustern, die auf eine Waffe hindeuten. Bei Auffälligkeiten alarmiert das System das Personal per Textnachricht, E-Mail oder über ein spezielles Dashboard.
Ursprünglich sollte das Modell eine Genauigkeit von 95 Prozent erreichen, um als primäres Sicherheitssystem der Schule eingesetzt zu werden. Laut dem zuständigen Schulbezirksleiter Mark Holtzman kam die Erkennungsrate diesem Ziel nicht einmal nahe. CurvePoint-CEO Skip Smith begründete die Probleme mit umgebungsbedingten Herausforderungen. Türkonfigurationen und Baumaterialien würden beeinflussen, wie sich die WLAN-Signale ausbreiten und reflektiert werden. Das Unternehmen arbeitet weiter an der Technik, nannte aber keinen neuen Termin für eine offizielle Einführung.
Der Schulbezirk erhält das bereits für die Detektoren gezahlte Geld zurück, da das Programm nicht in den Regelbetrieb ging. Laut Vertrag waren für die Überwachung und Datenanalyse in den ersten drei Jahren jährlich 60.000 Dollar (etwa 54.648 Euro) vorgesehen, während die Installation für die Pilotschulen kostenlos war.
Dass KI-Sicherheitssysteme an Schulen fehleranfällig sein können, zeigte sich im vergangenen Jahr an einer Highschool im US-Bundesstaat Maryland. Dort verwechselte eine KI-Kamera eine Tüte Doritos mit einer Schusswaffe. Ein 16-jähriger Schüler wurde daraufhin von der Polizei in Handschellen gelegt.
Haltet ihr den Einsatz von KI-Scannern an Schulen für sinnvoll oder überwiegen für euch die Risiken durch Fehlalarme? Teilt eure Meinung gerne in den Kommentaren!
- Eine US-Schule in Pennsylvania stoppt vorerst ein KI-Waffenerkennungssystem
- Das System Wi-Ai von CurvePoint analysiert WLAN-Signale statt Kamerabildern
- In der Pilotphase stufte die Technik Alltagsgegenstände fälschlich als Waffen ein
- Laut dem Schulbezirksleiter kam die Erkennungsrate dem 95-Prozent-Ziel nicht nahe
- Der CEO von CurvePoint begründete die Fehler mit Umweltfaktoren wie Baumaterial
- Der Schulbezirk erhält das gezahlte Geld zurück und die Installation war gratis
KI-Scanner scheitert im Schulalltag
Die Hempfield Area High School im US-Bundesstaat Pennsylvania hat die Einführung eines KI-gestützten Waffenerkennungssystems vorerst gestoppt. Das System sollte für mehr Sicherheit an den Eingängen sorgen, erwies sich im Schulalltag jedoch als höchst unzuverlässig. Anstatt verdeckte Waffen zu identifizieren, schlug die Technik bei alltäglichen Gegenständen der Schüler Alarm.Das von dem Unternehmen CurvePoint entwickelte System Wi-Ai nutzt keine Kameras, sondern analysiert WLAN-Signale. Kleine Sensoren messen an den Gebäudeeingängen, wie Personen und die von ihnen getragenen Objekte die Radiowellen reflektieren und verändern. Die Software sucht dabei nach Mustern, die auf eine Waffe hindeuten. Bei Auffälligkeiten alarmiert das System das Personal per Textnachricht, E-Mail oder über ein spezielles Dashboard.
Wasserflaschen statt Waffen
Laut TechSpot sammelte das System während einer Pilotphase Trainingsdaten, hatte jedoch Schwierigkeiten, echte Bedrohungen von gewöhnlichen Schulmaterialien zu unterscheiden. Das System stufte Aktenordner, metallische Wasserflaschen, Regenschirme und Powerbanks fälschlicherweise als Waffen ein, was zu vielen Fehlalarmen führte.Ursprünglich sollte das Modell eine Genauigkeit von 95 Prozent erreichen, um als primäres Sicherheitssystem der Schule eingesetzt zu werden. Laut dem zuständigen Schulbezirksleiter Mark Holtzman kam die Erkennungsrate diesem Ziel nicht einmal nahe. CurvePoint-CEO Skip Smith begründete die Probleme mit umgebungsbedingten Herausforderungen. Türkonfigurationen und Baumaterialien würden beeinflussen, wie sich die WLAN-Signale ausbreiten und reflektiert werden. Das Unternehmen arbeitet weiter an der Technik, nannte aber keinen neuen Termin für eine offizielle Einführung.
Der Schulbezirk erhält das bereits für die Detektoren gezahlte Geld zurück, da das Programm nicht in den Regelbetrieb ging. Laut Vertrag waren für die Überwachung und Datenanalyse in den ersten drei Jahren jährlich 60.000 Dollar (etwa 54.648 Euro) vorgesehen, während die Installation für die Pilotschulen kostenlos war.
Dass KI-Sicherheitssysteme an Schulen fehleranfällig sein können, zeigte sich im vergangenen Jahr an einer Highschool im US-Bundesstaat Maryland. Dort verwechselte eine KI-Kamera eine Tüte Doritos mit einer Schusswaffe. Ein 16-jähriger Schüler wurde daraufhin von der Polizei in Handschellen gelegt.
Haltet ihr den Einsatz von KI-Scannern an Schulen für sinnvoll oder überwiegen für euch die Risiken durch Fehlalarme? Teilt eure Meinung gerne in den Kommentaren!
Thema:
Witold PryjdaSenior Redakteur
Seit 1996 im Journalismus, ausgebildet an der Österreichischen Medienakademie. Sein Spektrum reicht von Robotern und KI über E-Autos bis zur Militärtechnik.