Windows Defender: Unkontrollierbare Scanner-KI bereitet Probleme

Microsoft hat gerade mit einer nicht gerade trivialen Schwierigkeit seines Windows Defenders zu kämpfen. Denn die KI-Unterstützung bei der Mal­ware-Erkennung erweist sich als ziemlich unkontrollierbar und Fehler las­sen sich nicht beseitigen. Der in Windows integrierte Virenscanner erledigt wichtige Teile seiner Arbeit in der Cloud. In den Azure-Datenzentren Microsofts steht ausreichend Rechenkapazität zur Verfügung, damit eine KI-Komponente anhand bestimmter Verhaltensmuster auffällige Software erkennt und an die lokalen Module die Anweisung zur Blockade gibt. Und genau dieser vermeintlich so fortschrittliche Mechanismus zeigt jetzt eindrucksvoll seine Nachteile.

Denn die Update-Funktion des Dolphine Emulators wurde von der KI-Komponente als Malware klassifiziert. Und es lässt sich nun im Nachhinein nicht oder nur ansatzweise nachvollziehen, warum diese Entscheidung getroffen wurde. Entsprechend ist es nicht möglich, mit feinen, dezenten Eingriffen für eine Umkonditionierung zu sorgen. Die Entscheidung besteht nun also eher darin, die KI in dem Glauben zu lassen, dass es sich um Malware handelt oder vielleicht an einen Punkt zu kommen, bei dem bestimmte Malware-Klassen überhaupt nicht mehr erkannt werden.

Das Problem mit der Black Box

Das ist ein grund­sätz­liches Problem der modernen Ma­schi­nen­lern-Al­go­rith­men. Sie werden eben nicht mehr mit festen Strukturen programmiert, sondern lernen ihre Analyse­fähig­keiten selbst­ständig in einer Black Box. Es kann extrem schwierig sein, in den großen Mengen an Trai­nings­ma­te­rial da­hin­ter­zu­kom­men, warum eine KI letztlich zu falschen Schlüssen kommt.

Microsoft löst das Problem mit der modernen Technik nun auf die ganz altmodische Weise. Der Windows Defender lässt den Dolphin Emulator nun über eine manuell gepflegte White List gewähren. Damit das funktioniert, müssen die Entwickler jede neue Version nach Redmond schicken, wo sie dann händisch eingepflegt wird.

Siehe auch: Windows Defender: Manuelles Scannen ist derzeit außer Gefecht