Auf eigene Gefahr: Microsoft traut seinen KI-Agenten selbst nicht

Microsoft setzt derzeit alles daran, sein Betriebssystem Windows mit KI-Agents auszustatten. Allerdings traut es diesen selbst nicht über den Weg. Das Unternehmen warnt vor den Gefahren und aktiviert sie erst einmal nicht standardmäßig.

Können durchaus auch Malware installieren

Microsoft hat in einem ausführlichen Support-Dokument dargelegt, welche Auswirkungen die neuen KI-Agenten auf das System haben werden. Demnach erhalten die Agenten eigene Windows-Konten und können, je nach Aufgabe, eingeschränkt auf Nutzerverzeichnisse zugreifen. Falls erforderlich, dürfen sie sogar Lese- und Schreibrechte in Ordnern wie Dokumente, Downloads oder Desktop nutzen.

Alle Aktionen sollen protokolliert und müssen letztlich von Nutzern bestätigt werden. Trotz dieser Vorsichtsmaßnahmen räumt Microsoft ein, dass der Einsatz solcher Agenten zusätzliche Risiken mit sich bringt. In der Warnung spricht das Unternehmen offen von "neuartigen Sicherheitsbedrohungen".


Dazu zählt unter anderem die Möglichkeit, dass KI-Modelle aufgrund fehlerhafter Entscheidungen oder sogenannter Halluzinationen unerwartete Befehle ausführen. Besonders kritisch ist laut Microsoft das Risiko sogenannter Cross-Prompt-Injection-Angriffe. Dabei können manipulierte Inhalte in Benutzeroberflächen oder Dokumenten die KI dazu bringen, unerwünschte Aktionen auszuführen. Dazu gehöre das Abgreifen von Daten oder sogar die Installation von Schadsoftware.

Arbeit und Ideen nötig

Um solche Szenarien zu verhindern, sollen die neuen Funktionen erst durch die Nutzer selbst aktiviert werden. Das bedeutet: Auch nach der Einführung in einem kommenden Windows-Update bleiben die KI-Agenten zunächst inaktiv. Wer Windows 11 nutzt, muss also nicht befürchten, dass die Software im Hintergrund selbstständig Programme installiert oder Daten versendet - zumindest vorerst. Die Aktivierung und Nutzung erfolgen dann quasi ausdrücklich auf eigene Gefahr.

Microsoft treibt den Ausbau von KI-Funktionen in nahezu allen Produktbereichen voran, von Office über Windows bis hin zur Xbox-Sparte. Beobachter rechnen damit, dass die Agenten langfristig eine zentrale Rolle im Betriebssystem einnehmen könnten. Irgendwann werden sie sicher auch standardmäßig aktiviert. Bis dahin sollte es beim Hersteller aber besser eine Idee geben, wie man sie von unerwünschtem Verhalten abhält.


Siehe auch: