Microsoft gibt zu: KI-Agenten in Windows 11 können halluzinieren

Windows 11 erhält durch ein neues Update erstmals autonome KI-Agenten für komplexe Aufgaben. Doch Microsoft warnt bei der Einführung ungewöhnlich deutlich vor Risiken. Da die KI Schreib­rechte besitzt, können Fehlfunktionen wichtige Dateien beschädigen.

Windows 11 wird immer mehr zum KI-Betriebssystem

Microsoft treibt die Transformation von Windows 11 zu einem durch künstliche Intelligenz gesteuerten Betriebssystem weiter voran. Mit dem aktuellen Update im Insider-Kanal (Build 26220.7262) implementiert der Konzern sogenannte "experimentelle agentenbasierte Funktionen". Diese Neuerung erlaubt es der KI erstmals, Aufgaben weitgehend autonom zu erledigen, Dateisysteme zu verwalten und Anwendungen ohne direktes menschliches Zutun zu steuern. Dieser Schritt markiert den Übergang vom reinen Chatbot hin zu handlungsfähigen Agenten, die komplexe Workflows übernehmen sollen.

Die Redmonder begleiten diese technische Evolution jedoch mit ungewöhnlich deutlichen Warnhinweisen direkt im Betriebssystem. Die eingesetzten KI-Modelle unterliegen laut Microsoft funktionalen Einschränkungen und können auch "halluzinieren". In der Praxis bedeutet das, dass die KI möglicherweise Daten missinterpretiert, unerwartete Änderungen vornimmt oder Ergebnisse liefert, die zwar plausibel wirken, aber faktisch inkorrekt sind. Klingt vertrauenserweckend. Nicht.


Die Folgen können schwerwiegend sein: Da die Agenten Schreibrechte auf dem System besitzen, wiegt das Risiko einer Halluzination hier schwerer als bei einer reinen Textausgabe im Browser.

Kritik an der frühen Einführung

Trotz der implementierten Sicherheitsvorkehrungen existieren erhebliche Bedenken bezüglich der Reife dieser Technologie. Wie Windows Latest berichtet, räumt Microsoft zwar offen ein, dass KI-Agenten unberechenbar handeln können, hält jedoch strikt am Zeitplan für die Integration fest.

Man kann und muss hierbei Parallelen zum verpatzten Start der "Recall"-Funktion im Jahr 2024 ziehen: Diese musste aufgrund massiver Datenschutzbedenken mehrfach verschoben werden und Kritiker bemängeln auch nun, dass Windows 11 erneut als Testfeld für Technologien dient, die potenziell neue Angriffsflächen bieten, bevor diese vollständig ausgereift sind.

Ein spezifisches neues Bedrohungsszenario, auf das Microsoft hinweist, ist die "Cross-Prompt Injection" (XPIA). Bei dieser Angriffsform können in harmlos wirkenden Dokumenten, E-Mails oder Webseiten bösartige Befehle versteckt sein, die für Menschen unsichtbar sind (etwa in weißer Schrift auf weißem Grund oder in Metadaten). Verarbeitet ein KI-Agent diese Inhalte, könnten die versteckten Instruktionen die eigentlichen Aufgaben des Nutzers überschreiben. Im schlimmsten Fall würde der Agent angewiesen, Malware herunterzuladen oder sensible Daten an Dritte zu versenden, ohne dass der Anwender diesen Vorgang aktiv anstößt.

Agent Workspace

Um diese Gefahren technisch einzudämmen, setzt Microsoft auf eine neue Architektur namens Agent Workspace. Sobald die Funktion aktiviert wird, erstellt Windows im Hintergrund separate Benutzerkonten für die KI-Agenten. Diese verfügen über eine eigene Sicherheitskennung (Security Identifier, SID) und laufen in isolierten Sitzungen parallel zum eigentlichen Nutzerkonto. Einen 100-prozentigen Schutz bietet aber auch das wohl nicht: Denn obwohl diese Sandbox eine Barriere schafft, erhalten die Agenten standardmäßig Lese- und Schreibrechte auf zentrale Ordner wie Dokumente, Downloads, Bilder und den Desktop, um ihre Aufgaben erfüllen zu können.

Die Kommunikation zwischen den Agenten und den installierten Anwendungen basiert technisch auf dem "Model Context Protocol" (MCP). Dieser offene Standard soll sicherstellen, dass Agenten nur innerhalb klar definierter Grenzen agieren und Daten kontextbezogen verarbeiten. Die Funktionen sind derzeit optional und müssen in den Systemeinstellungen unter "KI-Komponenten" manuell aktiviert werden. Sie richten sich primär an versierte Nutzer und Entwickler, die im Rahmen des "Copilot Labs"-Programms experimentieren möchten.

Würdet ihr einer KI weitreichende Zugriffsrechte auf eure Dateien gewähren, um Aufgaben zu automatisieren? Wir sind gespannt auf eure Meinung zu diesem Risiko-Nutzen-Verhältnis. Schreibt es uns in die Kommentare!


Siehe auch: