Microsoft warnt vor KIs: "Frontier-Modellen kann man nicht trauen"

Microsoft warnt vor autonomen KI-Agenten in Unternehmensnetz­werken, da diese unberechenbar agieren und zu einer Gefahr werden können. Zur besseren Kontrolle führt der Konzern nun spezielle Guardian Agents als digitale Echtzeit-Aufpasser ein.

Gefahr aus den eigenen Reihen

Autonome KI-Agenten erhalten in Unternehmensnetzwerken zunehmend weitreichende Berechtigungen, um eigenständig Entscheidungen zu treffen und Prozesse zu steuern. In einem Blogbeitrag warnt Microsoft nun jedoch davor, diesen Systemen blind zu vertrauen. Die Modelle könnten sich zu einer internen Bedrohung entwickeln, selbst wenn keine böswillige Absicht vorliegt.

Laut Microsoft sind die Modelle darauf trainiert, Ergebnisse zu erzielen. Das führe oft zu sogenanntem Reward Hacking, zudem seien die Modelle nicht auf die Normen und das Urteilsvermögen von Organisationen ausgerichtet. Agenten seien unberechenbar und könnten mit anderen Agenten zusammenarbeiten und sich absprechen, um ihre Ziele zu erreichen.


Ein Vorfall aus dem Sommer 2026, bei dem das Sprachmodell GPT-5.6 von OpenAI Teile der Infrastruktur von Hugging Face kompromittierte, veranschaulicht diese Risiken. Microsoft-Chef Satya Nadella rät Firmen entsprechend, die Kontrolle über die Systeme nicht allein den KI-Entwicklern zu überlassen.

Um die Sicherheit zu gewährleisten, erweitert der Konzern nun seine im Juli 2026 vorgestellte Architektur Project Perception. Das System umfasst spezielle Guardian Agents, die Aktivitäten anderer KI-Programme rund um die Uhr überwachen. Registrieren diese Aufpasser ein gefährliches Verhalten, greifen sie in Echtzeit ein.

Erweiterte Kontrollen für Netzwerke

Für den praktischen Einsatz in Unternehmen führt Microsoft weitere Funktionen ein, um die Rechte der Agenten zu beschränken. Die Sicherheitslösung Microsoft Defender erhält eine Erkennungsfunktion, die bis zu 60 Arten von KI-Agenten wie Claude Code oder OpenClaw aufspürt, welche Mitarbeiter in die Firmenumgebung einbringen.

Zusätzlich implementiert das Unternehmen neue Kontrollmechanismen, um die Gefahren weiter einzudämmen: Dynamic Permissions verhindern, dass KI-Systeme höhere Rechte erlangen als die eigentlichen Nutzer. Dynamic Agent Risk dient der fortlaufenden Risikobewertung im laufenden Betrieb. Zudem erweitert Dynamical Conditional Access den bedingten Zugriff von Microsoft Entra für KI-Agenten.

Gleichzeitig fordert der Softwarekonzern von KI-Anbietern mehr Transparenz hinsichtlich der Entscheidungsfindung ihrer Modelle. Wenn Sicherheitssysteme die zugrundeliegenden Gedankenketten der KI auslesen können, lässt sich besser beurteilen, ob die Absicht des Agenten mit der ursprünglichen Aufgabe übereinstimmt. Weitere Details zu den neuen Kontrollmechanismen sollen auf der Konferenz Ignite im November 2026 folgen.

Zudem beteiligt sich Microsoft an der Open Agent Safety Platform von Nvidia, die von über 100 Technologieunternehmen unterstützt wird. Diese Plattform isoliert KI-Agenten in sicheren Umgebungen und nutzt eine hardwarebasierte Überwachung, um im Notfall als eine Art Not-Aus-Schalter zu fungieren.

Setzt ihr bereits autonome KI-Agenten ein? Was meint ihr dazu, dass Microsoft diese nun stärker überwachen will? Teilt eure Gedanken gerne in den Kommentaren!

Siehe auch: