Allererster 0-Click-Angriff auf KI enthüllt grundlegendes Design-Problem

Forscher haben die allererste Zero-Click-Schwachstelle in einem KI-Assistenten entdeckt. Microsoft 365 Copilot erlaubte Angreifern den Zugriff auf sensible Daten, ganz ohne Nutzerinter­aktion. Das Problem liegt im grundlegenden Design von KI-Assistenten.

Gravierende Sicherheitslücke in Copilot

Microsofts KI-Assistent Copilot hatte schon in der Vergangenheit für Sicherheitsbedenken gesorgt. So stufte das Office of Cybersecurity die künstliche Intelligenz etwa als "Risiko für die Nutzer" ein. Selbst Microsofts eigene Mitarbeiter hielten die KI für unsicher. Daher erscheint es nicht völlig überraschend, dass Sicherheitsforscher jetzt eine Zero-Click-Sicherheitslücke im Assistenten des Redmonder Unternehmens gefunden haben. Es handelt sich um die erste dokumentierte Zero-Click-Schwachstelle in einem kommerziellen KI-System.

Die als "EchoLeak" bezeichnete Lücke erlaubte es Angreifern, ohne jegliche Nutzerinteraktion und allein durch das Senden einer E-Mail sensible Informationen aus den mit Copilot verbundenen Anwendungen und Datenquellen abzugreifen. Die schadhaften E-Mails enthielten dabei weder Phishing-Links noch Malware-Anhänge. Der Angriff nutzte stattdessen einen Mechanismus, bei dem eine versteckte Anweisung in die harmlose aussehende Geschäfts-E-Mail eingebettet wurde.


Die eingeschleuste Anweisung veranlasste das System, interne Daten in einen präparierten Link oder ein Bild einzufügen. Auf diese Weise konnten Angreifer Zugang zu vertraulichen Dokumenten, E-Mails, Kalenderterminen und anderen sensiblen Informationen erlangen, die normalerweise durch Microsofts Sicherheitsrichtlinien geschützt sind.

Fünf Monate bis zur vollständigen Behebung

Das Sicherheitsunternehmen Aim Security, das die Schwachstelle entdeckte, teilte mit, dass es fünf Monate dauerte, bis Microsoft das Problem vollständig beheben konnte. Ein erster Reparaturversuch scheiterte, als im Mai zusätzliche Sicherheitsprobleme im Zusammenhang mit der Schwachstelle entdeckt wurden. Infografik Generative KI: Welche GenAI-Tools werden in Deutschland genutzt?

Bereits bekannte Copilot-Schwachstellen

Wie eingangs erwähnt, ist EchoLeak nicht das erste Sicherheitsproblem, das bei Microsoft 365 Copilot aufgetreten ist. Bereits in der Vergangenheit musste Microsoft den KI-Assistenten aufgrund verschiedener Sicherheitslücken grundlegend überarbeiten. Frühere Probleme umfassten unbeabsichtigte Datenlecks und die Möglichkeit, dass Copilot auf Informationen zugriff, für die Nutzer eigentlich keine Berechtigung hatten.

Das Unternehmen implementierte zusätzliche Sicherheitsebenen und verfeinerte die Zugriffskontrollen, um sicherzustellen, dass der KI-Assistent nur auf autorisierte Daten zugreift. Die jetzige Entdeckung von EchoLeak zeigt aber, dass fundamentale Herausforderungen bei der Sicherheit von KI-Systemen bestehen bleiben.

Grundlegendes Problem

Die Forscher von Aim Security warnen, dass EchoLeak auf ein fundamentales Design-Problem in KI-Agenten hinweist. Das liegt in der Art, wie moderne KI-Systeme Kontext verarbeiten. Sie behandeln alle eingehenden Informationen zunächst gleichwertig und können nicht zuverlässig zwischen vertrauenswürdigen und potenziell schädlichen Inhalten unterscheiden.

Die Tatsache, dass vertrauenswürdige und nicht vertrauenswürdige Daten im gleichen "Denkprozess" verwendet werden, macht die KI anfällig für Manipulationen. Diese Schwäche könnte auch andere KI-Assistenten betreffen, die ähnliche Architekturen verwenden. Eine langfristige Lösung würde eine grundlegende Neugestaltung der KI-Agenten-Architektur erfordern.

Was haltet ihr von dieser Entdeckung? Macht euch die zunehmende Integration von KI-Assistenten Sorgen? Teilt eure Gedanken in den Kommentaren!


Siehe auch: