Gefährlicher als geklaute Passwörter:
Infostealer greifen KI-Konten an

Im Bereich der IT-Security ist eine neue Ära angebrochen: Inzwischen machen Kriminelle in großem Stil Jagd auf Zugangsdaten von KI-Diensten. Das stellt für Nutzer und Unternehmen oft ein größeres Risiko dar, als der Verlust eines Passworts zu anderen Angeboten.

80.000 Domains betroffen

Eine Analyse von SOCRadar zeigt, dass gestohlene Zugänge zu KI-Diensten zunehmend ein Unternehmensrisiko darstellen. Für die Untersuchung wurden mehr als eine Million von Infostealern erfasste Datensätze zu KI-Diensten ausgewertet, die mit mehr als 80.000 Unternehmensdomains in Verbindung standen. Daraus filterten die Sicherheitsforscher 482 größere Unternehmen aus 36 Ländern und acht Branchen heraus.

Insgesamt fanden sich 5434 Datensätze zu 1500 unterschiedlichen geschäftlichen E-Mail-Adressen, die als Nutzernamen zum Einsatz kommen. Besonders häufig betroffen war ChatGPT. Bei 358 der 482 untersuchten Unternehmen wurden gestohlene Zugänge oder Sitzungen des OpenAI-Dienstes entdeckt. Auf diese Firmen entfielen damit immerhin rund 90 Prozent aller Datensätze. Mit deutlichem Abstand folgten unter anderem Zapier, Notion, Hugging Face, Replit, Lovable und ElevenLabs.


SOCRadar warnt allerdings davor, daraus unmittelbar auf Sicherheitsunterschiede zwischen den Anbietern zu schließen. ChatGPT habe schlicht einen größeren Vorsprung bei der Verbreitung in Unternehmen. Viele Beschäftigte hätten den Dienst auch mit ihrer geschäftlichen E-Mail-Adresse auf privaten Geräten verwendet, die nicht besonders gut abgesichert sind. Dadurch seien entsprechende Konten für Infostealer besonders interessant. Dass Claude und Gemini in der Untersuchung kaum auftauchen, bedeute daher nicht zwangsläufig, dass sie weniger angegriffen würden, hieß es.

Das eigentliche Problem geht laut der Analyse über gestohlene Passwörter hinaus. Ein kompromittierter KI-Account kann zugleich Zugriff auf einen Gesprächsverlauf, Rechenressourcen, Abrechnung und die Identität des Nutzers ermöglichen. In Chatverläufen können sich Quellcode, Kundendaten, Verträge oder unveröffentlichte Unternehmenspläne befinden. Gestohlene Sitzungscookies wiederum lassen sich unter Umständen verwenden, ohne das Passwort erneut eingeben zu müssen und damit unter Umständen auch ohne eine neue MFA-Abfrage.

Einfache Schutzmaßnahmen

Besonders riskant sind zudem KI- und Automatisierungsdienste mit weiterreichenden Berechtigungen. Ein kompromittierter Zapier-Zugang kann beispielsweise mit bestehenden Verknüpfungen zu E-Mail, CRM-Systemen oder Cloud-Speichern missbraucht werden. Auch entwendete API-Schlüssel können für sogenannte LLMjacking-Angriffe genutzt werden, bei denen die Kosten für umfangreiche Berechnungen auf das Opfer umgelegt werden.

Technologie- und Internetunternehmen stellten mit 144 Firmen die größte Gruppe der Betroffenen. Allerdings fanden sich ebenfalls Unternehmen aus Finanzwesen, Gesundheitswesen, Industrie, Handel und Energie. Als Gegenmaßnahmen empfiehlt SOCRadar unter anderem kurzlebige Sitzungen, rotierende API-Schlüssel sowie die Überwachung verdächtiger Sitzungswiederverwendung. Zudem sollten Unternehmen zunächst ermitteln, welche bislang unkontrollierten KI-Konten bereits mit ihren Domains verbunden sind.

Siehe auch: