Schwachstelle ChatGPT-Erweiterung:
Lascher Umgang mit Sicherheit

Forscher haben verschiedene gravierende Sicherheitsmängel in Plugins für ChatGPT und anderen KI-Tools aufgedeckt. Dabei zeigt sich, das einige Entwickler viel zu locker mit den sensiblen Daten umgehen, die ihnen dabei anvertraut werden.

Großes Risiko

Eine neue Bedrohungsstudie von Salt Labs hat kritische Sicherheitslücken in ChatGPT-Plugins aufgedeckt und damit ein großes Risiko aufgezeigt - ganz neu ist diese Erkenntnis allerdings nicht.

Es geht dabei um Plugins, die KI-Chatbots wie ChatGPT Zugriff und Berechtigungen geben, um Aufgaben im Namen von Nutzern auszuführen. So lassen sich etwa Code-Übermittlungen an GitHub-Repositories automatisieren oder Daten aus Google Drives eines Unternehmens abrufen.


Die entdeckten Sicherheitslücken stellen einen neuen Angriffsvektor dar und könnten böswillige Akteure in die Lage versetzen, die Kontrolle über das Konto einer Organisation auf Websites von Drittanbietern zu erlangen oder den Zugriff auf personenbezogene Daten und andere sensible Nutzerdaten zu ermöglichen, die in Anwendungen von Drittanbietern gespeichert sind.

In einem Blogbeitrag erläutert das Salt-Labs-Team nun die drei verschiedene Arten von Schwachstellen in ChatGPT-Plugins, die die Experten aufgedeckt haben. Die erste nutzt den Code-Genehmigungsprozess von ChatGPT aus, um Angreifern die Installation eines bösartigen Plugins zu ermöglichen, das Zugriff auf das Benutzerkonto gewährt.

Sicherheitslücke ein Entwicklertool

Die zweite Schwachstelle befand sich in PluginLab (pluginlab.ai), einem Framework, das Entwickler und Unternehmen zur Entwicklung von Plugins für ChatGPT verwenden. Infografik Künstliche Intelligenz: Die größten Befürchtungen bezüglich KI Die Forscher entdeckten, dass PluginLab Benutzerkonten nicht ordnungsgemäß authentifiziert, was es einem potenziellen Angreifer ermöglichen könnte, eine andere Benutzer-ID einzufügen und einen Code zu erhalten, der das Opfer repräsentiert, was zu einer Kontoübernahme des Plugins führt.

Die dritte Schwachstelle, die in mehreren Plugins aufgedeckt wurde, betrifft die Manipulation der OAuth (Open Authorization)-Umleitung. Mehrere Plugins validieren laut den Experten die URLs nicht, was bedeutet, dass ein Angreifer eine bösartige URL einfügen und die Anmeldedaten der Benutzer stehlen kann. Ihre Entdeckungen meldeten die Forscher an OpenAI und den Drittanbietern. Alle Probleme wurden schnell behoben - soweit aktuell bekannt ist, gab es keine aktive Ausnutzungen der Sicherheitslücken.


Siehe auch: