ChatGPT Agent: OpenAI-CEO warnt Nutzer eindringlich vor eigener KI

OpenAI-Chef Sam Altman warnt Nutzer vor den Risiken des eigenen neuen ChatGPT Agents. Die KI kann zwar komplexe Aufgaben über­nehmen, aber böswillige Akteure könnten sie zur Daten­preis­gabe verleiten. Nutzer sollen besonders vorsichtig sein.

Autonomer KI-Agent mit Sicherheitslücken

Künstliche Intelligenz birgt nicht nur Chancen, sondern auch einige Risiken. Immer wieder warnen KI-Experten vor potenziell negativen Folgen der aktuellen rasanten Entwicklung. Dass Chatbots lügen oder KI-Tools Anweisungen ihrer Nutzer missachten und dabei ganze Firmendatenbaken aus "Panik" löschen, gehört noch zu den harmlosen Nebenwirkungen.

Jetzt warnt allerdings sogar OpenAI-CEO Sam Altman die Nutzer vor den Gefahren bei der Verwendung des hauseigenen ChatGPT Agents. Das neue Tool ist seit dem 17. Juli 2025 für Nutzer der Pro-, Plus- und Team-Abonnements verfügbar und stellt einen bedeutenden Schritt in der Entwicklung autonomer KI-Systeme dar.


Der ChatGPT Agent kombiniert die Fähigkeiten zur Webseiten-Interaktion, Informationssynthese und Konversation. Im Gegensatz zu herkömmlichen Chatbots kann der Agent eigenständig komplexe, mehrstufige Aufgaben ausführen. Nutzer können beispielsweise verlangen: "Schaue in meinen Kalender und informiere mich über anstehende Kundentermine basierend auf aktuellen Nachrichten" oder "Plane und kaufe Zutaten für ein japanisches Frühstück für vier Personen".

Der Agent nutzt dazu einen eigenen virtuellen Computer, navigiert durch Webseiten, filtert Ergebnisse und fordert Nutzer bei Bedarf sogar zur Anmeldung bei Webportalen auf. Diese Fähigkeiten machen ihn zu einem der fortschrittlichsten verfügbaren KI-Assistenten, bringen aber auch neue Sicherheitsherausforderungen mit sich.

Altmans Warnung

Gerade wegen dieser beeindruckenden Fähigkeiten warnt OpenAI-CEO Sam Altman auf X eindringlich vor den Risiken. "Ich würde es meiner eigenen Familie als hochmodern und experimentell erklären; eine Chance, die Zukunft auszuprobieren, aber nichts, was ich schon für kritische Anwendungen oder mit vielen persönlichen Informationen nutzen würde, bis wir die Gelegenheit hatten, es in der Praxis zu studieren und zu verbessern", schreibt er.

Altman führt weiter aus: "Wir wissen nicht genau, welche Auswirkungen es geben wird, aber böswillige Akteure könnten versuchen, die KI-Agenten der Nutzer dazu zu 'verleiten', private Informationen preiszugeben, die sie nicht preisgeben sollten, und Aktionen auszuführen, die sie nicht ausführen sollten, auf eine Weise, die wir nicht vorhersagen können." Diese ungewöhnlich offene Warnung unterstreicht die Ernsthaftigkeit der Sicherheitsbedenken.

Konkrete Sicherheitsrisiken

Altman warnt besonders davor, dem ChatGPT-Agenten freien Zugang zu E-Mails zu gewähren, da böswillige E-Mails den Agenten zur Datenpreisgabe anweisen könnten. Als Beispiel nennt er die Anweisung: "Schaue dir meine E-Mails von heute Nacht an und tue alles Nötige, um sie zu bearbeiten, ohne Rückfragen zu stellen." Dies könnte dazu führen, dass schädliche E-Mail-Inhalte das Modell zur Herausgabe von Daten verleiten. Infografik Künstliche Intelligenz: Die größten Befürchtungen bezüglich KI
Jailbreaks und Prompt-Injections sind generell ein großes Problem für KI-Modelle, da sie anfällig für vergiftete Daten, versteckte Anweisungen und bewusst verbreitete Falschinformationen sind. Diese Angriffsmethoden haben sich in der Vergangenheit bereits bei anderen KI-Systemen als effektiv erwiesen. Bei autonomen Agenten mit erweiterten Zugriffsrechten potenzieren sich diese Risiken.

Obwohl OpenAI betont, Sicherheitsmaßnahmen getroffen zu haben, ist deren Wirksamkeit nach Altmans eigenen Aussagen bisher nicht vollständig erprobt. Die Komplexität autonomer KI-Systeme macht es schwierig, alle möglichen Angriffe vorherzusagen und sie dagegen abzusichern.

Behutsam vorgehen

Altman empfiehlt, dem Agenten nur minimale Zugriffsrechte zu gewähren. Er betont, dass die Technologie langsam eingeführt werden sollte und vergleicht sie mit "experimenteller Spitzentechnologie", die zwar für bestimmte Aufgaben sicher sei, aber bislang nicht uneingeschränkten Zugang zu sensiblen Bereichen wie E-Mail-Postfächern oder Finanzdokumenten haben sollte.

Wir denken, es ist wichtig, aus dem Kontakt mit der Realität zu lernen, und dass Menschen diese Tools vorsichtig und langsam einsetzen, während wir die potenziellen Risiken besser quantifizieren und mindern. Wie bei anderen neuen Fähigkeitsebenen müssen Gesellschaft, Technologie und Risikominderungsstrategien gemeinsam weiterentwickelt werden.

Diese Herangehensweise spiegelt OpenAIs allgemeine Philosophie der schrittweisen Einführung neuer KI-Technologien wider. Das Unternehmen hat bereits bei früheren Veröffentlichungen wie GPT-4 ähnliche Vorsichtsmaßnahmen ergriffen und zunächst begrenzte Zugänge gewährt, bevor die Technologie breiter verfügbar gemacht wurde.

Der ChatGPT Agent zeigt das Potenzial autonomer KI-Systeme, aber auch deren Risiken auf. Wie seht ihr das Verhältnis zwischen Innovation und Sicherheit bei KI-Tools? Teilt eure Gedanken in den Kommentaren!


Siehe auch: