OpenAI bietet 555.000 Dollar, um ChatGPT-KI-GAUs zu verhindern

OpenAI lockt Bewerber für die neue Sicherheits-Leitung mit einem üppigen Gehalt von über einer halben Million Dollar. Hinter dem Geldberg wartet jedoch eine extrem stressige Aufgabe: Die Verhinderung des KI-GAUs in der Firma.

OpenAI besetzt kritische Sicherheitsposition

Der Stelleninhaber soll Risiken kontrollieren, die mit der rasanten Weiterentwicklung leistungsfähiger KI-Systeme einhergehen - und davon gab es in letzter Zeit wieder einige. Angesichts des wachsenden wirtschaftlichen und gesellschaftlichen Einflusses von KI gilt die Rolle als zentral für das Unternehmen.

Der künftige Verantwortliche soll ein Team führen, das KI-Modelle vor ihrer Veröffentlichung prüft. Dazu gehören Fähigkeitsbewertungen und die Weiterentwicklung von sogenannten Bedrohungsmodellen. Dabei geht es unter anderem um mögliche Szenarien des Missbrauchs, etwa im Bereich der Cyberkriminalität oder bei biologischen Gefahren. Auch potenzielle psychologische Auswirkungen auf Nutzer werden einbezogen.

Hohe Verantwortung bei wachsender Leistungsfähigkeit

In den USA hatten zuletzt mehrere Klagen, darunter im Zusammenhang mit einem Suizidfall im Jahr 2025, die Debatte über Risiken von KI-Interaktionen verschärft. Folgende Kompetenzfelder stehen laut Stellenausschreibung im Mittelpunkt:


Die Anforderungen an die Position gehen über technische Expertise hinaus. OpenAI-Chef Sam Altman bezeichnete die Rolle auf der Plattform X als essenziell und zugleich belastend. Die Suche nach einer Neubesetzung erfolgt vor dem Hintergrund personeller Veränderungen im Unternehmen. Im vergangenen Jahr verließen mehrere Mitarbeiter aus dem Sicherheitsumfeld OpenAI.

Darunter waren auch bekannte Namen wie Jan Leike, ehemaliger Co-Leiter des "Superalignment"-Teams, sowie Daniel Kokotajlo. Ehemalige Mitarbeiter hatten Medienberichten zufolge kritisiert, dass Sicherheitsfragen gegenüber der schnellen Markteinführung neuer Produkte an Bedeutung verloren hätten.

Das für die Kontrolle einer möglichen allgemeinen Künstlichen Intelligenz (AGI) zuständige Team wurde zwischenzeitlich aufgelöst.

Würdet ihr euch diesen Job zutrauen oder überwiegen für euch die ethischen Bedenken bei dieser Position? Schreibt uns eure Meinung gerne in die Kommentare.


Siehe auch: