OpenAI: Sicherheit von KI ist weniger wichtig als "schicke Produkte"

In den letzten Wochen haben einige Kritiker des aktuellen Kurses der Firma im Bezug auf die Sicherheit seiner Produkte das Unternehmen verlassen. Ein Team, dass sich mit der verantwortungsvollen Entwicklung von KI beschäftigte, wurde komplett aufgelöst.

Gefahren durch KI im Fokus

Die Diskussion um die Gefahren von künstlicher Intelligenz ist so alt wie das Thema selbst. Viele fürchten sich vor den ihrer Meinung nach unkontrollierbaren Folgen durch die Erschaffung von Maschinen beziehungsweise Programmen, die intelligenter sind als Menschen. Nicht zuletzt deshalb hat etwa die EU erst kürzlich das erste KI-Gesetz verabschiedet, das den Einsatz dieser Technologie regelt.

Team bei OpenAI aufgelöst

Doch auch OpenAI, eine der Firmen, die mit ihrem GPT-Modell ganz vorn bei der Entwicklung künstlicher Intelligenz mit dabei ist, hatte letztes Jahr im Juli ein internes Team ins Leben gerufen, dass sich mit langfristigen Risiken durch KI befassen sollte. Wie Wired berichtet, hat sich jetzt das Team jedoch aufgelöst, nachdem die beiden Leiter Ilya Sutskever und John Leike das Unternehmen verlassen haben. Sutskever hatte OpenAI mitbegründet.


John Leike schrieb mehrere Statements zu seinem Rücktritt auf X. "Ich bin mit der OpenAI-Führung schon seit geraumer Zeit uneins über die Kernprioritäten des Unternehmens, bis es schließlich zum Bruch kam", teilte er mit. "In den letzten Monaten ist mein Team gegen den Wind gesegelt. Manchmal kämpften wir um ausreichend Rechenleistung und es wurde immer schwieriger, diese wichtige Forschung durchzuführen." Außerdem seien "Sicherheitskultur und -verfahren gegenüber schicken Produkten in den Hintergrund getreten", so Leike.

Weitere Kritiker verlassen das Unternehmen

Neben Leike und Sutskever scheinen kürzlich auch weitere OpenAI-Forscher, die sich mit KI-Politik und -Kontrolle befasst hatten, das Unternehmen verlassen zu haben. Darunter war auch Daniel Kokotajlo, ein OpenAI-Forscher, der mehrere Arbeiten über die Gefahren leistungsfähigerer KI-Modelle mitverfasst hatte. Er hätte eigenen Aussagen zufolge das Vertrauen darin verloren, dass sich OpenAI "in der Zeit von AGI verantwortungsvoll verhalten würde".

Entwicklung geht weiter

Erst Anfang dieser Woche hatte OpenAI mit GPT-4o ein deutlich mächtigeres multimodales Modell seiner KI vorgestellt, das neue Maßstäbe setzt, was Schnelligkeit und Interaktionsmöglichkeiten betrifft. Dieser neueste Fortschritt wirft wieder einmal ethische Fragen in Bezug auf Datenschutz, emotionale Manipulation und Cybersicherheitsrisiken auf. Auch wenn sich noch andere Abteilungen bei OpenAI mit Sicherheitsthemen rund um KI befassen, ist die Auflösung eines kompletten Teams ein Schritt, der von vielen mit Sorge betrachtet werden dürfte.


Siehe auch: