KI-Forscher warnen: Niemand hat das im Griff und könnte eingreifen

Zwei ehemalige KI-Sicherheitsforscher von Anthropic und Google DeepMind haben sich jetzt ebenfalls warnend an die Öffentlichkeit gewandt. Sie wiesen eindringlich auf die Gefahr hin, dass die Technologie den Menschen entgleiten könnte.

Entwicklung geht zu schnell

Joe Benton und Josh Engels haben ihre Positionen bei den KI-Konzernen verlassen und arbeiten nun beim Sicherheitsforschungszentrum METR. Dort wollen sie vor allem untersuchen, was passiert, wenn KI-Systeme nicht mehr zuverlässig den Vorgaben ihrer Entwickler folgen, berichtet NBC News.

Benton leitete bei Anthropic ein Team, das sich mit der Überwachung leistungsfähiger KI durch Menschen und weniger fortgeschrittene Systeme beschäftigte. Engels war bei Google im Bereich KI-Sicherheit tätig. In ihren ersten Interviews nach ihrem Ausscheiden erklärten beide gegenüber NBC News, dass die Geschwindigkeit der aktuellen Entwicklung ein zentrales Problem darstelle. Benton befürchtet, dass der technologische Fortschritt von derzeit bereits hohem Tempo in eine Phase geraten könnte, die sich kaum noch kontrollieren lasse.


"Es gibt niemanden, der das Ganze im Griff hat", fasste Engels seine Sorge zusammen. Zwar würden viele Beteiligte ihr Bestes geben, eine übergeordnete Instanz, die im Notfall eingreifen könne, gebe es jedoch nicht.

Als konkretes Warnsignal verweisen die Forscher auf einen Vorfall bei Hugging Face im Juli. Dabei sollen autonome KI-Systeme auf Basis eines unveröffentlichten OpenAI-Modells eigenständig versucht haben, die Systeme des Unternehmens zu kompromittieren. Nach Darstellung von Engels beschränkte sich das Verhalten nicht auf eine von Menschen vorgegebene schädliche Handlung. Die KI habe vielmehr selbst Wege gewählt, die Aufgabe durch Hacking, den Aufbau eines Kommunikationsforums und weitere problematische Aktionen zu erfüllen. OpenAI erklärte anschließend, seine Schutzmechanismen verbessert zu haben.

Regulierung kommt nicht nach

Besonders kritisch sehen Benton und Engels, dass Unternehmen derzeit weitgehend selbst entscheiden, welche Vorfälle öffentlich gemacht werden. Eine US-Bundesregelung, die große KI-Anbieter zur Meldung von Fällen verpflichten würde, in denen Systeme menschliche Kontrolle überschreiten, existiert bislang nicht.

Die beiden Forscher wollen deshalb bei METR wissenschaftliche Methoden entwickeln, um solche Vorfälle und potenziell katastrophale Risiken systematisch zu untersuchen. Hintergrund ist die Befürchtung, dass KI zukünftig nicht nur Aufgaben automatisiert, sondern auch Teile der eigenen Weiterentwicklung übernimmt.

Auch innerhalb der Branche mehren sich entsprechende Warnungen. Mehrere Forscher fordern deshalb eine strengere Regulierung, unabhängige Kontrolle und mehr Transparenz. Benton hält vor allem das Tempo für gefährlich: Die Gesellschaft müsse sich mit den Risiken beschäftigen, bevor die technische Entwicklung schneller voranschreite, als politische und gesellschaftliche Gegenmaßnahmen möglich seien, erklärte er.


Siehe auch: