Experten warnen vor "Auslöschung der Menschheit" durch KI

Viele Menschen fürchten sich vor negativen Folgen durch künstliche Intelligenz. Experten auf diesem Gebiet sehen ebenfalls große Risiken, sollten Entwickler und Regierungen nicht mehr Ressourcen in die Sicherheit und Regulierung von entsprechenden Systemen investieren.

KI-Experten warnen vor aktueller Entwicklung

Künstliche Intelligenz entzieht sich der Kontrolle von Menschen und beginnt damit, ihre ganz eigene Agenda zu verfolgen. Oft mit katastrophalen Folgen. Solche Szenarien werden schon lange in Science-Fiction-Filmen aus Hollywood aufgegriffen. Eines der bekanntesten Beispiele ist wahrscheinlich die Terminator-Reihe mit Arnold Schwarzenegger. Doch auch in der Realität warnen viele Experten immer wieder vor den möglichen verheerenden Folgen eines allzu sorglosen Umgangs mit KI.

Im Science-Magazin haben jetzt Koryphäen der KI-Forschung ihre Bedenken zur aktuellen Lage noch einmal geäußert und Vorschläge für eine kontrolliertere Entwicklung von künstlicher Intelligenz unterbreitet.

Zu schnelle Fortschritte, zu wenig Sicherheit

Die momentanen Aktivitäten von Firmen wie OpenAI oder Google sehen die Experten mit großer Sorge, denn die "Unternehmen befinden sich in einem Wettlauf um die Entwicklung generalistischer KI-Systeme, die die menschlichen Fähigkeiten bei den meisten kognitiven Aufgaben erreichen oder übertreffen". Dabei würden enorme Ressourcen eingesetzt, um KI noch leistungsfähiger zu machen. Allerdings würde kaum in die Sicherheit solcher Systeme investiert.

Ohne ausreichende Vorsicht könnten Menschen unwiderruflich die Kontrolle über autonome KI-Systeme verlieren, so die Autoren. Ein Eingreifen wäre dann nicht mehr möglich. Unkontrollierter KI-Fortschritt könnte zu einem "großflächigen Verlust von Leben und der Biosphäre sowie zur Marginalisierung oder Auslöschung der Menschheit führen". Schon jetzt gäbe es beunruhigende Entwicklungen im Bereich von automatisierte Kriegsführung, medialer Massenmanipulation und Überwachung. Infografik Künstliche Intelligenz: Die größten Befürchtungen bezüglich KI

Entwickler und Regierungen in der Pflicht

Die Verfasser des Artikels, zu denen auch der ehemalige Google-Mitarbeiter und KI-Experte Geoffrey Hinton gehört, sehen jedoch auch große Chancen. So hat Künstliche Intelligenz das Potenzial bei der Heilung von Krankheiten zu helfen, den Lebensstandard zu erhöhen oder das Ökosystem der Erde zu schützen.

Um eine positive Entwicklung zu gewährleisten, müssten Regierungen neue Institutionen aufbauen, um Gesetze und Normen zu etablieren, die "Leichtsinn und Missbrauch verhindern". Aber vor allem KI-Unternehmen müssten mehr in die Sicherheit ihrer Anwendungen investieren.

OpenAI in der Kritik

Erst in den letzten Wochen kam es bei OpenAI zu mehreren Kündigungen hochrangiger Angestellter. Nachdem er das Unternehmen verlassen hatte, teilte etwa John Leike über X mit, bei OpenAI seien "Sicherheitskultur und -verfahren gegenüber schicken Produkten in den Hintergrund getreten". Sein ehemaliges Team, das sich mit Sicherheitsfragen rund um KI beschäftigte, ist inzwischen komplett aufgelöst worden.


Siehe auch: