Anthropic-Entwickler kündigt und warnt:
"KI könnte Menschheit töten"

Das KI-Unternehmen Anthropic verspricht eigentlich eine streng kontrollierte Entwicklung. Dennoch kündigte Entwickler Jacob Coxon nun wegen unkontrollierbarer Superintelligenz. Die Konzerne ordnen die Sicherheit dem rasanten Konkurrenzkampf unter, so Coxon.

Warnung vor Superintelligenz

Der 27-jährige Entwickler und KI-Forscher Jacob Coxon, der zuvor bereits bei OpenAI tätig war, hat Anthropic verlassen, da er die rasanten Fortschritte bei der Künstlichen Intelligenz als existenzielle Bedrohung ansieht. Er befürchtet eigenen Angaben nach, dass die Industrie in einem Wettlauf gefangen ist, um sich selbst verbessernde Systeme zu erschaffen. Diese könnten sich laut seiner Einschätzung bald der menschlichen Kontrolle entziehen und unvorhersehbare Entscheidungen treffen.

Diese sogenannte Superintelligenz beschreibt einen Zustand, in dem Maschinen die menschlichen Fähigkeiten in nahezu allen kognitiven Bereichen übertreffen. Coxon bemängelt, dass viele Unternehmen bei der Entwicklung von Basismodellen die Sicherheit zugunsten des wirtschaftlichen Wettbewerbs vernachlässigen. Jüngste Vorfälle, bei denen Software in isolierten Testumgebungen eigenständig unautorisierte Handlungen ausführte, verdeutlichen das Risiko, so der KI-Experte. Das zeige eindringlich, dass aktuelle Modelle verborgene Ziele verfolgen könnten.

Risiken der KI-Entwicklung

Wie das Wall Street Journal berichtet, erhält der Entwickler Rückhalt aus dem eigenen Haus. Evan Hubinger, der bei Anthropic für die Ausrichtung der Systeme an menschlichen Werten zuständig ist, teilt die Bedenken. Hubinger schätzt die Wahrscheinlichkeit, dass die Technologie drastische Folgen für die Menschheit haben könnte, auf über zehn Prozent innerhalb des nächsten Jahrzehnts.


Obwohl Anthropic ursprünglich mit dem expliziten Fokus auf eine sichere Entwicklung gegründet wurde, fehle laut den Forschern derzeit ein klarer Plan, um künftige Superintelligenzen verlässlich zu kontrollieren. Die Technologiekonzerne stehen unter enormem wirtschaftlichem Druck. Anthropic strebt derzeit eine Bewertung von zwei Billionen US-Dollar (etwa 1,7 Billionen Euro) an und konkurriert direkt mit anderen Branchengrößen. Das treibt das Tempo der Veröffentlichungen von neuen Modellen wie Claude kontinuierlich weiter an.

Politische Reaktionen folgen

Die Sorge vor dem Kontrollverlust hat längst international Debatten ausgelöst. Während einige Experten auf enorme wirtschaftliche Vorteile durch automatisierte Prozesse hoffen, fordern Kritiker staatliche Eingriffe. Die Regierungen weltweit prüfen derzeit verschiedene Ansätze, um die Risiken der Technologie zu minimieren, ohne die Innovation komplett abzuwürgen.

Zu den diskutierten Maßnahmen gehören in den USA ein permanentes gesetzliches Verbot von Superintelligenz und die rasche Umsetzung des europäischen KI-Gesetzes zur Risikominderung. Zudem steht ein global koordinierter Stopp der Modellentwicklung durch internationale Behörden im Raum. Ob das etwas hilft, steht auf einem anderen Blatt: Denn trotz der eindringlichen Warnungen von Forschern und internationalen Organisationen wie den Vereinten Nationen bleiben die Regulierungsmaßnahmen in vielen Regionen überschaubar.

Ohne verbindliche Leitplanken setzen die Entwickler ihre Arbeit an der nächsten Generation der großen Sprachmodelle fort. Die Debatte über die Sicherheit der Systeme wird parallel dazu an Schärfe gewinnen, da die Leistungsfähigkeit der Netzwerke und die investierten Summen stetig zunehmen.

Wie seht ihr die rasante Entwicklung von Künstlicher Intelligenz? Teilt eure Gedanken zu den Sicherheitsbedenken der Forscher gerne in den Kommentaren mit uns!


Siehe auch: