KI-Modell Claude: Anthropic stoppt mögliche Biowaffen-Forschung

Wegen möglicher Risiken für die globale Sicherheit blockiert Anthropic derzeit gezielt Zugänge zu seiner KI Claude. Forscher aus aller Welt nutzten das System zuvor für bedenkliche Projekte zur genetischen Veränderung von gefährlichen Viren.

Gefahr durch KI in der Biologie

Das US-amerikanische Unternehmen Anthropic hat in den vergangenen Monaten gezielt Nutzerkonten seiner Künstlichen Intelligenz gesperrt. Weltweit versuchten Wissenschaftler nämlich, das Sprachmodell Claude für Forschungsarbeiten zu nutzen, die potenziell der Entwicklung von biologischen Waffen dienen könnten. Die Vorfälle ereigneten sich über einen Zeitraum von acht Monaten und verdeutlichen die wachsenden Risiken leistungsstarker Algorithmen.

Ein zentrales Problem bei der Überwachung ist die sogenannte Dual-Use-Problematik. Grundlagenforschung, die für die Entwicklung lebensrettender Impfstoffe unerlässlich ist, kann oft auch zur Erschaffung gefährlicher Krankheitserreger missbraucht werden. Die KI-Modelle sind mittlerweile in der Lage, komplexe wissenschaftliche Aufgaben auf Expertenniveau zu lösen. Dadurch sinkt aber gleichzeitig die Hürde für staatliche Akteure oder Terrornetzwerke, an sensible Informationen zu gelangen.

Risiko durch Gain-of-Function

Wie Anthropic in einem Bericht ausführt, fielen in einer Untersuchung von 30 Tagen rund 35 bedenkliche Forschungsansätze auf. Ein konkreter Fall betraf die Gain-of-Function-Forschung am Chikungunya-Virus. Bei der Methode werden Organismen genetisch verändert, um ihre Übertragbarkeit zu erhöhen. Ein Forscher wollte mithilfe der KI einen Förderantrag für ein solches Projekt verfassen, das an einem militärischen Institut stattfinden sollte.

Ein weiterer Nutzer außerhalb der USA verwendete das System, um die Anpassung der Vogelgrippe an Säugetiere zu untersuchen. Das Unternehmen betonte, dass man nicht mit Sicherheit feststellen könne, ob die Wissenschaftler böswillige Absichten hegten. Um schwerwiegende Folgen zu vermeiden, habe man im Zweifelsfall Konten blockiert. Die Identitäten der Forscher bleiben geheim, da es sich um regulär arbeitende Wissenschaftler handele.

Missbrauch für konventionelle Waffen

Neben biologischen Risiken dokumentierten die Entwickler auch Versuche, die Software für den Bau konventioneller Waffen zu nutzen. In mehreren Fällen, die Akteuren in China, Russland und dem Jemen zugeordnet werden, ging es um die Programmierung von Steuerungssystemen für Drohnen und Raketen. Zudem gab es Versuche, die KI für staatliche Überwachungsmaßnahmen von Minderheiten oder für Propagandakampagnen einzusetzen.

Die aktuelle Generation der Modelle, darunter Claude Fable 5, bietet enorme Chancen für die Medizin, etwa bei der Bekämpfung von Krebs. Gleichzeitig zwingt die Leistungsfähigkeit die Anbieter dazu, strengere Sicherheitsvorkehrungen zu implementieren. Nutzer aus bestimmten Regionen versuchen zunehmend, Sperren zu umgehen und den wahren Zweck ihrer Anfragen zu verschleiern.

Wie bewertet ihr das Eingreifen der KI-Firmen in die Forschung? Sollten Regierungen hier strengere Regeln vorgeben oder reicht die Selbstkontrolle? Teilt eure Gedanken in den Kommentaren!


Siehe auch: