Anthropic-Chef: KI-Botnetz könnte bald das komplette Internet kapern

Anthropic-Chef Dario Amodei warnt eindringlich vor den möglichen Folgen der rasanten KI-Entwicklung. In einem offenen Brief erklärte er, dass in sechs bis zwölf Monaten ein KI-gesteuertes Botnetz in der Lage sein könnte, große Teile des Internets zu übernehmen.

Massive Schäden drohen

Die daraus resultierenden möglichen Schäden bezifferte Amodei auf Hunderte Milliarden Dollar. Zugleich fordert er laut eines Berichts des US-Magazins Toms Hardware, die Entwicklung neuer und leistungsfähigerer KI-Modelle zu verlangsamen. Hintergrund seiner Sorge ist die zunehmende Fähigkeit moderner Systeme, komplexe Aufgaben autonom auszuführen. KI beschränkt sich längst nicht mehr darauf, Fragen zu beantworten oder Texte zu erzeugen. Stattdessen können entsprechende Systeme mehrstufige Prozesse selbstständig planen und durchführen, für die bislang Teams aus spezialisierten Fachleuten erforderlich waren.

Amodei sieht darin ein besonderes Risiko für Cyberangriffe. Ein KI-gestütztes Botnetz könnte beispielsweise große Mengen kompromittierter Rechner koordinieren und dauerhaft Angriffe ausführen. Mit steigender Leistungsfähigkeit könnten solche Systeme zudem immer weniger menschliche Unterstützung benötigen. Dadurch würde die Schwelle für groß angelegte digitale Angriffe deutlich sinken.


Auch Anthropic selbst hat untersucht, welche problematischen Einsatzmöglichkeiten heutige KI bereits eröffnet. Nach Angaben des Unternehmens können aktuelle Modelle unter anderem bei der Waffenentwicklung, militärischen Aufklärung, Überwachung und bei Cyberoperationen helfen. Kommende Systeme könnten den dafür notwendigen Zeitaufwand, die Zahl benötigter Mitarbeiter und das erforderliche Fachwissen weiter reduzieren.

Es geht noch schlimmer

Amodeis Einschätzung wird auch von Evan Hubinger geteilt, einem KI-Forscher, der Anthropic kürzlich verlassen hat und mit wesentlich drastischeren Szenarien hausieren geht: Er hält es persönlich sogar für wahrscheinlicher als zehn Prozent, dass KI innerhalb des kommenden Jahrzehnts zum Aussterben der Menschheit führen könnte. Das eigentliche Problem sei, dass bislang kein überzeugender Plan existiere, um besonders leistungsfähige Systeme zuverlässig mit menschlichen Zielen in Einklang zu bringen.

Allerdings bedeutet eine leistungsfähigere KI nicht automatisch eine gefährlichere KI. Fortschritt kann auch bessere Schutzmechanismen ermöglichen, etwa beim Erkennen von Missbrauch oder beim Blockieren schädlicher Aktivitäten. Zudem dürfte ein vollständiger Entwicklungsstopp bei den etablierten Anbietern nach hinten losgehen, wenn weniger verantwortungsbewusste Unternehmen oder Staaten ihre KI-Systeme weiterentwickeln.


Siehe auch: