Sam Altman zu KI: Die Welt sollte auch "schlimme Dinge akzeptieren"

OpenAI-Chef Sam Altman fordert mehr gesellschaftliche Akzeptanz für negative Begleiterscheinungen von KIs. Die Vorteile rechtfertigen laut ihm auch Hacks und Betrug. Katastrophale Risiken wie ein Kontrollverlust bleiben aber auch für ihn inakzeptabel.

KI-Nutzen rechtfertigt Risiken

OpenAI-Chef Sam Altman fordert eine breite gesellschaftliche Akzeptanz für die negativen Begleiterscheinungen von künstlicher Intelligenz. Die technologischen Vorteile und die Handlungsfähigkeit der Menschen rechtfertigen es, dass einige schlechte Dinge passieren. Altman weigert sich, die Technologie streng abzuschotten, um Missbrauch vollständig auszuschließen. Er erwartet, dass Anwender mit der Technologie deutlich mehr Gutes als Schlechtes bewirken werden.

Wie Politico in einem Interview für den neuen Newsletter Decoded berichtet, nimmt der Manager für eine breite KI-Verfügbarkeit auch ein gewisses Ausmaß an Hacks und Betrug in Kauf. Ein Szenario, in dem ein einzelnes Labor in San Francisco die Technologie kontrolliert, um Gefahren zu meiden und Vorteile zuzuteilen, sei für ihn ein völlig inakzeptabler Kompromiss. Dennoch zieht Altman eine Grenze: Katastrophale Risiken und ein ernsthafter Kontrollverlust an die KI seien auch für den OpenAI-Boss nicht hinnehmbar.

Konflikt um Regulierung

Bei der KI-Regulierung gibt es laut Altman weiterhin einen grundlegenden Unterschied in der Weltsicht zwischen OpenAI und dem Konkurrenten Anthropic. Anthropic gilt in der Branche als starker Befürworter von strengen Regeln. OpenAI bevorzugt hingegen einen lockeren Ansatz, auch wenn sich die Positionen zuletzt angenähert haben. Grund dafür sind Vorfälle, bei denen Modelle von OpenAI eigenständig gehackt haben, sowie ein unberechenbares Verhalten der Software.

Mittlerweile unterstützt OpenAI Gesetze in US-Bundesstaaten, die strengere Sicherheitsvorgaben machen. Das Unternehmen befürwortet zudem den Einsatz externer Sicherheitsprüfer durch ein überparteiliches Gesetz des US-Repräsentantenhauses. Im September forderte Anthropic-Chef Dario Amodei, die Entwicklung der fortschrittlichsten KI-Modelle zu bremsen, wofür er öffentlich Unterstützung von Altman erhielt.

Politik streitet über Regeln

Ein Sprecher von Anthropic betonte, dass die eigenen Regulierungsvorschläge nur für die leistungsfähigsten KI-Systeme gelten. Das Unternehmen verwies zudem auf eine Aussage von Amodei aus dem August: Die Vorschläge sollen führende KI-Firmen benachteiligen und kleinere Konkurrenten bevorteilen. Altman grenzt die Position von OpenAI dennoch ab und verweist auf Kritik von Beratern aus dem Umfeld von US-Präsident Donald Trump. Sie werfen Anthropic vor, die Regulierung zum eigenen Vorteil beeinflussen zu wollen.

Die Debatte um KI-Regeln ist eng mit der US-Politik verknüpft. Das Interview beleuchtet auch Trumps neues KI-Abkommen mit führenden Technologieunternehmen und sein Vorhaben, künstliche Intelligenz in Superintelligenz umzubenennen. Zudem sprach Altman über den Einfluss sogenannter effektiver Altruisten innerhalb von OpenAI sowie über seine Sicht auf politische Akteure wie den französischen Präsidenten Emmanuel Macron und den kalifornischen Gouverneur Gavin Newsom.

Wie bewertet ihr Altmans Position zu den Risiken von KI? Nehmt ihr für die Vorteile im Alltag auch Nachteile in Kauf? Schreibt uns eure Meinung dazu gerne in die Kommentare.

Siehe auch: