Gefährliche KI: Angestellte von Google und OpenAI sind besorgt

In einem offenen Brief fordern ehemalige und aktuelle Angestellte der beiden Firmen besseren Schutz für Whistleblower. Momentan hätten Mitarbeiter keine Möglichkeit, interne risikobezogene Informationen zu den KIs mit der Öffentlichkeit zu teilen. Die Gefahren seien aber real.

Angestellte von KI-Firmen sind besorgt

Im März hatte bereits ein Software-Ingenieur bei Microsoft seine Sorge über den hauseigenen KI-Assistenten Copilot zu Protokoll gegeben und das Programm als "gefährlich und verstörend" bezeichnet. Jetzt wenden sich auch Mitarbeiter von OpenAI und Google DeepMind in einem offenen Brief an die Allgemeinheit. Auch sie warnen vor Gefahren durch künstliche Intelligenz.

Dem Brief zufolge gäbe es aufgrund der momentanen Entwicklungen das Risiko einer weiteren Verfestigung bestehender Ungleichheiten, der Manipulation und Fehlinformation sowie des Verlusts der Kontrolle über autonome KI-Systeme, was laut dem Schreiben zum Aussterben der Menschheit führen könnte. Infografik Künstliche Intelligenz: Die größten Befürchtungen bezüglich KI

Verfasser fordern besseren Schutz für Whistleblower

Die KI-Unternehmen hätten "starke finanzielle Anreize", eine Beaufsichtigung durch öffentliche Einrichtungen zu verhindern. Weiter heißt es:

"Solange es keine wirksame staatliche Aufsicht über diese Unternehmen gibt, gehören die derzeitigen und ehemaligen Mitarbeiter zu den wenigen Personen, die sie gegenüber der Öffentlichkeit zur Rechenschaft ziehen können. Doch weitreichende Vertraulichkeitsvereinbarungen hindern uns daran, unsere Bedenken zu äußern, es sei denn, wir wenden uns an die Unternehmen selbst, die diese Probleme möglicherweise nicht angehen. Der übliche Schutz für Informanten ist unzureichend, da er sich auf illegale Aktivitäten konzentriert, während viele der Risiken, die uns Sorgen bereiten, bislang nicht geregelt sind."

Die Verfasser fordern daher einen besseren Schutz für Whistleblower, unterbreiten aber gleichzeitig Vorschläge für interne Unternehmensprozesse, damit es erst gar nicht zu einem entsprechenden Vorfall kommen muss. Neben sieben ehemaligen Angestellten von OpenAI haben auch vier momentan dort Arbeitende den Brief unterzeichnet. Auch ein ehemaliger sowie ein aktueller Mitarbeiter von Google DeepMind sind an dem Schreiben beteiligt.

Warnungen von Experten häufen sich

In letzter Zeit melden sich immer wieder Mitarbeiter von KI-Firmen oder Experten aus dem Bereich der Forschung zu künstlicher Intelligenz zu Wort und warnen vor möglichen verheerenden Folgen. Erst vor ein paar Wochen teilten mehrere Koryphäen auf dem Gebiet ihre Sorge mit. Auch sie warnten ebenfalls vor einer Auslöschung der Menschheit durch KI, wenn bei der aktuellen Entwicklung und Nutzung der Technologie nicht vermehrt auf Sicherheit geachtet würde.


Siehe auch: