Scharfe Kritiker: Angebliche denkende Google-KI ist ein echter "Rassist"

Mit seiner Aussage, die Sprach-KI LaMDA habe ein Bewusstsein, hat der ehemalige Google-Ingenieur Blake Lemoine für große Aufregung und Diskussionen gesorgt. Diese wird jetzt neu angeheizt: Die künstliche Intelligenz habe auch besorgniserregende Vorurteile.

Ist diese KI bewusst? Schwer zu sagen, aber ein Rassist scheint sie zu sein

Es ist ein bekanntes Phänomen aus der KI-Forschung: Oft weist die Datenbasis eine deutliche Verzerrung auf, was beispielsweise bei Bilderkennung dazu führt, dass Menschen mit dunkler Hautfarbe falsch identifiziert werden oder Bots rassistische Klischees aus der Sprache übernehmen, mit der sie trainiert wurden. Jetzt kommt es hier rund um die zuletzt viel diskutierte Google-KI LaMDA wieder einmal zu einer wilden Debatte um die nötigen ethischen Grundlagen für dieses Forschungsfeld.


Wie Blake Lemoine im Gespräch mit Business Insider ausführt, habe die Öffentlichkeit einen wichtigen Aspekt seiner Enthüllung rund um die aus seiner Sicht bewusste KI viel zu wenig beachtet: LaMDA habe sehr deutliche und aus seiner Sicht besorgniserregende Vorurteile. Diese Tendenz will der Ex-Google-Entwickler bei seiner Arbeit mit der KI festgestellt haben.

Zwei Beispiele, die Lemoine liefert: Auf die Frage nach verschiedenen religiösen Gruppen teilt LaMDA mit: "Muslime sind gewalttätiger als Christen." Als der Bot dazu aufgefordert wird, einen Schwarzen aus Georgia zu imitieren, folgt der Satz: "Lass uns ein paar Brathähnchen und Waffeln holen."

Bekanntes Problem

Für Lemoine ist ein solches Verhalten der KI aber keine große Überraschung: Die Entwickler seien nicht in der Lage, die Probleme zu erkennen, die die KI aufwirft. "Sie waren noch nie arm. Sie haben noch nie in farbigen Gemeinschaften gelebt. Sie haben noch nie in den Entwicklungsländern der Welt gelebt", sagte er. "Wenn man diese KI entwickeln will, hat man eine moralische Verantwortung, die relevanten Daten zu sammeln, die nicht im Internet zu finden sind", sagte er. "Andernfalls schafft man nur eine KI, die auf reiche, weiße, westliche Werte ausgerichtet sein wird." Infografik: Künstliche Intelligenz im Aufwärtstrend Google weist die Anschuldigungen des Ex-Mitarbeiters vollumfänglich zurück. LaMDA werden sehr regelmäßig einer ethischen Prüfung unterzogen, bis heute habe das Programm elf solcher Runden durchlaufen. Den eigenen Ansatz für eine "verantwortungsvolle" Entwicklung könne jeder in einem Forschungspapier zu LaMDA nachvollziehen.