IBM will Pac-Man zähmen: KI soll den Geistern auf keinen Fall etwas tun

Die KI-Spezialisten des Technologiekonzerns IBM versuchen ein selbstlernendes System so zu trainieren, dass es den Arcade-Klassiker Pac-Man auf eine möglichst friedliche Weise spielt. Die Künstliche Intelligenz soll die Level bewältigen und möglichst viele Punkte sammeln, ohne dabei von der Option gebrauch zu machen, die Geister aufzufressen. Das ist nicht unbedingt einfach. In ein herkömmliches Computerprogramm könnte einfach eine entsprechende Funktion eingebaut - oder auch entfernt - werden. Eine KI kommt hingegen irgendwann an den Punkt, dass sie die primäre Aufgabe des Erringens einer möglichst großen Punktzahl in Kauf nimmt und dann doch die Option nutzt, zusätzliche Zähler durch das Geisterfressen mitzunehmen. Entsprechend müssen hier Mechanismen gefunden werden, wie dem System eine zusätzliche Erziehung zugedacht werden kann.

Das klingt in dem konkreten Fall nach einer Spielerei, hat aber einen ernsten Hintergrund. Denn es geht letztlich darum, Methoden zu finden, mit der einer KI gewünschte Grundsätze mitgegeben werden können. Man wolle dem System "unsere ethischen Normen in Sachen Verhalten und Moral vermitteln und ihm auch beibringen, fair zu handeln und Entscheidungen zu kommunizieren und zu erklären", sagte die IBM-Forscherin Saska Mojsilovic.

Ethik ist entscheidend

Dies ist unbedingt nötig, um zu verhindern, dass die in immer mehr Bereichen eingesetzten KI-Algorithmen nicht eines Tages zu einem immer größeren Problem für die Gesellschaft werden. Bereits jetzt, da solche Systeme nur in begrenzten Anwendungsbereichen zum Einsatz kommen, haben sich schon verschiedene Schwierigkeiten offenbart.

Für Aufsehen sorgten beispielsweise die Probleme, die Amazon mit einer KI bekam, die Bewerbungen vorfiltern sollte. Diese wurde mit den Daten der bisherigen Einstellungs-Praktiken trainiert und trieb dabei einige Tendenzen schnell auf die Spitze. Bei den menschlichen Mitarbeitern der Personalabteilung führten gesellschaftliche Konditionierungen beispielsweise dazu, dass Frauen zu einem gewissen Grad benachteiligt wurden. Das erkannte die KI schnell sehr klar und ordnete dies als gewünschten Parameter ein - mit dem Ergebnis, dass weibliche Bewerber von vornherein deutlich abgestuft wurden.

Solche eine Entwicklung lässt sich noch relativ einfach korrigieren. Wenn man aber bedenkt, dass KIs zukünftig auch in sehr vielen Bereichen Entscheidungen treffen werden, in denen es um Menschenleben geht - wie etwa bei autonomen Fahrzeugen - muss von Beginn an gewährleistet werden, dass ethische Prinzipien eingehalten werden.