IBM will Pac-Man zähmen: KI soll den Geistern auf keinen Fall etwas tun

Spiel, Arcade, Pac-Man, Pac Man Bildquelle: Eli Christman (CC BY 2.0)
Die KI-Spezialisten des Technologiekonzerns IBM versuchen ein selbstlernendes System so zu trainieren, dass es den Arcade-Klassiker Pac-Man auf eine möglichst friedliche Weise spielt. Die Künstliche Intelligenz soll die Level bewältigen und möglichst viele Punkte sammeln, ohne dabei von der Option gebrauch zu machen, die Geister aufzufressen. Das ist nicht unbedingt einfach. In ein herkömmliches Computerprogramm könnte einfach eine entsprechende Funktion eingebaut - oder auch entfernt - werden. Eine KI kommt hingegen irgendwann an den Punkt, dass sie die primäre Aufgabe des Erringens einer möglichst großen Punktzahl in Kauf nimmt und dann doch die Option nutzt, zusätzliche Zähler durch das Geisterfressen mitzunehmen. Entsprechend müssen hier Mechanismen gefunden werden, wie dem System eine zusätzliche Erziehung zugedacht werden kann.

Das klingt in dem konkreten Fall nach einer Spielerei, hat aber einen ernsten Hintergrund. Denn es geht letztlich darum, Methoden zu finden, mit der einer KI gewünschte Grundsätze mitgegeben werden können. Man wolle dem System "unsere ethischen Normen in Sachen Verhalten und Moral vermitteln und ihm auch beibringen, fair zu handeln und Entscheidungen zu kommunizieren und zu erklären", sagte die IBM-Forscherin Saska Mojsilovic.


Ethik ist entscheidend

Dies ist unbedingt nötig, um zu verhindern, dass die in immer mehr Bereichen eingesetzten KI-Algorithmen nicht eines Tages zu einem immer größeren Problem für die Gesellschaft werden. Bereits jetzt, da solche Systeme nur in begrenzten Anwendungsbereichen zum Einsatz kommen, haben sich schon verschiedene Schwierigkeiten offenbart.

Für Aufsehen sorgten beispielsweise die Probleme, die Amazon mit einer KI bekam, die Bewerbungen vorfiltern sollte. Diese wurde mit den Daten der bisherigen Einstellungs-Praktiken trainiert und trieb dabei einige Tendenzen schnell auf die Spitze. Bei den menschlichen Mitarbeitern der Personalabteilung führten gesellschaftliche Konditionierungen beispielsweise dazu, dass Frauen zu einem gewissen Grad benachteiligt wurden. Das erkannte die KI schnell sehr klar und ordnete dies als gewünschten Parameter ein - mit dem Ergebnis, dass weibliche Bewerber von vornherein deutlich abgestuft wurden.

Solche eine Entwicklung lässt sich noch relativ einfach korrigieren. Wenn man aber bedenkt, dass KIs zukünftig auch in sehr vielen Bereichen Entscheidungen treffen werden, in denen es um Menschenleben geht - wie etwa bei autonomen Fahrzeugen - muss von Beginn an gewährleistet werden, dass ethische Prinzipien eingehalten werden. Spiel, Arcade, Pac-Man, Pac Man Spiel, Arcade, Pac-Man, Pac Man Eli Christman (CC BY 2.0)
Diese Nachricht empfehlen
Kommentieren12
Jetzt einen Kommentar schreiben


Alle Kommentare zu dieser News anzeigen
Kommentar abgeben Netiquette beachten!
Einloggen

Jetzt als Amazon Blitzangebot

Ab 07:50 Uhr 2018Mini Beamer ?2018Mini Beamer ?
Original Amazon-Preis
228,49
Im Preisvergleich ab
228,49
Blitzangebot-Preis
165,75
Ersparnis zu Amazon 27% oder 62,74
Im WinFuture Preisvergleich

Video-Empfehlungen

WinFuture Mobil

WinFuture.mbo QR-Code Auch Unterwegs bestens informiert!
Nachrichten und Kommentare auf
dem Smartphone lesen.

Folgt uns auf Twitter

WinFuture bei Twitter

Interessante Artikel & Testberichte

Tipp einsenden