Fraunhofer bringt Licht in die Black Boxes der modernen KI-Systeme

Die modernen künstlichen Intelligenzen haben den großen Vorteil, dass man ihnen nicht jedes kleine Detail mühsam einprogrammieren muss. Sie lernen selbst und finden eigene Lösungswege. Das Problem dabei ist allerdings, dass niemand mehr nachvollziehen kann, wie die Algorithmen intern arbeiten. Die IT-Szene ist regelrecht berauscht von den Möglichkeiten, welche die selbst lernenden Neuronalen Netze, die den Kern der neuesten KI-Anwendungen bilden, eröffnen. Insbesondere dort, wo es um kritische Aufgaben geht, bei denen beispielsweise auch die Gesundheit von Menschen auf dem Spiel stehen kann, will man aber dann doch gern nachvollziehen können, was man von der Technik erwarten kann. Das ist bei den KIs aber nicht so einfach.

Nicht einmal die Entwickler wissen im Detail, was in ihrer Software passiert. Denn diese ist wirklich in der Lage, intern eigene Lösungswege zu entwickeln. Anders als normale Computerprogramme, bei denen jeder Arbeitsschritt am Code nachvollziehbar ist, hat man es hier quasi mit unbekannten Vorgängen in Black Boxes zu tun. Fraunhofer-Forscher wollen dies aber ändern.


Sie haben eine neue Software entwickelt, mit der man einen Blick in die inneren Vorgänge werfen kann. Diese arbeitet sich im Grunde vom Ergebnis aus rückwärts durch die Arbeitsgänge der KI. "Wir können genau sehen, an welcher Stelle eine bestimmte Gruppe von Neuronen eine bestimmte Entscheidung getroffen und wie stark diese zum Ergebnis beigetragen hat", erklärte Wojciech Samek, Leiter der Forschungsgruppe für Maschinelles Lernen am Fraunhofer Heinrich-Hertz-Institut HHI in Berlin in einer Pressemitteilung (PDF).

Von wegen Bildanalyse

Die Erkenntnisse können dabei ziemlich überraschend sein. Das zeigte der Vergleich zweier Bilderkennungs-KIs, die im Internet frei verfügbar sind und die Bilder erkennen sollen, auf denen Pferde zu sehen sind. Die jeweilige Software wurde dafür mit einer großen Menge an Beispiel-Bildern gefüttert und erarbeitete sich einen Weg, der im Endeffekt zu richtigen Ergebnissen führte.

Die erste KI erkannte tatsächlich die bildlichen Muster von Pferden auf den jeweiligen Fotos, wie die Fraunhofer-Software zu Tage förderte. Beim zweiten System zeigte sich hingegen ein völlig anderer Ansatz: Dieses orientierte sich schlicht an den Metadaten und Copyright-Angaben und suchte hier nach Hinweisen auf Foren für Pferdeliebhaber oder Reit- und Zuchtvereine.