Dieser Patient ist Biertrinker:
KI sieht in Röntgenbildern komische Dinge

Biertrinker und Bohnenesser: Künstliche Intelligenz in der medizinischen Bildgebung kann irreführende Ergebnisse liefern. Eine Studie zeigt, wie KI-Modelle aus Knie-Röntgenbildern abstruse Zusammenhänge ableiten. Die Forscher warnen deutlich.

"Dieses Knie, das ist doch ein Biertrinker"

Als Forscher am Dartmouth College KI-Modelle mit über 25.000 Knie-Röntgenaufnahmen fütterten, erwarteten sie Erkenntnisse über orthopädische Probleme. Stattdessen machten die Algorithmen verblüffende "Vorhersagen" über den Konsum von Bier und frittierten Bohnen - mit scheinbar hoher Genauigkeit. Doch wie konnten die Modelle solch abwegige Schlüsse ziehen?

Die Antwort liegt im sogenannten "Shortcut Learning". Die KI-Systeme nutzten nicht die medizinisch relevanten Merkmale, sondern klammerten sich an versteckte Muster in den Daten. Sie lernten völlig entgegen der eigentlichen Zielsetzung, subtile Unterschiede in der Röntgenausrüstung oder klinischen Standortmarker zu priorisieren, anstatt tatsächliche medizinische Informationen zu analysieren.


Die in Scientific Reports veröffentlichte Studie offenbart die Tücken der KI in der medizinischen Forschung. Dr. Peter Schilling, leitender Autor, warnt: "Diese Modelle können Muster erkennen, die Menschen nicht sehen können, aber nicht alle identifizierten Muster sind bedeutungsvoll oder zuverlässig." Besonders kurios: Die Forscher versuchten, die Verzerrungen zu eliminieren, doch die KI fand stets neue Wege, irrelevante Daten zu nutzen.

Hauptmerkmale des Shortcut Learning:

Wie ein Alien

Brandon Hill, Co-Autor der Studie, die in Nature veröffentlicht wurde, vergleicht die Arbeit mit KI mit dem "Umgang mit einer außerirdischen Intelligenz".

"Man könnte sagen, das Modell "schummelt", aber das vermenschlicht die Technologie. Es hat einfach einen Weg gefunden, die ihm gestellte Aufgabe zu lösen - allerdings nicht so, wie ein Mensch es tun würde. Es verfügt weder über Logik noch über Vernunft, zumindest nicht in dem Sinne, wie wir es normalerweise verstehen."

Die Modelle lösen Aufgaben auf unerwartete Weise, fernab menschlicher Logik. Diese Erkenntnis stellt Forscher vor neue Herausforderungen: Wie können sie sicherstellen, dass KI-generierte Muster tatsächlich medizinisch relevant sind? Die Studie unterstreicht die Notwendigkeit strenger Evaluierungsstandards und mahnt zur Vorsicht bei der Interpretation von KI-Ergebnissen in der medizinischen Bildgebung.


Siehe auch: