Sepsis erkennen: KI versagt aufgrund falschen Trainings jämmerlich

Der Einsatz von KI-Systemen wird immer wieder mit wundersam guten Ergebnissen vorangetrieben. Allerdings zeigt sich an einem aktuellen Beispiel, dass es ein tödliches Risiko darstellen kann, sich darauf zu verlassen. In den vergangenen Jahren hat die KI-Forschung immer wieder Erfolge vorgeführt, bei denen man mit der Bildanalyse durch den Computer auch im medizinischen Bereich zu wesentlich schnelleren und besseren Ergebnissen kam als menschliche Spezialisten. So beispielsweise bei der Erkennung von Hautkrebs. Das kann dazu verleiten, zu große Erwartungen in die Technologie zu stecken, wie Tests eines Produkts des Herstellers Epic Systems zeigen.

Der Anbieter von Medizin-Technik vermarktet ein System an Krankenhäuser, das eine Sepsis automatisiert und frühzeitig erkennen soll. Das würde ein gravierendes Problem in Kliniken lösen, denn hier kommt es relativ häufig vor, dass Wundinfektionen zu einer schleichenden Vergiftung des Körpers führen. Immer wieder werden die Symptome erst erkannt, wenn es bereits zu massiven, teils lebensbedrohlichen Auswirkungen kommt. Nun zeigt sich aber, dass das System nicht wie beworben funktioniert.

Trigger kommt zu spät

Eine Studie, die im JAMA Internal Medicine publiziert wurde, kommt zu dem Ergebnis, dass die vom Hersteller angegebene Treffer-Genauigkeit von 76 Prozent auf keinen Fall erreicht wird. Bei der Auswertung von Daten der Überwachung von rund 40.000 Patienten beim Klinikbetreiber Michigan Medicine kam man gerade einmal auf 63 Prozent.

Demnach haben im Auswertungszeitraum 2552 Patienten eine Sepsis entwickelt. In 1709 Fällen hat das Epic-Tool dabei nicht vor dem Personal angeschlagen. Und die Erkennungsquote im direkten Vergleich lag lediglich 7 Prozent höher als bei einem Arzt, sodass kaum davon ausgegangen werden kann, dass die KI statistisch wesentlich besser funktioniert als die Fachleute im Krankenhaus. Stattdessen schlug die KI relativ häufig mit falschpositiven Alarmmeldungen an und beschäftigte die Ärzte so grundlos.

Wie so oft zeigte sich bei einer genaueren Analyse, dass die Ursache für das Versagen der KI wohl in der Ausgestaltung des Trainings zu suchen war. Denn das System bekam einen positiven Sepsis-Befund nicht beigebracht, indem Patienten mit Symptomen einer gesunden Person gegenübergestellt wurde. Stattdessen reagierte der Computer, wenn die Klinik-Abteilung eine Rechnung für die Behandlung einer Sepsis ausstellte. Zu diesem Zeitpunkt dürften die Symptome in vielen Fällen bereits wieder abgeklungen gewesen sein.

Siehe auch:

Prozessor, Cpu, Chip, Forschung, Wissenschaft, Ki, Künstliche Intelligenz, Stockfotos, AI, Artificial Intelligence, Wissenschaftler, Gehirn, Bot, scientist, Science, Gesicht, Kopf, Binärcode, Binär, Denken, Hirnsteuerung, Gehirnwellen, Gehirnchip, Hirn, Hirnforschung, Gedanke, Künstliches Gehirn, Köpfe Prozessor, Cpu, Chip, Forschung, Wissenschaft, Ki, Künstliche Intelligenz, Stockfotos, AI, Artificial Intelligence, Wissenschaftler, Gehirn, Bot, scientist, Science, Gesicht, Kopf, Binärcode, Binär, Denken, Hirnsteuerung, Gehirnwellen, Gehirnchip, Hirn, Hirnforschung, Gedanke, Künstliches Gehirn, Köpfe
Diese Nachricht empfehlen
Jetzt einen Kommentar schreiben


Alle Kommentare zu dieser News anzeigen
Kommentar abgeben Netiquette beachten!
Einloggen

Jetzt als Amazon Blitzangebot

Ab 02:19 Uhr ZasLuke Webcam, 1080P Ringlicht Webcam mit 315° AI Tracking, Privacy Cover, Mikrofon, Auto-Focus USB Webcam für PC Mac-Laptops, Zoom Skype FacetimeZasLuke Webcam, 1080P Ringlicht Webcam mit 315° AI Tracking, Privacy Cover, Mikrofon, Auto-Focus USB Webcam für PC Mac-Laptops, Zoom Skype Facetime
Original Amazon-Preis
59,99
Im Preisvergleich ab
?
Blitzangebot-Preis
50,99
Ersparnis zu Amazon 15% oder 9

Video-Empfehlungen

Tipp einsenden

❤ WinFuture unterstützen

Sie wollen online einkaufen? Dann nutzen Sie bitte einen der folgenden Affiliate-Links, um WinFuture zu unterstützen: Vielen Dank!