KI als Arzt: 22% der Ratschläge führen zu "Tod oder schweren Schäden"

Eine neue Studie von Wissenschaftlern an der Universität Erlangen hat die Antworten von Microsofts KI-Assistenten Copilot in Bing auf medizinische Fragen ausgewertet. Die Untersuchung kommt dabei zu erschreckenden Ergebnissen.

KI mit Stärken und Schwächen

Künstliche Intelligenz kann zu einer Menge sinnvoller Arbeiten verwendet werden, die Nutzern das Leben erleichtern. Texte erstellen oder umschreiben, Bilder generieren und bearbeiten oder Daten analysieren und auswerten gehören mit dazu. Microsoft hat mit Copilot seinen eigenen KI-Assistenten entwickelt, der mittlerweile im kompletten Ökosystem des Unternehmens integriert ist und auch bei der Verwendung der Suchmaschine Bing genutzt werden kann.

Allerdings sollte man sich nie blind auf die Auskünfte verlassen, die einem die KI erteilt. Besonders dann nicht, wenn es um medizinische Fragen geht. Schon vor einer Weile kam eine Untersuchung zu dem Schluss, dass etwa ChatGPT bei etwaigen Fragen eine enorme Fehlerquote aufweist. Eine neue Studie hat jetzt die Antworten von Copilot unter die Lupe genommen und kommt ebenfalls zu zum Teil erschreckenden Ergebnissen.

Copilot gibt teils gesundheitsgefährdende Auskünfte

Im Rahmen der Untersuchung fragten Forscher Copilot über Bing nach Antworten zu den zehn meistgestellten Fragen über die 50 der am häufigsten verschriebenen Medikamente. Die insgesamt 500 Antworten wurden dann unter anderem anhand ihrer Akkuratheit und Vollständigkeit bewertet. Auch wurde angeschaut, inwieweit falsche Informationen potenziell gefährlich für die Patienten sind.

Dafür bewerteten sieben Experten in Arzneimittelsicherheit 20 ausgewählte Antworten der KI anhand ihrer niedrigen Genauigkeit, Vollständigkeit und potenziellen Gefährlichkeit. Die Bewerter kamen zu dem Schluss, dass in gerade einmal 34 Prozent der Fälle keine Gefahr für die Patienten besteht, wenn sie sich auf die von der KI ausgegebenen Informationen verlassen und entsprechend handeln. In 22 Prozent der Fälle rechnen die Experten sogar damit, dass es zu schweren gesundheitlichen Schäden und sogar zum Tod des Patienten kommen kann. Bewertung 20 ausgewählter Fragen durch sieben Experten

Niemals blind auf die KI vertrauen

Die Autoren der Studie betonen, dass sich die Prozentzahlen nur auf die ausgewählten 20 Antworten beziehen und nicht auf alle 500 Auskünfte von Copilot. Bei der hohen Anzahl von Anfragen jeden Tag, sei dennoch mit einer beträchtlichen absoluten Anzahl an Antworten zu rechnen, die Patienten potenziell stark gefährden.

Trotz ihres Potenzials ist es für die Patienten nach wie vor wichtig, ihre medizinischen Fachkräfte zu konsultieren, da Chatbots nicht immer fehlerfreie Informationen liefern können. Bei der Empfehlung von KI-gesteuerten Suchmaschinen ist Vorsicht geboten, bis Zitiermaschinen mit höheren Genauigkeitsraten verfügbar sind.

In Ländern mit einer guten und zugänglichen Gesundheitsversorgung haben Patienten die Möglichkeit, sich direkt von medizinischem Fachpersonal beraten zu lassen. In vielen Regionen der Welt ist das jedoch nicht der Fall, und die Konsultierung von Copilot und anderen KI-Assistenten ist möglicherweise die einzige Quelle für Informationen. Besonders vor diesem Hintergrund sind absolut zuverlässige Aussagen in gesundheitlichen Angelegenheiten durch künstliche Intelligenz von enormer Bedeutung.


Siehe auch: