USA: Zulassung von Medikamenten jetzt auf Basis von Fake-KI-Studien

Der US-Gesundheitsminister Robert F. Kennedy Jr. treibt den Einsatz von KI-Systemen in Bundesbehörden wie der Arzneimittel­zu­las­sungs­be­hör­de FDA energisch voran. Dies hat allerdings recht dra­ma­ti­sche Folgen für die Medikamentensicherheit.

Elsa im Einsatz

Kennedys Vision: Mithilfe von KI sollen die Behörden effizienter arbeiten und neue Medikamente zukünftig deutlich schneller zugelassen werden. Doch ein Bericht des Senders CNN wirft nun ernsthafte Zweifel an der Zuverlässigkeit des KI-Systems "Elsa" auf, das derzeit bei der FDA im Einsatz ist.

Demnach soll Elsa wiederholt sogenannte Halluzinationen produziert haben - also frei erfundene wissenschaftliche Studien. Sechs aktuelle und ehemalige FDA-Mitarbeiter berichteten von ihren Erfahrungen mit dem Tool. Während einige den Nutzen von Elsa etwa zur Protokollerstellung lobten, warnten andere eindringlich vor gravierenden Fehlern. Eine FDA-Beschäftigte sagte: "Alles, was man nicht selbst gegenprüfen kann, ist unzuverlässig. Elsa halluziniert - und das mit voller Überzeugung."


Besonders kritisch wird die Tatsache gesehen, dass falsche oder irreführende Zusammenfassungen medizinischer Studien direkte Auswirkungen auf die öffentliche Gesundheit haben könnten. Eine interne Analyse zeigte zudem, dass ein Bericht der von Kennedy ins Leben gerufenen Kommission "Make America Healthy Again" zahlreiche nicht existierende Studien zitierte - ob Elsa daran beteiligt war, ist unklar.

Trotz der Warnungen hält FDA-Kommissar Marty Makary an Elsa fest. In einer internen Präsentation wurde das System als "kosteneffizient" bezeichnet - es verursachte in den ersten vier Wochen lediglich 12.000 Dollar an Ausgaben. Makary räumte gegenüber CNN ein, dass Elsa "theoretisch halluzinieren" könne, stellte dies jedoch als generelles Problem aller KI-Systeme dar.

Kennedy optimistisch

Kennedy selbst äußerte sich zuletzt vor dem US-Kongress optimistisch: KI solle die Medikamentenzulassung deutlich beschleunigen. Gleichzeitig setzt er sich dafür ein, dass in den kommenden vier Jahren alle Amerikaner mit tragbaren Gesundheitsgeräten in Form von Smartwatches ausgestattet werden - eine Initiative, die Beobachter angesichts seiner Nähe zur Wearable-Industrie kritisch sehen.

Ein offizielles Statement der FDA versuchte die Vorwürfe zu entkräften, sprach von aus dem Zusammenhang gerissenen Informationen und stellte CNNs Bericht grundsätzlich infrage. Konkrete Falschaussagen konnten oder wollten die Behördenvertreter auf Nachfrage jedoch nicht benennen.


Siehe auch: