Für Mutige und Datenschutz-Hasardeure:
OpenAI startet ChatGPT Health

OpenAI verspricht mit ChatGPT Health fundierte Analysen von Laborwerten und Fitnessdaten in einer gesicherten Umgebung. Doch trotz ärztlicher Prüfung warnt der Konzern vor Halluzinationen. Die Nutzung ist auch nur jenen empfohlen, denen Datenschutz egal ist.

ChatGPT: Neuer Bereich für Patientenakten

OpenAI hat mit ChatGPT Health einen neuen, speziell isolierten Bereich innerhalb seines KI-Chatbots eingeführt. Das Ziel ist es, den Nutzern eine Plattform zu bieten, auf der sie fundiertere Gespräche über ihr körperliches Wohlbefinden führen können, ohne dass diese sensiblen Daten mit regulären Chatverläufen vermischt werden.

Der Dienst ermöglicht (zunächst in den USA) die direkte Integration von elektronischen Patientenakten sowie weltweit die Anbindung von Fitnessdaten aus Anwendungen wie Apple Health, MyFitnessPal, Weight Watchers oder Peloton. Das System soll Nutzern helfen, komplexe Laborergebnisse zu verstehen oder sich besser auf Arzttermine vorzubereiten.


Das Unternehmen reagiert damit auf eine bereits existierende Nutzungspraxis, da nach OpenAI-Angaben wöchentlich weltweit rund 230 Millionen Menschen Fragen zu medizinischen Themen an die KI stellen. Der neue Modus strukturiert diese Konversationen und personalisiert sie durch den Zugriff auf reale Gesundheitsdaten. Dabei fungiert der Gesundheitsbereich als technische Sandbox.

Das bedeutet, dass Chats und Daten in diesem Modus getrennt von der übrigen Historie gespeichert und standardmäßig nicht zum Training der allgemeinen KI-Modelle verwendet werden. Zwar kann die KI Kontext aus regulären Unterhaltungen in den Gesundheitsbereich ziehen - etwa, dass ein Nutzer für einen Marathon trainiert -, Informationen fließen jedoch niemals aus dem Health-Bereich zurück in den allgemeinen Chat.

Entwicklung und medizinische Funktionen

Wie OpenAI in einem aktuellen Blogbeitrag ausführt, wurde das System über zwei Jahre in Zusammenarbeit mit mehr als 260 Ärzten entwickelt. Diese Fachleute bewerteten über 600.000 Modellantworten anhand des eigens entwickelten Benchmarks HealthBench. Das Verfahren stellt sicher, dass die KI nicht nur medizinisch plausible, sondern faktisch korrekte und leitlinienkonforme Antworten liefert. Das System soll erkennen, wann eine Situation dringende ärztliche Hilfe erfordert, und entsprechende Warnhinweise geben, statt lediglich allgemeine Ratschläge zu erteilen.

Für die technische Anbindung von US-Patientenakten kooperiert der KI-Entwickler mit dem Dienstleister b.well. Nutzer können zudem Fotos von Laborberichten hochladen oder Wearable-Daten analysieren lassen, um Trends wie Cholesterinwerte oder Schlafmuster im Zeitverlauf zu verstehen. Das System ist in der Lage, komplexe Zusammenhänge zwischen Bewegung, Ernährung und Blutwerten zu erkennen und verständlich aufzubereiten.

Datenschutz und Risikofaktoren

Trotz der engen Zusammenarbeit mit Medizinern betont der Hersteller, dass das Tool keinesfalls Diagnosen stellen oder Behandlungen empfehlen darf. Es dient lediglich der Information und Vorbereitung. Das ist auch rechtlich relevant, da ChatGPT Health als Verbraucherprodukt eingestuft ist und somit beispielsweise in den USA nicht unter die strengen HIPAA-Datenschutzgesetze für das Gesundheitswesen fällt. Das entbindet OpenAI von gewissen Haftungsrisiken, die bei zertifizierten Medizinprodukten greifen würden, verlagert die Verantwortung jedoch stark auf den Nutzer.

Experten mahnen trotz der verschlüsselten Umgebung zur Vorsicht. Zwar bietet OpenAI eine Zweck-Verschlüsselung, jedoch keine Ende-zu-Ende-Verschlüsselung, wie sie bei spezialisierten Messengern üblich wäre. Kritiker weisen darauf hin, dass generative KI weiterhin zu sogenannten Halluzinationen neigt - also dem Erfinden von Fakten. In der Vergangenheit gab es Vorfälle, bei denen KI-Modelle gefährliche Ratschläge erteilten, wie etwa die Empfehlung an Nierenkranke, Kochsalz durch Natriumbromid zu ersetzen. Auch das Thema psychische Gesundheit bleibt heikel, da Nutzer mit Hypochondrie durch übermäßige Analysen ihrer Vitalwerte in Angst versetzt werden könnten.

Würdet ihr eure sensiblen Gesundheitsdaten einer KI anvertrauen, um bessere Analysen zu erhalten, oder ist euch das Risiko zu hoch? Schreibt uns eure Meinung dazu gerne in die Kommentare!


Siehe auch: