Correction: Microsoft-Tool soll KI-Halluzinationen erkennen

KIs sind dafür bekannt, es mit der Fakten-Genauigkeit nicht ganz so genau zu nehmen. Microsoft will dem mit einem neuen Tool namens "Correction" begegnen, das sogenannte "Halluzinationen" in KI-generierten Texten erkennen soll.

Abgleich mit Primärquellen

Bei den "Halluzinationen" handelt es sich um inhaltliche Fehler, die in KI-generierte Texte eingebaut werden. Den Systemen scheint es in erster Linie wichtig zu sein, einen plausibel klingenden und flüssigen Text abzuliefern - wenn sie sich dafür zusätzliche Informationen "ausdenken" müssen, sehen sie dies nicht so eng. Für den Leser kann es schwer sein, solche Fehler zu erkennen.

"Correction" soll allerdings in der Lage sein, solche Falschaussagen zu erkennen, indem es KI-generierte Texte mit vertrauenswürdigen Quellen wie hochgeladenen Dokumenten oder Transkripten vergleicht. Das Tool ist derzeit als Teil der Azure AI Content Safety API in einer Testversion verfügbar und kann mit verschiedenen Text-KI-Modellen, darunter Meta's Llama und OpenAI's GPT-4o, verwendet werden.


"Correction" funktioniert laut Microsoft durch den Einsatz von kleinen und großen Sprachmodellen, die die generierten Inhalte mit Primärquellen abgleichen. Besonders in kritischen Bereichen wie der Medizin soll das Tool die Genauigkeit von KI-Antworten verbessern. Allerdings betonen Experten wie Os Keyes, ein Forscher an der University of Washington, dass das Tool nicht die grundlegende Ursache von Halluzinationen löst, da diese ein inhärenter Bestandteil der Funktionsweise von KI-Sprachmodellen seien.

Ansatz einer Lösung

Die Halluzinationen entstehen, weil KI-Modelle nicht über echtes Wissen verfügen, sondern lediglich Muster in den Daten erkennen, auf denen sie trainiert wurden. Dementsprechend basieren ihre Antworten eher auf statistischen Vorhersagen als auf tatsächlichem Verständnis. Trotz der Bemühungen der Entwickler, diese Problematik durch den Abgleich mit verlässlichen Datenquellen zu minimieren, bleibt die Herausforderung bestehen.

Ein weiteres Problem könnte laut dem Forscher Mike Cook von der Queen Mary University darin bestehen, dass das neue Tool Nutzer in einer falschen Sicherheit wiegen könnte. Selbst wenn "Correction" viele Fehler erkennt, könnte es den Eindruck erwecken, die generierten Inhalte seien verlässlicher, als sie tatsächlich sind. Zudem wird das Tool nur bis zu einem gewissen Nutzungsvolumen kostenlos angeboten, sodass es insbesondere von vielen Adressaten KI-generierter Texte im Internet nicht einfach in größerem Umfang genutzt werden kann.


Siehe auch: