Apples KI schiebt Presse-Angeboten fehlerhafte Inhalte unter

Die Organisation Reporter ohne Grenzen hat Apple aufgefordert, seine neu eingeführte KI-Funktion zur Zusammenfassung von Nachrichten zu entfernen. Denn diese arbeitet schlicht fehlerhaft und generiert falsche Aussagen.

Halluzinationen im Elektronengehirn

Eine Fehlleistung der KI bestand beispielsweise darin, eine Push-Benachrichtigung zu versenden, die fälschlicherweise berichtete, der Verdächtige Luigi Mangione, der im Zusammenhang mit dem Mord am Chef des US-Konzers UnitedHealthcare steht, habe sich selbst erschossen. Die BBC, deren Originalmeldung die Grundlage war, hat Apple daraufhin kontaktiert, um auf das Problem aufmerksam zu machen und eine Korrektur zu fordern.

Vincent Berthier, Leiter des Bereichs Technologie und Journalismus bei Reporter ohne Grenzen, forderte Apple in einer Stellungnahme auf, "verantwortungsvoll zu handeln und diese Funktion zu entfernen". Berthier kritisierte, dass KI "auf probabilistischer Basis" arbeite und somit keine verlässlichen Fakten liefern könne. Die falschen Informationen, die von der KI im Namen von Medien verbreitet würden, stellten eine Gefahr für die Glaubwürdigkeit der betroffenen Medien und das Recht der Öffentlichkeit auf zuverlässige Informationen dar.


Die Organisation zeigte sich allgemein besorgt über die Risiken, die durch den Einsatz von KI in den Medien entstehen. Der Vorfall verdeutliche, dass die Technologie noch "zu unausgereift" sei, um zuverlässig Informationen für die breite Öffentlichkeit bereitzustellen.

Unter fremdem Logo

Apples generative KI wurde im Juni in den USA eingeführt und soll Nachrichten in kompakten Formaten wie Absätzen oder Stichpunkten zusammenfassen. Seit ihrer öffentlichen Einführung im Oktober hat die Funktion wiederholt Fehler gemacht. Ein weiteres Beispiel: Die KI fasste einen Artikel der New York Times falsch zusammen und behauptete, der israelische Premierminister Benjamin Netanjahu sei verhaftet worden. Tatsächlich hatte der Internationale Strafgerichtshof einen Haftbefehl gegen Netanjahu ausgestellt, was jedoch nicht korrekt wiedergegeben wurde.

Die fehlerhaften Zusammenfassungen bergen nicht nur das Risiko der Verbreitung von Desinformationen, sondern können auch die Glaubwürdigkeit von Nachrichtenorganisationen beschädigen. Die Zusammenfassungen erscheinen schließlich unter dem Logo der jeweiligen Medien, ohne dass diese einen Einfluss auf die Inhalte nehmen können.


Siehe auch: