Grok labert wieder Mist, dieses Mal zum Anschlag von Bondi Beach

Elon Musks Grok hat nach dem Anschlag am Bondi Beach massiv versagt - wieder mal. Die KI lieferte bizarre Falschmeldungen, verwechselte Opfer mit Hamas-Geiseln und erfand Helden. Der Zugriff auf X erwies sich dabei als fatal für die Faktenlage.

Grok scheitert bei Faktenprüfung

Nach dem verheerenden Anschlag am Bondi Beach in Australien, bei dem am Sonntag während einer Chanukka-Feier nach derzeitigem Stand 15 Menschen getötet wurden, zeigt sich erneut die Unzuverlässigkeit aktueller KI-Modelle in Echtzeitszenarien. Der von Elon Musks Unternehmen xAI entwickelte Chatbot Grok verbreitete in der Folgezeit massive Falschinformationen über den Tathergang und die beteiligten Personen.

Anstatt verifizierte Fakten zu liefern, identifizierte das System fälschlicherweise Opfer sowie Helden und vermischte das Ereignis mit völlig unzusammenhängenden Daten. Das Versprechen von xAI, durch den direkten Zugriff auf die Plattform X einen Informationsvorsprung gegenüber Konkurrenten wie ChatGPT und Gemini zu bieten, kehrte sich in diesem Fall ins Gegenteil um.

Im Zentrum der Kritik steht u. a. der Umgang der KI mit dem 43-jährigen Ahmed al-Ahmed. Der Passant hatte laut übereinstimmenden Berichten einen der Schützen heldenhaft entwaffnet. Grok ignorierte die Faktenlage in zahlreichen Antworten und behauptete stattdessen, die auf der Plattform X kursierenden Videos zeigten etwas gänzlich anderes. So erklärte der Chatbot, bei dem Videomaterial handele es sich um eine alte Aufnahme eines Mannes, der auf eine Palme klettert.

In anderen Fällen identifizierte Grok den verletzten al-Ahmed fälschlicherweise als eine israelische Geisel der Hamas oder ordnete Aufnahmen des Polizeieinsatzes dem Zyklon Alfred zu, der Australien zu einem früheren Zeitpunkt getroffen hatte.

Auf YouTube ansehen

Halluzinationen und Quellenprobleme

Wie Gizmodo berichtet, beschränkten sich die Fehler nicht nur auf das Attentat, sondern offenbarten tiefgreifende strukturelle Schwächen. Besonders kurios waren die Halluzinationen bezüglich der Identität des Helfers. Das System behauptete beharrlich, ein "43-jähriger IT-Experte und Senior Solutions Architect" namens Edward Crabtree habe den Schützen entwaffnet.

Das System griff dabei offenbar auf eine mutmaßlich KI-generierte Fake-News-Seite zurück, die von Grok als valide Quelle interpretiert und ungeprüft wiedergegeben wurde. Das Beispiel verdeutlicht das wachsende Problem des sogenannten "Model Collapse". Wenn Large Language Models (LLMs) zunehmend auf Inhalte zugreifen, die von anderen KIs generiert wurden, entstehen geschlossene Feedbackschleifen, in denen sich Fehler verstärken und als Fakten etablieren.

Das System schien zeitweise vollständig die Orientierung verloren zu haben. Nutzer, die Informationen über die Finanzen des Tech-Konzerns Oracle suchten, erhielten stattdessen eine Zusammenfassung der Schießerei in Bondi. Auch eine Schießerei an der Brown University, die sich nur wenige Stunden zuvor ereignet hatte, wurde mit den Geschehnissen in Australien vermengt.

Auf eine Presseanfrage zu den technischen Hintergründen dieser massiven Störung reagierte xAI lediglich mit einer automatisierten Standardantwort, die kritische Berichte pauschal als "Lügen der Legacy-Medien" bezeichnete. Zwar korrigierte der Chatbot einige Fehler, nachdem Nutzer explizit auf die Ungereimtheiten hingewiesen hatten, doch das Vertrauen in die Echtzeitfähigkeiten des Systems wurde durch den Vorfall stark beschädigt.

Traut ihr KI-Chatbots bei aktuellen Nachrichten, oder verlasst ihr euch lieber auf klassische Medien? Schreibt uns eure Erfahrungen in die Kommentare!


Siehe auch: