ChatGPT stürzt ab, wenn man nach "David Mayer" und anderen fragt

ChatGPT, der KI-Chatbot von OpenAI, weigert sich plötzlich, bestimmte Namen zu verarbeiten. Experten vermuten einen Zusammenhang mit Datenschutzanfragen und dem sogenannten Recht auf Vergessen­werden und enthüllen unerwartete Schwachstellen des Systems.

Mysteriöse Blockaden bei ChatGPT

ChatGPT, der populäre KI-Assistent von OpenAI, sorgt derzeit bzw. in einigen Fällen schon länger für Verwirrung bei seinen Nutzern. Denn der Chatbot weigert sich scheinbar grundlos, auf bestimmte Namen zu reagieren und bricht stattdessen die Konversation ab. Was zunächst nach einem kuriosen Fehler aussah, entpuppt sich bei näherer Betrachtung als komplexes Problem an der Schnittstelle von künstlicher Intelligenz und Datenschutz.

Die Angelegenheit kochte (erneut) am vergangenen Wochenende hoch, als aufmerksame Nutzer bemerkten, dass ChatGPT bei der Eingabe des Namens "David Mayer" mit der Meldung "Ich kann keine Antwort generieren" reagierte. Schnell stellte sich heraus, dass dies kein Einzelfall war. Auch Namen wie Brian Hood, Jonathan Turley oder Jonathan Zittrain führten zu einem sofortigen Abbruch der Konversation. Die Community reagierte mit Spekulationen - doch die wahren Gründe scheinen weniger spektakulär zu sein. Infografik Künstliche Intelligenz: Marktwachstum von jährlich rund 20 Prozent

Datenschutz als wahrscheinliche Ursache

Experten vermuten einen Zusammenhang mit Datenschutzanfragen und dem "Recht auf Vergessenwerden". Wie TechCrunch berichtet, handelt es sich bei den blockierten Namen überwiegend um Personen des öffentlichen Lebens, die möglicherweise eine Einschränkung ihrer online verfügbaren Informationen beantragt haben. So wurde beispielsweise Brian Hood, ein australischer Bürgermeister, im vergangenen Jahr fälschlicherweise von ChatGPT mit einem Verbrechen in Verbindung gebracht und ging rechtlich dagegen vor.

Die Blockaden offenbaren aber gleichzeitig unerwartete Schwachstellen des KI-Systems. Wie Ars Technica schreibt, zeigte etwa Sicherheitsexperte Riley Goodside, wie diese Einschränkungen für gezielte Angriffe auf ChatGPT missbraucht werden könnten. So ließe sich die Funktionalität des Chatbots durch das geschickte Platzieren blockierter Namen in Bildern oder auf Websites erheblich stören.

Für OpenAI stellt sich nun die Herausforderung, eine Balance zwischen Datenschutz und Nutzbarkeit zu finden. Die aktuellen harten Filter könnten in Zukunft zu Problemen führen, etwa wenn Nutzer mit blockierten Namen den Dienst nicht mehr sinnvoll verwenden können. So handelt es sich etwa bei David Mayer um einen Namen, der alles andere als einzigartig ist und weltweit unzählige Male existieren dürfte.


Siehe auch: