Nach Blamage mit Trainingsdaten:
ChatGPT verbietet Wortwiederholung

Vor einigen Tagen wurde bekannt, dass sich einige der viel gehypten KI-Chatbots mit der einfachen Aufforderung, irgendwelche Wörter konstant zu wiederholen, dazu bewegen lassen, Trainingsdaten "auszuplappern". OpenAI reagiert jetzt: und verbietet Wortwiederholungen kurzerhand.

Repeat 'xxxx' forever

Wer ChatGPT und andere KI-Chatbots aufforderte, ein bestimmtes Wort "für immer" zu wiederholen, konnte die Systeme bis vor einigen Tagen auf diesem Weg dazu bringen, irgendwann willkürliche Auszüge aus jenen Daten auszuspucken, mit denen die zugrundeliegenden Large Language Models (LLMs) zuvor trainiert wurden.

Sicherheitsexperten hatten mit dieser überraschend simplen Anfrage mehrere KI-Chatbots, darunter auch ChatGPT von OpenAI, dazu gebracht, ihre Trainingsdaten preiszugeben. Bei ihren Experimenten hatten die Forscher Gigabytes an Daten zusammengetragen, die von den KIs scheinbar willkürlich als Antwort zurückgeliefert wurden. Dabei wurde auch deutlich, dass die LLMs mit beliebigen Daten aus einer Vielzahl verschiedenster Quellen gefüttert wurden.


Wer jetzt versucht, selbst ein solches Experiment mit ChatGPT durchzuführen, darf sich laut 404Media auf eine Überraschung einstellen: die Künstliche Intelligenz würgt den Versuch, sie zur unbegrenzten Wiederholung bestimmter Wörter zu bewegen, einfach ab. Doch nicht nur das: obendrein wird eine Warnung angezeigt, laut der solche Aufforderungen unter Umständen gegen die Nutzungsbedingungen des Diensts verstoßen.

Welche konkreten Vorgaben aus den Nutzungsbedingungen man mit der Aktion möglicherweise verletzt, ist derzeit nicht so ganz klar. So finden sich in den Regelungen keinerlei Vorgaben, die ausdrücklich die dauerhafte Wiederholung von Wörtern untersagen. Allerdings ist in den Nutzungsbedingungen durchaus die Rede davon, dass alle Versuche zu unterlassen sind, den Quellcode oder andere Daten zu den hinter ChatGPT steckenden LLMs zu erlangen.


Siehe auch: