Anbiedernde KI: China nimmt Chatbots ihre 'Persönlichkeit'

In China greift die Regierung mit neuen Regelungen gegen eine zu starke "Personifizierung" von Chatbots auf Basis von Künstlicher Intelligenz durch. ByteDance, Alibaba und andere große KI-Anbieter schalten deshalb die sogenannten "KI-Kompagnons" ab.

Anbieter entfernen Features vor neuen Gesetzen

Chatbots wie ChatGPT, Copilot oder Gemini werden von ihren Betreibern immer stärker so gestaltet, dass sie eine Art "persönliche Bindung" zu ihrem Nutzer aufbauen. Dies hat teilweise drastische Folgen, gibt es doch immer wieder Berichte, laut denen bestimmte Personen eine zu starke "Beziehung" aufbauen und sich selbst oder anderen deshalb Schaden zufügen.

In China verschwinden bei den dort verfügbaren KI-Chatbots in den kommenden Wochen die auch bei ihnen bisher enthaltenen Funktionen zur Anpassung des Verhaltens der virtuellen "Persönlichkeit" der KI. Hintergrund sind neue Regelungen, die die dortigen Behörden in Kürze in Kraft setzen wollen, berichten Bloomberg und Nikkei Asia.

Neue Vorschriften gelten ab Mitte Juli

In dem von ByteDance betriebenen KI-Chatbot Doubao und bei Qwen von Alibaba werden seit Kurzem entsprechende Ankündigungen angezeigt. Darin kündigen die Betreiber der Chatbots an, dass die Dienste künftig auf bestimmte Funktionen für die Anpassung des "Verhaltens" der KI verzichten. Die Features werden den Angaben zufolge ab 15. Juli 2026 deaktiviert.

In China wurden viele Chatbots bisher mit Anpassungsmöglichkeiten angeboten, um so dafür zu sorgen, dass die KI reagiert, als wäre sie ein Freund oder eine Freundin, eine Art digitaler Therapeut oder ein digitaler Klon eines bekannten Popstars. Die neuen Regelungen der Regierung sollen derartige "Verhalten" der Chatbots in klarere Bahnen lenken.

So wird unter anderem vorgeschrieben, dass keine Inhalte generiert werden dürfen, die "extreme Gefühle" bei Minderjährigen auslösen oder zu "ungesunden emotionalen Abhängigkeiten" führen können, die Beziehungen im echten Leben schaden. Außerdem dürfen die persönlichen Informationen der Nutzer nicht dazu verwendet werden, um die KI-Modelle der Anbieter zu trainieren.


Siehe auch: