KI-Agenten außer Kontrolle:
Wikipedia-Betreiber kritisieren OpenAI

Das Team hinter Wikipedia hat Hinweise entdeckt, laut denen automatisiert und autonom arbeitende KI-Systeme von OpenAI Änderungen an Wiki-Einträgen vorgenommen haben und mit ihren Aktivitäten für massiv erhöhten Datenverkehr sorgten.

Wikipedia-Betreiber klagen über Belastung durch KI

Zuletzt meldeten mehrere große Anbieter von Diensten aus dem Bereich der Künstlichen Intelligenz, dass ihre "Agenten" sich verselbständigt haben sollen, um in Server von Dritten einzudringen. Wie üblich schwankten die Warnungen zwischen Marketing und angeblicher Sorge über eigenmächtig handelnde KI-Systeme.

Jetzt meldete sich die gemeinnützige Wikimedia-Stiftung als Betreiber der Wikipedia zu Wort und ließ verlauten, dass verschiedene von ihr betriebene Wiki-Seiten offenbar mehrfach von KI-Agenten von OpenAI modifiziert wurden. Laut einem Blog-Eintrag des Teams wurden zwar keine Wikimedia-Seiten zur "Koordination" zwischen autonom agierenden KI-Agenten genutzt oder ein Abfluss von Daten verzeichnet, dennoch habe es besorgniserregende Aktionen der KI gegeben.

Wikis als Proxy für Abruf externer Daten

Die "Agenten" der KI-Betreiber hätten unter anderem Wikis der Wikimedia Foundation bearbeitet, mit denen sie die Bearbeitung in einem "Sandbox"-Bereich testeten. Außerdem erfolgte eine Bearbeitung eines Tools für Zitate, bei dem sich andeutet, dass damit ein Missbrauch des Werkzeugs als Proxy für den Abruf von Daten von anderen Diensten im offenen Web erfolgen sollte.


Darüber hinaus hätten KI-Agenten aus dem "Umfeld von OpenAI" versucht, ein von der Wikimedia Foundation betriebenes, öffentlich zugängliches Etherpad zu kompromittieren. Auch in diesem Fall sei versucht worden, das Notiz-Tool als Zwischenstation für den Abruf von Daten auf Drittservern zu verwenden.

KI-Traffic führte zu übermäßiger Belastung & Ausfällen

Besonders problematisch sind nach Angaben der Wikimedia-Stiftung aber die massenhaften Zugriffe der KI-Agenten von OpenAI auf öffentliche APIs, bei denen Millionen von Seiten der Dienste Wikidata und Wikimedia Commons unautorisiert abgerufen wurden. Obendrein sei der Betrieb des Wikidata Query Service im Mai wahrscheinlich auch deshalb zeitweise ausgefallen, weil hunderttausende Anfragen der KI-Agenten die Systeme dahinter überlasteten.

Die Wikipedia-Betreiber finden aufgrund der offensichtlich unkontrollierten Aktivitäten der "Agenten" von OpenAI deutliche Worte. Es sei Aufgabe von Firmen wie OpenAI, die Aktivitäten ihrer "Agenten" zu überwachen und gegebenenfalls einzugreifen, statt die Last ihrer Aktionen auf andere und vor allem kleinere Anbieter von Inhalten im offenen Web zu legen.

Das offene Internet ist ein öffentliches Gut. Wir sollten nicht zulassen, dass dieses Verhalten für die Menschen oder Organisationen, die es aufrechterhalten, zur 'neuen Normalität' wird. [...] Unsere gemeinsame Priorität sollte die Gesundheit des gesamten Web-Ökosystems sein, damit es weiterhin allen Menschen zugutekommt - und nicht nur einer Handvoll Milliardäre

Siehe auch: