Googles neue Moderations-Bots dürfen ohne Überprüfung Nutzer bannen

Google stattet seine automatisierten Systeme zur Moderation von Kommentaren auf YouTube mit weitreichenden Rechten aus. Verstößt ein Nutzer wiederholt gegen Plattform-Regeln, kann das System automatisiert einen Bann aussprechen. Widerspruch? Nicht wirklich vorgesehen.

Der Bot darf jetzt ganz selbstständig den Bann-Hammer herausholen

Eine Plattform, wie YouTube zu moderieren ist eine Mammutaufgabe, die ohne Automation nicht zu schaffen ist. Wie das Unternehmen jetzt in einem Blogpost ausführt, arbeitet man mit Hochdruck weiter daran, die Werkzeuge für die Entfernung von Spam und Missbrauch in der Kommentarfunktion weiterzuentwickeln. Alleine in der ersten Hälfte dieses Jahres haben die Moderations-Bots demnach 1,1 Milliarden "Spam-Kommentare" entfernt. "Unsere maschinellen Lernmodelle werden ständig verbessert, um neue Arten von Spam besser zu erkennen", so das Unternehmen stolz


Dieser Fortschritt bringt mit sich, dass die Entwickler den automatisierten Systemen jetzt noch mehr Verantwortung zutrauen. Demnach sorgt eine neue Funktion dafür, dass Nutzer, die wiederholt gegen die Community-Richtlinien verstoßen, erst verwarnt werden und dann durch die Bots eine Zeitsperre erhalten können, die weiteres Kommentieren für bis zu 24 Stunden verhindert. "Unsere Tests haben gezeigt, dass diese Warnungen/Timeouts die Wahrscheinlichkeit verringern, dass Nutzer erneut gegen die Richtlinien verstoßen", so die Entwickler zu dem Update.

Fehlentscheidung, Pech gehabt

Und was, wenn der Bot hier eine Fehlentscheidung getroffen hat? Eine direkte Möglichkeit, sich gegen den automatisierten Prozess zur Wehr zu setzen, sieht Google offenbar nicht vor. So schreibt das Unternehmen lediglich: "Natürlich machen unsere Systeme nicht immer alles richtig, daher können Nutzer, die diese Warnungen erhalten, uns Feedback geben, damit wir wissen, ob wir uns geirrt haben." Google hat sich über Jahre den Ruf erarbeitet, dass "Feedback einreichen"-Funktionen nur selten zu Interaktion mit echten Menschen führt.

Siehe auch: