Google möchte mit Machine Learning gegen Online-Trolling vorgehen

Hassreden oder einfach nur unsinnige Aussagen sind im Internet und besonders in Foren sowie Chat-Räumen weit verbreitet. Viele Moderatoren sind mit den dazugehörigen Situationen überfordert, sodass die Kommentarfunktion auf vielen Seiten bereits eingeschränkt wurde. Eine von Google durchgeführte Umfrage hatte ergeben, dass 72 Prozent aller Amerikaner schon einmal in Kontakt mit Beleidigungen oder Hassreden im Internet gekommen sind. Sogar mehr als die Hälfte sollen selbst Opfer hiervon gewesen sein. Darüber hat auch Wired berichtet. Um das Problem zu bekämpfen, hat Google jetzt ein neues Projekt mit dem Namen "Perspective" gestartet. Dies erfolgt in Kooperation mit dem Unternehmen Jigsaw. Auf dem eigenen Blog schildert der Suchmaschinenkonzern das Ziel des Vorhabens: Mit Hilfe von künstlicher Intelligenz beziehungsweise Machine Learning wird bestimmt, ob ein geschriebener Satz andere Nutzer verärgern wird oder nicht. Den Foren-Trolls wird somit in Zukunft keine Chance mehr gelassen. Allerdings befindet sich die Technologie noch in einem sehr frühen Entwicklungsstadium.

Entwickler können API verwenden

Forenbetreiber oder Webseiten mit der Möglichkeit einen Artikel zu kommentieren, müssen in Zukunft lediglich eine API in den eigenen Internetauftritt einbinden, um alle Funktionen von Perspective nutzen zu können. Hiermit wird dann ein Großteil der Moderatoren entlastet, da nur noch wenige Kommentare manuell geprüft werden müssen und eine Vielzahl durch die künstliche Intelligenz übernommen wird.

Schon in Vergangenheit hat Google eigenen Angaben zufolge mit einigen Online-Medien zusammengearbeitet, um das Projekt testen zu können. Da Perspective auf Machine Learning basiert, verbessert sich die Effizienz und Genauigkeit fortlaufend, solange das System schon arbeitet. Google möchte mit dem Projekt nicht nur Trolling bekämpfen, sondern Online-Konversationen im Allgemeinen wesentlich sicherer und angenehmer für die Nutzer gestalten. Ki, Künstliche Intelligenz, Gehirn, Kopf, Denken Saad Faruque (CC BY-SA 2.0)