Instagram verschärft Kontrollen:
KI enttarnt Teenager automatisch

Mark Zuckerbergs Facebook-Mutterkonzern Meta setzt bei Instagram ab sofort auf ein neues System, bei dem eine Künstliche Intelligenz verwendet wird, um zu erkennen, wenn Teenager ihr Nutzerkonto fälschlicherweise als Erwachsenen-Account tarnen.

Meta will falsche Altersangaben verhindern

Meta führt in den Vereinigten Staaten ab sofort ein KI-System ein, das Nutzerkonten automatisch untersucht, um zu erkennen, ob es sich vielleicht um einen von einem Teenager genutzten Account handelt. Ist dies der Fall, wird das jeweilige Nutzerkonto automatisch als sogenannter "Teen Account" eingestuft, für den bestimmte Einschränkungen gelten, so das Unternehmen.

Meta will mit der neuen KI-basierten Erkennung von Teenager-Nutzerkonten gegen Betrugsversuche von Jugendlichen vorgehen, die ein falsches Geburtsdatum angeben. Das System wird zunächst nur in den USA eingesetzt, wobei unklar ist, ob auch eine internationale Einführung angedacht ist.

Erwachsene bald versehentlich mit Teen-Accounts?

Instagram hatte die sogenannten Teen-Accounts im September 2024 eingeführt. Sie sollen einen besseren Schutz von jugendlichen Nutzern ermöglichen, damit diese keine unerwünschten Kontakte haben oder anderen gefährdenden Inhalten auf der Plattform ausgesetzt werden.

Wenn man bei Instagram in den USA, Großbritannien, Australien oder Kanada ein neues Nutzerkonto anlegt und dabei ein Alter unter 16 Jahren angibt, erhält man automatisch ein Teen-Account eingerichtet. Mit der KI-Alterserkennung könnten manche Erwachsene bald mit einem Teen-Account enden, schließlich erfolgt die Einstufung vollkommen automatisch.

Das Nutzerkonto für Jugendliche bis 16 Jahre ist mit einigen Einschränkungen versehen, die nur von einem Erziehungsberechtigten aufgehoben werden können. Dazu gehört, dass per Direktnachricht empfangene Bilder automatisch auf mögliche Nacktheit geprüft und entsprechend zensiert angezeigt werden, wenn die Bilderkennung anschlägt. Außerdem können Teen-Accounts keine Live-Videostreams starten, wenn nicht die Zustimmung der Eltern vorliegt.


Siehe auch: