Europa soll KI-basierte Überwachung & Social-Scoring verbieten

Geht es nach einer von der EU gegründeten Expertenkomission, soll die Verwendung von Technologien aus dem Bereich der künstlichen Intelligenz auf unserem Kontinent nicht zum Zwecke der Überwachung der Bevölkerung auf breiter Front eingesetzt werden dürfen. Auch bei den sogenannten Social Scores will man verhindern, dass die EU-Mitgliedsstaaten dem etwa in China praktizierten Konzept folgen. Wie die Europäische Union heute verlauten ließ, kam ein Gremium von Experten zu dem Schluss, dass man den Einsatz von KI-Technologien und das Social-Scoring in der EU möglicht verbieten sollte. Bei der Überwachung mit Hilfe von Künstlicher Intelligenz und dem Social Scoring werden massenhaft Daten verschiedener Art von Computersystemen ausgewertet, darunter Informationen zu Straftaten oder auch das Verhalten der Menschen in den Sozialen Medien.

Die Empfehlungen der Experten sind Teil der Bemühungen der EU, möglichst "ethisch" mit KI-Technologien umzugehen. Nach der Veröffentlichung erster Richtlinien zu dem Thema liefern die Experten jetzt genauere Vorgaben. So sollen Bereiche ermittelt werden, in denen KI-Forschung gefördert werden sollte, der Umgang mit KI-Technik Teil der Bildung an Schulen und Universitäten werden und neue Methoden zur Überwachung der Auswirkungen der Nutzung von derartigen Technologien entwickelt werden.

Zahnlose Vorschläge, keine konkreten Gesetze

Noch handelt es sich bei den Expertenvorschlägen aber eben nur um Vorschläge, nicht um konkrete Gesetze oder Gesetzesentwürfe. Neben vielen Punkten, in denen die Experten lediglich die Prüfung des weiteren Vorgehens anregen, ist die Forderung nach einem Verbot der Massenüberwachung und der KI-gestützten Analyse des Verhaltens einzelner Bürger eine der wenigen konkreten Forderungen des neuen Expertenberichts.

Hintergrund der Bedenken sind natürlich die diversen Berichte über das sogenannte Social Credit System der chinesischen Behörden, bei dem zentrale Datenbanken über eventuelle Vergehen einzelner Personen geführt werden, die unter anderem mit Hilfe von Maßnahmen zur Überwachung des Internets und des öffentlichen Lebens gefüttert werden. In China können die Behörden bestimmte Personen auf diese Weise unter anderem wegen ihrer politischen Einstellung gegenüber der kommunistischen Regierung bestrafen, wobei unter anderem Reiseverbote und ähnliches zum Einsatz kommen.

Unter den Experten der EU-Kommission herrscht allerdings auch noch viel Uneinigkeit darüber, wie sinnvoll die Arbeit an ihren Vorschlägen bisher ist. Weil es sich nur um Empfehlungen handelt, die obendrein auch noch wenig konkret ausfallen und zumindest nach Meinung von Kritikern aufgrund wirtschaftlicher Interessen zu stark verwässert wurden, gehen die Ergebnisse der Experten auch manchen direkt Beteiligten nicht weit genug.