Signal-Chefin: KI ist schlicht eine neue Überwachungstechnologie

Bei aller Begeisterung über die Fähigkeiten der neuen KI-Werkzeuge sollte man nicht vergessen, dass es sich dabei im Kern um Überwachungstechnologien handelt. Dieser Einschätzung ist zumindest Meredith Whittaker, die Chefin des Signal-Messengers.

Untrennbar verbunden

Es sei folgerichtig, dass KI-Technologien vor allem von jenen Unternehmen vorangetrieben würden, bei denen die Verwertung von Nutzerdaten ein wesentlicher Teil des Geschäftsmodells ist. Das liegt einerseits daran, dass für das KI-Training große Datenmengen benötigt werden, über die nur bestimmte Firmen verfügen - aber eben auch daran, dass die KI-Algorithmen die Auswertung riesiger Datenmengen besonders gut durchführen können.

KI sei daher untrennbar mit der Big Data- und Targeting-Industrie verbunden - also Unternehmen wie Google und Meta. "Es ist eine Verschärfung dessen, was wir seit den späten 90er-Jahren und der Entwicklung der überwachenden Werbung erlebt haben. KI ist meiner Meinung nach ein Weg, das Geschäftsmodell der Überwachung zu festigen und zu erweitern", sagte Whittaker laut eines TechCrunch-Berichtes.


Sie verwies außerdem darauf, dass die Überwachungstechnologien derzeit auch einer der wichtigsten Einsatzzwecke von KI-Technologien seien. "Sie gehen an einer Kamera mit Gesichtserkennung vorbei, die mit einer pseudowissenschaftlichen Emotionserkennung ausgestattet ist und Daten über Sie produziert, die besagen, dass Sie glücklich sind, dass Sie traurig sind, dass Sie einen schlechten Charakter haben, dass Sie ein Lügner sind, was auch immer", führte die Signal-Chefin aus.

Prekäre Arbeit

"Letztlich handelt es sich um Überwachungssysteme, die an diejenigen vermarktet werden, die generell Macht über uns haben: unsere Arbeitgeber, Regierungen, Grenzkontrollen usw., damit diese Entscheidungen und Vorhersagen treffen können, die über unseren Zugang zu Ressourcen und Chancen bestimmen", führte Whittaker weiter aus.

Dabei sollte man sich aus Perspektive der Arbeitnehmer auch keine Illusionen darüber machen, was die eigene Rolle in diesem System angeht. Denn auch wenn die Algorithmen immer als selbstlernend bezeichnet werden - es gibt laut der Signal-Chefin keine Möglichkeit, diese ohne menschliche Arbeit über ein bestimmtes Grundniveau zu heben. Und die Prozesse des Verstärkungslernens, mit denen die Feinheiten erreicht werden, kommen durch prekäre menschlicher Arbeit.

"Es handelt sich um Tausende und Abertausende von Arbeitern, die sehr gering bezahlt werden. Und es gibt keine andere Möglichkeit, diese Systeme zu entwickeln, Punkt", erklärte sie. "In gewisser Weise ist das, was wir sehen, eine Art 'Zauberer von Oz'-Phänomen: Wenn wir den Vorhang zurückziehen, ist nicht viel Intelligentes zu sehen."

Download Signal Desktop - Crypto-Messenger für Windows
Siehe auch: