EU reguliert KI: Verbote und Kennzeichnungspflicht

Das Europäische Parlament hat heute das Gesetz zur Bereitstellung und Nutzung von KI verabschiedet. Es beinhaltet mehrere Regeln, die unter anderem bestimmte Anwendungen verbieten und allgemeine Transparenz vorschreiben.

Der Gesetzgeber reagiert

KI ist das große Thema der Stunde. Nicht nur bei IT-Firmen wie Microsoft, Nvidia und Google, sondern auch bei den Gesetzgebern in Europa. Denn schon länger war die Forderung nach Vorschriften laut geworden, die KI-Anwendungen regulieren. Am heutigen Nachmittag gab das Europäische Parlament nun grünes Licht für das Gesetz über künstliche Intelligenz. Die Abgeordneten nahmen die Verordnung mit 523 zu 46 Stimmen bei 49 Enthaltungen an. Auf der Webseite des Parlaments heißt es dazu:

"Die neuen Regeln zielen darauf ab, Grundrechte, Demokratie und Rechtsstaatlichkeit sowie ökologische Nachhaltigkeit vor Hochrisiko-KI-Systemen zu schützen. Gleichzeitig sollen sie Innovationen ankurbeln und dafür sorgen, dass die EU in diesem Bereich eine Führungsrolle einnimmt." Infografik Nvidia, Meta & Microsoft: Diese Tech-Aktien profitieren vom KI-Boom

Bestimmte Anwendungen werden verboten

In Zukunft nicht erlaubt sollen vor allem Applikationen sein, die die Rechte von EU-Bürgern verletzen. Dazu zählt unter anderem die ungezielte Analyse von Gesichtsaufnahmen aus dem Internet oder von Überwachungskameras. Auch Systeme, die Emotionen erkennen und soziale Interaktionen bewerten können, sind an Orten wie dem Arbeitsplatz oder in Schulen nicht zugelassen. Sogenanntes Profiling mithilfe von KI durch die Polizei wird ebenso verboten.

Für bestimmte Strafverfolgungsbehörden gibt es jedoch Ausnahmen. Allerdings sind diese laut Gesetz ausführlich beschrieben und eng abgegrenzt.

Besondere Verpflichtungen für "Hochrisiko-KI-Systeme"

In Bereichen von kritischer Infrastruktur, Bildung, Gesundheitsversorgung oder Bankwesen gelten noch einmal besonders scharfe Regeln. Deshalb müssen KI-Systeme in diesen Bereichen "Risiken bewerten und verringern, Nutzungsprotokolle führen, transparent und genau sein und von Menschen beaufsichtigt werden".

Transparenz muss gewährleistet sein

Vor allem durch KI-erstellte Materialien wie Bilder, Videos oder Audioinhalte müssen zukünftig entsprechend eindeutig gekennzeichnet werden. Das Urheberrecht darf durch KI-Inhalte außerdem nicht verletzt werden und alle Ressourcen, die zum Training der KI verwendet wurden, müssen in detaillierten Zusammenfassungen einsehbar sein.

Noch einige Zeit bis zur Umsetzung

Bis das neue Gesetz seine Auswirkungen zeigt, wird aber noch einige Zeit vergehen. Denn Unternehmen wie Microsoft und Google haben nach Inkrafttreten der Verordnung noch 24 Monate Zeit, bis sie zur Anwendung kommt. Bei den angesprochenen Hochrisiko-KI-Systemen beträgt dieser Zeitraum sogar 36 Monate.

Es dürfte auf jeden Fall interessant zu sehen sein, wie sich das Gesetz am Ende in der Realität umsetzen lässt und wie effektiv eine etwaige Kontrolle der Regeleinhaltung durch die Europäische Kommission ist. Denn schon bei anderen EU-Gesetzen fanden Konzerne in der Vergangenheit immer wieder Schlupflöcher, durch die sie Vorschriften umgehen konnten.


Siehe auch: