Chatkontrolle: Was ihr über die Messenger-Überwachung wissen müsst

Liest der Staat bald eure WhatsApp-Nachrichten mit? Die geplante Chatkontrolle spaltet Europa: Für die einen ist sie die Waffe gegen Kindesmissbrauch, für die anderen der Einstieg in die To­tal­Ã¼ber­wa­chung. Was wirklich dahintersteckt - und was auf euch zukommt.

Großer Wirbel um die Messenger-Überwachung

Wer die Debatte um die Regelungen verfolgt, fühlt sich in die Zeiten zurück­ver­setzt, als es um Themen wie die Vorratsdatenspeicherung oder die Ein­füh­rung einer Sperr-Infrastruktur für unliebsame Inhalte im Internet ging. Die einen verteidigen ihre Idee als große Lösung im Kampf gegen schlimme Verbrechen, die anderen werfen ihnen massive Verletzungen von Grundrechten vor.

Die Chatkontrolle ist so etwas wie die modernere Variante dieser Klassiker. Ihre Grundlage ist die Tatsache, dass inzwischen die wichtigsten Kom­mu­ni­ka­tions­we­ge von Nutzern mit einer starken Ende-zu-Ende-Verschlüsselung ausgestattet sind und weder staatliche Behörden noch die Anbieter der jeweiligen Plattform mehr auf die Inhalte selbst zugreifen können.

Inhaltsverzeichnis:

Der aktuelle Stand zur "Chatkontrolle"

Der Begriff "Chatkontrolle" wird häufig für zwei unterschiedliche Regelungen verwendet, hinter denen das gleiche Konzept steckt: Da die Kom­mu­ni­ka­tions­we­ge selbst komplett verschlossen sind, sollen automatisierte Systeme die Inhalte bereits vor der Verschlüsselung auf dem Endgerät des Nutzers durchleuchten. Wenn dabei der Verdacht aufkommt, der User könnte hier illegale Inhalte verschicken wollen, erfolgt eine Meldung bei den Behörden. Schema der Chatkontrolle in der EU Die aktuell gültige Regelung besagt, dass Online-Dienste wie Messenger oder E-Mail-Anbieter freiwillig nach bekannten Darstellungen sexuellen Kin­des­miss­brauchs (CSAM) sowie nach Hinweisen auf sogenanntes Grooming - also der gezielten Anbahnung sexuellen Missbrauchs von Kindern - suchen dürfen. Grundlage dafür ist eine befristete EU-Verordnung, die eine Ausnahme von den Datenschutzregeln für elektronische Kommunikation schafft.

Wichtig ist: Diese Regelung verpflichtet Unternehmen nicht zur Überwachung privater Nachrichten. Sie erlaubt lediglich, dass Anbieter solche Scans freiwillig durchführen, wenn sie sich dafür entscheiden.

Parallel dazu arbeitet die Europäische Union seit 2022 an einer deutlich weitergehenden Verordnung. Nach verschiedenen Entwürfen könnten Anbieter zukünftig unter bestimmten Voraussetzungen verpflichtet werden, Inhalte auf richterliche oder behördliche Anordnung hin zu durchsuchen. Über die endgültige Ausgestaltung besteht zwischen den EU-Mitgliedstaaten und dem Europäischen Parlament jedoch bislang keine Einigung.

Schaut der Staat in meine privaten Nachrichten?

Eine häufige Sorge lautet, staatliche Behörden würden zukünftig sämtliche Chats mitlesen. So einfach ist die Situation aber nicht.

Weder die derzeit geltende Regelung noch die bislang diskutierten Gesetzes­entwürfe sehen vor, dass Beamte Nachrichten in Echtzeit lesen. Stattdessen würden, je nach technischer Umsetzung, automatisierte Systeme etwa Nachrichten oder Bilder mit Datenbanken bekannter Miss­brauchs­dar­stel­lun­gen oder speziellen Er­ken­nungs­al­go­rith­men vergleichen.

Erst wenn ein System einen möglichen Treffer meldet, würde dieser an eine Meldestelle weitergeleitet. Dort prüfen geschulte Mitarbeiter den Verdacht, bevor gegebenenfalls Strafverfolgungsbehörden eingeschaltet werden.

Trotzdem weisen Datenschützer darauf hin, dass auch eine automatisierte Analyse privater Kommunikation einen Eingriff in das Fernmeldegeheimnis und die Privatsphäre darstellt. Das gilt selbst dann, wenn kein Mensch jede Nachricht liest. Insbesondere in Zeiten leistungsfähiger KI-Chatbots dürfte vielen Nutzern klar sein, dass Maschinen wohl ebenso viel vom Inhalt "verstehen" dürften, wie so mancher menschliche Beobachter.

Die wichtigsten Kritikpunkte

Die Debatte dreht sich längst nicht nur um Datenschutz. Experten aus In­for­ma­tik, Rechtswissenschaft und Strafverfolgung sehen mehrere Probleme.

Ein zentraler Kritikpunkt sind "False Positives" (falsch-positiv). Besonders beim Erkennen bislang unbekannter Missbrauchsbilder oder Grooming-Gesprächen arbeiten Systeme mit künstlicher Intelligenz (KI). Solche Verfahren können irren. Unschuldige Bilder oder harmlose Unterhaltungen könnten fälschlicherweise als verdächtig eingestuft werden und eine Ãœberprüfung auslösen. Sollten Ver­dachts­fäl­le beispielsweise durch einen Leak öffentlich werden, könnten viele Un­schul­di­ge gesellschaftlich geächtet werden.

Ein weiteres Problem dürfte die Menge der Meldungen sein. Sollten au­to­ma­ti­sier­te Systeme millionenfach Inhalte prüfen, könnten bereits geringe Fehlerraten zu einer großen Zahl falscher Verdachtsfälle führen. Ermittlungs­behörden müssten diese Hinweise einzeln bewerten. Aktuell werden allein in Deutschland täglich rund 2,8 Milliarden Instant-Messaging-Nachrichten verschickt. Bei einer sehr geringen Falschpositiv-Quote von nur 0,001 Prozent müssten immer noch täglich 28.000 Meldungen geprüft werden.

Hinzu kommt die technische Diskussion um die Ende-zu-Ende-Verschlüsselung. Messenger wie Signal oder WhatsApp schützen Nachrichten so, dass sie unterwegs nicht gelesen werden können, auch nicht vom Anbieter. Die diskutierten Konzepte sehen deshalb eine Analyse direkt auf dem Gerät des Nutzers vor (Client-Side-Scanning). Kritiker sehen darin eine Schwächung sicherer Kommunikation, während Befürworter argumentieren, dass die Verschlüsselung selbst dabei erhalten bleiben könne.

Warum die Debatte so kontrovers ist

Dass sexueller Kindesmissbrauch wirksam bekämpft werden muss, steht politisch kaum zur Debatte. Uneinigkeit besteht vielmehr über den Weg dorthin.

Befürworter der Chatkontrolle halten automatisierte Erkennungssysteme für notwendig, um große Mengen digital verbreiteter Missbrauchsdarstellungen überhaupt entdecken zu können. Kritiker entgegnen, dass anlasslose Scans privater Kommunikation einen gefährlichen Präzedenzfall schaffen könnten und technische Verfahren weder fehlerfrei noch verhältnismäßig seien.

Sie warnen, dass das Verfahren nicht nur in Grundrechte der Nutzer eingreift, sondern den Kampf gegen die Verbreitung von Missbrauchsdarstellungen sogar erschweren könnte, weil die geschulten Ermittler mit einer Flut von Falschmeldungen überlastet werden.

Von einer verpflichtenden, flächendeckenden Chatkontrolle in der gesamten EU kann derzeit noch keine Rede sein. Aktuell existiert lediglich eine freiwillige Rechtsgrundlage für Anbieter. Ob und in welcher Form daraus künftig eine verpflichtende Regelung wird, ist weiterhin Gegenstand intensiver politischer Verhandlungen.