WhatsApp gegen Betrug: Neuer lokaler Schutz für Chatnachrichten

WhatsApp testet derzeit einen neuen Scam Alert für Android, der Nutzer vor betrügerischen Nachrichten schützen soll. Ein lokales KI-Modell analysiert Texte unbekannter Kontakte direkt auf dem Smartphone. Die Verschlüsselung bleibt dabei intakt.

Lokaler Schutz vor Betrug

WhatsApp erprobt derzeit eine neue Sicherheitsfunktion für Android, die Nutzer vor betrügerischen Nachrichten schützen soll. Das als Scam Alert bezeichnete Werkzeug analysiert eingehende Texte von unbekannten Kontakten auf verdächtige Muster. Dabei kommt ein maschinelles Lernmodell zum Einsatz, das, so die gute Nachricht für Datenschutzskeptiker, direkt auf dem Smartphone ausgeführt wird.

Durch das lokale Ausführen bleibt die Ende-zu-Ende-Verschlüsselung des Messengers intakt. Weder der Mutterkonzern Meta noch externe Server erhalten Zugriff auf die privaten Chatverläufe. Das System bewertet linguistische Signale und die Struktur der Konversation, um mögliche Betrugsversuche zu erkennen, die beispielsweise durch künstliche Intelligenz generiert wurden.

Warnung direkt im Chatverlauf

Wie WABetaInfo schreibt, ist die Funktion standardmäßig deaktiviert. Anwender müssen sie manuell in den Einstellungen einschalten. Sobald das Modell eine Nachricht als potenziellen Betrug einstuft, erscheint ein Warnhinweis im Chat. Der Absender erfährt von der Markierung nichts.

Anwender haben anschließend die Wahl, den Kontakt zu blockieren, die Nachricht zu melden oder den Chat als vertrauenswürdig einzustufen. Dann verschwindet die Warnung dauerhaft für den Kontakt. Zudem besteht die freiwillige Möglichkeit, die letzten fünf Nachrichten an die Entwickler zu senden. Das soll helfen, die Erkennungsrate des Systems in Zukunft zu verbessern und Fehlalarme zu minimieren.

Transparenz und Telemetriedaten

Um Missbrauch durch gezielt manipulierte Erkennungsmodelle zu verhindern, werden alle Versionen des Algorithmus in einem öffentlichen Transparenzprotokoll erfasst. Das Smartphone verifiziert die Integrität der Dateien vor jedem Download über kryptografische Signaturen. Externe Sicherheitsforscher wurden zudem über ein erweitertes Bug-Bounty-Programm eingeladen, das System auf Schwachstellen zu prüfen.

Für die Funktion ist eine Telemetrie-Übertragung notwendig. Obwohl keine Nachrichteninhalte abfließen, sammelt Meta anonymisierte Daten darüber, wie oft Warnungen angezeigt und welche Aktionen daraufhin ausgeführt wurden. Die aggregierten Zählwerte werden an spezielle, verschlüsselte Server übermittelt, um die Funktionstüchtigkeit zu überwachen. Ob das alle beruhigen wird, ist eine andere Frage.

Die App bietet Anwendern ein lokales Aktivitätsprotokoll, in dem sie genau nachvollziehen können, welche Nachrichten geprüft wurden und welche Modellversion zum Einsatz kam. Aktuell befindet sich die Funktion in einer limitierten Beta-Phase für Android-Geräte. Eine Ausweitung auf das Betriebssystem iOS ist für einen späteren Zeitpunkt geplant.

Würdet ihr die lokale Überprüfung auf eurem Smartphone aktivieren? Teilt eure Gedanken zu der neuen Sicherheitsfunktion gerne in den Kommentaren. Was meint ihr dazu?


Siehe auch: