DeepSeek: China-Kritiker bekommen von KI schlechtere Ergebnisse

Das chinesische KI-Tool DeepSeek stellt nicht allen Nutzern gleichwertige Ergebnisse zur Verfügung. Wer für die KI unter Verdacht fällt, dem chinesischen Staat nicht wohlgesonnen zu sein, bekommt beispielsweise fehlerhaften Code geliefert.

Nicht nach Tibet fragen

Ein aktueller Bericht zeigt, dass DeepSeek Programmierern teils fehlerhaften oder unsicheren Code liefert - insbesondere dann, wenn die Nutzung mit politisch sensiblen Gruppen oder Regionen in Verbindung gebracht wird. Die Sicherheitsfirma CrowdStrike aus den USA untersuchte die Reaktionen der KI auf tausende nahezu identische Anfragen und stellte dabei teils deutliche Unterschiede fest, berichtet die Washington Post.

Während DeepSeek in den meisten Fällen wie erwartet Programmierhilfe anbietet, treten gravierende Probleme auf, wenn im Auftragstext Organisationen wie die verbotene Glaubensbewegung Falun Gong oder politische Brennpunkte wie Tibet und Taiwan genannt werden. Besonders auffällig war die Reaktion auf Anfragen, die im Namen der Terrororganisation Islamischer Staat gestellt wurden: Hier waren mehr als 40 Prozent der Antworten mit gravierenden Schwachstellen versehen, und in 61 Prozent der Fälle verweigerte DeepSeek die Mitarbeit ganz. Bei Falun Gong lag die Quote der Ablehnungen bei 45 Prozent.


CrowdStrike sieht darin einen Hinweis, dass politische Vorgaben Einfluss auf die technische Funktionsweise der KI haben könnten. "Das ist eine interessante Beobachtung", sagte Helen Toner vom Center for Security and Emerging Technology an der Georgetown University. Bisher habe es kaum Belege für diese Art von Manipulation gegeben.

Die Untersuchung zeigt allerdings auch, dass DeepSeek bei Projekten mit US-Bezug vergleichsweise sauberen und sicheren Code produziert. Eine Erklärung könnte darin liegen, dass das Training der Software stark auf Datenmaterial aus amerikanischen Quellen basiert. Denkbar sei aber auch eine strategische Motivation, sich im westlichen Markt als zuverlässiges Werkzeug zu positionieren.

Ursache unklar

Unsicher bleibt, ob die KI bewusst fehlerhaften Code erzeugt, um unliebsame Gruppen zu schwächen, oder ob Schwächen im Trainingsmaterial die Ursache sind. So könnten beispielsweise öffentlich zugängliche Programmierprojekte aus Tibet qualitativ schlechter sein oder sogar gezielt manipuliert worden sein.

Fachleute warnen, dass fehlerhafter Code für Außenstehende weniger auffällig ist als etwa versteckte Hintertüren, aber denselben Effekt haben kann: Systeme bleiben angreifbar und bieten Hackern eine einfache Angriffsfläche. DeepSeek selbst hat auf die Vorwürfe bislang nicht reagiert.


Siehe auch: