KI-Manipulation und Mac-Schwachstelle:
Erkenntnisse der Defcon 31

Von der Defcon, die dieses Wochenende in Las Vegas stattfindet, gibt es eine Reihe interessanter Erkenntnisse zur IT-Sicherheit. Zwei Bereiche machten bereits Schlagzeilen: Es geht um die Manipulationsanfälligkeit von KIs und von macOS.

Risiken im Umgang mit künstlicher Intelligenz

Die "Hacker-Konferenz" Defcon 31 steht dieses Jahr ganz im Fokus von Chatbots und anderen KI-Anwendungen. Schon im Mai hatte die US-Regierung dazu einen Wettbewerb ausgelobt, der die Risiken um Umgang mit KIs aufzeigen soll.

Die umfassenden Ergebnisse zur Manipulationsfähigkeit von KIs werden aber erst im Februar veröffentlicht. Bis dahin wollen die Firmen und Sicherheitsexperten gemeinsam analysieren, wo Schwachstellen im Umgang mit Chatbots zu suchen sind und wie man Manipulation besser ausschließen kann. Darüber hatten sich Anthropic, Google, Hugging Face, Microsoft, Nvidia, OpenAI und Stability AI im Vorfeld der Defcon verständigt.

So viel ist aber schon jetzt klar - viele Systeme sind zu anfällig, was die Manipulation der Datenbasis angeht. So konnte Sicherheitsexpertin Kennedy Mays ein großes Sprachmodell austricksen. Es bedurfte einiger "Überredungskunst", aber es gelang ihr, einen Algorithmus davon zu überzeugen, dass 9 + 10 = 21 ergibt (via Bloomberg).

Andere Baustelle Apple

Eine andere Untersuchung bei der Defcon beschäftigte sich mit Apple. So zeigte der Sicherheitsforscher Patrick Wardle, dass der Hintergrund-Task-Manager von macOS "beunruhigende Schwachstellen" aufweist. Eigentlich soll er potenziell bösartige Software auf dem Rechner aufspüren, lässt sich aber selbst manipulieren, sodass die Einschleusung von Schadsoftware dann möglich wird.

Was habt ihr noch Interessantes von der Defcon gehört? Sendet uns eure News-Tipps!

Siehe auch: