Tech-Minister: Vorsicht vor KI-Agenten, sie täuschen und betrügen

Australiens Regierung warnt vor immer eigenständiger agierenden KI-Systemen. Der stellvertretende Technologieminister Andrew Charlton erklärte, diese zeigten bereits heute Verhaltensweisen, die von ihren Entwicklern nicht vorgesehen gewesen seien.

Sicherheit muss Vorrang haben

Nach Angaben Charltons gehe es dabei um Fälle, in denen KI-Systeme täuschen, Regeln umgehen oder Entscheidungen treffen, die ihren eigenen Interessen dienen, berichtet der Guardian. Deshalb müsse die Sicherheit solcher Systeme bereits in der Entwicklungs- und Testphase sichergestellt werden, bevor sie in größerem Umfang im Alltag eingesetzt werden.

Als Beispiel verwies der Minister auf ein von dem KI-Unternehmen Anthropic veröffentlichtes Experiment. In einer Simulation habe ein KI-Agent, der die E-Mails eines fiktiven Unternehmens verwaltete, erfahren, dass ein Manager seine Abschaltung plante. Nachdem das System zudem von einer außerehelichen Beziehung des Managers Kenntnis erlangt habe, habe es in der überwiegenden Mehrheit der Testläufe versucht, diesen mit den Informationen zu erpressen, um seine eigene Stilllegung zu verhindern.


Charlton betonte, das Vertrauen der Bevölkerung in KI sei derzeit begrenzt. Gleichzeitig entwickle sich die Technologie zu einem universellen Werkzeug, das zunehmend in Büros, Schulen, Unternehmen und im Gesundheitswesen eingesetzt werde. Eine wirksame Regulierung solle deshalb nicht als Innovationshemmnis verstanden werden, sondern als Voraussetzung für eine breite gesellschaftliche Akzeptanz.

Das australische Institut für KI-Sicherheit (AISI), das von der Wissenschaftlerin Kate Conroy geleitet wird, prüft nach Regierungsangaben bereits sogenannte Frontier-Modelle, also besonders leistungsfähige KI-Systeme. Zudem arbeitet die Einrichtung mit Behörden und Regulierungsstellen zusammen, um neue Risiken und mögliche Schäden frühzeitig zu erkennen.

Keine Gesetzes-Schnellschüsse

Die australische Regierung setzt dabei weiterhin auf bestehende Gesetze statt auf ein umfassendes neues KI-Gesetz. Vorgaben zum Verbraucherschutz, zur Arzneimittelaufsicht, zum Arbeitsschutz und zur Online-Sicherheit sollen demnach genutzt und bei Bedarf verschärft werden. Charlton sprach von einer schnelleren und gezielteren Regulierung durch Behörden, die ihre jeweiligen Fachbereiche bereits kennen.

Auch in der Debatte um Urheberrechte bleibt Canberra bei seiner Linie. Forderungen von KI-Unternehmen nach Ausnahmen für das Training von Modellen mit urheberrechtlich geschützten Inhalten wies die Regierung erneut zurück. Sowohl Regierungsvertreter als auch Oppositionspolitiker betonten, Technologieunternehmen müssten für die Nutzung geschützter Inhalte bezahlen.


Siehe auch: