Arbeitsamt setzt KI-Chatbot ein und das endet in einem Desaster

Künstliche Intelligenzen bzw. entsprechende Chatbots sind schon länger das Thema der Stunde und oftmals erleichtern uns ChatGPT und Co. tatsächlich das Leben. Auch das ös­ter­rei­chi­sche Arbeitsamt dachte, dass das eine gute Idee wäre - lag damit aber gründlich daneben.

Der "Berufsinfomat" soll Menschen entlasten

KI-Lösungen wie ChatGPT oder auch der Google-Konkurrent Bard erleichtern vielen schon jetzt das Leben bzw. beantworten Fragen der ernsten, aber auch unterhaltsamen Art. Auch beim österreichischen Arbeitsmarktservice (AMS) dachte man, dass ein KI-Chatbot die Mitarbeiter entlasten könnte. Also wurde der sogenannte "Berufsinfomat" entwickelt und gestartet.

Dieser sollte Arbeitssuchenden bei der Wahl und Suche von Berufen und Stellen helfen und wie derStandard berichtet, verrichtet der auf ChatGPT basierende Bot seine Kerndisziplin stellenweise auch solide. Dennoch gab es bereits kurz nach dem Start einen Shitstorm, Grund dafür waren technische Mängel und auch immer wieder geäußerte Vorurteile, vor allem in Bezug auf Geschlechterrollen.

Kritik und Spott

So bekommen junge Männer oftmals die Empfehlung zu IT-Jobs, Frauen sollen sich mit Genderstudies beschäftigen - oder gleich ins Gastgewerbe oder die Küche gehen. Das sind offenbar auch keine Einzelfälle und die dubiosen Antworten können auch relativ leicht reproduziert werden. Dafür erntete der AMS nicht nur Kritik, sondern auch Spott.

AMS-Chef Johannes Kopf bestätigte die Probleme, die er bei der Vorstellung des Bots eigentlich ausgeschlossen hat. Auf Twitter schrieb Kopf nun, dass man die Probleme kenne - er schob die Schuld dafür aber teils auf Nutzer, die versuchen, bewusst Vorurteile zu erzeugen - was aber nicht stimmt, wie Nutzerin Tanja Domej ihrerseits antwortet.

Kopf: (Anmerkung: Das Zitat wurde hinsichtlich Orthografie bearbeitet): "(Das) ist nicht trivial, das dem Berufsinfomat ganz abzugewöhnen, vor allem, wenn versucht wird, bewusst Bias zu erzeugen. Viel ist uns schon gelungen. Sind weiter dran." Zum Wie hat sich Kopf nicht geäußert, denn die Möglichkeiten, eine so komplexe Software wie ChatGPT per Prompts zu beeinflussen, sind eingeschränkt.

Kritik gibt es aber nicht nur an der Art der Antworten, auch die technische Umsetzung ist alles andere als vorbildlich, wie der österreichische Entwickler Mario Zechner auf Twitter/X analysiert. Sein Fazit: "Jesus Christus, mein Land ist schlecht im Umgang mit Computern."


Siehe auch: