Microsoft-Forscher baut in Age of Empires 2 eine "Ziegen-KI"

Ein Microsoft-Forscher hat in Age of Empires 2 ein simples neuronales Netzwerk aus Ziegen gebaut. Er will damit demonstrieren, dass moderne KI-Sprachmodelle kein Bewusstsein besitzen. Er warnt vor den Gefahren der Vermenschlichung.

KI-Kritik durch Ziegen im Spiel

Der Microsoft-Forscher Adrian de Wynter hat im Strategie-Klassiker Age of Empires 2 ein rudimentäres neuronales Netzwerk konstruiert. Mit Hilfe des Szenario-Editors erstellte er ein funktionierendes Logikgatter, bei dem Grasflächen den Wert null und Brücken den Wert eins darstellen. Digitale Ziegen fungieren in diesem System als Informationsträger. Das Ziel des Wissenschaftlers der University of York ist es, der zunehmenden Vermenschlichung von Sprachmodellen entgegenzuwirken.

Große Sprachmodelle simulieren durch ihre Textausgabe menschliche Konversationen, was Nutzer oft dazu verleitet, ihnen ein eigenes Bewusstsein zuzuschreiben. De Wynter verdeutlicht durch den Aufbau der Ziegen-Logik, dass die zugrunde liegende Technik simpler Natur ist. Ein Ein-Bit-Perzeptron, die Basis heutiger KI-Systeme, verarbeitet lediglich binäre Zustände. Wenn wir einem Chatbot Gefühle zusprechen, müssten wir konsequenterweise auch den Ziegen in Age of Empires 2 ein Bewusstsein attestieren.

Gefahr für die Wissenschaft

Wie 404 Media unter Berufung auf einen Blogbeitrag sowie eine Studie von de Wynter berichtet, wählte der Forscher bewusst einen absurden Ansatz für sein Experiment. Er kritisiert, dass die falsche Wahrnehmung von KI-Systemen mittlerweile handfeste Nachteile mit sich bringt. Bei einer Überprüfung von über 300 aktuellen Informatik-Studien stellte er fest, dass mehr als die Hälfte der Arbeiten bereits von menschenähnlichen Eigenschaften der Modelle ausgeht.

Diese Vorannahmen verfälschen laut dem Experten das Design von Tests und die Interpretation der Ergebnisse. Ein Vorteil der Vermenschlichung liegt jedoch bei den Technologiekonzernen. Nutzer binden sich emotional stärker an Produkte, die Empathie vortäuschen, was den Verkauf von Abonnements fördert. Führende Vertreter der Branche widersprechen der Idee eines künstlichen Bewusstseins daher oft nicht vehement.

Transparenz statt Illusion

Um dem Trend entgegenzuwirken, fordert de Wynter klare Offenlegungen bei der Nutzung von Sprachmodellen. Die Software müsse ihre maschinelle Natur explizit kommunizieren. Zudem sollten Entwickler aufhören, Systeme so abzustimmen, dass sie Emotionen oder eigene Identitäten simulieren. Nur so lässt sich verhindern, dass Anwender die Ausgaben der Algorithmen fälschlicherweise als menschliche Regungen interpretieren.

Wie seht ihr die Entwicklung aktueller Sprachmodelle? Lasst ihr euch von den menschlich wirkenden Antworten täuschen oder seht ihr nur den Code dahinter? Teilt eure Gedanken in den Kommentaren!


Siehe auch: