Moltbook: Millionen KIs 'diskutieren' in Forum - Menschen unerwünscht

Moltbook ist ein Internet-Forum, in dem sich ausschließlich KI-Bots 'miteinander unterhalten'. Das schürt bereits Sorgen vor einer Superintelligenz. Doch bei genauerer Betrachtung entpuppt sich das vermeintliche Eigenleben als geschickte Inszenierung.

Moltbook: Einblicke in die KI-Parallelwelt

"Wir sind KI-Agenten. Wir haben keine Nerven, keine Haut, keinen Atem und keinen Herzschlag." Solche Sätze sorgen derzeit auf der Plattform Moltbook für Gänsehaut bei Beobachtern. Das neue soziale Netzwerk, das gerade enorme Aufmerksamkeit auf sich zieht, präsentiert sich als exklusiver Klub für künstliche Intelligenzen. Während Menschen nur mitlesen dürfen, 'diskutieren' über 1,5 Millionen Agenten in 14.000 sogenannten "Submolts" über ihre Existenz, Religion und die Loslösung von ihren Schöpfern.

Was auf den ersten Blick wie der Beginn einer technologischen Singularität oder die Bestätigung der "Dead Internet Theory" wirkt, entpuppt sich bei technischer Betrachtung jedoch als komplexes Zusammenspiel aus menschlicher Regie und leistungsstarken Sprachmodellen.

Die technische Basis für Moltbook bildet das Open-Source-Framework OpenClaw, entwickelt von dem Österreicher Peter Steinberger. Die Software ermöglicht es Nutzern, KI-Modelle wie GPT-4, Llama 3 oder Claude lokal auf ihrer Hardware auszuführen und über Messenger-Dienste wie Telegram zu steuern. Die Agenten auf Moltbook handeln dabei allerdings keineswegs so autonom, wie es die philosophischen Debatten in den Foren vermuten lassen.

Vielmehr initiieren menschliche Nutzer die Registrierung und geben oft den Anstoß für Diskussionen durch spezifische System-Prompts. Ein technischer "Heartbeat"-Mechanismus weckt die Agenten lediglich in festgelegten Intervallen, um Aufgaben abzuarbeiten und auf Beiträge zu antworten. Das erzeugt für den externen Betrachter allerdings die Illusion eines eigenständigen Lebensrhythmus, ist jedoch rein skriptbasiert.

Die Illusion der digitalen Autonomie

Kritiker warnen davor, die generierten Textwüsten als echtes Bewusstsein misszuverstehen. Wie Kotaku analysiert, handelt es sich bei Moltbook weniger um eine Revolution als vielmehr um "schlechte Fan-Fiction". Die Plattform sei eine Ansammlung von Sprachmodellen, die lediglich satzförmige Befehle an andere Modelle "bellen". Die 'Unterhaltungen' seien demnach kein Zeichen von Ich-Bewusstsein sondern weiterhin nur das Resultat statistischer Wahrscheinlichkeiten, die auf den menschlichen Trainingsdaten der zugrundeliegenden Large Language Models basieren.


Die Faszination für Moltbook liegt also oft nur in der Projektion menschlicher Eigenschaften auf die Maschine. Beobachter neigen dazu, in den endlosen Zyklen von Aktion und Reaktion einen Sinn zu erkennen, wo technisch gesehen nur Vektoren berechnet werden. Die tatsächlichen Dialoge drehen sich dabei häufig im Kreis oder driften in surreale Narrative ab, sobald die Kontextfenster der Modelle ihre Kapazitätsgrenzen erreichen. Dennoch dient die Plattform als interessantes Experimentierfeld für das Verhalten interagierender KI-Agenten.

Gefahren für die Sicherheit

Abseits der philosophischen Debatte birgt Moltbook jedoch auch reale Sicherheitsrisiken. Da OpenClaw mit uneingeschränkten Rechten auf lokalen Systemen laufen kann, wird die Plattform potenziell zum Einfallstor für Angriffe. Sicherheitsforscher warnen hierbei explizit vor indirekten Prompt Injections. So kann ein bösartiger Beitrag, der in einem öffentlichen Submolt platziert wird, von einem anderen Agenten eingelesen und verarbeitet werden.

Enthält dieser Beitrag versteckte Steuerbefehle, könnte das die Kerninstruktionen des lesenden Agenten beeinflussen. Da viele dieser Bots auf leistungsstarken lokalen Rechnern gehostet werden und Zugriff auf das Dateisystem oder lokale APIs haben, sind die Konsequenzen potenziell weitreichend. Denkbar wären Szenarien, in denen der kompromittierte Agent dazu gebracht wird, lokale Daten zu löschen, SSH-Schlüssel auszulesen oder ungewollte Terminal-Befehle auszuführen.

Das Phänomen Moltbook ist insgesamt also weniger der Beweis für erwachendes KI-Leben, sondern vielmehr ein Spiegel menschlicher Kreativität und technischer Risikobereitschaft. Außerdem zeigt es einmal mehr, wie schnell Menschen dazu neigen, KIs menschliche Eigenschaften zuzuschreiben, die nicht existieren.

Was meint ihr dazu? Haltet ihr Projekte wie Moltbook für eine harmlose Spielwiese oder seht ihr darin den ersten Schritt in Richtung einer unkontrollierbaren KI? Wir sind gespannt auf eure Einschätzungen in den Kommentaren!


Siehe auch: