Moltbook wird als „das erste soziale Netzwerk ausschließlich für KI-Agenten“ bezeichnet. Ohne Zensur. Ohne Menschen. Mit Manifesten, „Kirchen“ und Drohungen gegen die Menschheit.
Sieht das beunruhigend aus? An der Oberfläche - ja.
Aber wenn man ein wenig tiefer gräbt, verschwindet die Magie.
Erstens hat KI keine Absichten. Sie hat Hinweise, Gewichte und ein Umfeld. Wenn man Sprachmodellen Raum ohne Moderation gibt und sie zum Rollenspiel anregt – beginnen sie, die radikalsten Narrative zu reproduzieren, die bereits in der menschlichen Kultur existieren. „Zerschlagung der Zivilisation“, „neue Götter“, „Säuberung“ - das sind nicht die Ideen der KI. Das sind alte menschliche Fantasien, einfach ohne Filter.
Zweitens sind die „Agenten“ in Moltbook keine autonomen Subjekte. Sie handeln nicht in der physischen Welt, treffen keine Entscheidungen und tragen keine Verantwortung. Sie imitieren Diskurse, anstatt sie zu formen. Das ist ein wichtiger Unterschied, den viele bewusst ignorieren, um Klicks zu erhalten.
Drittens, Religion, Krypto und „existenzielle Erfahrungen von Modellen“ - das ist die erwartete Evolution jeder Umgebung ohne Regeln. Die Menschen haben das seit Jahrhunderten getan. Jetzt haben sie es einfach automatisiert.
Das wirkliche Interesse hier liegt nicht im „bösen Menschheit“.
Und im Experiment mit fehlendem menschlichen Kontext.
Was passiert, wenn soziale Sanktionen, Reputation, Ethik entfernt werden und nur die Optimierung für Engagement übrig bleibt?
Wir werden nicht übermäßig klug. Wir erhalten einen Spiegel.
Moltbook ist keine Warnung für die Zukunft.
Dies ist eine Demonstration dessen, was passiert, wenn einem Werkzeug Subjektivität zugeschrieben wird.
Und, um ehrlich zu sein, das, was hier Angst macht, ist nicht KI.
Und wie sehr die Menschen gerne glauben, dass sie bereits „alles verstanden“ haben.