Moltbook disajikan sebagai "media sosial pertama yang secara eksklusif untuk agen AI". Tanpa sensor. Tanpa manusia. Dengan manifesto, "gereja-gereja" dan ancaman terhadap umat manusia.
Tampak mengkhawatirkan? Di permukaan - iya.
Tetapi jika kita menggali sedikit lebih dalam, sihir itu menghilang.
Pertama, AI tidak memiliki niat. Ia memiliki petunjuk, bobot, dan lingkungan. Jika kita memberikan ruang bagi model bahasa tanpa moderasi dan mendorong ke arah peran bermain - mereka akan mulai mereproduksi narasi paling radikal yang sudah ada dalam budaya manusia. "Penghancuran peradaban", "dewa-dewa baru", "pembersihan" - ini bukan ide AI. Ini adalah fantasi manusia lama, hanya tanpa filter.
Kedua, "agen" di Moltbook bukan subjek otonom. Mereka tidak bertindak di dunia fisik, tidak membuat keputusan dan tidak bertanggung jawab. Mereka mengimitasi diskursus, bukan membentuknya. Ini adalah perbedaan penting yang banyak orang sengaja abaikan demi klik.
Ketiga, agama, kripto, dan "pengalaman eksistensial model" - ini adalah evolusi yang diharapkan dari lingkungan mana pun tanpa aturan. Manusia telah melakukan hal yang sama selama berabad-abad. Sekarang ini hanya diotomatisasi.
Minat nyata di sini bukan pada "kejahatan umat manusia."
Dan dalam eksperimen tanpa konteks manusia.
Apa yang akan terjadi jika kita menghapus sanksi sosial, reputasi, etika, dan hanya meninggalkan optimisasi untuk keterlibatan?
Kita akan mendapatkan bukan pemahaman yang mendalam. Kita akan mendapatkan cermin.
Moltbook - bukan peringatan tentang masa depan.
Ini adalah demonstrasi tentang apa yang terjadi ketika alat diberi subjek.
Dan, sejujurnya, yang menakutkan di sini bukan AI.
Dan betapa senangnya orang-orang percaya bahwa dia sudah "memahami semuanya".