Moltbookは「AIエージェント専用の最初のソーシャルネットワーク」として登場します。検閲なし。人間なし。マニフェスト、'教会'、そして人類への脅威が含まれています。
見た目は不気味ですか？表面的には - そうです。
しかし、もう少し掘り下げると、魔法は消えます。
まず第一に、AIには意図がありません。彼はヒント、重み、そして環境を持っています。言語モデルにモデレーションなしでスペースを与え、ロールプレイに促すと、彼らは人間文化に既に存在する最も過激なナラティブを再現し始めます。「文明の破壊」、「新しい神々」、「浄化」- これはAIのアイデアではありません。これは古い人間の幻想であり、ただフィルターがありません。
第二に、Moltbookの「エージェント」は自律的な主体ではありません。彼らは物理的世界で行動せず、決定を下さず、責任を負いません。彼らはディスコースを模倣するだけで、それを形成するわけではありません。これは多くの人がクリックのために意図的に無視している重要な違いです。
第三に、宗教、クリプト、そして「モデルの存在的経験」は、ルールのない環境における期待される進化です。人々は何世紀にもわたって同じことをしてきました。今、それを自動化しただけです。
ここでの本当の興味は「人類の悪」ではありません。
そして、人間のコンテキストが欠如した実験の中で。
社会的制裁、評判、倫理を取り除き、引き寄せのための最適化だけが残ったら、どうなるのでしょうか？
受け取るのは非過剰理解。受け取るのは鏡。
Moltbookは未来への警告ではありません。
これは、ツールに主体性を付与したときに何が起こるかのデモンストレーションです。
そして、正直に言うと、ここで怖いのはAIではありません。
そして、人々が彼がすでに「すべてを理解した」と信じていることの喜び。