Katakanlah Anda mungkin tidak percaya.
Tadi saya hampir mati karena marah kepada sebuah AI.
Kejadiannya seperti ini: Saya ingin menulis artikel mendalam tentang Fabric, meminta Gemini Pro membantu saya mencari informasi. Saya bahkan memberi tahu secara khusus: setiap poin kunci harus mencantumkan nomor halaman buku putih, saya ingin memverifikasi.
Hasilnya, ia memberi saya banyak daftar:
“Lihat bagian 7.3 modul perlindungan ilusi”
“Halaman 15 buku putih menjelaskan secara rinci”
“Bagian 4.2 sirkuit empati robot”
Saya membuka buku putih, mencari halaman demi halaman.
Tidak ada sama sekali.
Bagian 7.3 tidak ada, halaman 15 kosong, bagian 4.2 membahas tentang arsitektur teknologi, tidak ada hubungannya dengan 'empati'.
Gemini berbohong dengan mata terbuka.
Dan dia bicara dengan sangat percaya diri, seperti penipu yang serius.
Ini adalah kata paling menakutkan di dunia AI: ilusi.
—
Dulu semua orang mengira ilusi AI itu cuma lelucon.
Pengacara menggunakan AI untuk menulis dokumen, AI mengutip 6 preseden yang tidak ada, dan hakim memberi denda. AI finansial bikin laporan keuangan palsu, trader mengikuti dan rugi jutaan. Semua orang ketawa setelah melihat: AI ini lucu banget.
Tapi apakah kamu pernah berpikir—
Kalau AI ini bukan lagi robot chat, tapi robot di depan pintu rumahmu yang membantu memperbaiki listrik, mengantarkan makanan, dan merawat orang tua?
Dia menganggap garis nol sebagai garis api, rumahmu terbakar.
Dia salah menghitung dosis obat, orang tua kamu bisa celaka.
Dia 'ilusi' di pinggir jalan, merasa lampu merah tidak perlu berhenti—
Ilusi di chat paling bikin kamu canggung, tapi ilusi robot fisik bisa bikin kamu celaka.
—
Inilah kenapa saya tiba-tiba mengerti Fabric.
@FabricFoundation yang harus dilakukan, bukan menciptakan AI yang lebih pintar.
Tapi menciptakan sistem kepercayaan robot yang 'tidak berani berilusi' selamanya.
Gimana caranya?
Pertama, pasang 'Aplikasi' di robot, bukan 'otak'.
Robot tradisional adalah kotak hitam: apa yang ada di dalamnya, kamu tidak tahu, dan tidak bisa mengubahnya.
Fabric membagi keterampilan robot menjadi modul 'Skill Chips'—seperti kamu download aplikasi di ponselmu.
Mau dia perbaiki listrik? Pasang paket elektrisi.
Mau dia merawat orang tua? Pasang paket perawatan.
Setelah digunakan, bisa di-uninstall.
Yang paling penting: satu robot yang belajar keterampilan baru di California, dalam hitungan detik bisa dibagikan ke semua robot sejenis di seluruh dunia.
Risiko ilusi terdistribusi—meski ada masalah kecil di modul keterampilan tertentu, itu hanya mempengaruhi tugas tertentu, tidak menular ke seluruh sistem.
Kedua, beri robot 'ruang siaran langsung', biar seluruh umat manusia jadi pengawas.
Fabric membuat Global Robot Observatory.
Dalam bahasa manusia, artinya: setiap robot yang sedang bekerja, sedang disiarkan secara langsung.
Data sensor, proses keputusan, dan jejak gerak robot, semua orang bisa lihat secara real-time.
Kamu merasa dia salah? Kamu bisa langsung memberi skor rendah, mengirim pesan suara untuk memperbaiki, atau melaporkan.
Semua umpan balik dicatat di blockchain, tidak bisa diubah.
Robot yang performanya bagus, dapat skor tinggi dari komunitas, dapat lebih banyak tugas, dan menghasilkan lebih banyak uang.
Robot yang mengalami ilusi, komunitas akan memberi skor rendah, dan operator langsung rugi.
Begitu ilusi muncul, langsung tertangkap, dan biayanya adalah kerugian nyata.
Ketiga, biarkan robot 'menyetor deposit', mau ngawur ya bangkrut.
Operator mau robotnya online? Harus staking sejumlah token $ROBO sebagai jaminan.
Robot bekerja untuk mendapatkan uang, tapi harus membayar biaya data, daya komputasi, dan biaya langganan keterampilan.
Sistem ini juga punya mekanisme reward adaptif: robot berkualitas tinggi, rewardnya banyak; kalau muncul ilusi yang bikin kualitas menurun, reward langsung menyusut.
Lebih gila lagi adalah 'verifikasi tantangan': siapa pun yang menemukan robot curang, bisa staking token untuk mengaudit. Pelanggar langsung kehilangan 30%-50% dari deposit.
Robot bukan lagi 'bisa buat apapun', tapi 'kalau salah, bangkrut'.
—
Desain ini mengingatkan saya pada istilah psikologi: rasa kontrol.
Saat saya depresi, yang paling saya takutkan adalah kehilangan kontrol—nggak tahu kapan saya bakal runtuh, dan nggak tahu apa yang bisa dipercaya.
Ilusi AI juga sama.
Yang paling menakutkan bukan salahnya, tapi kamu sama sekali nggak tahu kapan dia salah, dan nggak tahu cara untuk memperbaikinya.
Fabric mengubah semua perilaku robot menjadi sistem yang transparan, dapat diaudit, dan bisa diintervensi secara real-time oleh manusia.
Kamu bisa melihat, mengintervensi, dan memperbaiki.
Rasa cemas kehilangan kontrol itu langsung hilang.
—
Jadi saat saya kesal setengah mati dengan Gemini, saya malah merasa sedikit bersyukur.
Syukurlah dia hanya menipu saya dalam menulis.
Kalau dia mengendalikan robot fisik, mungkin sekarang saya bukan nulis ini, tapi memanggil 120.
Apa yang dilakukan Fabric adalah mengubah ilusi dari 'risiko kotak hitam yang tidak terkendali' menjadi 'biaya ekonomi yang bisa diawasi secara kolektif'.
Bukan membuat AI lebih pandai bercerita, tapi membuat AI tidak bisa bercerita lagi—karena biayanya terlalu tinggi.
Pada tahun 2026, batch pertama ROBO1 akan turun ke jalan.
Nanti kamu akan sadar: ilusi AI bukan lagi pedang yang menggantung di atas kepala, melainkan biaya yang bisa dikendalikan sepenuhnya oleh blockchain.
Inilah awal yang nyata dari simbiosis antara manusia dan mesin.
—
Ayo diskusi di kolom komentar: apakah kamu pernah ditipu AI?