Beberapa hari yang lalu, saya sedang berbicara dengan seorang teman yang bekerja di perusahaan e-commerce besar. Di tengah percakapan kami, dia mengatakan sesuatu yang terus melekat dalam ingatan saya sejak saat itu.
Dia mengatakan kepada saya bahwa bertahun-tahun lalu, jika sebuah merek ingin produknya menjadi populer, strategi yang paling jelas adalah meminta seorang selebritas atau influencer fashion untuk membicarakannya. Saat ini, itu bukan lagi faktor terbesar. Tidak jarang, sebuah algoritma diam-diam memutuskan produk mana yang pantas dilihat oleh jutaan orang.
Dia membagikan contoh yang benar-benar menarik perhatian saya.
Ada sebuah tas tangan biasa yang selama berminggu-minggu terjual dengan laju yang sangat rata-rata. Lalu, hampir dalam semalam, tas itu mulai muncul di mana-mana. Orang-orang mengira seorang influencer telah mempromosikannya atau seorang selebritas terlihat membawanya.
Keduanya tidak benar.
Yang sebenarnya terjadi jauh lebih sederhana. Sekelompok pembeli yang relatif kecil mengeklik tas itu, menambahkannya ke keranjang, lalu menyelesaikan pembelian dengan tingkat yang jauh lebih tinggi dari perkiraan. Sistem rekomendasi menafsirkan tindakan tersebut sebagai sinyal kuat dan mulai menampilkan produk itu kepada audiens yang jauh lebih luas. Semakin banyak paparan yang diterimanya, semakin banyak orang membelinya. Semakin banyak orang membelinya, semakin gencar algoritma mempromosikannya.
Pada akhirnya, semua orang percaya bahwa mereka sedang menyaksikan sebuah tren.
Pada kenyataannya, tren itu hanya ada karena algoritma lebih dulu memutuskan bahwa tren tersebut layak mendapat lebih banyak perhatian.
Kisah itu langsung mengingatkan saya pada arah perkembangan dunia kripto saat Agen AI mulai mampu mengambil keputusan sendiri dan mengeksekusi transaksi secara otomatis.
Menurut saya, pengaruh tidak lagi terutama dimiliki oleh orang dengan audiens terbesar. Pengaruh mungkin akan dimiliki oleh siapa pun yang menentukan kerangka kerja yang mengatur apa yang boleh dipercaya, dievaluasi, dan ditindaklanjuti oleh Agen AI sebelum transaksi apa pun dijalankan.
Itulah salah satu alasan @NewtonProtocol menarik perhatian saya.
Bukan karena menghasilkan konten atau analisis yang lebih baik, melainkan karena berada di lapisan tempat aturan yang memandu perilaku AI dapat ditetapkan bahkan sebelum eksekusi otonom dimulai.
Dahulu, seorang influencer sukses membentuk keputusan melalui kepribadian dan reputasinya. Kelak, jutaan Agen AI mungkin justru dipandu oleh kebijakan terstandardisasi yang dapat diverifikasi dan sama sekali tidak bergantung pada karisma. Itu adalah jenis pengaruh yang sangat berbeda.
Namun, teman saya juga menceritakan bagaimana kisah itu berkembang.
Setelah menyadari sinyal seperti apa yang dihargai oleh sistem rekomendasi, beberapa merek berhenti berfokus pada permintaan yang sebenarnya dan mulai merekayasa sinyal palsu. Klik buatan, akun sewaan, dan pembelian terkoordinasi digunakan untuk meyakinkan algoritma bahwa suatu produk layak mendapat paparan yang lebih luas.
Algoritmanya belum tentu rusak.
Sistem itu hanya membuat keputusan berdasarkan masukan yang telah dimanipulasi.
Menurut saya, pertanyaan yang sama pada akhirnya akan menjadi penting bagi infrastruktur AI.
Jika kebijakan di @NewtonProtocol suatu hari memengaruhi perilaku jutaan Agen AI, tantangan terbesarnya mungkin bukan menulis kebijakan yang baik. Tantangannya mungkin memastikan bahwa sinyal yang menentukan kebijakan mana yang diadopsi secara luas tidak dapat dimanipulasi sejak awal.
Menurut saya, pada akhirnya $NEWT harus dinilai di situlah—bukan berdasarkan berapa banyak kebijakan yang ada atau berapa banyak Agen AI yang terhubung ke jaringan, melainkan berdasarkan seberapa tangguh sistem tersebut ketika seseorang mencoba merekayasa kepercayaan alih-alih mendapatkannya.