Saya membuka dokumentasi Newton Protocol dengan harapan menghabiskan sebagian besar waktu saya untuk mempelajari agen AI. Namun, alih-alih itu, saya justru berpikir tentang sesuatu yang jauh lebih sederhana, tetapi mungkin lebih penting: siapa yang berhak memutuskan apa yang sebenarnya diizinkan untuk dilakukan oleh sebuah AI?
Untuk waktu yang lama, saya mengira tantangan terbesar adalah membuat AI menjadi lebih cerdas. Namun semakin banyak yang saya baca, semakin asumsi itu mulai runtuh. AI tidak berhenti untuk mempertanyakan sebuah instruksi atau bertanya-tanya apakah itu ide yang baik. Jika ia diberi izin, ia bertindak. Hal itu langsung mengingatkan saya pada eksperimen Stanley Milgram. Orang-orang yang terlibat tidak selalu berniat untuk melakukan hal yang berbahaya—mereka menanggapi otoritas. Tentu saja AI bukan manusia, tetapi ia juga beroperasi dalam otoritas yang kita berikan kepadanya. Kesamaan itu tetap melekat pada saya.
Hal yang menarik bagi saya tentang Newton Protocol bukanlah cara lain untuk membuat AI lebih mampu. Fokusnya adalah pada otorisasi sebelum eksekusi. Alih-alih memberi AI akses ke sebuah dompet dan berharap AI berperilaku sesuai yang diharapkan, pengembang bisa memutuskan sebelumnya apa yang diizinkan untuk dilakukannya, protokol apa saja yang boleh diinteraksikan, seberapa besar anggarannya, dan kapan seorang manusia masih perlu dilibatkan. Aturan-aturan itu bukan sekadar saran—aturan-aturan tersebut dirancang agar menjadi bagian dari cara sistem bekerja.
Saya tidak berpikir dokumentasinya menjawab setiap pertanyaan, dan itu tidak apa-apa. Saya masih bertanya-tanya bagaimana model otorisasi ini akan berkembang saat agen AI menjadi lebih independen. Tapi satu hal berubah bagi saya setelah membacanya. Saya berhenti menganggap masa depan AI akan ditentukan hanya oleh model yang lebih baik. Mungkin sama pentingnya dengan seberapa cermat kita menetapkan batas-batas di sekeliling mereka.
