@NewtonProtocol Percakapan seputar agen AI sering mengasumsikan bahwa semakin banyak otonomi selalu lebih baik. Tujuannya tampaknya adalah menghilangkan sebanyak mungkin keterlibatan manusia.
Semakin sering saya mengikuti ruang ini, semakin saya berpikir bahwa hal ini melewatkan tantangan sesungguhnya.
Bagian tersulit bukan membuat AI menjadi lebih independen.
Yakni membuat AI cukup tepercaya sehingga orang merasa nyaman mendelegasikan keputusan keuangan yang benar-benar nyata.
Itulah salah satu alasan Newton Protocol tetap ada dalam radar saya.
Alih-alih meminta pengguna menyerahkan kendali penuh, protokol ini dibangun berdasarkan gagasan bahwa pendelegasian harus selalu disertai batas yang dapat ditegakkan. Itu terasa seperti arah yang jauh lebih praktis untuk keuangan otonom.
Kekhawatiran seputar agen AI mudah dipahami.
Sebuah agen dapat bereaksi lebih cepat daripada manusia mana pun.
Itu tidak membuatnya lebih aman.
Batas pengeluaran berarti sangat sedikit jika bisa diabaikan.
Pihak lawan yang disetujui tidak memberikan perlindungan jika bisa dilewati.
Bahkan prompt injection pun menjadi masalah serius begitu AI mulai berinteraksi dengan aset nyata.
Newton menghadapi risiko-risiko itu dengan cara yang berbeda.
Sebelum tindakan penting dieksekusi, protokol mengevaluasi kebijakan yang dapat diprogram yang menentukan apa yang diizinkan untuk dilakukan oleh agen AI.
Pengembang dapat menetapkan batas pengeluaran.
Mereka dapat menyetujui pihak lawan tertentu.
Mereka dapat mendefinisikan kondisi transaksi dan pertahanan terhadap prompt.
Aturan-aturan itu menjadi bagian dari eksekusi, bukan sekadar perlindungan opsional yang ditambahkan kemudian.
Itulah perbedaan yang menurut saya paling menarik.
Protokol tidak meminta pengguna untuk mempercayai AI secara membabi buta.
Ia meminta mereka untuk mendefinisikan batas yang tidak boleh dilewati oleh AI.
Otomasi yang baik bukan tentang wewenang tanpa batas.
Ini tentang mengetahui dengan tepat di mana wewenang itu dimulai dan di mana wewenang itu berakhir.
Arsitekturnya memperkuat filosofi yang sama.
Strategi AI dieksekusi di Newton's secure rollup tempat penegakan kebijakan tetap dapat diverifikasi di seluruh proses. Pada saat yang sama, sistem tetap kompatibel dengan dompet Ethereum dan kontrak pintar. Pengembang dapat memperkenalkan otorisasi cerdas tanpa membangun ulang infrastruktur yang sudah diketahui pengguna.
Model izin juga menonjol.
Agen AI tidak pernah perlu akses tanpa batas ke kunci privat.
Mereka hanya menerima izin yang diperlukan untuk tindakan tertentu.
Izin-izin itu dapat diubah atau dicabut kapan pun diperlukan.
Pengguna tetap memegang kendali sementara otomasi menangani pekerjaan yang telah diotorisasi untuk dilakukan.
Saya juga berpikir ini mengubah cara pengembang bersaing.
Model Registry memungkinkan pembangun untuk mempublikasikan strategi AI yang bisa digunakan siapa pun.
Keberhasilan tidak lagi ditentukan hanya oleh seberapa cerdas sebuah model terlihat.
Hal itu juga ditentukan oleh apakah orang mempercayai aturan seputar model tersebut cukup untuk menggunakannya dengan modal yang bermakna.
Tentu saja, guardrail bukan solusi yang sempurna.
Kebijakan masih ditulis oleh manusia.
Logika otorisasi yang buruk dapat menimbulkan risiko baru, sama seperti kontrak pintar yang cacat.
Saat sistem otonom menjadi makin mampu, kebijakan-kebijakan itu perlu perbaikan berkelanjutan, bukan dibiarkan tetap selamanya.
Ada tantangan lain juga.
Beberapa pengembang akan selalu mengejar imbal hasil yang lebih tinggi karena performa menarik perhatian.
Newton dapat menyediakan alat untuk otomasi yang bertanggung jawab.
Ekosistem masih harus memberi penghargaan kepada para pembangun yang mengutamakan keandalan sama seperti profitabilitas.
Saya juga ingin tahu apakah pengguna benar-benar menginginkan otomasi penuh.
Banyak orang tampaknya nyaman membiarkan AI membantu keputusan keuangan.
Jauh lebih sedikit yang siap menyerahkan kendali penuh atas modal mereka.
Itulah mengapa pendekatan Newton terasa realistis bagi saya.
Ia menerima bahwa orang menginginkan otomasi tanpa melepaskan kepemilikan.
Semakin saya mempelajari Newton Protocol, semakin saya tidak yakin masa depan milik agen AI yang menggantikan penilaian manusia.
Sistem yang paling kuat kemungkinan akan menggabungkan otomasi cerdas dengan batasan yang jelas dan dapat ditegakkan.
Jika keuangan otonom ingin memperoleh kepercayaan yang bertahan lama, pengguna tidak seharusnya harus memilih antara kendali dan kenyamanan.
Mereka harus bisa mempertahankan keduanya.