aku sudah menghabiskan beberapa minggu terakhir membaca tentang agen AI, dan aku memperhatikan sesuatu yang terus terjadi.
Kebanyakan pembahasan dimulai dari kapabilitas.
Seberapa banyak yang bisa dilakukan oleh sebuah agen?
Berapa banyak tugas yang bisa diotomatisasi?
Seberapa cerdas ia bisa menjadi?
Hampir tidak ada orang yang memulai dengan pertanyaan yang jauh lebih sederhana.
Apakah agen sebaiknya diizinkan melakukannya sejak awal?
Itu terasa seperti celah yang aneh.
Saat agen AI menjadi mampu mengelola wallet, berinteraksi dengan protokol DeFi, dan memindahkan aset antar aplikasi, kecerdasan bukan lagi satu-satunya hal yang paling penting. Sebuah agen mungkin mengidentifikasi peluang yang paling tepat, tetapi itu tidak otomatis berarti setiap tindakan harus dieksekusi tanpa keputusan lain dibuat terlebih dahulu.
Itu salah satu alasannya @NewtonProtocol caught perhatian saya.
Protokol ini menjelaskan AI Agent Commerce sebagai salah satu kasus penggunaan jangka panjangnya, di mana sistem otonom dapat beroperasi melalui kebijakan yang dapat diprogram, bukan eksekusi tanpa batas. Transaksi tidak dinilai setelahnya. Otorisasi terjadi sebelum nilai benar-benar berpindah.
Semakin saya memikirkannya, semakin saya menyadari bahwa selama bertahun-tahun kami mencoba mengajari mesin untuk membuat keputusan.
Kami belum menghabiskan waktu sebanyak itu untuk memutuskan keputusan mana yang harus selalu tetap berada di dalam batas yang telah ditetapkan sebelumnya.
Itu benar-benar masalah yang berbeda.
Sebuah agen AI dapat mengoptimalkan untuk kecepatan.....
Sebuah kebijakan dapat mengoptimalkan untuk keselamatan.
Sebuah agen AI dapat mengoptimalkan untuk profit.
Sebuah kebijakan dapat mengoptimalkan untuk kepatuhan.
Tidak ada yang menggantikan yang lain.
Mereka menyelesaikan bagian berbeda dari alur kerja yang sama.
Keseimbangan itu terasa jauh lebih sehat daripada meminta kecerdasan untuk memecahkan masalah yang sebenarnya tidak dirancang untuk diselesaikan.
Tentu, kebijakan memperkenalkan trade-off mereka sendiri.
Aturan yang terlalu ketat bisa mencegah otomatisasi yang berguna.
Aturan yang terlalu longgar bisa menghilangkan perlindungan yang seharusnya mereka berikan.
Mencari keseimbangan itu tidak akan mudah.
Tapi, saya pikir inilah yang membuat NEWT menjadi menarik.
Newton Protocol tidak berkompetisi untuk membangun agen AI paling cerdas.
Ini adalah membangun infrastruktur yang mempertanyakan apakah keputusan otonom harus memenuhi aturan yang telah ditetapkan sebelumnya sebelum diizinkan memengaruhi aset dunia nyata.
Bagi saya, pertanyaan itu terasa jauh lebih penting daripada apakah seorang agen dapat menyelesaikan tugas lain.
Karena dalam keuangan, kesalahan terbesar tidak selalu karena membuat keputusan yang salah.
Kadang-kadang itu berarti mengizinkan sebuah keputusan terjadi tanpa bertanya apakah keputusan itu seharusnya terjadi sama sekali.
Saat agen AI menjadi bagian dari keuangan sehari-hari, apakah kecerdasan akan menjadi lebih penting—atau apakah batasan yang jelas justru menjadi fitur yang paling dipercaya orang??
@NewtonProtocol #Newt $NEWT $GALA $TLM
