Dulu saya mengira reputasi AI akan tentang performa.
Transaksi yang lebih baik.
Jawaban lebih cepat.
Pengembalian yang lebih tinggi.
Tapi semakin saya memikirkan agen otonom, semakin saya merasa itu mungkin terlalu dangkal.
Seorang karyawan manusia tidak dipercaya setelah satu keputusan yang baik.
Kepercayaan dibangun melalui perilaku yang berulang.
Muncul.
Mengikuti aturan.
Menangani kasus-kasus tepi.
Tidak menyalahgunakan akses saat tidak ada yang mengawasi.
Agen AI mungkin perlu hal yang sama.
Bayangkan sebuah agen yang memulai dengan batas harian sebesar $500,00.
Dalam lebih dari 120 hari, ia menyelesaikan 12.480 tindakan.
99,94% tetap sesuai kebijakan.
0 eksekusi tanpa otorisasi.
Biaya eksekusi rata-rata turun dari $1,92 menjadi $0,68.
Tindakan yang gagal turun dari 3,40% menjadi 0,27%.
Pada titik itu, agen tersebut bukan hanya “berguna.”
Ia memiliki riwayat perilaku.
Dan jika riwayat itu dapat diverifikasi, itu menjadi sesuatu yang jauh lebih berharga daripada sekadar klaim.
Itu menjadi reputasi.
Itu bagian yang menurut saya menarik tentang @NewtonProtocol .
Otorisasi Sebelum Eksekusi tidak hanya soal mengatakan “ya” atau “tidak” pada sebuah aksi AI.
Itu bisa membantu menciptakan catatan tentang bagaimana sebuah agen berperilaku di dalam batas yang ditetapkan dari waktu ke waktu.
Mungkin suatu hari, agen AI tidak akan mendapatkan lebih banyak kebebasan hanya karena seseorang merasa yakin.
Mereka akan mendapatkannya karena tindakan masa lalu mereka membuktikan bahwa mereka layak.
Riwayat yang bersih bisa membuka batas yang lebih tinggi.
Kepatuhan kebijakan yang konsisten bisa membuka alur kerja yang lebih kompleks.
Pelanggaran berulang bisa mengurangi otoritas secara otomatis.
Itu terasa seperti masa depan yang lebih sehat bagi saya.
Bukan kepercayaan buta.
Bukan otonomi tanpa batas.
Sebuah sistem di mana AI secara bertahap mendapatkan tanggung jawab dengan cara yang sama seperti manusia:
melalui pembuktian.
Di dunia itu, AI yang paling berharga mungkin bukan yang menjanjikan imbal hasil tertinggi.
Mungkin yang memiliki rekam jejak paling bersih.