Beberapa bulan lalu, saya melakukan percakapan dengan mantan Chief Risk Officer. Saya mengajukan pertanyaan yang mulai banyak orang tanyakan saat ini: "Jika AI dapat menganalisis jutaan skenario risiko pasar dalam hitungan detik, apakah organisasi masih membutuhkan manajer risiko?" Dia tersenyum dan menjawab, "Kebanyakan orang mengira bagian tersulit dalam manajemen risiko adalah menghitung risiko. Itu tidak. Bagian tersulit adalah memutuskan risiko mana yang layak diambil. Dua institusi bisa melihat data yang sama, menggunakan model yang sama, dan mencapai kesimpulan yang sama, namun membuat keputusan yang sama sekali berbeda karena mereka tidak memiliki risk appetite yang sama."
Jawaban itu melekat pada saya karena menyoroti perbedaan yang sering terlewatkan. AI dapat memperkirakan probabilitas, tetapi tidak dapat memutuskan tingkat risiko yang bersedia diterima oleh suatu organisasi. Itu bukan perhitungan matematis. Itu adalah keputusan bisnis yang dibentuk oleh prioritas, akuntabilitas, dan nilai-nilai. Di sinilah komputasi berakhir dan penilaian manusia dimulai.
Dilihat dari perspektif ini, @NewtonProtocol lebih dari sekadar infrastruktur untuk AI. Saya memandangnya sebagai Layer Otorisasi yang berada di antara apa yang mampu dilakukan AI dan apa yang bersedia diizinkan oleh suatu organisasi untuk dilakukan. Banyak diskusi tentang AI berfokus pada eksekusi yang lebih cepat, prediksi yang lebih baik, atau model yang lebih canggih. Tetapi pertanyaan yang lebih penting mungkin jauh lebih sederhana: Apa yang seharusnya diotorisasi untuk dilakukan oleh AI?
Sebuah agen AI mungkin mengidentifikasi peluang pasar yang menarik, tetapi jika bertindak atas peluang itu melanggar kebijakan risiko organisasi, apakah eksekusinya masih boleh diizinkan? Di sinilah Layer Otorisasi menjadi berharga. Fungsinya bukan untuk membuat AI lebih cerdas. Fungsinya adalah untuk menentukan batas-batas di mana AI dapat beroperasi. Sebelum bertanya apa yang bisa dilakukan AI, organisasi terlebih dulu perlu memutuskan apa yang diizinkan untuk dilakukan oleh AI.
Ada tantangan lain yang pantas mendapat perhatian yang setara. Banyak orang menganggap selera risiko sebagai angka yang tetap, tetapi kenyataannya ia terus berkembang. Kondisi pasar berubah, regulasi berubah, likuiditas berubah, bahkan prioritas manajemen dapat bergeser dari waktu ke waktu. Akibatnya, kebijakan yang tepat pada hari kemarin mungkin tidak lagi mencerminkan tujuan organisasi besok.
Jika sebuah sistem hanya menerapkan kebijakan yang statis, kebijakan itu pada akhirnya dapat menjadi keterbatasan alih-alih pengaman. AI mungkin mengeksekusi setiap instruksi dengan sempurna sambil mengikuti panduan yang sudah tidak selaras dengan tujuan organisasi saat ini. Dalam kasus itu, masalahnya bukan pada eksekusi yang buruk. Masalahnya adalah kebijakan yang sudah ketinggalan.
Karena alasan itulah, saya yakin masa depan tata kelola AI tidak hanya tentang Penegakan Kebijakan, tetapi juga tentang Evolusi Kebijakan. Layer Otorisasi yang kuat harus memungkinkan organisasi memperbarui kebijakan dengan aman, transparan, dan efisien ketika kondisi bisnis berubah, tanpa harus membangun ulang seluruh sistem. Adaptabilitas sama pentingnya dengan akurasi.
Inilah sebabnya saya yakin persaingan di masa depan di antara institusi keuangan tidak akan ditentukan semata-mata oleh siapa yang memiliki model AI paling kuat. Persaingan akan semakin bergantung pada siapa yang bisa menerjemahkan prinsip bisnis mereka, kerangka tata kelola, dan selera risiko menjadi kebijakan yang jelas dan dapat diverifikasi agar agen AI dapat mengikutinya secara konsisten.
Dari perspektif itu, @NewtonProtocol lebih dari sekadar infrastruktur teknis. Ia menawarkan kerangka kerja yang menyeimbangkan kecepatan AI dengan akuntabilitas manusia, sehingga otomatisasi tetap selaras dengan nilai dan tujuan organisasi yang menerapkannya.
Dalam tahun-tahun mendatang, keunggulan kompetitif nyata mungkin tidak hanya berasal dari membangun AI yang lebih cerdas. Keunggulan itu mungkin berasal dari membangun kebijakan yang lebih baik yang menentukan bagaimana kecerdasan tersebut seharusnya digunakan.
Menurut Anda, apa yang akan lebih penting dalam ekonomi AI: model yang semakin kuat, atau kebijakan otorisasi yang lebih baik yang menentukan batas dari keputusan mereka?
