Ujian sesungguhnya bagi AI agentik bukan sekadar menyelesaikan tugas. Melainkan apakah agen tersebut tetap mematuhi batasannya saat menyelesaikan tugas. Otonomi yang andal membutuhkan kendali yang andal.
Seiring agen AI mendapatkan akses ke lebih banyak alat, potensi dampaknya pun meningkat. Begitu pula pentingnya memantau tindakan mereka. Otonomi membutuhkan pagar pengaman, bukan kepercayaan buta.
Membuat AI lebih cerdas hanyalah separuh dari masalah. Memastikan AI tetap berada dalam batas izinnya adalah separuh lainnya. Kemampuan tanpa kendali menciptakan jenis risiko yang berbeda.