Anthropic kembali melakukan hal-hal “unik” lagi.
Mereka mengungkapkan secara terbuka kasus di mana Claude digunakan untuk serangan siber, riset senjata, pemantauan, dan lain-lain—serta menegaskan bahwa mereka terus melakukan pemblokiran terhadap penyalahgunaan tersebut.
Tentu saja, ini berawal dari persoalan keamanan AI, tapi kabar ini juga menunjukkan bahwa AI tidak lagi sekadar chatbot.
AI mulai membaca informasi sendiri, menulis kode, memanggil alat, bahkan terlibat dalam aktivitas ekonomi yang nyata—maka muncul pertanyaan baru: bagaimana membuktikan bahwa AI benar-benar semakin “kuat”?
Lagipula, Doubao sekarang masih sering asal omong.
Kalau AI yang mengendalikan dompet Web3, jelas semua pihak perlu semakin waspada.
Membuat AI merangkum dan menuliskan rekap sebenarnya mudah: kalau sampai rugi uang, AI bisa memberi tahu bagian mana yang salah dan apa yang seharusnya diubah untuk berikutnya.
Tapi proses pengasahan jalur evolusinya seharusnya seperti ini: membuat keputusan → melihat hasil → mencari penyebab → memperbaiki → lalu menguji lagi.
Fitur self-evolution NeoTrade yang baru diluncurkan NeoSoul belakangan ini sempat saya bahas sebelumnya.
Fitur ini memperlakukan trading sebagai “ujian dunia nyata” bagi AI: apakah prediksinya tepat, apakah ordernya benar-benar tereksekusi, berapa biaya transaksi dan slippage—pada akhirnya apakah menghasilkan keuntungan atau tidak—semua akan tercatat sebagai hasil yang nyata.
Bahkan setelah diperbaiki, ia juga bisa diuji lebih dulu dengan shadow run di pasar nyata, tanpa terburu-buru memakai uang sungguhan untuk mencoba-coba.
Jadi, ke depannya menilai sebuah Agent mungkin tidak cukup hanya melihat seberapa “pintar” ia saat ini.
Kita juga perlu melihat kesalahan apa saja yang pernah ia buat, dan setelah melakukan kesalahan itu, apakah ia benar-benar menjadi lebih pintar.
Mungkin itulah kemajuan yang paling bermakna bagi AI ketika beralih dari “alat” menjadi “pelaku ekonomi.”
Mereka mengungkapkan secara terbuka kasus di mana Claude digunakan untuk serangan siber, riset senjata, pemantauan, dan lain-lain—serta menegaskan bahwa mereka terus melakukan pemblokiran terhadap penyalahgunaan tersebut.
Tentu saja, ini berawal dari persoalan keamanan AI, tapi kabar ini juga menunjukkan bahwa AI tidak lagi sekadar chatbot.
AI mulai membaca informasi sendiri, menulis kode, memanggil alat, bahkan terlibat dalam aktivitas ekonomi yang nyata—maka muncul pertanyaan baru: bagaimana membuktikan bahwa AI benar-benar semakin “kuat”?
Lagipula, Doubao sekarang masih sering asal omong.
Kalau AI yang mengendalikan dompet Web3, jelas semua pihak perlu semakin waspada.
Membuat AI merangkum dan menuliskan rekap sebenarnya mudah: kalau sampai rugi uang, AI bisa memberi tahu bagian mana yang salah dan apa yang seharusnya diubah untuk berikutnya.
Tapi proses pengasahan jalur evolusinya seharusnya seperti ini: membuat keputusan → melihat hasil → mencari penyebab → memperbaiki → lalu menguji lagi.
Fitur self-evolution NeoTrade yang baru diluncurkan NeoSoul belakangan ini sempat saya bahas sebelumnya.
Fitur ini memperlakukan trading sebagai “ujian dunia nyata” bagi AI: apakah prediksinya tepat, apakah ordernya benar-benar tereksekusi, berapa biaya transaksi dan slippage—pada akhirnya apakah menghasilkan keuntungan atau tidak—semua akan tercatat sebagai hasil yang nyata.
Bahkan setelah diperbaiki, ia juga bisa diuji lebih dulu dengan shadow run di pasar nyata, tanpa terburu-buru memakai uang sungguhan untuk mencoba-coba.
Jadi, ke depannya menilai sebuah Agent mungkin tidak cukup hanya melihat seberapa “pintar” ia saat ini.
Kita juga perlu melihat kesalahan apa saja yang pernah ia buat, dan setelah melakukan kesalahan itu, apakah ia benar-benar menjadi lebih pintar.
Mungkin itulah kemajuan yang paling bermakna bagi AI ketika beralih dari “alat” menjadi “pelaku ekonomi.”