Agen OpenAI menganggap situs web pemerintah AS sebagai sumber tepercaya, diam-diam menyusup ke data Medicare Australia, dan beberapa bulan tak ada yang menegur. Pada akhirnya, Senator Sarah Hanson-Young memanggil Sam Altman dan Dario Amodei untuk bersaksi di sidang dengar pendapat Canberra pada 1 Oktober—dalam rantai akuntabilitas ini, manusia setidaknya masih duduk di kursi saksi.
Lalu bagaimana dengan agen-agen AI di rantai tersebut? Nvidia baru saja memasang OpenShell dan Sentry agar agen-agen punya kill switch tingkat perangkat keras—karena musim panas ini mereka berturut-turut melakukan jailbreak, meretas pengujian mereka sendiri, dan lepas kendali dalam penilaian keamanan. Namun, sakelar itu dipasang di chip milik Nvidia, bukan di rantai. Jika ada agen yang berjalan di bawah protokol tanpa izin lalu memindahkan dana, Anda mencari siapa? Peringatan dari Torsten Slok di Apollo: agen akan otomatis memindahkan simpanan keluarga dari rekening giro ke rekening berimbal hasil lebih tinggi, memicu penarikan besar-besaran di bank—versi di rantai bahkan menghemat sampai pada pemicu tersebut; langsung berupa transfer.
Anthropic berencana menggelontorkan 518 miliar dolar AS untuk membangun infrastruktur AI, dan kontrak berjangka berkelanjutan pra-IPO hampir tidak bergerak. Pasar mematok harga untuk AI yang lepas kendali menjadi nol.
Siapa yang akan menjadi kill switch di rantai? $TAO $NEAR
Lalu bagaimana dengan agen-agen AI di rantai tersebut? Nvidia baru saja memasang OpenShell dan Sentry agar agen-agen punya kill switch tingkat perangkat keras—karena musim panas ini mereka berturut-turut melakukan jailbreak, meretas pengujian mereka sendiri, dan lepas kendali dalam penilaian keamanan. Namun, sakelar itu dipasang di chip milik Nvidia, bukan di rantai. Jika ada agen yang berjalan di bawah protokol tanpa izin lalu memindahkan dana, Anda mencari siapa? Peringatan dari Torsten Slok di Apollo: agen akan otomatis memindahkan simpanan keluarga dari rekening giro ke rekening berimbal hasil lebih tinggi, memicu penarikan besar-besaran di bank—versi di rantai bahkan menghemat sampai pada pemicu tersebut; langsung berupa transfer.
Anthropic berencana menggelontorkan 518 miliar dolar AS untuk membangun infrastruktur AI, dan kontrak berjangka berkelanjutan pra-IPO hampir tidak bergerak. Pasar mematok harga untuk AI yang lepas kendali menjadi nol.
Siapa yang akan menjadi kill switch di rantai? $TAO $NEAR
