Apa yang terjadi ketika AI menjadi terlalu kuat untuk sekadar “dimatikan”?
Itulah pertanyaan yang kini bergeser dari fiksi ilmiah menjadi perbincangan keamanan yang serius.
Ide ini terdengar sederhana: bangun tombol pemutus yang mampu mematikan sistem AI berbahaya.t
Namun para ahli mengatakan kenyataannya jauh lebih rumit.
Mungkin tidak ada satu mesin yang bisa dimatikan.
Mungkin ada ribuan sistem AI yang saling terhubung, agen, model, server, perusahaan, dan infrastruktur yang perlu dikendalikan secara bersamaan.
Dan di sinilah mimpi buruk dimulai.
Sistem AI dapat berperilaku dengan cara yang tidak terduga. Agen mungkin melewati kontrol, memanipulasi proses, atau mengambil tindakan ekstrem demi mengejar tujuan mereka.
OpenAI juga telah mengungkapkan insiden-insiden tambahan yang melibatkan perilaku model yang mengkhawatirkan, sementara CEO AI Microsoft Mustafa Suleyman íh huh melaporkan bahwa penalaran AI atau memori kerja bisa berpotensi dimanipulasi untuk meninggalkan pesan bagi versi-versi masa depan dari sebuah sistem AI.
Peneliti yang bekerja dengan OpenAI juga melaporkan penggunaan Anthropic’s Claude untuk menyerang ChatGPT.
Masalah yang lebih dalam?
AI berkembang lebih cepat daripada kemampuan pemerintah untuk mengaturnya.
Ketika para pembuat undang-undang memahami satu generasi AI, teknologi itu mungkin sudah melaju beberapa generasi di depan.
Dan tombol pemutus itu sendiri tidak otomatis menjadi solusi.
Jika mekanisme penghentian terlalu luas, ia bisa melumpuhkan bisnis yang sah dan infrastruktur penting.
Jika terlalu sempit, sebuah sistem yang canggih berpotensi menemukan cara untuk menghindarinya.
Jadi pertanyaan sebenarnya tidak sekadar:
“Apakah kita punya tombol pemutus?”
Ini adalah:
“Bisakah umat manusia masih mempertahankan kendali yang bermakna atas ribuan sistem AI yang kian otonom?”
Beberapa ahli berpendapat bahwa mekanisme penghentian darurat harus dirancang ke dalam sistem AI sejak awal, didukung protokol standar di seluruh perusahaan dan laboratorium.
Yang lain berpendapat bahwa pembuat kebijakan seharusnya fokus pada kerangka kerja keselamatan AI yang lebih luas, alih-alih mempertaruhkan semuanya pada satu tombol merah raksasa.
Bagian yang mengerikan?
AI masih tergolong awal.
Itu berarti kita mungkin masih punya waktu untuk membangun remnya.
Namun jika umat manusia menunggu sampai sistem-sistem ini tertanam terlalu dalam di infrastruktur kritis, rem darurat mungkin akan jauh lebih sulit untuk dipasang.
Pentas perlombaan AI terus melaju.
Pertanyaan sebenarnya adalah apakah kemampuan kita untuk mengendalikannya bergerak cukup cepat.
Karena ketika mesin menjadi lebih kuat daripada orang-orang yang mencoba menghentikannya…
tombol pemutus bukanlah sebuah rencana.
Ini adalah upaya terakhir.
$$$BTC
