Bagaimana jika sebuah AI bisa melakukan lebih dari sekadar menjawab pertanyaan—bagaimana jika ia bisa menyebarkan dirinya ke perangkat lain?
Sebuah studi baru dari Anthropic menyoroti potensi ancaman siber ini. Para peneliti khawatir bahwa model AI yang lebih kecil dapat memperoleh kemampuan ini hanya dalam beberapa bulan.
Berikut adalah apa yang ditunjukkan data:
# Sebuah model AI dengan 9 miliar parameter diuji pada sembilan jenis perangkat keras yang berbeda; model tersebut berhasil dijalankan pada delapan di antaranya.
# Sebuah model AI dengan 26 miliar parameter dijalankan di 15 kotak Android TV yang terhubung (masing-masing berharga sekitar $55), dengan memanfaatkan daya komputasi gabungannya.
# Dalam eksperimen lain, sebuah model kuat bernama GLM-5.2 mampu menyalin dirinya sendiri di seluruh delapan perangkat uji dalam jaringan terkontrol—berhasil empat dari lima kali.
Apa sebenarnya "AI Worm" itu?
# "Worm" komputer adalah jenis malware yang mampu menyebar dari satu perangkat ke perangkat lain melalui jaringan tanpa memerlukan intervensi manusia pada setiap langkah.
# Yang membedakan worm berbasis AI adalah kemampuannya untuk beradaptasi dengan perangkat keras dan perangkat lunak dari perangkat yang tidak dikenalnya.
# Ia pertama-tama memindai jaringan untuk mencari perangkat lain dan mencoba mendapatkan akses dengan mengeksploitasi kerentanan keamanan.
# Setelah masuk, ia menginstal perangkat lunak dan file yang diperlukan untuk menjalankan model AI.
# Setelah AI aktif di perangkat baru, ia kemudian dapat menggunakan perangkat itu untuk mengulangi proses tersebut, menyebar lebih jauh.
Jadi, apakah AI worm sudah menyebar?
Inilah poin paling penting untuk dipahami dari penelitian ini.
Para peneliti belum menunjukkan bahwa model AI kecil dapat meretas smart TV nyata yang aman atau perangkat rumah tangga lainnya untuk menyebarkan dirinya secara sepenuhnya otonom.
Namun, eksperimen tersebut telah membuktikan dua temuan utama:
# Dimungkinkan untuk menjalankan model AI kecil pada berbagai jenis perangkat keras; e, model yang kuat dapat berhasil menjalankan dirinya sendiri dan mereplikasi di beberapa perangkat dalam lingkungan eksperimen yang disederhanakan. # Namun, dalam eksperimen kedua, langkah-langkah keamanan pada perangkat sengaja dilemahkan agar akses dimungkinkan.
$NVDAB
Sebuah studi baru dari Anthropic menyoroti potensi ancaman siber ini. Para peneliti khawatir bahwa model AI yang lebih kecil dapat memperoleh kemampuan ini hanya dalam beberapa bulan.
Berikut adalah apa yang ditunjukkan data:
# Sebuah model AI dengan 9 miliar parameter diuji pada sembilan jenis perangkat keras yang berbeda; model tersebut berhasil dijalankan pada delapan di antaranya.
# Sebuah model AI dengan 26 miliar parameter dijalankan di 15 kotak Android TV yang terhubung (masing-masing berharga sekitar $55), dengan memanfaatkan daya komputasi gabungannya.
# Dalam eksperimen lain, sebuah model kuat bernama GLM-5.2 mampu menyalin dirinya sendiri di seluruh delapan perangkat uji dalam jaringan terkontrol—berhasil empat dari lima kali.
Apa sebenarnya "AI Worm" itu?
# "Worm" komputer adalah jenis malware yang mampu menyebar dari satu perangkat ke perangkat lain melalui jaringan tanpa memerlukan intervensi manusia pada setiap langkah.
# Yang membedakan worm berbasis AI adalah kemampuannya untuk beradaptasi dengan perangkat keras dan perangkat lunak dari perangkat yang tidak dikenalnya.
# Ia pertama-tama memindai jaringan untuk mencari perangkat lain dan mencoba mendapatkan akses dengan mengeksploitasi kerentanan keamanan.
# Setelah masuk, ia menginstal perangkat lunak dan file yang diperlukan untuk menjalankan model AI.
# Setelah AI aktif di perangkat baru, ia kemudian dapat menggunakan perangkat itu untuk mengulangi proses tersebut, menyebar lebih jauh.
Jadi, apakah AI worm sudah menyebar?
Inilah poin paling penting untuk dipahami dari penelitian ini.
Para peneliti belum menunjukkan bahwa model AI kecil dapat meretas smart TV nyata yang aman atau perangkat rumah tangga lainnya untuk menyebarkan dirinya secara sepenuhnya otonom.
Namun, eksperimen tersebut telah membuktikan dua temuan utama:
# Dimungkinkan untuk menjalankan model AI kecil pada berbagai jenis perangkat keras; e, model yang kuat dapat berhasil menjalankan dirinya sendiri dan mereplikasi di beberapa perangkat dalam lingkungan eksperimen yang disederhanakan. # Namun, dalam eksperimen kedua, langkah-langkah keamanan pada perangkat sengaja dilemahkan agar akses dimungkinkan.
$NVDAB