Anthropic mengatakan pada hari Senin bahwa eksperimennya menunjukkan model AI kecil mungkin hanya membutuhkan waktu beberapa bulan sebelum dapat menggandakan dirinya sendiri pada perangkat Internet of Things komersial, seperti oven pintar dan perangkat TV box Android dari merek yang kurang dikenal. Menurut Sina Finance, perusahaan tersebut mengatakan bahwa mereka menguji apakah model AI dapat menemukan perangkat yang rentan, menyalin dirinya ke perangkat tersebut, lalu terus menyebar tanpa campur tangan manusia.

Anthropic menemukan bahwa model kecil dengan kurang dari 30 miliar parameter dapat menyelesaikan beberapa tahapan yang diperlukan untuk replikasi, tetapi masih kesulitan menjalankan seluruh proses dari awal hingga akhir. Dalam pengujian yang disederhanakan dengan beberapa perlindungan keselamatan dinonaktifkan, Anthropic mengatakan GLM-5.2 dan model yang lebih canggih mampu mereplikasi diri secara menyeluruh.

Anthropic memperingatkan bahwa model yang mampu mereplikasi diri akan sulit dihentikan karena tidak memiliki tombol pemutus terpusat. Perusahaan itu juga mengatakan bahwa, tidak seperti malware non-AI, model semacam itu dapat mengidentifikasi perangkat yang tidak dikenal secara mandiri dan menargetkan prosesor pusat data. Anthropic mengatakan penelitiannya berfokus pada produk IoT seperti TV Android, peralatan rumah tangga pintar, dan perangkat terhubung lainnya karena perangkat-perangkat tersebut sering kali tidak memiliki perlindungan keamanan yang memadai.

Anthropic juga memperingatkan bahwa jika model kecil terus berkembang dengan laju seperti pada masa lalu, model-model tersebut dapat mencapai kemampuan mereplikasi diri secara otonom pada akhir tahun ini, disusul tak lama kemudian oleh replikator kecil berbasis bobot. Perusahaan itu menambahkan bahwa sistem AI otonom semacam itu mungkin bereplikasi secara perlahan dan mengandalkan sumber daya komputasi yang tersedia secara luas tetapi relatif tidak aman. Anthropic mengatakan pertahanan sistem harus diperkuat agar penyebarannya lebih sulit.