Pengembangan AI mungkin benar-benar perlu menginjak rem. CEO Anthropic Dario Amodei menulis bahwa AI sudah mulai ikut membangun model generasi berikutnya, dan ia khawatir bahwa dalam 6–12 bulan ke depan, sistem yang lebih kuat dapat menimbulkan risiko keamanan siber yang serius. Untuk itu, ia menganjurkan agar dilakukan evaluasi keamanan berkelanjutan oleh pihak ketiga, mendorong perusahaan-perusahaan AI terdepan menggunakan standar yang seragam, sekaligus membatasi ekspor chip dan perangkat canggih ke Tiongkok. Ia berpendapat bahwa penghentian total dalam waktu dekat tidak realistis, tetapi perlu lebih banyak waktu untuk penyelarasan keamanan.
Menurut saya pribadi, memperlambat sedikit proses verifikasi keamanan bukanlah hal yang buruk, karena semakin besar kapabilitasnya, semakin besar pula biaya yang mungkin harus ditanggung jika terjadi masalah. Namun, bagaimana menyeimbangkan kompetisi teknologi dan keamanan—itu memang sulit.
Menurut Anda, AI terdepan sekarang sebaiknya secara proaktif menurunkan kecepatan, atau lebih realistis untuk terus mengejar kecepatan?
Menurut saya pribadi, memperlambat sedikit proses verifikasi keamanan bukanlah hal yang buruk, karena semakin besar kapabilitasnya, semakin besar pula biaya yang mungkin harus ditanggung jika terjadi masalah. Namun, bagaimana menyeimbangkan kompetisi teknologi dan keamanan—itu memang sulit.
Menurut Anda, AI terdepan sekarang sebaiknya secara proaktif menurunkan kecepatan, atau lebih realistis untuk terus mengejar kecepatan?
