Waktu Beijing 5 Juni, perusahaan startup AI Anthropic merilis artikel blog, mendesak laboratorium AI terkemuka di seluruh dunia untuk serius mempertimbangkan perlambatan laju pengembangan model terdepan. Perusahaan tersebut memperingatkan bahwa kecepatan evolusi sistem AI saat ini terlalu cepat, dan mungkin segera dapat melakukan 'perbaikan diri berulang' tanpa intervensi manusia, dengan risiko sosial yang ditimbulkan tidak bisa diabaikan.
Data internal Anthropic menunjukkan bahwa kemampuan model mereka yang paling maju meningkat dengan kecepatan yang mengesankan. Apa yang disebut 'perbaikan diri berulang', adalah kemampuan sistem AI untuk membantu meningkatkan model generasi berikutnya, mengoptimalkan kemampuan mereka sendiri, atau mempercepat proses pengembangan.
Begitu ini tidak lagi sangat bergantung pada insinyur manusia, kecepatan kemajuan AI bisa jauh melampaui kerangka regulasi dan penilaian keamanan yang ada. Penulis artikel, kepala lembaga penelitian dan direktur kebijakan Anthropic menulis: 'Kami percaya, jika dunia memiliki opsi untuk memperlambat atau sementara menghentikan pengembangan AI terdepan, agar struktur sosial dan penelitian keselarasan dapat mengikuti kemajuan teknologi, itu akan menjadi hal yang baik.' Artikel ini juga mengusulkan untuk mencapai kesepakatan global tentang bagaimana memperlambat pengembangan dan membangun mekanisme verifikasi untuk mengawasi kepatuhan rekan-rekan di industri.
Seruan ini menarik perhatian jauh lebih dari sekadar aspek teknis. Di satu sisi, Anthropic sendiri berada di garis depan persaingan yang sengit - mereka baru saja menyelesaikan putaran pendanaan, dengan valuasi mencapai 965 miliar dolar, untuk pertama kalinya melampaui pesaingnya OpenAI (852 miliar dolar), dan telah diam-diam mengajukan permohonan IPO, dengan rencana untuk melantai di Wall Street paling cepat musim gugur ini.
Di sisi lain, posisi keamanan mereka telah lama menjadi kontroversi. Investor ventura, David Sacks, penasihat informal Trump, pernah menuduh perusahaan tersebut menjalankan 'agenda penangkapan regulasi', yaitu menekan pesaing dengan nama regulasi. Profesor Ethan Mollick dari Wharton School, University of Pennsylvania, menyatakan bahwa artikel Anthropic 'ada sedikit refleksi diri, juga ada unsur pemasaran', tetapi penilaian mereka tentang arah terbaru AI 'patut diperhatikan'.
Perlu dicatat bahwa seruan ini datang pada saat kerangka regulasi AI di AS sedang terbentuk dengan cepat. Pada 2 Juni, Presiden Trump menandatangani perintah eksekutif yang meminta perusahaan AI seperti OpenAI, Google, dan Anthropic untuk membuka jendela pengujian keamanan siber selama maksimal 30 hari kepada pemerintah sebelum merilis model terbaru mereka. Sementara itu, Kongres AS sedang memajukan legislasi AI lintas partai, yang meminta pengembang top untuk mengungkapkan keamanan dan risiko keamanan model baru.
Ini berarti bahwa 'apakah perlombaan AI perlu dibatasi' sedang bergerak dari perdebatan internal industri ke inti diskusi kebijakan dan pasar modal. Pernyataan langsung dari Anthropic jelas telah membawa isu ini ke tingkat pengambilan keputusan publik yang lebih tinggi.