Penulis: Tom Mitchelhill, CoinTelegraph; Penyusun: Tao Zhu, Golden Finance
Gubernur California Gavin Newsom telah memveto rancangan undang-undang kecerdasan buatan (AI) yang kontroversial, dengan alasan bahwa undang-undang tersebut akan menghambat inovasi dan gagal melindungi masyarakat dari ancaman "nyata" yang ditimbulkan oleh teknologi tersebut.
Pada tanggal 30 September, Newsom memveto SB 1047, Undang-Undang Inovasi Aman untuk Model Kecerdasan Buatan Frontier, yang mendapat tentangan keras dari Silicon Valley.
RUU tersebut mengusulkan pengujian keamanan wajib terhadap model kecerdasan buatan dan batasan lainnya, yang dikhawatirkan oleh perusahaan teknologi dapat menghambat inovasi.
Newsom mengatakan dalam sebuah pernyataan pada tanggal 29 September bahwa RUU tersebut terlalu berfokus pada pengaturan perusahaan-perusahaan kecerdasan buatan terkemuka yang ada dan tidak melindungi masyarakat dari ancaman “nyata” yang ditimbulkan oleh teknologi baru.
“Sebaliknya, RUU ini menerapkan standar yang ketat bahkan pada fungsi yang paling dasar sekalipun—selama sistem besar menerapkannya. Menurut saya itu bukan cara terbaik untuk melindungi masyarakat dari ancaman nyata yang ditimbulkan oleh teknologi.”
SB 1047, yang ditulis oleh Senator Scott Wiener, D-San Francisco, juga mewajibkan pengembang di California — termasuk nama-nama besar seperti pembuat ChatGPT OpenAI, Meta, dan Google — untuk menerapkan “kill switch” untuk model AI mereka dan mempublikasikan rencana untuk memitigasi risiko ekstrim .
Jika RUU tersebut disahkan, pengembang AI kemungkinan juga akan dituntut oleh jaksa agung negara bagian di tengah ancaman yang terus berlanjut dari model-model seperti pengambilalihan jaringan AI.
Newsom mengatakan dia telah meminta para pakar keselamatan AI terkemuka di dunia untuk membantu California “mengembangkan pagar pembatas yang dapat ditindaklanjuti,” dengan fokus pada penciptaan “analisis lintasan berbasis sains.” Dia menambahkan bahwa dia telah memerintahkan lembaga-lembaga negara untuk memperluas penilaian mereka terhadap risiko kejadian bencana yang mungkin timbul akibat pengembangan AI.
Meskipun Newsom memveto SB 1047, dia mengatakan protokol keselamatan yang memadai harus diterapkan untuk kecerdasan buatan, dan menambahkan bahwa regulator tidak bisa "menunggu sampai terjadi bencana besar untuk mengambil tindakan guna melindungi masyarakat."
Newsom menambahkan bahwa pemerintahannya telah menandatangani lebih dari 18 rancangan undang-undang yang mengatur kecerdasan buatan dalam 30 hari terakhir.
Politisi dan perusahaan teknologi besar menentang RUU keselamatan AI
Sebelum keputusan Newsom diambil, RUU tersebut tidak populer di kalangan anggota parlemen, penasihat, dan perusahaan teknologi besar.
Ketua DPR Nancy Pelosi dan perusahaan seperti OpenAI mengatakan hal ini akan sangat menghambat pengembangan kecerdasan buatan.
Neil Chilson, kepala kebijakan AI di Abundance Institute, memperingatkan bahwa meskipun RUU tersebut berfokus pada model dengan biaya dan skala tertentu (model yang menelan biaya lebih dari $100 juta), cakupannya dapat dengan mudah diperluas untuk menjangkau pengembang yang lebih kecil.
Namun ada juga yang terbuka terhadap RUU tersebut. Miliarder Elon Musk, yang sedang mengembangkan model kecerdasan buatannya sendiri yang disebut “Grok,” adalah salah satu dari sedikit pemimpin teknologi yang mendukung rancangan undang-undang tersebut dan peraturan AI yang lebih luas.
Dalam postingan 26 Agustus ke