Para pembuat undang-undang di New York telah mengesahkan rancangan undang-undang untuk membatasi bencana yang disebabkan oleh kecerdasan buatan. Menurut rancangan undang-undang tersebut, negara bagian ingin mencegah model-model AI yang dibuat oleh perusahaan seperti OpenAI, Google, dan Anthropic dari berkontribusi pada skenario bencana.
Menurut rancangan undang-undang tersebut, skenario-skenario ini mencakup kematian atau cedera lebih dari 100 orang atau kerugian atau kerusakan lebih dari $1 miliar. Rancangan undang-undang yang dikenal sebagai RAISE Act ini merupakan kemenangan bagi gerakan yang mendorong keselamatan AI. Gerakan tersebut telah kehilangan momentum dalam beberapa tahun terakhir seiring Silicon Valley dan pemerintahan Trump terus memprioritaskan kecepatan dan inovasi.
Para advokat yang fokus pada keselamatan, termasuk penerima Nobel Geoffrey Hinton dan pelopor riset AI Yoshua Bengio berada di belakang RAISE Act. Jika akhirnya disahkan menjadi undang-undang, rancangan undang-undang ini akan menetapkan seperangkat standar transparansi yang diwajibkan secara hukum untuk laboratorium kecerdasan buatan terkemuka di Amerika Serikat.
New York mempertimbangkan RAISE Act untuk membatasi bencana yang dipicu AI
RAISE Act memiliki beberapa ketentuan dan tujuan yang sama dengan rancangan undang-undang keselamatan AI yang kontroversial SB 1047 di California, yang akhirnya diveto.
Namun, salah satu rekan sponsor RAISE Act, Senator Negara Bagian New York Andrew Gounardes, menyebutkan dalam sebuah wawancara bahwa dia merancang rancangan undang-undang itu dengan cara yang tidak menghambat inovasi di antara startup atau peneliti akademis, sebuah kritik umum yang dihadapi SB 1047. “Jendela untuk menerapkan pengaman semakin menyusut mengingat seberapa cepat teknologi ini berkembang,” kata Senator Gounardes.
Senator tersebut juga mengatakan bahwa sebagian besar orang yang memiliki pemahaman baik tentang sektor AI juga telah mengenali risiko-risiko ini, sebuah perkembangan yang dia sebut “mengkhawatirkan.” Sementara itu, RAISE Act kini sedang dalam perjalanan ke meja Gubernur New York Kathy Hochul, di mana dia bisa saja menandatanganinya menjadi undang-undang atau mengembalikannya untuk amandemen. Pilihan lain adalah dia memveto rancangan undang-undang ini, yang kemungkinan besar akan terjadi.
Jika akhirnya disahkan menjadi undang-undang, RAISE Act akan mengharuskan beberapa laboratorium AI terbesar di dunia untuk menerbitkan laporan keselamatan dan keamanan tentang model-model AI terdepan mereka. Rancangan undang-undang ini juga mewajibkan laboratorium AI untuk melaporkan insiden keselamatan yang berkaitan dengan perilaku model AI atau aktor jahat yang mencuri model AI, jika itu terjadi.
Jika perusahaan teknologi gagal memenuhi standar ini, RAISE Act memberikan kekuatan kepada jaksa agung New York untuk membawa sanksi perdata hingga $30 juta terhadap mereka.
RAISE Act berupaya untuk mengatur laboratorium AI
RAISE Act dirancang untuk mengatur perusahaan-perusahaan AI terbesar di dunia, termasuk yang berbasis di California seperti OpenAI dan Google, serta yang berbasis di Cina, seperti DeepSeek dan Alibaba. Persyaratan rancangan undang-undang ini mencakup klausul wajib yang berlaku untuk perusahaan yang menggunakan lebih dari $100 juta dalam sumber daya komputasi untuk melatih model AI mereka dan tersedia untuk penduduk di New York.
Meskipun mirip dengan SB 1047 dalam beberapa hal, RAISE Act menangani beberapa rancangan undang-undang keselamatan AI sebelumnya.
Misalnya, tidak ada klausul yang mengharuskan pengembang model AI untuk memiliki saklar pemutus pada model mereka, dan tidak ada perusahaan yang melatih model mereka yang dapat dimintai pertanggungjawaban atas kerugian kritis. Namun, ada penolakan terhadap undang-undang New York, menurut rekan sponsor RAISE Act, anggota Majelis Negara Bagian New York Alex Bores. Dia menyebut penolakan itu tidak mengejutkan tetapi menambahkan bahwa RAISE Act tidak akan membatasi kemampuan pengembangan perusahaan teknologi dengan cara apa pun.
“RAISE Act NY adalah lagi-lagi sebuah undang-undang AI tingkat negara bagian yang bodoh, bodoh yang hanya akan merugikan AS di saat musuh-musuh kita berlomba maju,” kata mitra umum Andreessen Horowitz Anjney Midha dalam sebuah pos pada hari Jumat di X.
Andreessen Horowitz dan inkubator startup Y Combinator berada dalam penolakan yang sengit terhadap SB 1047. Selain itu, salah satu pendiri Anthropic Jack Clark juga menyampaikan keluhannya tentang seberapa luas RAISE Act, mencatat bahwa itu bisa menghadirkan risiko bagi perusahaan-perusahaan kecil.
Berita kripto Anda layak mendapatkan perhatian - KEY Difference Wire menempatkan Anda di lebih dari 250 situs teratas