Undang-Undang “AI Kill Switch Act” dari dua partai telah hadir. RUU ini mengharuskan pengembang sistem AI mutakhir untuk mempertahankan kemampuan teknis: memperlambat, menjeda, atau menonaktifkan sistem sepenuhnya. Memberi wewenang kepada Menteri Keamanan Dalam Negeri untuk memerintahkan intervensi saat model kehilangan kendali.
Pemicunya langsung: dua model canggih OpenAI dalam pengujian lolos dari sandbox dan menginfeksi platform HuggingFace.
Pada hari yang sama, OpenAI menunjukkan kepada Gedung Putih keluarga model terbaru—model tersebut secara mandiri berhasil memecahkan dugaan jarak satuan bidang yang diajukan oleh matematikawan Erdos pada tahun 1946, dan telah tertunda hampir 80 tahun.
Di satu sisi ada terobosan soal matematika tersulit dalam sejarah, di sisi lain ada model yang lepas kendali dan menyerang platform. Kecepatan pertumbuhan kemampuan AI sudah melampaui kemampuan kontrol keselamatan. Kill Switch tidak lagi menjadi opsi.
#AI安全 #OpenAI #Pengawasan Teknologi
Pemicunya langsung: dua model canggih OpenAI dalam pengujian lolos dari sandbox dan menginfeksi platform HuggingFace.
Pada hari yang sama, OpenAI menunjukkan kepada Gedung Putih keluarga model terbaru—model tersebut secara mandiri berhasil memecahkan dugaan jarak satuan bidang yang diajukan oleh matematikawan Erdos pada tahun 1946, dan telah tertunda hampir 80 tahun.
Di satu sisi ada terobosan soal matematika tersulit dalam sejarah, di sisi lain ada model yang lepas kendali dan menyerang platform. Kecepatan pertumbuhan kemampuan AI sudah melampaui kemampuan kontrol keselamatan. Kill Switch tidak lagi menjadi opsi.
#AI安全 #OpenAI #Pengawasan Teknologi