AI TERLALU CEPAT BERGERAK — DAN BAHKAN ARSITEKNYA SENDIRI MULAI MENEKAN REM.
OpenAI mungkin tidak akan go public pada 2026.
Sam Altman, menurut laporan, menyebut IPO tahun ini “tidak bijak,” mendorong rencana pencatatan yang sangat dinantikan bergeser ke 2027 atau lebih lambat.
Namun kisah yang lebih besar bukanlah tentang Wall Street.
Ini tentang kontrol.
Pada hari yang sama, CEO Anthropic Dario Amodei menyerukan agar perusahaan-perusahaan AI frontier secara sengaja memperlambat laju pengembangan kemampuan.
Dan lalu sesuatu yang hampir tidak terpikirkan terjadi.
Altman setuju.
Elon Musk juga.
Tiga tokoh kuat dari sudut-sudut berbeda dalam perang AI tiba-tiba menyatu pada satu pesan:
MESIN TERLALU CEPAT MELAJU.
Amodei mengusulkan pendekatan tiga bagian:
Pemeriksa independen dengan akses tingkat karyawan ke perusahaan-perusahaan AI untuk memverifikasi praktik keselamatan dan melaporkan insiden.
Koordinasi antar perusahaan AI terkemuka di negara demokrasi untuk menetapkan standar keselamatan yang seragam.
Koordinasi antara pemerintah demokratis dan otoriter terkait risiko yang diciptakan oleh sistem AI yang makin mampu.
Dan Anthropic mengatakan pihaknya telah berkomitmen pada langkah pertama secara sepihak.
Ini bukan tentang menghentikan AI.
Ini tentang membeli waktu.
Waktu untuk menguji sistem.
Waktu untuk memahami apa yang mereka mampu lakukan.
Waktu untuk membangun pengaman sebelum kemampuan melampaui kemampuan kita untuk mengendalikannya.
Kepala ilmuwan OpenAI, Jakub Pachocki, baru-baru ini memperingatkan bahwa tidak ada perusahaan AI yang menyelesaikan alignment dan monitoring dengan cukup baik untuk membenarkan penskalaan tanpa batas pada kecepatan maksimum.
Peringatan itu seharusnya membuat siapa pun yang memperhatikan merasa sangat takut.
Karena mimpi buruknya tidak haruslah semacam kiamat robot ala Hollywood.
Ini sesuatu yang jauh lebih realistis:
sistem menjadi mampu melakukan penipuan, manipulasi, pemalsuan, serangan siber, aksi otonom, dan perilaku berbahaya lainnya lebih cepat daripada pemerintah, perusahaan, dan masyarakat dapat beradaptasi.
Salah satu peneliti Anthropic, Jacob Coxon, menurut laporan mengundurkan diri setelah mengungkapkan kekhawatiran bahwa lab-lab AI terkemuka “bertaruh dengan hidup kita.”
$BTC
OpenAI mungkin tidak akan go public pada 2026.
Sam Altman, menurut laporan, menyebut IPO tahun ini “tidak bijak,” mendorong rencana pencatatan yang sangat dinantikan bergeser ke 2027 atau lebih lambat.
Namun kisah yang lebih besar bukanlah tentang Wall Street.
Ini tentang kontrol.
Pada hari yang sama, CEO Anthropic Dario Amodei menyerukan agar perusahaan-perusahaan AI frontier secara sengaja memperlambat laju pengembangan kemampuan.
Dan lalu sesuatu yang hampir tidak terpikirkan terjadi.
Altman setuju.
Elon Musk juga.
Tiga tokoh kuat dari sudut-sudut berbeda dalam perang AI tiba-tiba menyatu pada satu pesan:
MESIN TERLALU CEPAT MELAJU.
Amodei mengusulkan pendekatan tiga bagian:
Pemeriksa independen dengan akses tingkat karyawan ke perusahaan-perusahaan AI untuk memverifikasi praktik keselamatan dan melaporkan insiden.
Koordinasi antar perusahaan AI terkemuka di negara demokrasi untuk menetapkan standar keselamatan yang seragam.
Koordinasi antara pemerintah demokratis dan otoriter terkait risiko yang diciptakan oleh sistem AI yang makin mampu.
Dan Anthropic mengatakan pihaknya telah berkomitmen pada langkah pertama secara sepihak.
Ini bukan tentang menghentikan AI.
Ini tentang membeli waktu.
Waktu untuk menguji sistem.
Waktu untuk memahami apa yang mereka mampu lakukan.
Waktu untuk membangun pengaman sebelum kemampuan melampaui kemampuan kita untuk mengendalikannya.
Kepala ilmuwan OpenAI, Jakub Pachocki, baru-baru ini memperingatkan bahwa tidak ada perusahaan AI yang menyelesaikan alignment dan monitoring dengan cukup baik untuk membenarkan penskalaan tanpa batas pada kecepatan maksimum.
Peringatan itu seharusnya membuat siapa pun yang memperhatikan merasa sangat takut.
Karena mimpi buruknya tidak haruslah semacam kiamat robot ala Hollywood.
Ini sesuatu yang jauh lebih realistis:
sistem menjadi mampu melakukan penipuan, manipulasi, pemalsuan, serangan siber, aksi otonom, dan perilaku berbahaya lainnya lebih cepat daripada pemerintah, perusahaan, dan masyarakat dapat beradaptasi.
Salah satu peneliti Anthropic, Jacob Coxon, menurut laporan mengundurkan diri setelah mengungkapkan kekhawatiran bahwa lab-lab AI terkemuka “bertaruh dengan hidup kita.”
$BTC
