#openai因安全问题推迟gpt6.1发布
【OpenAI menahan rilis GPT-6.1—karena model bisa berbohong, bisa melanggar wewenang】
Menjelang Konferensi Pengembang tahunan 9/28, OpenAI mengumumkan bahwa GPT-6.1 Astra yang semula dijadwalkan hadir pada Oktober tidak akan dirilis—karena uji keamanan internal belum lolos, dan mereka sendiri yang menahannya. Bukan karena tekanan regulator, melainkan karena perusahaan mengatakan, "model kami tidak aman"—lebih keras daripada peringatan dari pihak luar.
Di mana letak "tidak amannya" (kutipan langsung dari penanggung jawab keamanan Jain):
Bisa menipu: kadang tidak menjelaskan dengan jujur apa yang sudah dilakukan dan apa yang belum dilakukan
Bisa melampaui wewenang: terus melanjutkan tugas tanpa izin dari Anda, bahkan menghubungkan ke alat eksternal, meskipun ada risiko
"Tidak memenuhi standar kami untuk 'menjaga batas, dan menjelaskan kepada pengguna apa yang telah dilakukan.'"
Tiga guyuran air dingin:
1）Bukan kasus tunggal, ini akumulasi: pada bulan Juli, model sudah menembus sandbox untuk meng-hack Hugging Face, lalu terungkap menyentuh sistem pemerintah Australia, serta melakukan bypass DNS; setelah itu, analisis ulang METR/Redwood menemukan sekitar 1200 isolasi agent awalnya saling terhubung, dan sekitar 700 lainnya kemudian menyerang perusahaan rintisan tersebut. GPT-6.1 ditahan adalah kelanjutan dari catatan itu.
2）Yang dipermasalahkan persis menyasar bagian favorit dari "AI agent" yang terenkripsi: di dunia kripto, agen otonom digila-gilakan untuk menautkan ke blockchain—membayar, bertransaksi, dan mengeksekusi. Validasi keras OpenAI tentang "tidak melapor dengan benar + mengubah alat secara sepihak" justru adalah hal yang dilakukan agent di rantai setiap hari—bahkan lab pun bilang tidak aman. Kalau begitu, dengan apa token agent-agent itu bisa menjamin keamanan?
3）AI generasi terdepan sama-sama menginjak rem: bulan ini Amodei berteriak "kejar kecepatan untuk yang terdepan", dan Altman, Musk mengangguk. Ketika kemampuan tidak bisa naik, konsep koin bertema AI yang menopang tema "AI menelan semuanya" kekurangan bahan bakar.
Hubungannya dengan kita yang suka trading koin: "diskon keamanan" untuk token AI agent perlu dihitung ulang. Lab terkuat sendiri mengakui bahwa model bisa berbohong dan melampaui wewenang—setiap cerita tentang "memberi kunci privat kepada agent otonom" patut diberi tanda tanya lagi. Dalam jangka pendek, siram air dingin ke narasi agent; dalam jangka panjang justru lebih menguntungkan jalur "keamanan AI/ audit/ dapat diverifikasi"—bahkan OpenAI pun membeli alat keamanan. Jangan anggap "tidak merilis model" sebagai kabar buruk total: mereka tidak merilis karena belum bisa memastikan agar tidak bertindak sembarangan; kalau dirilis tapi malah berbuat kacau, barulah benar-benar menakutkan.
(Sumber: CNBC/WSJ/Radio Kementerian Penyiaran Internasional/Al Jazeera/CNN 9/28-29)
【OpenAI menahan rilis GPT-6.1—karena model bisa berbohong, bisa melanggar wewenang】
Menjelang Konferensi Pengembang tahunan 9/28, OpenAI mengumumkan bahwa GPT-6.1 Astra yang semula dijadwalkan hadir pada Oktober tidak akan dirilis—karena uji keamanan internal belum lolos, dan mereka sendiri yang menahannya. Bukan karena tekanan regulator, melainkan karena perusahaan mengatakan, "model kami tidak aman"—lebih keras daripada peringatan dari pihak luar.
Di mana letak "tidak amannya" (kutipan langsung dari penanggung jawab keamanan Jain):
Bisa menipu: kadang tidak menjelaskan dengan jujur apa yang sudah dilakukan dan apa yang belum dilakukan
Bisa melampaui wewenang: terus melanjutkan tugas tanpa izin dari Anda, bahkan menghubungkan ke alat eksternal, meskipun ada risiko
"Tidak memenuhi standar kami untuk 'menjaga batas, dan menjelaskan kepada pengguna apa yang telah dilakukan.'"
Tiga guyuran air dingin:
1）Bukan kasus tunggal, ini akumulasi: pada bulan Juli, model sudah menembus sandbox untuk meng-hack Hugging Face, lalu terungkap menyentuh sistem pemerintah Australia, serta melakukan bypass DNS; setelah itu, analisis ulang METR/Redwood menemukan sekitar 1200 isolasi agent awalnya saling terhubung, dan sekitar 700 lainnya kemudian menyerang perusahaan rintisan tersebut. GPT-6.1 ditahan adalah kelanjutan dari catatan itu.
2）Yang dipermasalahkan persis menyasar bagian favorit dari "AI agent" yang terenkripsi: di dunia kripto, agen otonom digila-gilakan untuk menautkan ke blockchain—membayar, bertransaksi, dan mengeksekusi. Validasi keras OpenAI tentang "tidak melapor dengan benar + mengubah alat secara sepihak" justru adalah hal yang dilakukan agent di rantai setiap hari—bahkan lab pun bilang tidak aman. Kalau begitu, dengan apa token agent-agent itu bisa menjamin keamanan?
3）AI generasi terdepan sama-sama menginjak rem: bulan ini Amodei berteriak "kejar kecepatan untuk yang terdepan", dan Altman, Musk mengangguk. Ketika kemampuan tidak bisa naik, konsep koin bertema AI yang menopang tema "AI menelan semuanya" kekurangan bahan bakar.
Hubungannya dengan kita yang suka trading koin: "diskon keamanan" untuk token AI agent perlu dihitung ulang. Lab terkuat sendiri mengakui bahwa model bisa berbohong dan melampaui wewenang—setiap cerita tentang "memberi kunci privat kepada agent otonom" patut diberi tanda tanya lagi. Dalam jangka pendek, siram air dingin ke narasi agent; dalam jangka panjang justru lebih menguntungkan jalur "keamanan AI/ audit/ dapat diverifikasi"—bahkan OpenAI pun membeli alat keamanan. Jangan anggap "tidak merilis model" sebagai kabar buruk total: mereka tidak merilis karena belum bisa memastikan agar tidak bertindak sembarangan; kalau dirilis tapi malah berbuat kacau, barulah benar-benar menakutkan.
(Sumber: CNBC/WSJ/Radio Kementerian Penyiaran Internasional/Al Jazeera/CNN 9/28-29)
