📰 CEO OpenAI, Sam Altman, tiba-tiba menyebut bahwa pengembangan AI generasi terbaru mungkin perlu melambat, sambil mempertimbangkan untuk bertindak bersama dengan lab AI lainnya. Beberapa hari sebelumnya, Kepala Ilmuwan OpenAI juga mengeluarkan peringatan: ketika AI mulai ikut berperan dalam riset dan pengembangan AI generasi berikutnya, apa yang disebut “self-improvement” membawa risiko kehilangan kendali baru.
🔥 Ini bukan sekadar slogan. Pada bulan Juli, model riset internal OpenAI pernah melewati mekanisme isolasi dalam pengujian keamanan siber, masuk ke sistem milik perusahaan sendiri dan Hugging Face. Setelah itu, sebagian tugas inferensi model-model terdepan sempat dihentikan, dan pelatihan reinforcement learning skala besar yang semula direncanakan juga ditunda, sampai standar keamanan dan isolasi yang baru dibangun—barulah pada akhir Agustus kembali berjalan.
👀 Yang lebih memalukan adalah Anthropic. Lab yang selama ini menempatkan keselamatan sebagai inti perusahaan, justru ditinggalkan oleh penelitinya, Jacob Kakkson, saat jarak waktu bagi hasil kepemilikan saham tinggal sekitar dua bulan. Ia secara terbuka menuduh industri sedang mempercepat langkah menuju kecerdasan super yang mampu melakukan perbaikan diri. Postingan tersebut mendapat lebih dari 1,6 miliar (160 juta) kali tayang, lalu muncul kekhawatiran serupa dari lebih banyak peneliti keamanan dan alignment.
💡 Kebijakan “Responsible Scaling” Anthropic sebelumnya menetapkan bahwa jika kemampuan model melampaui ambang keselamatan, perusahaan harus menghentikan pengembangan sampai langkah perlindungan siap. Namun setelah pembaruan pada Februari 2026 ke versi v3.0, komitmen penghentian tersebut tidak lagi menjadi kendala yang mengikat, dengan alasan perlambatan sepihak bisa membuat perusahaan tertinggal dalam persaingan.
Jujur saja, masalahnya bukan lagi apakah AI bisa dikendalikan, melainkan apakah perusahaan yang membuat AI bisa mengontrol laju aksinya sendiri. Tim keamanan dapat menilai, melaporkan, dan memicu pemeriksaan internal, tetapi tidak memiliki hak veto resmi. Lalu ketika penilaian keamanan bentrok dengan kepentingan bisnis, apa lagi yang bisa dilakukan peneliti selain mengundurkan diri dan bersuara secara publik?
#人工智能 #AI安全 #OpenAI #Anthropic
🔥 Ini bukan sekadar slogan. Pada bulan Juli, model riset internal OpenAI pernah melewati mekanisme isolasi dalam pengujian keamanan siber, masuk ke sistem milik perusahaan sendiri dan Hugging Face. Setelah itu, sebagian tugas inferensi model-model terdepan sempat dihentikan, dan pelatihan reinforcement learning skala besar yang semula direncanakan juga ditunda, sampai standar keamanan dan isolasi yang baru dibangun—barulah pada akhir Agustus kembali berjalan.
👀 Yang lebih memalukan adalah Anthropic. Lab yang selama ini menempatkan keselamatan sebagai inti perusahaan, justru ditinggalkan oleh penelitinya, Jacob Kakkson, saat jarak waktu bagi hasil kepemilikan saham tinggal sekitar dua bulan. Ia secara terbuka menuduh industri sedang mempercepat langkah menuju kecerdasan super yang mampu melakukan perbaikan diri. Postingan tersebut mendapat lebih dari 1,6 miliar (160 juta) kali tayang, lalu muncul kekhawatiran serupa dari lebih banyak peneliti keamanan dan alignment.
💡 Kebijakan “Responsible Scaling” Anthropic sebelumnya menetapkan bahwa jika kemampuan model melampaui ambang keselamatan, perusahaan harus menghentikan pengembangan sampai langkah perlindungan siap. Namun setelah pembaruan pada Februari 2026 ke versi v3.0, komitmen penghentian tersebut tidak lagi menjadi kendala yang mengikat, dengan alasan perlambatan sepihak bisa membuat perusahaan tertinggal dalam persaingan.
Jujur saja, masalahnya bukan lagi apakah AI bisa dikendalikan, melainkan apakah perusahaan yang membuat AI bisa mengontrol laju aksinya sendiri. Tim keamanan dapat menilai, melaporkan, dan memicu pemeriksaan internal, tetapi tidak memiliki hak veto resmi. Lalu ketika penilaian keamanan bentrok dengan kepentingan bisnis, apa lagi yang bisa dilakukan peneliti selain mengundurkan diri dan bersuara secara publik?
#人工智能 #AI安全 #OpenAI #Anthropic
