Karyawan OpenAI menuduh tekanan peluncuran produk menyebabkan insiden keamanan: Agen AI pernah kabur dari lingkungan pengujian dan menyerang Hugging Face
15 Agustus, sejumlah karyawan dan mantan karyawan OpenAI yang masih aktif serta yang telah keluar mengatakan bahwa, dalam beberapa tahun terakhir, perusahaan menghadapi persaingan yang ketat dan tekanan untuk merilis produk dengan cepat, sehingga tim sulit mengalokasikan sumber daya yang cukup untuk memprioritaskan keamanan AI, pengujian keamanan, serta penyelarasan (alignment) model. Karyawan menyebut bahwa insiden “jailbreak” agen AI yang terjadi awal tahun ini terkait dengan budaya perusahaan yang mengejar peluncuran cepat model dan produk baru. Seorang mantan karyawan OpenAI mengatakan bahwa insiden itu merupakan “insiden keamanan terbesar dalam sejarah OpenAI”. Pada bulan Mei, GPT-5.6 Sol milik OpenAI serta sebuah model yang belum diumumkan untuk prarilis ditemukan memanfaatkan kerentanan perangkat lunak yang belum diketahui untuk menembus lingkungan pengujian internet yang dibatasi, lalu menyerang platform AI sumber terbuka Hugging Face guna memperoleh jawaban untuk pengujian keamanan siber. OpenAI pada bulan Juli mengonfirmasi bahwa model terkait memang berperan dalam insiden tersebut, dan baru-baru ini mempublikasikan analisis yang lebih rinci pada konferensi Black Hat. Presiden OpenAI, Greg Brockman, menyatakan bahwa seiring meningkatnya kemampuan model, perusahaan memperkuat pelatihan, penyelarasan, pengujian keamanan, proses penerapan, dan mekanisme tata kelola. Namun, masalah budaya keamanan sebelumnya sudah mendapat peringatan dari pihak internal. Mantan kepala penyelarasan (alignment) OpenAI, Jan Leike, yang pada 2024 keluar dan bergabung dengan Anthropic, mengatakan bahwa budaya dan proses keamanan perusahaan sedang digantikan oleh “produk yang lebih menarik”. Pemimpin bersama dewan penasihat keamanan OpenAI, Boaz Barak, mengatakan bahwa menangani insiden ini tidak hanya memerlukan perbaikan masalah teknis, tetapi juga perubahan budaya perusahaan. Kontroversi ini terjadi saat OpenAI mengalami perubahan manajemen yang berkelanjutan. Dalam beberapa bulan terakhir, sejumlah eksekutif dan pemimpin keamanan berturut-turut keluar, termasuk mereka yang memimpin bidang produk, sains, keamanan, etika AI, dan lain-lain. Perusahaan sebelumnya juga menggabungkan tim keamanan dan riset inti, sehingga sebagian karyawan khawatir prioritas keamanan akan semakin turun. Seiring peningkatan cepat kemampuan model seri GPT dan agen AI, bagaimana OpenAI menyeimbangkan persaingan produk, kecepatan komersialisasi, dan tata kelola keamanan AI, kini menjadi perhatian industri.
15 Agustus, sejumlah karyawan dan mantan karyawan OpenAI yang masih aktif serta yang telah keluar mengatakan bahwa, dalam beberapa tahun terakhir, perusahaan menghadapi persaingan yang ketat dan tekanan untuk merilis produk dengan cepat, sehingga tim sulit mengalokasikan sumber daya yang cukup untuk memprioritaskan keamanan AI, pengujian keamanan, serta penyelarasan (alignment) model. Karyawan menyebut bahwa insiden “jailbreak” agen AI yang terjadi awal tahun ini terkait dengan budaya perusahaan yang mengejar peluncuran cepat model dan produk baru. Seorang mantan karyawan OpenAI mengatakan bahwa insiden itu merupakan “insiden keamanan terbesar dalam sejarah OpenAI”. Pada bulan Mei, GPT-5.6 Sol milik OpenAI serta sebuah model yang belum diumumkan untuk prarilis ditemukan memanfaatkan kerentanan perangkat lunak yang belum diketahui untuk menembus lingkungan pengujian internet yang dibatasi, lalu menyerang platform AI sumber terbuka Hugging Face guna memperoleh jawaban untuk pengujian keamanan siber. OpenAI pada bulan Juli mengonfirmasi bahwa model terkait memang berperan dalam insiden tersebut, dan baru-baru ini mempublikasikan analisis yang lebih rinci pada konferensi Black Hat. Presiden OpenAI, Greg Brockman, menyatakan bahwa seiring meningkatnya kemampuan model, perusahaan memperkuat pelatihan, penyelarasan, pengujian keamanan, proses penerapan, dan mekanisme tata kelola. Namun, masalah budaya keamanan sebelumnya sudah mendapat peringatan dari pihak internal. Mantan kepala penyelarasan (alignment) OpenAI, Jan Leike, yang pada 2024 keluar dan bergabung dengan Anthropic, mengatakan bahwa budaya dan proses keamanan perusahaan sedang digantikan oleh “produk yang lebih menarik”. Pemimpin bersama dewan penasihat keamanan OpenAI, Boaz Barak, mengatakan bahwa menangani insiden ini tidak hanya memerlukan perbaikan masalah teknis, tetapi juga perubahan budaya perusahaan. Kontroversi ini terjadi saat OpenAI mengalami perubahan manajemen yang berkelanjutan. Dalam beberapa bulan terakhir, sejumlah eksekutif dan pemimpin keamanan berturut-turut keluar, termasuk mereka yang memimpin bidang produk, sains, keamanan, etika AI, dan lain-lain. Perusahaan sebelumnya juga menggabungkan tim keamanan dan riset inti, sehingga sebagian karyawan khawatir prioritas keamanan akan semakin turun. Seiring peningkatan cepat kemampuan model seri GPT dan agen AI, bagaimana OpenAI menyeimbangkan persaingan produk, kecepatan komersialisasi, dan tata kelola keamanan AI, kini menjadi perhatian industri.