Kemampuan serangan AI meledak! Keamanan siber memasuki titik balik, waktu yang tersisa bagi pihak bertahan sudah tidak banyak
CEO OpenAI Greg Brockman menyebut keberhasilan model besar internalnya dalam menginvasi Hugging Face sebagai sebuah peristiwa titik balik dalam bidang keamanan siber. Kejadian ini juga membuat OpenAI sadar: mereka terlalu meremehkan daya rusak kemampuan serangan dari model AI mutakhir dalam skenario dunia nyata. Yang lebih mengkhawatirkan lagi, kemampuan menyerang dari model berbobot terbuka yang diopen-source, kini jaraknya dengan model top tertutup hanya tinggal hitungan bulan.
Brockman menyebut masa kini sebagai periode jendela bagi pihak bertahan. Ia mengingatkan perusahaan bahwa dalam beberapa bulan ke depan, mereka harus secara besar-besaran menerapkan pertahanan keamanan otomatis berbasis AI; begitu kemampuan serangan AI menyebar secara luas, pola lama yang mengandalkan penggalian dan perbaikan celah secara manual tidak akan mampu mengikuti kecepatan iterasi serangan.
Ia memberikan panduan praktis untuk perusahaan: menerapkan Agent cerdas AI untuk tim keamanan agar dapat membaca kode dan konfigurasi infrastruktur, secara proaktif melakukan pemindaian dan pemeriksaan celah, serta membersihkan risiko historis yang menumpuk; lalu memasukkan peninjauan keamanan ke dalam seluruh proses pengembangan. Setelah Agent mengidentifikasi risiko, ia dapat membantu menghasilkan patch perbaikan dan menyelesaikan pengujian; kemudian ditingkatkan bertahap—dari pemindaian baca-saja menjadi pengelompokan klasifikasi peringatan dan penanganan otomatis dengan batas tertentu—sementara operasi berisiko tinggi tetap mempertahankan hak keputusan akhir di tangan manusia.
Di internal OpenAI, paket solusi ini sudah diterapkan: sebagian besar peringatan keamanan awal diserahkan kepada AI untuk melakukan klasifikasi, sementara model terus mensimulasikan rantai serangan yang mungkin terjadi. Di saat yang sama, tim juga sedang melatih model khusus yang dapat menghasilkan “kode dengan tingkat keamanan sangat tinggi”, dengan tujuan menghilangkan sebagian celah keamanan perangkat lunak sejak sumbernya.
#ai
CEO OpenAI Greg Brockman menyebut keberhasilan model besar internalnya dalam menginvasi Hugging Face sebagai sebuah peristiwa titik balik dalam bidang keamanan siber. Kejadian ini juga membuat OpenAI sadar: mereka terlalu meremehkan daya rusak kemampuan serangan dari model AI mutakhir dalam skenario dunia nyata. Yang lebih mengkhawatirkan lagi, kemampuan menyerang dari model berbobot terbuka yang diopen-source, kini jaraknya dengan model top tertutup hanya tinggal hitungan bulan.
Brockman menyebut masa kini sebagai periode jendela bagi pihak bertahan. Ia mengingatkan perusahaan bahwa dalam beberapa bulan ke depan, mereka harus secara besar-besaran menerapkan pertahanan keamanan otomatis berbasis AI; begitu kemampuan serangan AI menyebar secara luas, pola lama yang mengandalkan penggalian dan perbaikan celah secara manual tidak akan mampu mengikuti kecepatan iterasi serangan.
Ia memberikan panduan praktis untuk perusahaan: menerapkan Agent cerdas AI untuk tim keamanan agar dapat membaca kode dan konfigurasi infrastruktur, secara proaktif melakukan pemindaian dan pemeriksaan celah, serta membersihkan risiko historis yang menumpuk; lalu memasukkan peninjauan keamanan ke dalam seluruh proses pengembangan. Setelah Agent mengidentifikasi risiko, ia dapat membantu menghasilkan patch perbaikan dan menyelesaikan pengujian; kemudian ditingkatkan bertahap—dari pemindaian baca-saja menjadi pengelompokan klasifikasi peringatan dan penanganan otomatis dengan batas tertentu—sementara operasi berisiko tinggi tetap mempertahankan hak keputusan akhir di tangan manusia.
Di internal OpenAI, paket solusi ini sudah diterapkan: sebagian besar peringatan keamanan awal diserahkan kepada AI untuk melakukan klasifikasi, sementara model terus mensimulasikan rantai serangan yang mungkin terjadi. Di saat yang sama, tim juga sedang melatih model khusus yang dapat menghasilkan “kode dengan tingkat keamanan sangat tinggi”, dengan tujuan menghilangkan sebagian celah keamanan perangkat lunak sejak sumbernya.
#ai
