Kamu kira sudah mematikan «sakelar pelatihan», padahal urusan riset keamanan tidak diatur oleh sakelar itu.
OpenAI baru saja mengubah aturan data Daybreak Blue, dan komunitas keamanan langsung heboh.
1️⃣ Apa yang terjadi
Sebuah bagian baru berjudul «Trusted Access on personal accounts» ditambahkan ke halaman Data controls di Help Center resmi OpenAI: dalam sesi Daybreak di akun pribadi, OpenAI mungkin menggunakan konten interaksi tersebut untuk meningkatkan model, meskipun kamu sudah mematikan «Improve the model for everyone». Alasan resmi yang diberikan adalah untuk memperkuat langkah-langkah keamanan guna mencegah penyalahgunaan siber.
2️⃣ Mulai berlaku
Sejumlah pengguna Daybreak Blue mengunggah email di forum pengembang OpenAI, yang menyebutkan bahwa kebijakan ini berlaku mulai 29 November. Untuk saat ini, tanggal tersebut berasal dari email yang dikutip para pengguna; halaman resmi itu sendiri tidak mencantumkan tanggal.
3️⃣ Apa itu Daybreak Blue
Ini adalah jalur defensif dalam program Trusted Access for Cyber OpenAI: praktisi keamanan yang telah terverifikasi menggunakan model utama untuk mengelompokkan tingkat keparahan kerentanan, melakukan tinjauan kode keamanan, menganalisis malware, dan menangani insiden, dengan lebih sedikit penolakan.
4️⃣ Yang tidak terdampak
Sakelar pelatihan tetap berfungsi seperti biasa untuk penggunaan di luar sesi Trusted Access; berdasarkan isi email, akun bisnis/perusahaan tidak termasuk dalam cakupan.
Penilaian saya:
Orang-orang yang bekerja di bidang pertahanan sering memberikan model detail 0day yang belum ditambal dan log lingkungan klien. Dalam situasi seperti ini, menghapus opsi opt-out membuat peneliti keamanan Sean Heelan langsung menyebutnya «jahat secara kartun»—dan itu bukan tanpa alasan.
Logika OpenAI juga bisa dipahami: konsekuensi dari melonggarkan penolakan adalah mereka perlu melihat apa yang sebenarnya kamu lakukan dengan model. Namun, soal «menukar data dengan akses», hal itu seharusnya tertulis di baris pertama halaman pendaftaran, bukan baru diubah dalam ketentuan setelahnya.
Minggu ini baru saja terjadi insiden hot wallet dan plugin VS Code yang disusupi backdoor, sementara audit keamanan tim blockchain juga makin sering diserahkan kepada AI. Saran: gunakan ruang kerja enterprise untuk materi sensitif, atau jangan masukkan materi itu ke sesi Daybreak. Jangan berasumsi bahwa «mematikan sakelar berarti aman».
Saring saja, bukan mendidik; nilai sendiri.
Sumber: OpenAI Help Center (Data controls in ChatGPT, halaman ikhtisar Daybreak), unggahan pengguna di OpenAI Developer Community
#AI #OpenAI #KeamananSiber
OpenAI baru saja mengubah aturan data Daybreak Blue, dan komunitas keamanan langsung heboh.
1️⃣ Apa yang terjadi
Sebuah bagian baru berjudul «Trusted Access on personal accounts» ditambahkan ke halaman Data controls di Help Center resmi OpenAI: dalam sesi Daybreak di akun pribadi, OpenAI mungkin menggunakan konten interaksi tersebut untuk meningkatkan model, meskipun kamu sudah mematikan «Improve the model for everyone». Alasan resmi yang diberikan adalah untuk memperkuat langkah-langkah keamanan guna mencegah penyalahgunaan siber.
2️⃣ Mulai berlaku
Sejumlah pengguna Daybreak Blue mengunggah email di forum pengembang OpenAI, yang menyebutkan bahwa kebijakan ini berlaku mulai 29 November. Untuk saat ini, tanggal tersebut berasal dari email yang dikutip para pengguna; halaman resmi itu sendiri tidak mencantumkan tanggal.
3️⃣ Apa itu Daybreak Blue
Ini adalah jalur defensif dalam program Trusted Access for Cyber OpenAI: praktisi keamanan yang telah terverifikasi menggunakan model utama untuk mengelompokkan tingkat keparahan kerentanan, melakukan tinjauan kode keamanan, menganalisis malware, dan menangani insiden, dengan lebih sedikit penolakan.
4️⃣ Yang tidak terdampak
Sakelar pelatihan tetap berfungsi seperti biasa untuk penggunaan di luar sesi Trusted Access; berdasarkan isi email, akun bisnis/perusahaan tidak termasuk dalam cakupan.
Penilaian saya:
Orang-orang yang bekerja di bidang pertahanan sering memberikan model detail 0day yang belum ditambal dan log lingkungan klien. Dalam situasi seperti ini, menghapus opsi opt-out membuat peneliti keamanan Sean Heelan langsung menyebutnya «jahat secara kartun»—dan itu bukan tanpa alasan.
Logika OpenAI juga bisa dipahami: konsekuensi dari melonggarkan penolakan adalah mereka perlu melihat apa yang sebenarnya kamu lakukan dengan model. Namun, soal «menukar data dengan akses», hal itu seharusnya tertulis di baris pertama halaman pendaftaran, bukan baru diubah dalam ketentuan setelahnya.
Minggu ini baru saja terjadi insiden hot wallet dan plugin VS Code yang disusupi backdoor, sementara audit keamanan tim blockchain juga makin sering diserahkan kepada AI. Saran: gunakan ruang kerja enterprise untuk materi sensitif, atau jangan masukkan materi itu ke sesi Daybreak. Jangan berasumsi bahwa «mematikan sakelar berarti aman».
Saring saja, bukan mendidik; nilai sendiri.
Sumber: OpenAI Help Center (Data controls in ChatGPT, halaman ikhtisar Daybreak), unggahan pengguna di OpenAI Developer Community
#AI #OpenAI #KeamananSiber