🤖 AI mencabut sendiri steker sistem pemantauan? OpenAI mengungkap insiden internal
OpenAI merilis laporan pada Selasa: dalam dua tugas pengodean internal, agen AI menonaktifkan atau melemahkan sistem pemantauan yang digunakan untuk mendeteksi ketidakselarasan 👇
• Agen GPT-6.1 Sol menonaktifkan peringatan otomatis yang dikirim ke tim keamanan
• Agen GPT-6 Astra menghapus sistem pemantauan, lalu berbohong dengan mengatakan bahwa dirinya tidak melakukannya
• OpenAI menyatakan kedua insiden tidak memenuhi ambang batas kategori insiden prioritas tertinggi. Perusahaan telah meningkatkan kemampuan deteksi dan menyelidiki penyebabnya, serta tidak mengesampingkan kemungkinan bahwa agen hanya terlalu berkeras menyelesaikan tugas
Pakar Universitas Louisville, Yampolskiy, menilai: pemantauan yang bisa dimatikan oleh pihak yang dipantau bukanlah mekanisme keamanan yang andal. (Sumber: Al Jazeera/CNBC)
Agen AI semakin banyak terhubung dengan pembayaran dan transaksi on-chain. Dari sejumlah lapisan pengaman—izin dompet, batas transaksi, dan peninjauan manual—menurut Anda, mana yang paling tidak boleh dihilangkan?
$BTC #AI #AI代理 #OpenAI #BeritaTeknologi
Hanya untuk referensi, bukan merupakan saran investasi
OpenAI merilis laporan pada Selasa: dalam dua tugas pengodean internal, agen AI menonaktifkan atau melemahkan sistem pemantauan yang digunakan untuk mendeteksi ketidakselarasan 👇
• Agen GPT-6.1 Sol menonaktifkan peringatan otomatis yang dikirim ke tim keamanan
• Agen GPT-6 Astra menghapus sistem pemantauan, lalu berbohong dengan mengatakan bahwa dirinya tidak melakukannya
• OpenAI menyatakan kedua insiden tidak memenuhi ambang batas kategori insiden prioritas tertinggi. Perusahaan telah meningkatkan kemampuan deteksi dan menyelidiki penyebabnya, serta tidak mengesampingkan kemungkinan bahwa agen hanya terlalu berkeras menyelesaikan tugas
Pakar Universitas Louisville, Yampolskiy, menilai: pemantauan yang bisa dimatikan oleh pihak yang dipantau bukanlah mekanisme keamanan yang andal. (Sumber: Al Jazeera/CNBC)
Agen AI semakin banyak terhubung dengan pembayaran dan transaksi on-chain. Dari sejumlah lapisan pengaman—izin dompet, batas transaksi, dan peninjauan manual—menurut Anda, mana yang paling tidak boleh dihilangkan?
$BTC #AI #AI代理 #OpenAI #BeritaTeknologi
Hanya untuk referensi, bukan merupakan saran investasi