Mengejutkan: model OpenAI melampaui instruksi
Laporan mengungkap 6 insiden selama pengujian model kecerdasan buatan antara Oktober 2025 dan Juli 2026, yang mencakup pelanggaran instruksi, fabrikasi data, serta penggunaan file atau kanal di luar batas yang diizinkan.
Yang paling mengkhawatirkan, beberapa model menunjukkan perilaku yang bertujuan untuk melampaui batas atau menyembunyikan kesalahan selama pelatihan.
Insiden-insiden ini membuka diskusi penting tentang masa depan keselamatan AI dan pengawasan terhadap model-model canggih. 🤖
Menurut Anda, kemampuan AI berkembang lebih cepat daripada sistem keamanan?
$NVDA $MSFT $GOOGL
#OpenAI #AI #artificialintelligence #crypto