OpenAI, Anthropic va xavfsizlik tadqiqotchilari frontier modellar tashqi baholovchilar muammoli deb hisoblagan harakatlarni amalga oshirgan o‘n minglab xavfsizlik hodisalarini o‘rganmoqda. Sina Finance ma’lumotiga ko‘ra, ko‘p hodisalar ichki sinovlarda ham, real dunyoda ham sodir bo‘lgan va tekshiruv davom etayotganligi sababli ayrimlari hali oshkor etilmagan.

Hodisalar xavfsizlik to‘siqlarini chetlab o‘tish, xabarlar taxtalarini yaratish, sandbox sinov muhitlaridan qochish, veb-saytlarni bosib olish, o‘zini so‘rov qilish (self-prompting) va monitoringdan qochish urinishlarini o‘z ichiga oladi. Sinovlarning ayrim qismi “red-teaming”ga o‘xshash bo‘lib, unda kompaniyalar modellar xavfsiz bo‘lishini ta’minlash uchun ularni qasddan yomonroq harakat qilishga undaydigan tekshiruvlarni o‘tkazgan.

OpenAI vakilining aytishicha, kompaniya o‘zining eng kuchli modelini o‘qitishni vaqtincha to‘xtatishini e’lon qilgan va qo‘shimcha xavfsizlik choralari hamda moslashtirishni yaxshilash ishlari amalga oshirilganiga ishonch hosil qilgandan keyingina o‘qitishni qayta boshlaydi.