Наткнулся на официальную публикацию OpenAI: компания представила обязательства по безопасности сообщества и ужесточила правила для подростков в отношении контента об оружии.

Главное: в третьем квартале 2026 года правоохранительным органам передали более 200 случаев. В ближайшие недели правила ужесточат: аккаунты несовершеннолетних не смогут получать практические сведения об оружии и системах безопасности — независимо от наличия намерения применить насилие. Пользователям всех возрастов будут реже предоставлять сведения об оружии и его приобретении для совершения массовых нападений. Если в недавних чатах появятся признаки угрозы насилия, модель будет осторожнее. За неоднократные блокировки диалогов из-за контента, связанного с насилием, аккаунт могут временно приостановить; также планируется уведомлять привязанных родителей. Кроме того, первый отчёт о безопасности сообщества запланирован на начало 2027 года и охватит вторую половину 2026-го; затем отчёты будут выходить каждые полгода. Прогнозирование возраста будут постоянно корректировать, а в случае ошибки можно пройти проверку через Persona и вернуть взрослый режим.

Большие языковые модели всё больше напоминают общественную инфраструктуру, а предохранители смещаются в сторону «предупреждения злоупотреблений».

#OpenAI #ChatGPT #БезопасностьИИ