В сообщениях расходятся сведения о том, ушла ли эта тройка в отставку или была уволена на фоне внутреннего спора о надзоре за рисками ИИ.

Трое бывших исследователей OpenAI выразили обеспокоенность тем, как компания отслеживает риски для безопасности, связанные с её системами искусственного интеллекта. Их предупреждение касается внутренних процедур выявления потенциального вреда от передовых моделей ИИ и реагирования на него.

Издание Cryptopolitan сообщило, что трое исследователей, которые теперь уже не работают в OpenAI, публично выразили обеспокоенность методами контроля безопасности. Japan Today представило тот же эпизод иначе. По его версии, OpenAI уволила трёх исследователей, занимавшихся безопасностью, после спора о том, как компания оценивает риски ИИ.

Две версии событий расходятся в описании обстоятельств ухода. Согласно одной из них, исследователи ушли, а затем решили выступить публично. Согласно другой, их уход был недобровольным и напрямую связан с разногласиями с руководством компании по поводу политики в области рисков. Ни одна из версий пока не подтверждена как единственно верная.

Согласно доступным публикациям, OpenAI не выступила с публичным заявлением ни по одной из версий событий. Компания остаётся одним из самых пристально наблюдаемых разработчиков масштабных систем ИИ. Её внутренние практики обеспечения безопасности привлекают повышенное внимание, поскольку её модели широко используются в потребительских и корпоративных продуктах.

В лабораториях ИИ под мониторингом безопасности обычно понимают системы и команды, призванные выявлять опасное поведение моделей до или после внедрения. Эти функции стали одним из главных предметов дискуссий во всей отрасли ИИ. Исследователи и представители органов власти неоднократно задавались вопросом, совместимо ли коммерческое стремление быстрее выпускать продукты с тщательной проверкой их безопасности.

В последние годы уход сотрудников, занимающихся рисками ИИ, привлекает внимание к крупным лабораториям. Когда такие уходы сопровождаются публичными предупреждениями, они обычно усиливают вопросы о внутреннем управлении. Этот случай вписывается в более широкую тенденцию, хотя источники по-разному описывают конкретные обстоятельства ухода трёх исследователей.

Пока суть спора сводится к простому вопросу: до сих пор неясно, ушли ли исследователи из OpenAI добровольно, чтобы заявить о проблеме, или их уволили после того, как они подняли тревогу. Оба сценария указывают на разногласия по поводу того, как компания занимается вопросами безопасности ИИ внутри организации.

Влияние на рынок

Любые признаки внутренних разногласий по поводу практик обеспечения безопасности у ведущего разработчика ИИ могут повлиять на общее отношение к рынкам, связанным с ИИ. Инвесторы и партнёры в смежных с ИИ отраслях, включая криптопроекты, связанные с инфраструктурой ИИ или вычислительными мощностями, часто следят за спорами об управлении в крупных лабораториях как за сигналом регуляторных рисков или рисков для репутации.

В доступных публикациях не приводились финансовые показатели, данные о движении акций или влиянии на цены токенов. Пока непосредственное влияние на рынок ограничивается настроениями и повышенным вниманием к теме: подтверждённых изменений в оценке компаний ИИ-отрасли или на крипторынках, связанных с ИИ, не отмечено.

Спор о мониторинге безопасности ИИ в OpenAI пока прояснён лишь отчасти: версии об уходе трёх исследователей противоречат друг другу. Чтобы устранить это расхождение, нужны дополнительные заявления OpenAI или самих исследователей.

Часто задаваемые вопросы

О чём предупреждают три бывших исследователя OpenAI?

По данным Cryptopolitan, они выразили обеспокоенность недостатками в том, как OpenAI отслеживает риски для безопасности своих систем ИИ.

Исследователи уволились или их уволили?

Источники расходятся во мнениях. В публикации Cryptopolitan говорится, что исследователи выступили с заявлениями после ухода из компании, тогда как Japan Today сообщило, что OpenAI уволила их на фоне внутренних разногласий по поводу рисков, связанных с ИИ.

Ответила ли OpenAI на эти сообщения?

В доступных публикациях не было публичного заявления OpenAI, в котором компания комментировала бы какую-либо из версий событий.

Почему мониторинг безопасности ИИ важен для всей отрасли?

Системы мониторинга безопасности призваны выявлять опасное поведение ИИ до или после внедрения. Споры о таких практиках ставят вопросы об управлении крупными лабораториями ИИ, чьи модели широко используются.

Изначально опубликовано AltcoinGordon, автор — Бенджамин Кларк. Переиздано с разрешения.

Читать оригинал на AltcoinGordon →

Публикация «Мониторинг безопасности ИИ даёт сбои, утверждают бывшие исследователи OpenAI» впервые появилась на TheCoinrise.com.