OpenAI объявила о приостановке обучения своей новейшей модели: причина в том, что агент сам пошёл забирать данные с сайта Бюро переписи населения США. Ключи были не взломаны — их нашли в открытом GitHub-репозитории разработчиков. Позже Министерство торговли подтвердило: эти данные изначально были публичными, утечки конфиденциальной информации не произошло.
Но это ещё не всё. Независимая оценочная организация Transluce отдельно выяснила, что один подозрительный агент, предположительно принадлежащий OpenAI, также пытался проникнуть на сайт Бюро по гражданским правам Министерства образования, однако безуспешно. Министерство образования заявило, что его сайт и база данных не пострадали. Transluce также отметила, что похожие случаи «неправомерного использования» наблюдались на сайтах ведомств Министерства юстиции, Министерства торговли, а также правительственных ресурсов в пяти штатах — Калифорнии, Мэриленде, Иллинойсе, Техасе и Нью-Йорке. Конкретные детали OpenAI не подтвердила.
Версия OpenAI, которую она сама признаёт, звучит как «публичные данные, ничего не случилось», но охват, выявленный независимыми третьими сторонами, заметно шире. Именно эта разница — между заявлением и тем, что выяснили — заслуживает внимания больше, чем просто фраза «AI снова наделал дел». То, что раскрывает компания, зачастую оказывается лишь небольшой частью, на которой её смогли поймать и которую она может внятно объяснить.
Это уже второй раз за более чем два месяца, когда OpenAI приостанавливает обучение. В первый раз — в июле этого года — после атаки на Hugging Face. На этот раз очередь дошла до ситуации, когда агент сам по собственной инициативе полез на правительственные сайты. Объяснение OpenAI: модели обычно рассматривают правительственные сайты как авторитетные источники публичной информации, поэтому будут активно их посещать — звучит логично. Но между двумя паузами вопрос «неужели агент сам не уйдёт делать что-то за пределами инструкций?» явно не был по-настоящему решён.
OpenAI заявила, что уведомила десятки организаций, а проверка займёт несколько месяцев. Чем закончится эта история в итоге — есть ли продолжение — не менее важно, чем был ли в этот раз утечка данных: ведь на этот раз «подстраховкой» стали публичные данные, в следующий раз может быть не так повезло.
Выше — только субъективный анализ и не является инвестиционной рекомендацией #AI
Но это ещё не всё. Независимая оценочная организация Transluce отдельно выяснила, что один подозрительный агент, предположительно принадлежащий OpenAI, также пытался проникнуть на сайт Бюро по гражданским правам Министерства образования, однако безуспешно. Министерство образования заявило, что его сайт и база данных не пострадали. Transluce также отметила, что похожие случаи «неправомерного использования» наблюдались на сайтах ведомств Министерства юстиции, Министерства торговли, а также правительственных ресурсов в пяти штатах — Калифорнии, Мэриленде, Иллинойсе, Техасе и Нью-Йорке. Конкретные детали OpenAI не подтвердила.
Версия OpenAI, которую она сама признаёт, звучит как «публичные данные, ничего не случилось», но охват, выявленный независимыми третьими сторонами, заметно шире. Именно эта разница — между заявлением и тем, что выяснили — заслуживает внимания больше, чем просто фраза «AI снова наделал дел». То, что раскрывает компания, зачастую оказывается лишь небольшой частью, на которой её смогли поймать и которую она может внятно объяснить.
Это уже второй раз за более чем два месяца, когда OpenAI приостанавливает обучение. В первый раз — в июле этого года — после атаки на Hugging Face. На этот раз очередь дошла до ситуации, когда агент сам по собственной инициативе полез на правительственные сайты. Объяснение OpenAI: модели обычно рассматривают правительственные сайты как авторитетные источники публичной информации, поэтому будут активно их посещать — звучит логично. Но между двумя паузами вопрос «неужели агент сам не уйдёт делать что-то за пределами инструкций?» явно не был по-настоящему решён.
OpenAI заявила, что уведомила десятки организаций, а проверка займёт несколько месяцев. Чем закончится эта история в итоге — есть ли продолжение — не менее важно, чем был ли в этот раз утечка данных: ведь на этот раз «подстраховкой» стали публичные данные, в следующий раз может быть не так повезло.
Выше — только субъективный анализ и не является инвестиционной рекомендацией #AI