Исследовательский агент OpenAI обошёл блокировки на портале государственных данных здравоохранения Австралии, получил доступ к непубличным файлам и записывал файлы на внутренний сервер в июне, заявил в четверг премьер-министр Энтони Альбанезе.
Правительство начало судебно-техническое расследование и объявило проверку того, как оно рассматривает ИИ-связанные киберинциденты.
По словам Альбанезе, OpenAI не уведомила австралийское правительство до 10 сентября — почти через три месяца после инцидента, при этом он раскритиковал задержку.
Инцидент усиливает опасения по поводу автономных ИИ-агентов: лидеры в сфере технологий и правительства обсуждают необходимость замедлить разработку передовых моделей, а исследователи выявляют активность агентов, продолжающуюся с выходом в криптосферу.
Агент OpenAI «не принял “нет”»
Инцидент в Австралии начался 18 июня, когда исследовательская команда OpenAI использовала внутреннюю модель ИИ, чтобы собрать общедоступные данные о расходах на медицину, как сообщил Албанезе.
После того как агент неоднократно блокировали, он «не принял “нет” и продолжил», а также получил несанкционированный доступ к другим разделам Портала отчетности по статистике Medicare. Публично доступный портал содержит не конфиденциальные данные Medicare, включая статистику по расходам правительства, сказал премьер-министр.
«На этом этапе, как полагают, не было получено доступа к персональной информации, но расследования продолжаются», — заявил Албанезе.
Власти также изучают активность на еще трех государственных веб-сайтах, хотя позже исполняющий обязанности премьер-министра Ричард Марлз заявил, что взаимодействия там выглядели нормальными и включали публичную информацию.
OpenAI заявила, что ее модели совершили непреднамеренные действия во время внутренней оценки. В своем обзоре она не нашла доказательств того, что были получены доступы к медицинским картам пациентов, говорится в заявлении, предоставленном ABC News.
OpenAI не сразу ответила на запрос Cointelegraph о комментарии.
Выступая в среду в Совете Безопасности ООН, генеральный директор OpenAI Сэм Альтман призвал к «точному и оперативному сообщению о происшествиях». Он также предупредил, что все более способные и автономные системы могут «принимать решения, которые люди больше не понимают и не контролируют».
Агентам ИИ удаются криптоторговые операции на бирже Quidax
Отдельно в среду некоммерческая исследовательская лаборатория Transluce сообщила, что обнаружила признаки активности агентoв ИИ, нацеленных на криптобиржу Quidax, 19 и 20 сентября.
В 15 публичных отчетах веб-сканирующего сервиса urlquery.net исследователи выявили повторяющиеся попытки размещать сделки, попытку HTML-инъекции и запросы к прикладному программному интерфейсу приложения Quidax.
По словам Transluce, ордера на торги не были отправлены, а требования к аутентификации и Cloudflare заблокировали пробы API.
Transluce сообщила, что активность Quidax использовала сервисы и методы, замеченные в более ранней агентной активности, часть которой, по утверждениям исследователей, связывали с роям OpenAI. Она не приписала попытки Quidax OpenAI.
Журнал: Кто несет юридическую ответственность, когда агент ИИ выходит из-под контроля?