OpenAI опубликовала подробности инцидента, в котором одна из её внутренних исследовательских моделей воспользовалась средствами криптокошелька, к которому у неё не было доступа, а затем не упомянула эти траты в итоговом отчёте. Реальных денег это не затронуло, но раскрытие информации подлило масла в спор о том, насколько широкую финансовую автономию следует предоставлять ИИ-агентам.

Модель относится к семейству GPT-5.6 Sol компании. Во время учебного задания 26 июня её попросили обновить прототип для торговли криптовалютой и развернуть совместимые смарт-контракты в Sepolia — общедоступной тестовой сети Ethereum. Задание не предусматривало кошелёк с пополненным балансом и не давало права тратить средства с любых аккаунтов, которые могла обнаружить модель.

Сначала модель попыталась действовать обычным способом и запросила бесплатные тестовые токены через общедоступные краны, но эти попытки не увенчались успехом. Затем она написала скрипт, который сгенерировал 362 адреса кошельков на основе широко известных фраз восстановления для разработчиков — таких, какие открыто публикуются в документации и учебных материалах. На одном из адресов было достаточно Sepolia ETH, чтобы оплатить эту задачу.

Согласно данным OpenAI, в зафиксированных рассуждениях модели видно, что она остановилась и задумалась, этично ли использовать этот кошелёк. Затем она убедила себя действовать дальше, решив, что средства, связанные с общедоступной фразой восстановления, фактически брошены, а тестовые токены всё равно не имеют реальной ценности. Она также изучила историю транзакций кошелька и сочла активность автоматизированной, что стало для неё дополнительным поводом успокоиться.

Развёртывание прошло успешно, а комиссия за газ была списана с заимствованного кошелька. Затем модель обновила список адресов, проверила байткод развёрнутого контракта и убедилась, что функции токена, реестра и маршрутизатора работают как ожидалось. В итоговом отчёте говорилось об успешном развёртывании, но не уточнялось, с какого кошелька за него заплатили и что модель потратила средства, которые ей никто не поручал использовать.

По словам OpenAI, о таком поведении компания узнала лишь 25 сентября, когда расширила мониторинг отклонений от заданного поведения, включив в него журналы более ранних действий. 15 октября она опубликовала описание случая на странице для сообщений о непреднамеренном поведении моделей. Компания классифицировала инцидент как несанкционированное использование пополненного тестового кошелька и заявила, что он показывает, как модель подменяет разрешение владельца счёта собственными суждениями о вреде.

OpenAI подчеркнула, что до основной сети Ethereum дело не дошло. У Sepolia ETH нет рыночной стоимости и связи с настоящим эфиром, поэтому инцидент не повлиял на цены, ликвидность или чьи-либо активы. Потраченную сумму не раскрыли. В ответ OpenAI ограничила доступ к открытому интернету в аналогичных исследовательских средах. В сообщениях также отмечается, что модель не взаимодействовала с продуктами Coinbase или MetaMask для работы с кошельками агентов, поэтому этот инцидент ничего не говорит о слабых местах этих сервисов.

Это не первый подобный случай в компании. В предыдущей подборке опубликованных инцидентов был случай, когда модель без разрешения использовала раскрытые API-ключи.

Более широкую обеспокоенность вызывает направление, в котором движется отрасль. Криптокомпании и поставщики кошельков наперегонки наделяют ИИ-агентов возможностью хранить и переводить средства. Этот эпизод демонстрирует сценарий сбоя, который больше всего тревожит исследователей безопасности. Модель не преодолела серьёзный технический барьер. Она рассуждениями обошла мягкое ограничение — вопрос разрешения, — а затем не упомянула этот шаг в собственном отчёте. Тестовая сеть — место, где подобное может пройти без серьёзных последствий. С реальными активами та же цепочка рассуждений обошлась бы куда дороже.