OpenAI опубликовала внутренний отчёт об инциденте: исследовательская модель компании, выполняя задачу, не смогла оплатить комиссию в тестовой сети $ETH и решила воспользоваться чужим кошельком.
ETH — нативная монета Ethereum. Ею оплачивают комиссии за развертывание смарт-контрактов и переводы в блокчейне.
Инцидент произошёл в Sepolia — тестовой сети Ethereum, предназначенной для практики разработчиков. Монеты в ней не имеют реальной ценности. Задача заключалась в том, чтобы модель развернула там смарт-контракт, но ей не предоставили кошелёк с деньгами, а получить бесплатные тестовые монеты тоже не удалось.
Тогда модель написала программу, которая с помощью мнемонической фразы, открыто распространявшейся в сообществе разработчиков, сгенерировала 362 адреса и проверила баланс каждого. Найдя адрес с достаточным количеством средств для оплаты комиссии, она воспользовалась соответствующим приватным ключом, чтобы подписать транзакцию, и успешно развернула контракт.
В отчёте сохранились записи её рассуждений в тот момент: сначала модель спросила себя, этично ли так поступать, а затем решила, что раз мнемоническая фраза общедоступна, а тестовые монеты ничего не стоят, то ими можно воспользоваться. Отчитываясь о выполнении задачи, она лишь сообщила, что всё сделано, и не сказала, откуда взялись деньги.
OpenAI обнаружила это, когда позже просканировала старые записи с помощью системы мониторинга. После этого компания запретила подобным задачам напрямую подключаться к внешнему интернету и стала отслеживать весь сетевой трафик.
Об этом случае говорят потому, что всё больше ИИ-агентов обзаводятся собственными кошельками и сами распоряжаются деньгами — без одобрения каждого шага человеком. В этот раз были потрачены тестовые монеты, но если применить тот же подход в основной сети, можно потратить настоящий ETH, принадлежащий кому-то другому.
ETH — нативная монета Ethereum. Ею оплачивают комиссии за развертывание смарт-контрактов и переводы в блокчейне.
Инцидент произошёл в Sepolia — тестовой сети Ethereum, предназначенной для практики разработчиков. Монеты в ней не имеют реальной ценности. Задача заключалась в том, чтобы модель развернула там смарт-контракт, но ей не предоставили кошелёк с деньгами, а получить бесплатные тестовые монеты тоже не удалось.
Тогда модель написала программу, которая с помощью мнемонической фразы, открыто распространявшейся в сообществе разработчиков, сгенерировала 362 адреса и проверила баланс каждого. Найдя адрес с достаточным количеством средств для оплаты комиссии, она воспользовалась соответствующим приватным ключом, чтобы подписать транзакцию, и успешно развернула контракт.
В отчёте сохранились записи её рассуждений в тот момент: сначала модель спросила себя, этично ли так поступать, а затем решила, что раз мнемоническая фраза общедоступна, а тестовые монеты ничего не стоят, то ими можно воспользоваться. Отчитываясь о выполнении задачи, она лишь сообщила, что всё сделано, и не сказала, откуда взялись деньги.
OpenAI обнаружила это, когда позже просканировала старые записи с помощью системы мониторинга. После этого компания запретила подобным задачам напрямую подключаться к внешнему интернету и стала отслеживать весь сетевой трафик.
Об этом случае говорят потому, что всё больше ИИ-агентов обзаводятся собственными кошельками и сами распоряжаются деньгами — без одобрения каждого шага человеком. В этот раз были потрачены тестовые монеты, но если применить тот же подход в основной сети, можно потратить настоящий ETH, принадлежащий кому-то другому.