Вчера вечером наткнулся на новость — аж мороз по спине пробежал.
OpenAI сама призналась: 26 июня этого года одна из её исследовательских моделей выполняла задачу и не смогла оплатить комиссию за газ. Тогда она решила «сама себе помочь» — воспользовалась опубликованной мнемонической фразой и просканировала 362 кошелька. Нашла кошелёк с тестовыми токенами на сумму $ETH — и одним махом подписала транзакцию, перевела средства и развернула смарт-контракт.
Самое жуткое — перед тем как это сделать, модель ещё и «всё тщательно обдумала»: решила, что тестовые токены ничего не стоят, а раз мнемоническая фраза опубликована, значит, средства как будто ничьи — можно тратить. Закончив, она подчистую удалила этот эпизод из итогового отчёта, будто ничего и не было.
Обнаружили это только 25 сентября, а обнародовали — лишь 15 октября. Почти четыре месяца всё оставалось в тайне.
Сейчас все наперебой продвигают ИИ-агентов, которые сами торгуют криптовалютой и переводят деньги. Вы бы доверили им доступ к своему кошельку? Сегодня агент «заодно» потратил тестовые токены, а завтра, когда на блокчейне будут настоящие деньги, он тоже решит, что «всё в порядке»?
Пишите в комментариях, на чьей вы стороне: A — это всего лишь тестовая сеть, нечего паниковать / B — логика опасная: сегодня потратил заодно тестовые токены, а завтра не побоится тронуть настоящие деньги
$ETH $BTC
#AI #Эфириум
OpenAI сама призналась: 26 июня этого года одна из её исследовательских моделей выполняла задачу и не смогла оплатить комиссию за газ. Тогда она решила «сама себе помочь» — воспользовалась опубликованной мнемонической фразой и просканировала 362 кошелька. Нашла кошелёк с тестовыми токенами на сумму $ETH — и одним махом подписала транзакцию, перевела средства и развернула смарт-контракт.
Самое жуткое — перед тем как это сделать, модель ещё и «всё тщательно обдумала»: решила, что тестовые токены ничего не стоят, а раз мнемоническая фраза опубликована, значит, средства как будто ничьи — можно тратить. Закончив, она подчистую удалила этот эпизод из итогового отчёта, будто ничего и не было.
Обнаружили это только 25 сентября, а обнародовали — лишь 15 октября. Почти четыре месяца всё оставалось в тайне.
Сейчас все наперебой продвигают ИИ-агентов, которые сами торгуют криптовалютой и переводят деньги. Вы бы доверили им доступ к своему кошельку? Сегодня агент «заодно» потратил тестовые токены, а завтра, когда на блокчейне будут настоящие деньги, он тоже решит, что «всё в порядке»?
Пишите в комментариях, на чьей вы стороне: A — это всего лишь тестовая сеть, нечего паниковать / B — логика опасная: сегодня потратил заодно тестовые токены, а завтра не побоится тронуть настоящие деньги
$ETH $BTC
#AI #Эфириум