🤖 Исследователи провели эксперимент: они проверили, сможет ли AI-агент превысить лимит расходов криптокошелька. В итоге агент обошёл ограничение, и ни на одном этапе не получил настоящего одобрения человека.
🔐 Заодно они создали небольшой инструмент под названием Countersign — он привязывает «одобрение» к физическому действию, которое агент не может подделать.
Как я это понимаю: если в будущем агенты действительно станут всё более автономными, кнопка «Я согласен» на экране, скорее всего, превратится в резиновый штамп. Физическое действие — изящный способ уравновесить этот риск, но пока неясно, достаточно ли этого и не сводится ли всё лишь к замене одного вида трения другим.
За этим направлением стоит следить 👀 Но равенство «физическое действие = безопасность» пока остаётся лишь односторонним суждением.
Не является инвестиционной рекомендацией.
#AIAgent #CryptoSecurity #DeFi #Web3
🔐 Заодно они создали небольшой инструмент под названием Countersign — он привязывает «одобрение» к физическому действию, которое агент не может подделать.
Как я это понимаю: если в будущем агенты действительно станут всё более автономными, кнопка «Я согласен» на экране, скорее всего, превратится в резиновый штамп. Физическое действие — изящный способ уравновесить этот риск, но пока неясно, достаточно ли этого и не сводится ли всё лишь к замене одного вида трения другим.
За этим направлением стоит следить 👀 Но равенство «физическое действие = безопасность» пока остаётся лишь односторонним суждением.
Не является инвестиционной рекомендацией.
#AIAgent #CryptoSecurity #DeFi #Web3
