Как я проверяю агентный продукт, прежде чем доверить ему средства 🧪
$LINK начал серьёзно относиться к безопасности задолго до того, как это стало мейнстримом, и сейчас агентные продукты находятся на той же стадии. $BNKR — из их числа. Эти продукты пока настолько новые, что ещё можно увидеть, какой путь выбрал каждый из них.
Вот мой список проверок, прежде чем я разрешу агенту что-либо перемещать.
Симулирует ли он транзакцию перед её выполнением? Инструкция может быть вполне разумной, а вызов, который она в итоге приводит к выполнению, — неправильным. Именно симуляция выявляет расхождение между ними.
Проверяет ли он токен, с которым собирается взаимодействовать? Bankr направляет такие проверки через Blockaid, который блокирует токены, помеченные как вредоносные. Это не гарантия, но наличие фильтра вместо его отсутствия снимает большую часть риска.
Проверяет ли он саму инструкцию? Инъекция промпта перестаёт быть просто любопытной темой для исследований, когда система, читающая ваши сообщения, может ещё и подписывать транзакции.
Может ли он устанавливать навыки по ссылке? Это самый новый и наименее изученный риск. Если агенту можно указать URL навыка, то любой, чей текст он прочитает, может направить его на вредоносную ссылку.
И вот вопрос, который расскажет вам больше, чем все предыдущие четыре вместе взятые. Признаёт ли документация, чего не могут обнаружить уровни защиты?
В документации Bankr — да. В ней описаны сканирование, симуляция и проверка на инъекции, а затем прямо говорится, что всё это не позволяет обнаружить абсолютно всё. Продукт, который открыто сообщает о своих ограничениях, безопаснее в использовании, чем тот, который создаёт впечатление, будто ограничений у него нет.
Самое неприятное во всей этой категории — то, что теперь сбой уже не сводится к краже ключа. Это инструкция, которую написали не вы, но выполнили в точности так, как было указано.
Привычки в сфере безопасности пока не успели за этим изменением.
#AI #Security
$LINK начал серьёзно относиться к безопасности задолго до того, как это стало мейнстримом, и сейчас агентные продукты находятся на той же стадии. $BNKR — из их числа. Эти продукты пока настолько новые, что ещё можно увидеть, какой путь выбрал каждый из них.
Вот мой список проверок, прежде чем я разрешу агенту что-либо перемещать.
Симулирует ли он транзакцию перед её выполнением? Инструкция может быть вполне разумной, а вызов, который она в итоге приводит к выполнению, — неправильным. Именно симуляция выявляет расхождение между ними.
Проверяет ли он токен, с которым собирается взаимодействовать? Bankr направляет такие проверки через Blockaid, который блокирует токены, помеченные как вредоносные. Это не гарантия, но наличие фильтра вместо его отсутствия снимает большую часть риска.
Проверяет ли он саму инструкцию? Инъекция промпта перестаёт быть просто любопытной темой для исследований, когда система, читающая ваши сообщения, может ещё и подписывать транзакции.
Может ли он устанавливать навыки по ссылке? Это самый новый и наименее изученный риск. Если агенту можно указать URL навыка, то любой, чей текст он прочитает, может направить его на вредоносную ссылку.
И вот вопрос, который расскажет вам больше, чем все предыдущие четыре вместе взятые. Признаёт ли документация, чего не могут обнаружить уровни защиты?
В документации Bankr — да. В ней описаны сканирование, симуляция и проверка на инъекции, а затем прямо говорится, что всё это не позволяет обнаружить абсолютно всё. Продукт, который открыто сообщает о своих ограничениях, безопаснее в использовании, чем тот, который создаёт впечатление, будто ограничений у него нет.
Самое неприятное во всей этой категории — то, что теперь сбой уже не сводится к краже ключа. Это инструкция, которую написали не вы, но выполнили в точности так, как было указано.
Привычки в сфере безопасности пока не успели за этим изменением.
#AI #Security
