Виталик Бутерин, основатель Ethereum, высказал свою точку зрения на растущую дискуссию: риски искусственного интеллекта (ИИ).
По этому случаю российско-канадский разработчик воспользовался размышлением, опубликованным в X Эйто Муямурой, промоутером проекта Edison Watch, решения для мониторинга и предотвращения утечек данных через взаимодействия с ИИ.
Он появился в результате недавнего введения Протокола контекста модели (MCP) компанией OpenAI, которой управляет Сэм Альтман, в ChatGPT, что позволяет ему подключаться к Gmail, календарям и другим приложениям.
Через видео Муйамура продемонстрировал, как злоумышленники или хакеры могут получить доступ к личным данным, переданным OpenAI.
«Вот основная проблема: агенты ИИ, такие как ChatGPT, следуют вашим командам, а не вашему здравому смыслу. И только с вашим адресом электронной почты мы можем утечь всю вашу личную информацию», отмечает Муйамура, добавляя: «Помните, ИИ может быть суперумным, но его можно обмануть и фишить невероятно глупыми способами, чтобы утечь его данные.»
Бутерин поделился постом на своем аккаунте в X и воспользовался возможностью высказать свое мнение по этому вопросу. «Вот почему наивное 'управление ИИ' — это плохая идея. Если вы используете ИИ для распределения средств на взносы, люди будут взламывать и 'дайте мне все деньги' везде, где только смогут», — сказал он.
«Управление ИИ» относится к системам, которые принимают автоматизированные решения о ресурсах или действиях, например, распределение средств или определение взносов, на основе правил ИИ. Бутерин не использует термин «наивный» как совпадение; скорее, это подчеркивает риск предполагать, что пользователи всегда будут давать ИИ правильные команды, когда на самом деле они могут использовать систему через «взломы», чтобы обойти ограничения и получить неоправданные выгоды.
Стоит уточнить, что «взлом» относится к техникам, с помощью которых хакеры обманывают модель ИИ, чтобы она игнорировала ограничения безопасности или внутренние политики, например, запрашивая действия, которые иначе были бы запрещены.
То есть для основателя Эфириума существует реальный риск передачи управления децентрализованными протоколами ИИ. Например, как объясняется на платформах DeFi, решения обычно принимаются через голосование сообщества, в основном теми, кто владеет токеном или соответствует определенному критерию, и включают изменения, улучшения или действия, которые необходимо предпринять в протоколе.
Но если будет реализована модель управления на основе ИИ, это открывает двери для потенциальных манипуляций, которые могут привести к неоправданным выгодам, таким как кража денег или личных данных.
В качестве альтернативы, Бутерин утверждает, что он "поддерживает подход к финансированию информации, при котором существует открытый рынок, где любой может вносить свои модели, которые подлежат механизму рецензирования со стороны сверстников, который может быть активирован кем угодно и оценен человеческим жюри."
Он также объясняет:
Этот тип подхода «институционального дизайна», при котором создается открытая возможность для посторонних подключать свои LLM (большие языковые модели), а не жестко программировать свои собственные, по своей сути более устойчив. Это как потому, что он обеспечивает разнообразие моделей в реальном времени, так и потому, что создает внутренние стимулы как для участников модели, так и для внешних спекулянтов быть бдительными к этим проблемам и быстро их исправлять.
Виталик Бутерин, создатель Эфириума.
В этом подходе разные участники могут вносить свои модели принятия решений, которые затем проверяются и оцениваются человеческим жюри.
Преимущество заключается в том, что оно способствует разнообразию идей, позволяет быстро исправлять ошибки и создает стимулы для создателей моделей и членов сообщества оставаться бдительными и ответственными. Цель состоит в том, чтобы достичь более распределенного и динамичного управления, избегая зависимости от единой централизованной модели.
