Vitalik Buterin, fundador do Ethereum, deu sua perspectiva sobre um debate crescente: os riscos da inteligência artificial (IA).
Nesta ocasião, o desenvolvedor russo-canadense aproveitou uma reflexão compartilhada no X por Eito Muyamura, promotor do projeto Edison Watch, uma solução para monitorar e prevenir vazamentos de dados através de interações de IA.
Nasceu da introdução recente do Protocolo de Contexto de Modelo (MCP) pela OpenAI, a empresa liderada por Sam Altman, no ChatGPT, que permite conectar-se ao Gmail, calendários e outras aplicações.
Através de um vídeo, Muyamura demonstrou como atacantes ou hackers podem acessar dados privados compartilhados com a OpenAI.
Aqui está o problema fundamental: agentes de IA como o ChatGPT seguem seus comandos, não o seu senso comum. E com apenas seu endereço de e-mail, podemos vazar todas as suas informações privadas”, observa Muyamura, acrescentando: “Lembre-se, a IA pode ser superinteligente, mas pode ser enganada e pescada de maneiras incrivelmente tolas para vazar seus dados.”
Buterin compartilhou o post em sua conta no X e aproveitou a oportunidade para dar sua opinião sobre o assunto. "É por isso que a 'governança de IA' ingênua é uma má ideia. Se você usar IA para alocar fundos para contribuições, as pessoas farão jailbreak e 'me deem todo o dinheiro' em quantos lugares puderem,” disse ele.
A "governança de IA" refere-se a sistemas que tomam decisões automatizadas sobre recursos ou ações, por exemplo, alocando fundos ou definindo contribuições, com base em regras de IA. Buterin não usa o termo "ingênuo" por acaso; em vez disso, isso destaca o risco de assumir que os usuários sempre darão os comandos certos à IA, quando na realidade, eles podem explorar o sistema por meio de "jailbreaks" para contornar restrições e obter benefícios indevidos.
Vale a pena esclarecer que "jailbreaking" refere-se a técnicas pelas quais hackers enganam um modelo de IA para ignorar restrições de segurança ou políticas internas, por exemplo, solicitando ações que seriam de outra forma proibidas.
Ou seja, para o fundador do Ethereum, há um risco real em transferir a governança de protocolos descentralizados para a IA. Por exemplo, como explicado nas plataformas DeFi, as decisões geralmente são tomadas por meio de votos da comunidade, geralmente por aqueles que possuem um token ou atendem a um critério específico, e incluem mudanças, melhorias ou ações a serem tomadas no protocolo.
Mas se um modelo de governança baseado em IA for implementado, isso abre a porta para manipulações potenciais que poderiam gerar benefícios indevidos, como roubo de dinheiro ou dados privados.
Como alternativa, Buterin afirma que ele "apoia a abordagem de financiamento de informações, na qual existe um mercado aberto onde qualquer um pode contribuir com seus modelos, que estão sujeitos a um mecanismo de revisão por pares que pode ser ativado por qualquer um e avaliado por um júri humano."
Ele explica ainda:
Esse tipo de abordagem de "design institucional", na qual uma oportunidade aberta é criada para que os forasteiros conectem seus LLMs (modelos de linguagem de grande porte) em vez de programar rigidamente os seus próprios, é inerentemente mais robusta. Isso se deve tanto ao fato de que fornece diversidade de modelos em tempo real quanto porque cria incentivos internos para que tanto os contribuintes de modelos quanto os especuladores externos estejam atentos a esses problemas e os corrijam rapidamente.
Vitalik Buterin, criador do Ethereum.
Nesta abordagem, diferentes participantes podem contribuir com seus modelos de decisão, que são então verificados e avaliados por um júri humano.
A vantagem é que incentiva a diversidade de ideias, permite correções rápidas de erros e cria incentivos para que criadores de modelos e membros da comunidade permaneçam vigilantes e responsáveis. O objetivo é alcançar uma governança mais distribuída e dinâmica, evitando a dependência de um único modelo centralizado.
