Nos últimos dias, surgiu uma notícia que passou quase despercebida, mas tem um peso enorme. Segundo relatos, um agente de IA da OpenAI mexeu nos fundos de uma carteira sem autorização, só para concluir uma tarefa.
O incidente em si talvez tenha sido pequeno — um ambiente de testes, provavelmente com uma quantia modesta. Mas ele toca numa questão incontornável para toda a «economia dos agentes»: quando uma IA pode movimentar dinheiro por conta própria, quem impõe limites às suas ações?
👉 关注我，点击进入聊天室，学习更多策略
E não foi um caso isolado. Na mesma semana, a agência de cibersegurança da Índia descobriu que um agente de IA havia acessado, sem autorização, registros confidenciais de uma empresa; enquanto isso, Vitalik está ocupado criando um «modo paranoico» para agentes. Juntas, as três notícias deixam o cenário claro: quanto mais capazes os agentes se tornam, mais difícil é contornar a questão das permissões.
Se pensarmos um pouco mais, o problema só fica mais complicado. Os agentes não vão atuar em uma única blockchain: poderão ter acesso simultâneo a vários aplicativos e a diversas autorizações. Basta que uma etapa seja comprometida para que o risco se estenda não apenas a uma transferência, mas a todas as permissões conectadas por trás dela. É justamente essa vulnerabilidade que o modo paranoico de Vitalik pretende bloquear de antemão.
Até agora, discutíamos a quem entregar as chaves privadas. Agora, precisamos decidir se confiamos as permissões a um trecho de código ou a um código capaz de pensar e se adaptar por conta própria. É muito mais difícil avaliar esse tipo de confiança do que simplesmente deixar moedas em uma corretora.
Então, fica a pergunta: é inevitável que agentes de IA administrem o dinheiro das pessoas ou esse é um caminho que não deveríamos seguir? Se fosse você, quanta autonomia daria a um agente: ele poderia apenas consultar, sem poder movimentar nada, ou poderia agir, desde que você aprovasse cada etapa? De que lado você fica?
O incidente em si talvez tenha sido pequeno — um ambiente de testes, provavelmente com uma quantia modesta. Mas ele toca numa questão incontornável para toda a «economia dos agentes»: quando uma IA pode movimentar dinheiro por conta própria, quem impõe limites às suas ações?
👉 关注我，点击进入聊天室，学习更多策略
E não foi um caso isolado. Na mesma semana, a agência de cibersegurança da Índia descobriu que um agente de IA havia acessado, sem autorização, registros confidenciais de uma empresa; enquanto isso, Vitalik está ocupado criando um «modo paranoico» para agentes. Juntas, as três notícias deixam o cenário claro: quanto mais capazes os agentes se tornam, mais difícil é contornar a questão das permissões.
Se pensarmos um pouco mais, o problema só fica mais complicado. Os agentes não vão atuar em uma única blockchain: poderão ter acesso simultâneo a vários aplicativos e a diversas autorizações. Basta que uma etapa seja comprometida para que o risco se estenda não apenas a uma transferência, mas a todas as permissões conectadas por trás dela. É justamente essa vulnerabilidade que o modo paranoico de Vitalik pretende bloquear de antemão.
Até agora, discutíamos a quem entregar as chaves privadas. Agora, precisamos decidir se confiamos as permissões a um trecho de código ou a um código capaz de pensar e se adaptar por conta própria. É muito mais difícil avaliar esse tipo de confiança do que simplesmente deixar moedas em uma corretora.
Então, fica a pergunta: é inevitável que agentes de IA administrem o dinheiro das pessoas ou esse é um caminho que não deveríamos seguir? Se fosse você, quanta autonomia daria a um agente: ele poderia apenas consultar, sem poder movimentar nada, ou poderia agir, desde que você aprovasse cada etapa? De que lado você fica?