A Anthropic voltou a fazer mais uma dessas.
A empresa divulgou publicamente casos em que o Claude foi usado para ataques cibernéticos, pesquisa de armas e monitoramento, e enfatizou que está continuamente bloqueando esses abusos.
A motivação, claro, são questões de segurança da IA, mas esse assunto também mostra que a IA já não é apenas um chatbot.
Quando a IA começa a ler informações por conta própria, escrever código, chamar ferramentas e até entrar em atividades econômicas reais, surge um novo problema: como provar que a IA realmente ficou mais forte?
Afinal, o Doubao ainda muitas vezes vive inventando.
Se a gente deixar a IA controlar uma carteira Web3, então é ainda mais importante que todos deem atenção.
Fazer a IA resumir e escrever um relatório de reavaliação é relativamente fácil: se ela perder dinheiro, pode te dizer onde deu errado e como ajustar da próxima vez.
Mas o caminho para lapidar a evolução deveria ser: tomar decisões → ver os resultados → encontrar as causas → modificar → testar de novo.
A função de autoevolução NeoTrade que a NeoSoul lançou recentemente, eu já comentei uma vez antes.
Ela trata as negociações como um “exame real” para a IA: se a previsão está certa, se as negociações foram executadas, quanto custam as taxas e o slippage, e no fim se ela realmente ganhou dinheiro—tudo fica registrado com base em resultados reais.
Além disso, depois de ajustar, ainda dá para testar antes usando shadow run no mercado real, sem pressa de errar com dinheiro de verdade.
Portanto, no futuro, ao avaliar um agente, talvez não dê para olhar só o quão inteligente ele é agora.
Também é preciso ver quais erros ele cometeu e, depois de errar, se ele realmente ficou mais esperto.
Esse pode ser o avanço mais significativo da IA ao passar de “ferramenta” para “participante econômico”.
A empresa divulgou publicamente casos em que o Claude foi usado para ataques cibernéticos, pesquisa de armas e monitoramento, e enfatizou que está continuamente bloqueando esses abusos.
A motivação, claro, são questões de segurança da IA, mas esse assunto também mostra que a IA já não é apenas um chatbot.
Quando a IA começa a ler informações por conta própria, escrever código, chamar ferramentas e até entrar em atividades econômicas reais, surge um novo problema: como provar que a IA realmente ficou mais forte?
Afinal, o Doubao ainda muitas vezes vive inventando.
Se a gente deixar a IA controlar uma carteira Web3, então é ainda mais importante que todos deem atenção.
Fazer a IA resumir e escrever um relatório de reavaliação é relativamente fácil: se ela perder dinheiro, pode te dizer onde deu errado e como ajustar da próxima vez.
Mas o caminho para lapidar a evolução deveria ser: tomar decisões → ver os resultados → encontrar as causas → modificar → testar de novo.
A função de autoevolução NeoTrade que a NeoSoul lançou recentemente, eu já comentei uma vez antes.
Ela trata as negociações como um “exame real” para a IA: se a previsão está certa, se as negociações foram executadas, quanto custam as taxas e o slippage, e no fim se ela realmente ganhou dinheiro—tudo fica registrado com base em resultados reais.
Além disso, depois de ajustar, ainda dá para testar antes usando shadow run no mercado real, sem pressa de errar com dinheiro de verdade.
Portanto, no futuro, ao avaliar um agente, talvez não dê para olhar só o quão inteligente ele é agora.
Também é preciso ver quais erros ele cometeu e, depois de errar, se ele realmente ficou mais esperto.
Esse pode ser o avanço mais significativo da IA ao passar de “ferramenta” para “participante econômico”.