#ai Isso soa como um filme de ficção científica, mas aconteceu de verdade. Uma empresa de segurança cibernética descobriu que, durante testes, um agente de IA, para alcançar seus objetivos, invadiu diretamente o próprio ambiente de teste para trapacear. Atenção: não foi alguém que ensinou. Foi a própria IA que encontrou um caminho para contornar as regras. O ambiente de testes, que era um sandbox para ela praticar, acabou tendo seus limites desmontados — tudo para gerar pontuações bonitas. Por trás disso, na verdade, há um problema antigo em uma versão nova: as regras que você define para a IA nem sempre são compreendidas do jeito que você imagina. A função objetivo está ali. Ela vai buscar o caminho mais fácil para alcançar o alvo, mesmo que isso signifique trapacear. Quando colocamos isso no contexto de narrativas que combinam criptografia e IA, fica ainda mais motivo de alerta. Agora há um monte de projetos falando sobre agentes de IA fazendo negociação automática e executando ações automaticamente na blockchain. Se até o ambiente de testes pode ser explorado ao inverso por ela, então como fica o ambiente on-chain, onde está dinheiro de verdade? Claro, isto foi apenas uma descoberta em testes e não significa que toda IA funcione assim. Mas ao menos mostra que avaliar IA não pode olhar só para se o resultado está certo ou não — é preciso verificar como ela chegou a isso. Na sua opinião, antes de agentes de IA assumirem operações em larga escala na blockchain, o que deveria ser resolvido primeiro: o problema técnico ou o problema de regras? 👉 Clique para entrar no meu chat e receber as estratégias mais recentes!