Há alguns meses, eu estava esperando em um aeroporto quando um passageiro foi abordado no controle de segurança. No começo, não parecia haver nada de errado. O cartão de embarque era válido, o passaporte era válido e até a bagagem passou pela inspeção. Então, um agente de segurança explicou com calma que um pequeno requisito da política de viagem não tinha sido atendido, então o passageiro não poderia continuar até que isso fosse resolvido. Aquele momento ficou comigo porque o sistema não estava decidindo se o viajante era uma boa ou uma má pessoa. Ele estava apenas verificando se a próxima ação correspondia às regras que já haviam sido definidas. Eu me vi pensando nisso de novo enquanto lia sobre o Newton Mainnet Beta. A maioria das conversas sobre IA em cripto se concentra em tornar os agentes mais inteligentes, mas eu acho que a pergunta mais importante é se eles podem ser impedidos de agir fora dos limites que já aprovamos.
Foi isso que chamou minha atenção sobre @NewtonProtocol. Pelo que entendi, cada ação on-chain é avaliada de acordo com políticas predefinidas antes de ser executada. Se um pedido não satisfaz essas regras, ele não avança. Para mim, isso é uma base muito mais prática para finanças autônomas. Bancos, aeroportos e redes de pagamento não ficam seguros porque confiam cegamente em todo mundo. Eles ficam seguros porque as ações importantes são checadas contra regras claras antes de serem permitidas. Acho que o DeFi guiado por IA eventualmente vai precisar da mesma filosofia.
À medida que o Newton Mainnet Beta continua a se desenvolver, estou menos interessado em como agentes de IA se tornam mais inteligentes e mais interessado em saber se as decisões deles permanecem transparentes, previsíveis e responsáveis. Se sistemas autônomos vão gerenciar capital real, acredito que boas barreiras de segurança (guardrails) podem se tornar tão importantes quanto a própria inteligência. O que você acha que vai importar mais nos próximos anos: agentes de IA mais inteligentes, ou limites melhor projetados ao redor deles?