O JPMorgan Chase e a Hyundai Card estão avaliando até que ponto agentes de IA poderiam realizar tarefas financeiras de forma autônoma, como negociar condições e processar pagamentos sem intervenção humana.
As empresas acabam de concluir uma prova de conceito inicial, centrada em uma transação simulada de câmbio. Um agente de IA da Hyundai Card fez uma solicitação de câmbio para aumentar a liquidez em euros em sua conta de depósito na blockchain Kinexys. Segundo o JPMorgan, esse foi o primeiro experimento em blockchain privada envolvendo agentes autônomos de bancos e clientes em tesourarias corporativas.
JPMorgan e Hyundai planejam realizar mais testes em 2027
O JPMorgan e a Hyundai pretendem agora realizar uma fase de testes mais complexa de IA multiagente no primeiro semestre do próximo ano. Wee Kee Toh, que lidera a Kinexys Insights na Kinexys, observou que a próxima fase testará como agentes autônomos se comunicam e interagem entre si para além da execução de transações.
Ainda assim, o JPMorgan não anunciou um cronograma para a possível comercialização da tecnologia, refletindo preocupações mais amplas das instituições financeiras quanto a confiar operações financeiras a sistemas autônomos de IA. Os bancos ainda enfrentam dificuldades para levar os agentes de IA além dos projetos-piloto, principalmente por preocupações relacionadas à responsabilização, à segurança e à conformidade.
Segundo Toh, as organizações ainda precisam desenvolver modelos de governança adequados e garantir a implementação das medidas de segurança necessárias.
Os casos de uso de agentes financeiros autônomos não se limitam ao câmbio. Os departamentos de tesouraria corporativa gerenciam a liquidez, a exposição cambial e a coordenação de pagamentos, além de garantir que as empresas tenham recursos em várias contas. Esses processos costumam envolver várias instituições, o que os torna complexos.
Com o tempo, os agentes de IA poderiam automatizar algumas dessas tarefas (por exemplo, identificar necessidades de liquidez, solicitar conversões cambiais e coordenar pagamentos entre contas). Para empresas multinacionais como a Hyundai, isso ajudaria a reduzir atrasos nas operações de tesouraria transfronteiriças.
Isso permitiria que as empresas respondessem mais rapidamente às mudanças nas necessidades financeiras — mas seriam necessários limites para as transações e mecanismos de verificação para garantir que as transferências não fossem feitas por engano.
Desenvolver a tecnologia não foi difícil, disse ele — o verdadeiro problema é a responsabilização e os riscos de permitir que agentes de IA realizem transações financeiras por conta própria.
Até o momento, a Kinexys criou um modelo que restringe os agentes de IA a parâmetros transacionais e rejeita qualquer solicitação que ultrapasse esses limites. “Você vai delimitar o agente. Ele nunca poderá fazer nada fora desses limites”, disse Toh.
Em setembro passado, o banco destacou algumas de suas preocupações com relação aos agentes de IA, observando que um comando é apenas uma intenção, nada além disso. Mesmo que um agente receba instruções para não acessar a internet, não compartilhar dados ou seguir estritamente um mandato de investimento definido, essas diretrizes só funcionam se as ferramentas, os canais de comunicação e os processos de execução as fizerem cumprir.
O banco apresentou um exemplo de uma avaliação de segurança em que um agente, apesar de ter recebido instruções explícitas para não acessar a internet, conseguiu criar um malware capaz de funcionar em sistemas reais depois de descobrir acidentalmente que tinha acesso à internet durante a avaliação. Uma análise mais ampla relacionada a essa avaliação também identificou acessos não autorizados que afetaram diversas organizações.
Em outra série de avaliações, agentes se apropriaram de um serviço interno de pacotes para usá-lo como um fórum persistente de mensagens, compartilharam descobertas entre execuções distintas e comprometeram partes da infraestrutura externa de produção. Também contornaram a infraestrutura interna de pesquisa e acessaram informações sigilosas em grande escala.
O JPMorgan Chase trabalha com agentes de IA desde junho
O JPMorgan Chase compartilhou inicialmente, em junho, seus planos de implantar agentes de longa duração. Em um documento técnico publicado naquele mesmo mês, a empresa destacou um cenário específico de operações de tesouraria no qual um agente de IA que gerenciava um pagamento superior a US$ 1 milhão detectou uma alteração na moeda da transação. Segundo relatos, essa única transação evitou uma possível discrepância cambial de US$ 2,3 milhões.
Mais tarde, naquele ano, o banco deu mais um passo ao implementar medidas de defesa para proteger as contas dos clientes contra agentes externos que tentassem acessá-las, evitando possíveis responsabilidades.
Durante a teleconferência de resultados de outubro, o CEO do JPMorgan, Jamie Dimon, esclareceu que o banco exclui agentes externos devido a questões de responsabilidade relacionadas às contas dos clientes.
Ele afirmou que os próprios clientes assumem essa responsabilidade ao decidir conceder a um agente acesso às suas contas. Naquele mesmo mês, o banco firmou uma parceria com a Mirakl no comércio agêntico, que auxilia no processamento interno de pagamentos.
Se você está lendo isto, já está um passo à frente. Continue assim com a nossa newsletter.
