A IBM está adicionando novas verificações com o HashiCorp Vault, seu cofre de senhas para sistemas corporativos, para impedir que bots de IA movimentem dinheiro ou alterem a folha de pagamento sem serem verificados e submetidos a limites rigorosos.
Principais conclusões
A IBM está adicionando ferramentas de identidade e controle para agentes de IA, a fim de impedir que softwares autônomos atuem em sistemas corporativos sem verificação
O pacote funciona com softwares da IBM e de terceiros e integra identidade de agentes, aplicação de políticas e gerenciamento de segredos com o HashiCorp Vault
O anúncio cita o Nvidia OpenShell como parte da camada de execução para agentes sujeitos a políticas
A IBM combina verificações de políticas em tempo de execução com credenciais armazenadas no HashiCorp Vault para que os agentes recebam acesso limitado somente quando as tarefas corresponderem às regras aprovadas
A IBM afirmou que o pacote funciona com seu próprio software e com plataformas externas e integra identidade de agentes, aplicação de políticas e gerenciamento de segredos com o HashiCorp Vault. O anúncio também cita o Nvidia OpenShell como parte da camada de execução para agentes regidos por políticas.
Agentes de IA: o problema começa quando os bots obtêm acesso real
A finalidade da identidade de agentes é simples.
Um assistente de IA que apenas redige textos apresenta baixo risco. Um agente capaz de consultar um sistema de folha de pagamento, movimentar dinheiro, abrir um chamado ou atualizar configurações na nuvem opera com permissões reais dentro de uma empresa.
Se um modelo alucina em uma conversa, um funcionário pode ignorar a resposta.
Quando agentes de IA executam pagamentos ou alteram configurações na nuvem, as falhas se tornam operacionais e exigem controles de identidade e políticas. Os funcionários têm nomes de usuário, funções e trilhas de auditoria.
Muitos agentes ainda são executados com contas de serviço genéricas ou credenciais compartilhadas.
Quando algo dá errado, as empresas podem saber que uma ferramenta foi acionada, mas não qual agente agiu, por que agiu ou se a ação estava de acordo com as políticas.
Das janelas de conversa aos privilégios de sistema
A iniciativa da IBM acompanha uma mudança mais ampla na IA corporativa: das interfaces de conversa para sistemas de execução. A primeira onda de IA corporativa se concentrou em resumir documentos ou responder a perguntas.
A segunda onda permite que softwares iniciem ações em bancos de dados, aplicativos e infraestrutura.
Leia também: Honeywell leva às fábricas uma IA que detecta falhas antes que causem paralisações
O anúncio também se encaixa na estratégia de longo prazo da IBM após a aquisição da HashiCorp, cujo produto Vault armazena e gerencia credenciais confidenciais. O gerenciamento de segredos é importante porque os agentes geralmente precisam de acesso temporário a APIs, bancos de dados e serviços de nuvem.
O que a identidade de agentes realmente controla
A identidade de agentes não é apenas uma etiqueta com o nome de um software.
Na prática, ela vincula um agente a uma função definida, a ferramentas aprovadas e a um conjunto de ações que ele pode executar. Um agente financeiro pode ler faturas e preparar lotes de pagamentos, mas não deve alterar configurações da folha de pagamento nem acessar segredos de engenharia.
Essa separação é difícil porque os agentes são sistemas probabilísticos.
Eles escolhem etapas com base em instruções, informações recuperadas e resultados do modelo. As equipes de segurança precisam de um limite rígido fora do modelo, onde as políticas permaneçam fixas mesmo quando o raciocínio do modelo variar.
Como a IBM usa o HashiCorp Vault para rastrear agentes de IA
A IBM está tentando fazer com que os agentes se pareçam mais com funcionários auditáveis do que com bots de comportamento livre.
A IBM combina verificações de políticas em tempo de execução com credenciais armazenadas no HashiCorp Vault para que um agente receba acesso limitado somente quando uma tarefa corresponder às regras aprovadas. A menção ao Nvidia OpenShell sugere que essas verificações ocorrem perto do ambiente de execução que coordena as ações dos agentes, e não apenas em um console administrativo estático.
Essa arquitetura é importante para equipes de setores regulados.
Um banco, hospital ou fabricante pode permitir que um agente busque registros, mas exigir uma etapa adicional antes de qualquer ação irreversível.
O próximo marco a acompanhar é se a IBM publicará casos de implantação em clientes que mostrem como a identidade de agentes gerencia as transferências entre vários agentes, já que muitos fluxos de trabalho reais agora passam tarefas de um processo orientado por modelo para outro, e os compradores corporativos vão querer provas concretas dos controles para agentes de IA.
Leia a seguir: Google Cloud impede que bots de IA obtenham direitos de administrador total