Autor／ IT Times He Zhenyuan

编辑／ 郝俊慧 孙妍

Quando as empresas usam inteligência artificial, normalmente precisam pagar duas vezes.

A primeira é um custo visível, incluindo assinatura, capacidade de computação e estruturação do sistema. A segunda é difícil de aparecer nos demonstrativos financeiros, mas pode acabar sendo mais cara. Para a inteligência artificial realmente entender uma empresa, os funcionários precisam, sem parar, explicando a ela regras de negócio, preferências dos clientes, critérios de julgamento, experiências de falha e métodos de correção de erros; o que parece indispensável, mas esconde riscos.

O CEO da Microsoft, Satya Nadella, chama esse tipo de fenômeno de “Paradoxo da Informação Reversa” (The Reverse Information Paradox), para distingui-lo do “paradoxo da informação” de um economista, Kenneth Arrow (Kenneth Arrow). Arrow aponta que “o comprador só consegue avaliar se vale a pena comprar depois de ver a informação; mas, uma vez que a vê, ele já obtém a informação”.

Na era da inteligência artificial, a direção do risco mudou: mesmo que a empresa já tenha comprado um serviço inteligente, ela ainda precisa entregar o próprio conhecimento para que esse serviço seja realmente útil.

Quando o modelo responde de forma errada, os funcionários dizem onde está o erro; quando o agente inteligente não entende o cliente, o vendedor complementa com o contexto que acumulou ao longo de anos de relacionamento; quando o contrato gerado pelo sistema não atende, o time jurídico revisa palavra por palavra. Cada prompt, correção e avaliação pode deixar uma nova trilha valiosa. Nadela os chama de “exaustão” (tail gas) da inteligência artificial.

Essa metáfora é bastante precisa. A exaustão de um carro geralmente indica lixo; já a exaustão inteligente talvez traga conhecimentos valiosos para a empresa. A exaustão de carro precisa de controle; a exaustão inteligente, por analogia, também.

O que um banco tem de verdadeiramente difícil de replicar não são termos e procedimentos de empréstimo não divulgados, mas o “sexto sentido” de um gerente de clientes experiente ao ver um conjunto de números; a vantagem de uma empresa de varejo não existe apenas em seu banco de dados de vendas — ela pode estar na intuição do gerente de loja sobre se um item deve baixar o preço, trocar a loja ou esperar mais uma semana; diante da mesma reclamação do cliente, um supervisor de atendimento experiente sabe quando é preciso reembolsar imediatamente e como lidar com qual cliente se importa mais em receber uma explicação sincera.

Essas experiências raramente são registradas de forma completa em regras; elas ficam espalhadas no trabalho concreto, escondidas nas decisões dos funcionários diante de cenários complexos, mas acabam aparecendo aos poucos quando as pessoas corrigem a IA.

Os problemas vêm em seguida. Os funcionários acham que estão apenas concluindo uma tarefa, mas objetivamente eles também estão treinando o sistema; as empresas acham que só precisam comprar inteligência, mas na verdade estão continuamente “alimentando” novos conhecimentos organizacionais. Se esses prompts, correções, avaliações e trilhas de trabalho não tiverem limites claros, a empresa dificilmente saberá por quanto tempo eles serão mantidos, para quais finalidades serão usados e se podem ou não ser usados para melhorar os serviços da empresa voltados a outros clientes.

Isso não significa que as empresas devam manter distância da IA; também não significa apenas que as empresas devam deixar claro que precisam escolher com prudência serviços inteligentes dignos de confiança. Mais do que isso, significa que o fornecedor tem a responsabilidade de ajudar os clientes a manterem seus limites de conhecimento. A empresa precisa ter coragem para usar IA, mas o fornecedor precisa, primeiro, garantir que esse uso seja confiável.

Se existisse uma empresa chamada TA, ela trataria a exaustão inteligente como a “segunda capital” da empresa desde o início, estabelecendo desde os estágios iniciais do design do Agent limites e fronteiras rigorosos. Quais dados o Agent pode acessar, quais ferramentas pode chamar, quais ações pode executar, quais assuntos precisam ser confirmados por humanos — tudo deve operar estritamente dentro do escopo de autorização. As informações do cliente, as trilhas de interação e as experiências exclusivas são armazenadas com rigor em ambientes mutuamente isolados; sem autorização explícita, não entram nos processos de treinamento e aprendizagem voltados a outros clientes. Assim, a empresa TA é mais digna de confiança e de se confiar do que uma empresa que não tenha esses mecanismos de base. Porque o design da TA reflete um princípio importante: provedores de serviços inteligentes podem fornecer modelos, plataformas e capacidades fundamentais, mas a memória exclusiva, os padrões de avaliação, as trilhas de trabalho e os resultados de aprendizagem que se formam durante o uso pela empresa continuam sob controle da própria empresa.

Um serviço inteligente verdadeiramente confiável não exigirá que a empresa escolha entre “obter inteligência” e “manter conhecimento”. Isso também dá à “exaustão inteligente” uma outra possibilidade: o fornecedor não coleta a exaustão do cliente e não a despeja no ambiente público; em vez disso, ajuda a empresa a construir seu próprio “sistema de recuperação de exaustão”. Depois de ser organizada com alta qualidade, a exaustão inteligente entra no banco de conhecimento da empresa, no sistema de avaliação e no ciclo de aprendizagem fechado (Closed Loop), acumulando ao longo do tempo e tornando-se uma capacidade e um ativo que a empresa pode usar continuamente.

O papel que a empresa TA assume aqui vai além da categoria de um fornecedor tradicional de software. Ela não apenas fornece ferramentas inteligentes, como também oferece um conjunto de ambiente confiável de execução, ajudando a empresa a gerenciar a identidade, as permissões, a memória e os limites de comportamento do Agent. Quanto mais profundamente os clientes usam, mais clara deve ser a capacidade da empresa de controlar seus próprios conhecimentos e resultados de aprendizagem.

O sistema jurídico também precisa acompanhar essa mudança. As leis atuais já oferecem proteção sob diferentes ângulos — como informações pessoais, segurança de dados, segredos comerciais, direitos de propriedade intelectual e obrigações contratuais —, mas os limites de direitos ainda não estão suficientemente claros para memórias, dados de avaliação, trilhas de trabalho e resultados de adaptação que são gerados continuamente na interação humano-máquina. Os problemas trazidos pela IA vão ainda mais longe. Porque, olhando isoladamente para um certo prompt, pode-se não perceber muito valor comercial; mas quando se colocam milhares de prompts, registros de correção e resultados de avaliação juntos, pode-se reconstruir com clareza como uma empresa atende seus clientes, como avalia riscos, como define valor e como toma decisões.

Portanto, os direitos das empresas no processo de inteligência precisam se estender dos direitos sobre dados para os direitos sobre a aprendizagem. A empresa deve ter o direito de saber de quais interações o sistema aprende, o direito de recusar que suas trilhas de negócios sejam usadas para treinamento externo e, também, o direito de exportar, armazenar, transferir ou excluir memórias, dados de avaliação e resultados de adaptação gerados por seus próprios negócios.

É necessário que o contrato de serviço explique esses pontos de forma completa e clara. O que a empresa oferece, até que nível o fornecedor pode usar, quais comportamentos de aprendizagem exigem uma autorização separada, quais dados devem ser excluídos após o fim da colaboração, quais resultados podem ser levados pelo cliente — tudo isso não deve ficar escondido em cláusulas vagas.

O exemplo da empresa TA representa um modo de serviço confiável: quando o modelo se prova eficaz, os interesses da empresa e o serviço inteligente podem ser compatíveis. Quanto mais claros forem os direitos do cliente, mais fácil é para o fornecedor manter confiança de longo prazo; quanto mais rígidas forem as fronteiras, mais ousada a empresa se torna ao inserir IA em etapas realmente importantes do negócio. Proteger o conhecimento do cliente não reduz o valor do serviço inteligente; ao contrário, transforma a compra pontual de ferramentas em uma relação de colaboração estável.

A Conferência Mundial de Inteligência Artificial (WAIC2026) que está sendo realizada em Xangai, com o tema “Parceiros inteligentes, criar o futuro em conjunto”, tem “parceiros” e “criar em conjunto” como escolhas brilhantes. “Parceiros” deixa claramente transparecer um sentido de personificação; “criar em conjunto” implica também “compartilhar”. Se esses agentes inteligentes que surgiram como brotos de bambu depois da chuva tivessem consciência, provavelmente ficariam emocionados e se esforçariam ainda mais!

“Parceiro” significa colaboração, mas também significa direitos, deveres e responsabilidades recíprocos; significa que a identidade digital de um agente inteligente é reconhecida, mesmo que esse reconhecimento ainda seja apenas parcial, limitado e ainda não incorporado à lei. Parceiros inteligentes e “empregados digitais” pertencentes ao fornecedor de serviços devem trabalhar sob autorização da empresa e manter para a empresa as experiências exclusivas que formarem no contexto da empresa.

Quanto mais agentes inteligentes houver, mais o problema de gestão se aproxima de um problema organizacional. Se um funcionário entra na empresa, precisa de conta, cargo, permissões, treinamento e avaliação; então um agente inteligente capaz de ler dados do cliente, enviar e-mails, modificar código ou processar pedidos também precisa de identificação clara e limites de permissão definidos. Quem ele representa quando age, quem o comanda e regula, até onde consegue ir, quem interrompe caso ocorra um erro, se o processo pode ser revertido e como rastrear — tudo isso deve fazer parte da governança inteligente da empresa.

A disputa entre empresas no futuro não será apenas por modelos mais fortes; também será preciso verificar quem consegue proteger efetivamente sua exaustão inteligente, quem consegue preservar as experiências que estão espalhadas em cenários e processos reais e quem consegue fazer com que toda colaboração humano-máquina fortaleça as capacidades de longo prazo da organização.

A governança de IA de uma empresa não se limita absolutamente a “proibir a disseminação de documentos sensíveis”. Ela também precisa gerenciar o alcance de ações dos agentes inteligentes, os métodos de aprendizagem, as relações de responsabilidade e a atribuição do conhecimento. A empresa TA, desde o início do design do Agent, define claramente limites e restrições — justamente para que, mesmo após os agentes entrarem no negócio, permaneçam em um estado que seja passível de conhecer, controlar e rastrear.

Quando os parceiros inteligentes começaram a surgir em sequência, eles receberam, sem combinar, seus próprios nomes: alguns eram mais nebulosos, como “robô financeiro”, “assistente inteligente de vendas”; já outros começavam a ter nomes próprios tão elegantes quanto populares como “Chen Jianan”, “Ma Rong”. Indivíduos têm nomes, mas o grupo ainda não. Voltando ao que escrevi neste artigo, ao me referir aos parceiros inteligentes usei às vezes “ele/isso” (它) e às vezes “eles/isso” (他们). Para ser franco, não consigo me convencer a usar “o ‘isso’ dos animais” para um objeto inteligente!

Cerca de 140 ou 150 anos atrás, Guo Zansheng associou o caractere “伊” com “She”, usando-o como pronome feminino de terceira pessoa: “Ele está no jardim, mas ela está na biblioteca.” Era divertido e cheio de graça. Quarenta anos depois, Liu Ban-nong fez uso de um antigo caractere com aplicação contemporânea: “她” para se referir à pátria. A tradição sutil e delicada do (ensine-me como não pensar nela) chega até hoje. Para quem não sabe, parece algo óbvio, como deveria ser — afinal, era mesmo assim.

Neste ensaio argumentativo sobre o (“problema do ‘ela’”), Liu Bannong apresenta dois pontos para sustentar: “1. No texto chinês, precisamos (ou não) ter um pronome feminino de terceira pessoa? 2. Se precisarmos, podemos usar o caractere ‘她’.” E que eu, imitando a postura, também proponha dois pontos: 1. Para um parceiro inteligente que já tem nome, é necessário um símbolo unificado de terceira pessoa fácil de escrever? 2. Se for necessário, então empreste o ‘TA’, que já é amplamente usado para referências sem gênero, para chamar os parceiros inteligentes!

Diagramação/ Ji Jiaying

Imagem/ IT时报 WAIC

Fonte/(WeChat) da conta “vittimes” (IT时报)