A Anthropic, a OpenAI e o Google falaram sobre a criação de um órgão conjunto de padrões da indústria, segundo um relatório do The Information. Isso daria aos maiores laboratórios de ponta a oportunidade de estabelecer as normas de segurança que os próprios modelos deles serão avaliados.
Para empresas que avaliam se devem ou não utilizar modelos de ponta para tarefas sensíveis, a introdução de padrões comuns aumentaria sua confiança na adoção. Mas esse mesmo arcabouço poderia fortalecer os maiores players. A OCDE já alertou que altos custos fixos, falta de recursos de computação e infraestrutura concentrada já tornam difícil a entrada das empresas no mercado de IA. Os custos de conformidade poderiam adicionar mais um obstáculo que laboratórios menores precisam enfrentar.
As propostas já em pauta
Em 14 de julho, Demis Hassabis, chefe da Google DeepMind, sugeriu uma iniciativa para um organismo de padrões de IA de Fronteira baseado nos EUA, inspirada na Financial Industry Regulatory Authority (FINRA).
Na sua proposta, a Frontier Labs submeteria voluntariamente suas tecnologias avançadas para avaliação, com um período de avaliação de 30 dias antes de sua liberação. Os avaliadores analisariam a segurança das tecnologias para garantir que elas não apresentem quaisquer riscos, como cibersegurança, ameaças biológicas ou manipulação.
O Conselho de Relações Exteriores (CFR) informou que a Casa Branca já estava ponderando a ideia apresentada por Hassabis. Conforme a sua proposta, seria obrigatório apenas passar pelo processo de avaliação em um estágio posterior, para que tecnologias de fronteira fossem implantadas nos EUA.
No artigo de setembro intitulado “We Must Pace the Frontier”, Dario Amodei, CEO da Anthropic, vê o problema por outro ângulo. Esforços de segurança precisam de algum tempo adicional para acompanhar as capacidades de IA, segundo ele. A saída de Amodei é permitir que avaliadores independentes como a METR visitem laboratórios de fronteira por períodos prolongados, o que abriria caminho para a colaboração entre grandes empresas de IA de estados democráticos em relação a padrões de segurança.
Por que esta não é a primeira tentativa
É importante observar que organizações de segurança lideradas pela indústria existem há algum tempo. Na verdade, em 2023, o Frontier Model Forum se reuniu com seis grandes empresas de IA como parte do esforço para estabelecer um programa independente de pesquisa em segurança por meio do AI Safety Fund, de mais de USD 10 milhões.
A Agentic AI Foundation foi criada em dezembro de 2025 como parte da Linux Foundation e tem como objetivo desenvolver padrões e infraestrutura abertos para agentes de IA. Os projetos que deram origem à fundação incluem o Model Context Protocol da Anthropic, o goose da Block e o AGENTS.md da OpenAI.
A OpenAI cooperou na criação da Appia Foundation, que foi estabelecida em junho de 2026 com 13 membros. A fundação tem como objetivo transformar princípios gerais de governança de IA em especificações, testes e comprovações de conformidade, que seriam usados em toda a cadeia de suprimentos de IA.
Padrões de IA de Fronteira em comparação: FMF, Appia, AAIF, EU GPAI Code e proposta dos EUA
O impulso por coordenação também é observado além das organizações da indústria. Conforme informou a Cryptopolitan, o chefe de assuntos globais da OpenAI, Chris Lehane, insistiu que os EUA e a China deveriam apoiar o arcabouço global de segurança em IA, comparando essa iniciativa à cooperação nuclear internacional.
O problema do fosso que ninguém resolveu
O problema central é a independência. De acordo com a análise do CFR, um regulador financiado pelo setor pode se deparar com conflitos que lembram os vistos no sistema de classificação de crédito em que o emissor paga antes da crise financeira de 2008, levantando uma série de perguntas sem resposta quanto ao acesso do regulador a modelos de fronteira, à experiência dos avaliadores, às medidas de segurança nacional e à confiabilidade dos métodos atuais de teste.
Capacidade é outro desafio. Uma projeção fornecida pela GovAI é que 14–16 modelos nos anos de 2025 a 2028 poderiam pertencer à mesma ordem de grandeza do maior ciclo de treinamento até hoje, o que significa que é necessária uma capacidade de revisão contínua em vez de avaliações periódicas.
A competição também é importante. Os padrões estabelecidos principalmente pelos maiores laboratórios podem se tornar custos fixos, algo que é mais fácil para os incumbentes sustentar do que para startups. Se algum arcabouço voluntário for transformado em um requisito obrigatório, é necessário introduzir alguns mecanismos que impeçam a conformidade de segurança de funcionar como uma barreira de entrada no mercado.
Qualquer coisa que seja criada precisa se alinhar com a Europa. O Código de Prática de IA de Finalidade Geral da União Europeia, introduzido em julho de 2025 para servir como uma via voluntária de demonstrar conformidade com o Ato de IA, já incluiu Anthropic, Google, Microsoft e OpenAI como signatários. Portanto, qualquer novo órgão de padrões dos EUA ou liderado pela indústria teria de entrar em um cenário de governança já concorrido, em vez de criar um a partir do zero.
Se você está lendo isto, já está à frente. Continue assim com nossa newsletter.