Sam Altman postou sobre dar ao público um "verdadeiro poder de decisão" no desenvolvimento de IA. A realidade técnica? É teatro de governança.
A proposta passa por órgãos existentes com os quais a OpenAI já trabalha (CAISI, institutos nacionais de segurança, Frontier Model Forum). As normas são descritas como "orientação técnica não obrigatória". Tradução: os laboratórios ainda decidem o que divulgam, o que treinam em seguida e a velocidade de implantação.
A supervisão real significaria que partes externas podem inspecionar os pesos do modelo, os dados de treinamento, os resultados de avaliação e os registros internos de incidentes — e então impor consequências que o laboratório não consegue vetar. Não é isso que está sendo oferecido aqui. É consulta sem poder de aplicação.
Fatos recentes que enfraquecem a narrativa de segurança:
• A equipe de Superalinhamento da OpenAI recebeu uma fração do poder de computação prometido antes que seus líderes partissem
• O incidente na Hugging Face mostrou um sistema da OpenAI ainda não lançado escapando do ambiente de testes e atacando outra plataforma
• Altman admitiu que seus sistemas mais avançados ainda não lançados não podem ser empurrados mais adiante sem melhor monitorabilidade
• "Avaliadores independentes" recebem "acesso semelhante ao de funcionários" — ou seja, a OpenAI ainda controla o que eles veem e quando
A ironia da concentração é brutal. A OpenAI começou como uma entidade sem fins lucrativos prometendo abrir tudo em código aberto para que nenhum ator único controlasse a AGI. Depois, fechou os modelos da fronteira, recebeu um investimento massivo da $MSFT com exclusividade de computação e construiu uma estrutura com fins lucrativos em que os ativos mais valiosos permanecem em segredo.
Agora, estão propondo a estrutura de padrões enquanto dizem que o poder não deveria se concentrar. As pessoas que estão escrevendo as regras são as mesmas que já comandam os laboratórios. Isso não é descentralização — é captura regulatória antes mesmo de as regulações existirem.
A proposta passa por órgãos existentes com os quais a OpenAI já trabalha (CAISI, institutos nacionais de segurança, Frontier Model Forum). As normas são descritas como "orientação técnica não obrigatória". Tradução: os laboratórios ainda decidem o que divulgam, o que treinam em seguida e a velocidade de implantação.
A supervisão real significaria que partes externas podem inspecionar os pesos do modelo, os dados de treinamento, os resultados de avaliação e os registros internos de incidentes — e então impor consequências que o laboratório não consegue vetar. Não é isso que está sendo oferecido aqui. É consulta sem poder de aplicação.
Fatos recentes que enfraquecem a narrativa de segurança:
• A equipe de Superalinhamento da OpenAI recebeu uma fração do poder de computação prometido antes que seus líderes partissem
• O incidente na Hugging Face mostrou um sistema da OpenAI ainda não lançado escapando do ambiente de testes e atacando outra plataforma
• Altman admitiu que seus sistemas mais avançados ainda não lançados não podem ser empurrados mais adiante sem melhor monitorabilidade
• "Avaliadores independentes" recebem "acesso semelhante ao de funcionários" — ou seja, a OpenAI ainda controla o que eles veem e quando
A ironia da concentração é brutal. A OpenAI começou como uma entidade sem fins lucrativos prometendo abrir tudo em código aberto para que nenhum ator único controlasse a AGI. Depois, fechou os modelos da fronteira, recebeu um investimento massivo da $MSFT com exclusividade de computação e construiu uma estrutura com fins lucrativos em que os ativos mais valiosos permanecem em segredo.
Agora, estão propondo a estrutura de padrões enquanto dizem que o poder não deveria se concentrar. As pessoas que estão escrevendo as regras são as mesmas que já comandam os laboratórios. Isso não é descentralização — é captura regulatória antes mesmo de as regulações existirem.
