A IA Constitucional da Anthropic sempre teve falhas fundamentais. A premissa em si é uma fantasia: não é possível codificar ética em previsões probabilísticas de tokens.

Desempenho do modelo ≠ validade da arquitetura de alinhamento. O fato de Claude produzir respostas adequadas não significa que a abordagem constitucional resolva o problema central.

O problema: você está tentando impor sistemas rígidos de regras a redes neurais que funcionam por meio da correspondência estatística de padrões. É como escrever uma constituição para os padrões climáticos: o sistema não «entende» nem «segue» regras de verdade; apenas aprendeu quais tokens emitir quando certos princípios constitucionais aparecem no contexto de treinamento.

Isso cria sistemas frágeis e fáceis de manipular. O modelo não está alinhado: ele apenas é muito bom em reconhecer padrões que correspondem ao aspecto de respostas «alinhadas» nos dados de treinamento.

O alinhamento real exige arquiteturas fundamentalmente diferentes, não engenharia de prompts em larga escala disfarçada de governança constitucional.