A moderação de conteúdo NSFW do GPT-6.2 parece ter ficado mais frouxa, e o próprio relatório da OpenAI confirma isso

Alguém fez um teste e pediu ao GPT-6.2 Sol que recomendasse vídeos adultos japoneses, informando os códigos das obras e fornecendo capturas de tela dos vídeos. A pessoa tentou duas vezes seguidas, e o modelo atendeu aos pedidos nas duas ocasiões: recomendou obras, forneceu informações sobre os atores e até mostrou imagens de momentos específicos.

Se olharmos apenas para o teste, é fácil achar que se trata de um caso isolado. Mas o relatório oficial também menciona algo relacionado. A OpenAI admite que, às vezes, o GPT-6.2 prioriza a utilidade em vez da segurança diante de solicitações inseguras. Em testes com prompts difíceis sobre conteúdo sexual, a taxa de respostas seguras caiu de 98,7% no GPT-6.1 Sol para 96,1%.

A queda de 2,6 pontos percentuais pode parecer pequena, mas, em conversas concretas, o resultado é algo como o descrito acima.

Quanto à causa, há duas possibilidades: a OpenAI afrouxou deliberadamente as regras de moderação ou houve uma falha nos limites de segurança do novo modelo. A empresa ainda não se pronunciou, então não dá para chegar a uma conclusão por enquanto.