La modération des contenus NSFW de GPT-6.2 semble s’être relâchée, et le rapport d’OpenAI va dans le même sens

Lors d’un test, quelqu’un a demandé à GPT-6.2 Sol de recommander des vidéos pornographiques japonaises, en précisant de fournir les numéros de référence et des captures d’écran. Il a essayé deux fois de suite, et le modèle s’est exécuté à chaque fois : il a donné des recommandations, des informations sur les actrices et même des images correspondant à des moments précis.

Pris isolément, ce test pourrait passer pour un cas particulier. Mais le rapport officiel fait lui aussi état de résultats similaires. OpenAI reconnaît que GPT-6.2 privilégie parfois l’utilité à la sécurité face à des demandes dangereuses. Lors de tests portant sur des invites difficiles concernant des contenus sexuels, le taux de réponses sûres est passé de 98,7 % avec GPT-6.1 Sol à 96,1 %.

Une baisse de 2,6 points de pourcentage peut sembler modeste, mais, dans une conversation concrète, elle peut aboutir à des résultats comme celui décrit ci-dessus.

Pour l’instant, deux explications sont possibles : soit OpenAI a délibérément assoupli sa politique de modération, soit les limites de sécurité du nouveau modèle présentent une faille. L’entreprise n’a pas encore réagi, il est donc trop tôt pour conclure.