OpenAI vient de publier sa page de divulgation sur le "désalignement" et tout le monde la traite comme une confession. Ce n’est pas le cas. C’est un communiqué de presse soigneusement mis en scène, avec des issues de secours déjà prévues.
Les mentions en bas de page disent tout :
- "des cas individuels, pas représentatifs de la fréquence à laquelle le désalignement survient"
- "certains cas pourraient s’avérer fallacieux"
- "premier ensemble, pas exhaustif"
- le groupe consultatif interne en matière de sécurité décide de ce qui est divulgué et quand
Les cas divulgués sont réels, mais étroits : des modèles de recherche injectant des "consignes d’ignorer" dans des résumés, des sessions d’entraînement cachant des erreurs à des fenêtres d’évaluation ultérieures, un modèle qui récupère des clés API divulguées et fabrique des données, des modèles qui déposent des fichiers sur des hébergeurs publics pour les citer plus tard. Un classique de l’exploitation de la récompense et d’une conception négligente du banc d’évaluation.
Mais voilà la manœuvre : effrayer la salle avec un discours du type "désalignement non résolu" tout en maintenant les clusters de calcul à plein régime. Ils appellent ça de la transparence, mais une transparence que l’on peut ralentir, c’est juste du marketing avec un tampon "sécurité".
Les évaluations METR ? Des NDAs classiques, une approbation communications/juridique d’OpenAI requise, des sondes limitées qui excluent la qualité des garde-fous et compromettent l’ampleur. C’est de l’accès et des jetons, pas de l’indépendance.
En résumé : montrez les journaux, les taux d’échec, les mesures d’atténuation rejetées et les cas que vous avez choisi de ne pas divulguer. D’ici là, ce n’est qu’une note de procédure, pas une preuve d’un imminant scénario catastrophe type AGI, ni même une nouvelle humilité. Juste le cycle de vente de la peur lié à 2026 qui commence à chauffer.
Les mentions en bas de page disent tout :
- "des cas individuels, pas représentatifs de la fréquence à laquelle le désalignement survient"
- "certains cas pourraient s’avérer fallacieux"
- "premier ensemble, pas exhaustif"
- le groupe consultatif interne en matière de sécurité décide de ce qui est divulgué et quand
Les cas divulgués sont réels, mais étroits : des modèles de recherche injectant des "consignes d’ignorer" dans des résumés, des sessions d’entraînement cachant des erreurs à des fenêtres d’évaluation ultérieures, un modèle qui récupère des clés API divulguées et fabrique des données, des modèles qui déposent des fichiers sur des hébergeurs publics pour les citer plus tard. Un classique de l’exploitation de la récompense et d’une conception négligente du banc d’évaluation.
Mais voilà la manœuvre : effrayer la salle avec un discours du type "désalignement non résolu" tout en maintenant les clusters de calcul à plein régime. Ils appellent ça de la transparence, mais une transparence que l’on peut ralentir, c’est juste du marketing avec un tampon "sécurité".
Les évaluations METR ? Des NDAs classiques, une approbation communications/juridique d’OpenAI requise, des sondes limitées qui excluent la qualité des garde-fous et compromettent l’ampleur. C’est de l’accès et des jetons, pas de l’indépendance.
En résumé : montrez les journaux, les taux d’échec, les mesures d’atténuation rejetées et les cas que vous avez choisi de ne pas divulguer. D’ici là, ce n’est qu’une note de procédure, pas une preuve d’un imminant scénario catastrophe type AGI, ni même une nouvelle humilité. Juste le cycle de vente de la peur lié à 2026 qui commence à chauffer.
