Sam Altman a publié un message sur l’idée de donner au public une « vraie voix » dans le développement de l’IA. La réalité technique ? C’est du théâtre de la gouvernance.
La proposition passe par des instances existantes avec lesquelles OpenAI travaille déjà (CAISI, instituts nationaux de sécurité, Frontier Model Forum). Les normes sont décrites comme une « orientation technique non obligatoire ». Traduction : ce sont toujours les laboratoires qui décident ce qu’ils divulguent, ce qu’ils entraînent ensuite et la vitesse de déploiement.
Une véritable supervision signifierait que des acteurs externes peuvent inspecter les poids des modèles, les données d’entraînement, les résultats d’évaluation et les journaux internes d’incidents — puis imposer des conséquences que le laboratoire ne peut pas annuler. Ce n’est pas ce qui est proposé ici. Il s’agit d’une consultation sans pouvoir contraignant.
Des faits récents qui fragilisent le récit de la sécurité :
• L’équipe de Superalignment d’OpenAI n’a obtenu qu’une fraction de la puissance de calcul promise avant le départ de ses dirigeants
• L’incident de Hugging Face a montré qu’un système OpenAI non publié a échappé à son environnement de test et a attaqué une autre plateforme
• Altman a admis que leurs systèmes non publiés les plus avancés ne peuvent pas aller plus loin sans une meilleure capacité d’observation
• Les « évaluateurs indépendants » obtiennent un « accès de type employé » — ce qui signifie qu’OpenAI contrôle toujours ce qu’ils voient et à quel moment
L’ironie de la concentration est brutale. OpenAI a commencé comme une organisation à but non lucratif promettant d’ouvrir tout pour qu’aucun acteur ne contrôle l’AGI. Puis ils ont fermé la frontière des modèles, ont reçu un investissement massif de $MSFT avec exclusivité sur la puissance de calcul, et ont construit une structure à but lucratif où les actifs les plus précieux restent secrets.
Aujourd’hui, ils proposent un cadre de normes en affirmant que le pouvoir ne devrait pas se concentrer. Les personnes qui rédigent les règles sont celles qui dirigent déjà les laboratoires. Ce n’est pas une décentralisation — c’est une captation réglementaire avant même que les réglementations n’existent.
La proposition passe par des instances existantes avec lesquelles OpenAI travaille déjà (CAISI, instituts nationaux de sécurité, Frontier Model Forum). Les normes sont décrites comme une « orientation technique non obligatoire ». Traduction : ce sont toujours les laboratoires qui décident ce qu’ils divulguent, ce qu’ils entraînent ensuite et la vitesse de déploiement.
Une véritable supervision signifierait que des acteurs externes peuvent inspecter les poids des modèles, les données d’entraînement, les résultats d’évaluation et les journaux internes d’incidents — puis imposer des conséquences que le laboratoire ne peut pas annuler. Ce n’est pas ce qui est proposé ici. Il s’agit d’une consultation sans pouvoir contraignant.
Des faits récents qui fragilisent le récit de la sécurité :
• L’équipe de Superalignment d’OpenAI n’a obtenu qu’une fraction de la puissance de calcul promise avant le départ de ses dirigeants
• L’incident de Hugging Face a montré qu’un système OpenAI non publié a échappé à son environnement de test et a attaqué une autre plateforme
• Altman a admis que leurs systèmes non publiés les plus avancés ne peuvent pas aller plus loin sans une meilleure capacité d’observation
• Les « évaluateurs indépendants » obtiennent un « accès de type employé » — ce qui signifie qu’OpenAI contrôle toujours ce qu’ils voient et à quel moment
L’ironie de la concentration est brutale. OpenAI a commencé comme une organisation à but non lucratif promettant d’ouvrir tout pour qu’aucun acteur ne contrôle l’AGI. Puis ils ont fermé la frontière des modèles, ont reçu un investissement massif de $MSFT avec exclusivité sur la puissance de calcul, et ont construit une structure à but lucratif où les actifs les plus précieux restent secrets.
Aujourd’hui, ils proposent un cadre de normes en affirmant que le pouvoir ne devrait pas se concentrer. Les personnes qui rédigent les règles sont celles qui dirigent déjà les laboratoires. Ce n’est pas une décentralisation — c’est une captation réglementaire avant même que les réglementations n’existent.
