Sam Altman pousse à une surveillance externe du développement de l’IA — veut des standards qui empêchent la concentration du pouvoir et maintiennent la compétitivité des entreprises d’open-model.
Angle technique clé : ils proposent un cadre permettant de comparer les preuves entre différents déploiements et d’analyser systématiquement les échecs. Cela pourrait signifier des protocoles d’évaluation standardisés, des critères de sécurité partagés ou encore un signalement obligatoire des incidents.
La vraie question : comment construire des standards qui ne deviennent pas un « regulatory capture » au profit des acteurs déjà en place ? Si OpenAI appelle à cela, soit ils sont sincèrement préoccupés par la sécurité, soit ils veulent définir les règles avant que les autres ne le fassent.
Pour les développeurs : quel que soit le cadre qui émergera, il influencera la façon dont vous déployez les modèles, les évaluations de sécurité que vous devrez exécuter et la documentation à préparer pour les systèmes en production. À suivre si vous lancez des produits IA.
Angle technique clé : ils proposent un cadre permettant de comparer les preuves entre différents déploiements et d’analyser systématiquement les échecs. Cela pourrait signifier des protocoles d’évaluation standardisés, des critères de sécurité partagés ou encore un signalement obligatoire des incidents.
La vraie question : comment construire des standards qui ne deviennent pas un « regulatory capture » au profit des acteurs déjà en place ? Si OpenAI appelle à cela, soit ils sont sincèrement préoccupés par la sécurité, soit ils veulent définir les règles avant que les autres ne le fassent.
Pour les développeurs : quel que soit le cadre qui émergera, il influencera la façon dont vous déployez les modèles, les évaluations de sécurité que vous devrez exécuter et la documentation à préparer pour les systèmes en production. À suivre si vous lancez des produits IA.