Le monde mérite d’avoir confiance dans le fait que les entreprises américaines qui développent une IA de plus en plus performante agiront de manière responsable, en particulier alors que la trajectoire des progrès s’est accélérée. Chaque laboratoire de pointe doit s’en montrer capable, et il n’y a aucune raison pour que l’un d’entre nous aille travailler si nous ne le pouvons pas.
Nous accueillons favorablement un cadre fédéral qui fixe des exigences de sécurité cohérentes pour l’IA de pointe. Mais nous ne pensons pas qu’il faille attendre une exemption antitrust ou une loi pour commencer à instaurer cette confiance. Des règles cohérentes pour gérer le risque de l’IA de pointe afin que nous puissions maximiser les bénéfices sont une bonne idée (et nous sommes enthousiasmés par des initiatives comme des auditeurs indépendants).
Il y a des années, des entreprises comme la nôtre ont développé des éléments tels que des politiques d’augmentation responsable et des cadres de préparation. C’était bien pour cette période précise, et cela était principalement axé sur le déploiement de modèles achevés, plutôt que sur ce qui se passe pendant leur processus de développement.
Le virage d’aujourd’hui vers un développement et une évaluation sûrs nécessitera de nouveaux outils. Par exemple, chez OpenAI, nous formulons désormais des « dossiers de sécurité » explicites avant de lancer des parcours d’apprentissage par renforcement à la pointe de la technologie, dont nous nous attendons à ce qu’ils augmentent significativement les capacités, en plus du travail de sécurité que nous avons longtemps mené avant la publication de modèles.
Nous espérons que d’autres entreprises s’inspireront de notre approche et proposeront la leur ; nous pensons que des standards partagés en matière de désalignement, de suivi et de sécurité conduiront à de meilleurs résultats. Nous sommes impatients de collaborer avec nos collègues de l’ensemble de l’industrie afin d’en définir la meilleure version.
Quand nous parlons de « rythme », nous ne voulons pas dire « arrêt ». Les progrès ont été rapides et continueront de l’être. Mais ils devraient être plus lents qu’ils ne pourraient l’être ; des interventions comme les dossiers de sécurité et la surveillance entraînent des coûts importants.
Ce rythme en vaudra la peine ; aucune pression concurrentielle américaine ne devrait justifier l’imprudence, ni permettre que les capacités dépassent l’alignement et la surveillance.
Là où nous aurons besoin de l’aide de notre gouvernement, c’est pour la coordination internationale. Mais avant cela, nous devrions d’abord faire ce que nous pouvons nous-mêmes.
Nous accueillons favorablement un cadre fédéral qui fixe des exigences de sécurité cohérentes pour l’IA de pointe. Mais nous ne pensons pas qu’il faille attendre une exemption antitrust ou une loi pour commencer à instaurer cette confiance. Des règles cohérentes pour gérer le risque de l’IA de pointe afin que nous puissions maximiser les bénéfices sont une bonne idée (et nous sommes enthousiasmés par des initiatives comme des auditeurs indépendants).
Il y a des années, des entreprises comme la nôtre ont développé des éléments tels que des politiques d’augmentation responsable et des cadres de préparation. C’était bien pour cette période précise, et cela était principalement axé sur le déploiement de modèles achevés, plutôt que sur ce qui se passe pendant leur processus de développement.
Le virage d’aujourd’hui vers un développement et une évaluation sûrs nécessitera de nouveaux outils. Par exemple, chez OpenAI, nous formulons désormais des « dossiers de sécurité » explicites avant de lancer des parcours d’apprentissage par renforcement à la pointe de la technologie, dont nous nous attendons à ce qu’ils augmentent significativement les capacités, en plus du travail de sécurité que nous avons longtemps mené avant la publication de modèles.
Nous espérons que d’autres entreprises s’inspireront de notre approche et proposeront la leur ; nous pensons que des standards partagés en matière de désalignement, de suivi et de sécurité conduiront à de meilleurs résultats. Nous sommes impatients de collaborer avec nos collègues de l’ensemble de l’industrie afin d’en définir la meilleure version.
Quand nous parlons de « rythme », nous ne voulons pas dire « arrêt ». Les progrès ont été rapides et continueront de l’être. Mais ils devraient être plus lents qu’ils ne pourraient l’être ; des interventions comme les dossiers de sécurité et la surveillance entraînent des coûts importants.
Ce rythme en vaudra la peine ; aucune pression concurrentielle américaine ne devrait justifier l’imprudence, ni permettre que les capacités dépassent l’alignement et la surveillance.
Là où nous aurons besoin de l’aide de notre gouvernement, c’est pour la coordination internationale. Mais avant cela, nous devrions d’abord faire ce que nous pouvons nous-mêmes.