$WLD Le monde mérite la confiance que les entreprises américaines qui développent une IA de plus en plus performante agiront de manière responsable, surtout alors que la trajectoire des progrès s’est accélérée. Chaque laboratoire de pointe doit répondre à cet engagement, et il n’y a aucune raison pour que l’un d’entre nous vienne travailler si nous ne pouvons pas le faire.
Nous accueillons favorablement un cadre fédéral qui fixe des exigences de sécurité cohérentes pour l’IA de pointe. Mais nous ne pensons pas qu’il soit nécessaire d’attendre une exemption à la législation antitrust ou une loi pour commencer à fournir cette confiance. Des règles cohérentes pour gérer le risque à la frontière de la technologie afin que nous puissions maximiser les bénéfices sont une bonne idée (et nous sommes enthousiastes à l’idée de partenaires comme des auditeurs indépendants).
Il y a des années, des entreprises comme la nôtre ont développé des éléments tels que des politiques de mise à l’échelle responsable et des cadres de préparation. C’était bien pour ce moment-là, et cela se concentrait principalement sur le déploiement de modèles achevés, plutôt que sur ce qui se passe pendant leur processus de développement.
Le virage d’aujourd’hui vers une mise au point et une évaluation sûres nécessitera de nouveaux outils. Par exemple, chez OpenAI, nous formulons désormais explicitement des dossiers de sécurité avant même le lancement d’expériences d’apprentissage par renforcement à la frontière de la technologie, que nous prévoyons d’augmenter nettement les capacités, en plus du travail de sécurité que nous avons fait de longue date avant les mises en production des modèles.
Nous espérons que d’autres entreprises s’inspireront de nos approches et proposeront les leurs ; nous pensons que des standards partagés pour la désalignement, la surveillance et la sécurité mèneront à de meilleurs résultats. Nous avons hâte de collaborer avec nos collègues de l’ensemble de l’industrie pour formuler la meilleure version de ces standards.
Quand nous parlons de « rythme », nous ne voulons pas dire « arrêt ». Le progrès a été rapide et il continuera. Mais il devrait être plus lent que ce qu’il pourrait être autrement : des interventions comme les dossiers de sécurité et la surveillance ont des coûts importants.
Le rythme en vaudra largement le coût ; aucune pression concurrentielle américaine ne devrait justifier l’imprudence, ni permettre que les capacités passent avant l’alignement et la surveillance.
Là où nous aurons besoin de l’aide de notre gouvernement, c’est pour la coordination internationale. Mais d’abord, nous devrions faire ce que nous pouvons nous-mêmes.
#SamAltman #OpenAI #chatgpt
Nous accueillons favorablement un cadre fédéral qui fixe des exigences de sécurité cohérentes pour l’IA de pointe. Mais nous ne pensons pas qu’il soit nécessaire d’attendre une exemption à la législation antitrust ou une loi pour commencer à fournir cette confiance. Des règles cohérentes pour gérer le risque à la frontière de la technologie afin que nous puissions maximiser les bénéfices sont une bonne idée (et nous sommes enthousiastes à l’idée de partenaires comme des auditeurs indépendants).
Il y a des années, des entreprises comme la nôtre ont développé des éléments tels que des politiques de mise à l’échelle responsable et des cadres de préparation. C’était bien pour ce moment-là, et cela se concentrait principalement sur le déploiement de modèles achevés, plutôt que sur ce qui se passe pendant leur processus de développement.
Le virage d’aujourd’hui vers une mise au point et une évaluation sûres nécessitera de nouveaux outils. Par exemple, chez OpenAI, nous formulons désormais explicitement des dossiers de sécurité avant même le lancement d’expériences d’apprentissage par renforcement à la frontière de la technologie, que nous prévoyons d’augmenter nettement les capacités, en plus du travail de sécurité que nous avons fait de longue date avant les mises en production des modèles.
Nous espérons que d’autres entreprises s’inspireront de nos approches et proposeront les leurs ; nous pensons que des standards partagés pour la désalignement, la surveillance et la sécurité mèneront à de meilleurs résultats. Nous avons hâte de collaborer avec nos collègues de l’ensemble de l’industrie pour formuler la meilleure version de ces standards.
Quand nous parlons de « rythme », nous ne voulons pas dire « arrêt ». Le progrès a été rapide et il continuera. Mais il devrait être plus lent que ce qu’il pourrait être autrement : des interventions comme les dossiers de sécurité et la surveillance ont des coûts importants.
Le rythme en vaudra largement le coût ; aucune pression concurrentielle américaine ne devrait justifier l’imprudence, ni permettre que les capacités passent avant l’alignement et la surveillance.
Là où nous aurons besoin de l’aide de notre gouvernement, c’est pour la coordination internationale. Mais d’abord, nous devrions faire ce que nous pouvons nous-mêmes.
#SamAltman #OpenAI #chatgpt