Ces derniers jours, les discussions dans le milieu de l’IA ont beaucoup bougé.
Le changement d’orientation est assez clair.
Autrefois, les personnes qui brandissaient le plus fort le risque lié à l’IA étaient surtout des chercheurs externes. Désormais, même plusieurs entreprises qui travaillent sur les modèles les plus à la pointe commencent à demander activement de ralentir un peu.
Dario Amodei, d’Anthropic, a proposé de contrôler la vitesse de développement de l’IA de pointe, et a aussi suggéré que des organismes d’évaluation indépendants puissent entrer directement dans les laboratoires d’IA pour des contrôles à long terme.
Résultat : Sam Altman a publiquement déclaré être d’accord, et OpenAI prévoit également d’adopter un mécanisme d’évaluation indépendante similaire. Musk a aussi répondu directement : « Dario a raison ».
Aux États-Unis, le Sénat discute même désormais de nouveaux dispositifs de régulation. L’idée est d’exiger que les entreprises d’IA prouvent qu’elles ont mis en place des mesures raisonnables pour empêcher que les modèles ne causent de graves dommages, et le gouvernement pourrait aussi obtenir l’autorisation de tester directement les modèles.
Le point le plus subtil se situe ici.
Ceux qui ont le plus intérêt à continuer de pousser les modèles vers l’avant sont aussi, paradoxalement, parmi les plus fréquents à venir débattre de « est-ce que ça va trop vite ».
#OpenAI商讨新一轮融资估值约1.2万亿美元 $NVDAB $AAPL.US $AAPLB
Le changement d’orientation est assez clair.
Autrefois, les personnes qui brandissaient le plus fort le risque lié à l’IA étaient surtout des chercheurs externes. Désormais, même plusieurs entreprises qui travaillent sur les modèles les plus à la pointe commencent à demander activement de ralentir un peu.
Dario Amodei, d’Anthropic, a proposé de contrôler la vitesse de développement de l’IA de pointe, et a aussi suggéré que des organismes d’évaluation indépendants puissent entrer directement dans les laboratoires d’IA pour des contrôles à long terme.
Résultat : Sam Altman a publiquement déclaré être d’accord, et OpenAI prévoit également d’adopter un mécanisme d’évaluation indépendante similaire. Musk a aussi répondu directement : « Dario a raison ».
Aux États-Unis, le Sénat discute même désormais de nouveaux dispositifs de régulation. L’idée est d’exiger que les entreprises d’IA prouvent qu’elles ont mis en place des mesures raisonnables pour empêcher que les modèles ne causent de graves dommages, et le gouvernement pourrait aussi obtenir l’autorisation de tester directement les modèles.
Le point le plus subtil se situe ici.
Ceux qui ont le plus intérêt à continuer de pousser les modèles vers l’avant sont aussi, paradoxalement, parmi les plus fréquents à venir débattre de « est-ce que ça va trop vite ».
#OpenAI商讨新一轮融资估值约1.2万亿美元 $NVDAB $AAPL.US $AAPLB