Selon CNBC, OpenAI a publié lundi des propositions en matière de sécurité et de sûreté pour le développement d’une intelligence artificielle de pointe, axées sur la recherche d’alignement et l’amélioration récursive de soi, ou RSI. La société a indiqué que la coopération internationale est nécessaire pour élaborer des normes de pointe et a exhorté les régulateurs à s’appuyer sur les travaux des instituts existants de sécurité de l’IA à travers le monde. OpenAI a déclaré que ces normes doivent être centrées sur les modèles d’IA de pointe et les développeurs, ainsi que sur la gestion des risques et des bénéfices pour les chercheurs en IA automatisés, y compris le RSI. La société a affirmé que le RSI entièrement autonome n’a pas lieu aujourd’hui et ne devrait pas être poursuivi à moins qu’il puisse être réalisé en toute sécurité, avertissant qu’un tel scénario pourrait laisser les humains sans contrôle pratique sur le développement de l’IA. La semaine dernière, Anthropic a publié ses propres idées pour le développement sûr de modèles d’IA de pointe.