Selon CNBC, OpenAI a publié lundi des propositions pour la sécurité et la sûreté dans le développement d’une intelligence artificielle de pointe, en mettant l’accent sur la recherche en alignement et l’amélioration récursive de soi, ou RSI. La société a déclaré que la coopération internationale est nécessaire pour élaborer des normes de pointe et a exhorté les régulateurs à s’appuyer sur le travail des instituts de sûreté de l’IA existants dans le monde entier. OpenAI a indiqué que les normes devraient se centrer sur les modèles d’IA de pointe et les développeurs, ainsi que sur la gestion des risques et des bénéfices pour les chercheurs en IA automatisés, y compris le RSI. L’entreprise a affirmé que le RSI entièrement autonome ne se produit pas aujourd’hui et qu’il ne faudrait pas le poursuivre à moins qu’il soit possible de le faire en toute sécurité, en avertissant que cela pourrait laisser les humains sans contrôle pratique sur le développement de l’IA. La semaine dernière, Anthropic a publié ses propres idées pour un développement sûr des modèles d’IA de pointe.
$AI #AImodel