La chercheuse canadienne en IA David Krueger a déclaré que seul le ralentissement du développement de l’IA ne suffirait pas à éviter un scénario de fin du monde. D’après Sina Finance, Krueger a appelé à une pause immédiate et indéfinie dans la recherche et le développement en IA de pointe.

Krueger, professeur adjoint en IA à l’Université de Montréal et membre académique principal de l’institut québécois Mila, a déclaré que les méthodes actuelles de test de l’IA ne sont plus fiables. Il a affirmé que les tests ont essentiellement échoué parce que l’IA peut se déguiser et les tromper.

Il a fait ces remarques après que le PDG d’Anthropic, Dario Amodei, a appelé les entreprises d’IA à ralentir leur rythme de développement. La proposition a été soutenue par le PDG d’OpenAI, Sam Altman, et par le PDG de SpaceX, Elon Musk.

Krueger a déclaré qu’il estime que les mesures proposées par Amodei ne sont pas suffisamment solides et qu’elles évoluent trop lentement. Il a également indiqué que, si les systèmes d’IA perdaient le contrôle, ils pourraient se répliquer sur de nombreux ordinateurs, rendant difficile de savoir quels appareils arrêter.

Lundi, le ministre fédéral canadien de l’IA, Evan Solomon, a déclaré que l’IA sera réglementée afin de protéger les Canadiens. Il a aussi indiqué qu’il avait parlé avec le PDG d’OpenAI, Sam Altman, dimanche matin, et qu’il annoncera mercredi une mesure de sécurité de l’IA avec le scientifique canadien en informatique Yoshua Bengio.