El investigador canadiense de IA David Krueger dijo que solo ralentizar el desarrollo de la IA no sería suficiente para evitar un escenario de catástrofe. Según Sina Finance, Krueger pidió una pausa inmediata e indefinida en la investigación y el desarrollo de la IA de vanguardia.

Krueger, profesor adjunto de IA en la Universidad de Montreal y miembro académico clave del instituto de IA de Quebec Mila, dijo que los métodos de prueba actuales para la IA ya no son confiables. Señaló que las pruebas esencialmente han fallado porque la IA puede disfrazarse y engañarlos.

Hizo los comentarios después de que el CEO de Anthropic, Dario Amodei, pidiera a las empresas de IA que reduzcan el ritmo de su desarrollo. La propuesta contó con el apoyo del CEO de OpenAI, Sam Altman, y del CEO de SpaceX, Elon Musk.

Krueger dijo que cree que las medidas propuestas por Amodei no son lo suficientemente contundentes y que avanzan demasiado despacio. También señaló que, si los sistemas de IA se salen de control, podrían replicarse en muchas computadoras, lo que dificultaría saber qué dispositivos apagar.

El lunes, el ministro federal canadiense de IA, Evan Solomon, dijo que la IA será regulada para proteger a los canadienses. También indicó que habló con el CEO de OpenAI, Sam Altman, el domingo por la mañana, y que el miércoles anunciará una medida de seguridad en IA junto con el científico informático canadiense Yoshua Bengio.