Los pioneros de la IA advierten sobre los riesgos de los modelos avanzados y piden reforzar la supervisión
Durante la semana pasada aumentaron las advertencias destacadas de destacados desarrolladores y expertos en inteligencia artificial de todo el mundo sobre los riesgos existenciales que podrían conllevar los modelos inteligentes más avanzados, con un incremento de los llamamientos para imponer más controles y endurecer las medidas de seguridad.
Los debates se intensificaron tras la renuncia de un investigador de la empresa Anthropic, que advirtió que la IA podría suponer una amenaza real para la humanidad en los próximos años.
Esta postura llevó a los líderes de algunas de las empresas más prominentes, incluidas OpenAI, Anthropic y Google DeepMind, a adoptar un discurso unificado que pide la cautela al desarrollar modelos más grandes y más inteligentes.
Sarah Friar, directora financiera de OpenAI, confirmó que la empresa se toma la seguridad muy en serio, añadiendo que el ritmo de desarrollo de las tecnologías de IA debe estar alineado con las recomendaciones de los investigadores y expertos, incluso si eso implica ralentizar los procesos a corto plazo.
Geoffrey Hinton, uno de los fundadores del enfoque de aprendizaje profundo, subrayó que los investigadores en los laboratorios punteros tienen información temprana sobre los riesgos de los sistemas modernos antes de que se lancen al público.
$AAPL.US
$NVDA.US
$ADI.US
Durante la semana pasada aumentaron las advertencias destacadas de destacados desarrolladores y expertos en inteligencia artificial de todo el mundo sobre los riesgos existenciales que podrían conllevar los modelos inteligentes más avanzados, con un incremento de los llamamientos para imponer más controles y endurecer las medidas de seguridad.
Los debates se intensificaron tras la renuncia de un investigador de la empresa Anthropic, que advirtió que la IA podría suponer una amenaza real para la humanidad en los próximos años.
Esta postura llevó a los líderes de algunas de las empresas más prominentes, incluidas OpenAI, Anthropic y Google DeepMind, a adoptar un discurso unificado que pide la cautela al desarrollar modelos más grandes y más inteligentes.
Sarah Friar, directora financiera de OpenAI, confirmó que la empresa se toma la seguridad muy en serio, añadiendo que el ritmo de desarrollo de las tecnologías de IA debe estar alineado con las recomendaciones de los investigadores y expertos, incluso si eso implica ralentizar los procesos a corto plazo.
Geoffrey Hinton, uno de los fundadores del enfoque de aprendizaje profundo, subrayó que los investigadores en los laboratorios punteros tienen información temprana sobre los riesgos de los sistemas modernos antes de que se lancen al público.
$AAPL.US
$NVDA.US
$ADI.US
