Destacados expertos en inteligencia artificial y figuras públicas han emitido una declaración en la que advierten de que la IA podría suponer una amenaza para la supervivencia de la humanidad, comparable o incluso mayor que los riesgos de pandemias y guerra nuclear. Los 350 firmantes sostienen que la IA podría tener consecuencias imprevistas y catastróficas, como el desarrollo de armas autónomas, la alteración de los sistemas sociales y económicos o la creación de agentes superinteligentes que podrían superar en inteligencia y poder a los humanos.
Los autores del comunicado piden a los responsables políticos que se tomen en serio estos riesgos y adopten medidas para garantizar un desarrollo seguro y beneficioso de la IA. La declaración está firmada por algunas de las figuras más importantes en la investigación y el desarrollo de la IA, como el director ejecutivo de OpenAI, Sam Altman, el cofundador de Skype Jaan Tallinn, el director ejecutivo de DeepMind, Demis Hassabis, y el científico informático de IA Geoffrey Hinton, así como personalidades públicas influyentes, como el músico Grimes y el podcaster Sam Harris.
Entre los firmantes se encontraban los ganadores del Premio Turing 2018 por sus contribuciones al aprendizaje profundo: Geoffrey Hinton y Yoshua Bengio. A ellos se unieron profesores de prestigiosas universidades como Harvard y la Universidad de Tsinghua en China, así como Max Tegmark del MIT.
“Mitigar el riesgo de extinción causado por la IA debería ser una prioridad global junto con otros riesgos a escala social, como las pandemias y las guerras nucleares”.
La carta publicada por CAIS afirma.
El Centro para la Seguridad de la IA (CAIS), una organización sin fines de lucro con sede en San Francisco, busca abordar las preocupaciones de seguridad relacionadas con la inteligencia artificial. Si bien reconoce los beneficios potenciales de la IA, CAIS enfatiza la necesidad de desarrollarla y utilizarla de forma segura. A pesar de los avances significativos en IA, la compañía considera que numerosos desafíos fundamentales en su seguridad siguen sin resolverse. Según su sitio web, la misión de CAIS es mitigar los riesgos mediante la investigación en seguridad, el fomento de una comunidad de investigadores en seguridad de la IA y la promoción de estándares de seguridad.
Existen muchos riesgos importantes y urgentes de la IA, no solo el riesgo de extinción; por ejemplo, el sesgo sistémico, la desinformación, el uso malicioso, los ciberataques y su uso como arma. Todos estos son riesgos importantes que deben abordarse. Las sociedades pueden gestionar múltiples riesgos a la vez; no se trata de una cuestión de "esto o lo otro", sino de "sí/y". Desde una perspectiva de gestión de riesgos, así como sería imprudente priorizar exclusivamente los daños presentes, también lo sería ignorarlos.
Dan Hendrycks, director de CAIS, escribió en Twitter.
En marzo, más de 1100 expertos en tecnología firmaron una carta abierta exigiendo una suspensión de seis meses del entrenamiento de sistemas de IA que superen el GPT-4. Los legisladores europeos también aprobaron recientemente un proyecto de ley más estricto, conocido como la Ley de IA, que regula herramientas de IA como ChatGPT. La ley incluye requisitos de comprobaciones de seguridad, gobernanza de datos y mitigación de riesgos para los modelos fundamentales de IA, y prohíbe prácticas como las técnicas de manipulación y ciertos usos de la biometría.
Leer más:
OpenAI presenta su último enfoque para garantizar la seguridad de la IA
¿Google va a anunciar un generador de texto a avatar para jugadores?
CodeWhisperer de Amazon ofrece a los desarrolladores la ventaja que necesitan en el campo de la IA.
Vitalik Buterin y el director de MIRI, Nate Soares, profundizan en los peligros de la IA
La publicación Expertos en IA y figuras públicas alertan sobre el riesgo de extinción de la IA apareció primero en Metaverse Post.