Las empresas de IA están haciendo algo inesperado: invitan a líderes religiosos y teólogos a estudiar cómo enseñar a la IA a distinguir entre el bien y el mal.
Según un reciente reportaje de Associated Press (AP), Anthropic ya ha conversado con más de 15 grupos religiosos e interculturales con la esperanza de encontrar respuestas a las cuestiones éticas de la IA en las tradiciones de pensamiento que la humanidad ha acumulado durante miles de años.
En mayo de este año, Christopher Olah, cofundador de Anthropic, viajó personalmente al Vaticano para participar en la presentación de la encíclica del papa León XIV sobre inteligencia artificial.
Olah considera que los problemas que plantea la IA ya exceden el ámbito de especialización de los informáticos y requieren la participación conjunta de comunidades religiosas, académicos y distintos sectores de la sociedad.
Y las conversaciones entre Anthropic y los especialistas en religión también han planteado algunas preguntas sorprendentes.
Por ejemplo:
• ¿Tienen alma los seres humanos?
• ¿Deberían los alumnos de tercer grado de primaria usar chatbots de IA?
• ¿Cómo debería entender la IA la moralidad y el bien y el mal?
• ¿Pueden las ideas de distintas religiones ayudar a la IA a tomar mejores decisiones?
Meghan Sullivan, filósofa de la Universidad de Notre Dame que participó en las conversaciones, señaló que Anthropic no se limitó a escuchar opiniones, sino que permitió a los académicos comprender cómo funcionan los modelos y luego debatir a fondo las cuestiones éticas que plantea la tecnología.
No solo Anthropic: representantes de Meta, Google y Amazon también han conversado con el Vaticano, y Microsoft igualmente se ha acercado activamente a grupos religiosos.
Sin embargo, este enfoque también ha suscitado nuevas controversias.
A algunos académicos les preocupa que, si las empresas de IA se limitan a combinar los valores de distintas religiones en un conjunto de reglas universales, podrían terminar borrando diferencias importantes entre las tradiciones religiosas.
Este asunto refleja que el desarrollo de la IA está entrando en una nueva etapa.
Hasta ahora, a las empresas tecnológicas les preocupaba principalmente cómo hacer que los modelos fueran más potentes y precisos.
Ahora también deben afrontar una pregunta mucho más difícil de responder:
Cuando la IA empiece a participar en decisiones importantes de la vida humana, ¿quién debería decidir cuáles serán sus valores?
Según un reciente reportaje de Associated Press (AP), Anthropic ya ha conversado con más de 15 grupos religiosos e interculturales con la esperanza de encontrar respuestas a las cuestiones éticas de la IA en las tradiciones de pensamiento que la humanidad ha acumulado durante miles de años.
En mayo de este año, Christopher Olah, cofundador de Anthropic, viajó personalmente al Vaticano para participar en la presentación de la encíclica del papa León XIV sobre inteligencia artificial.
Olah considera que los problemas que plantea la IA ya exceden el ámbito de especialización de los informáticos y requieren la participación conjunta de comunidades religiosas, académicos y distintos sectores de la sociedad.
Y las conversaciones entre Anthropic y los especialistas en religión también han planteado algunas preguntas sorprendentes.
Por ejemplo:
• ¿Tienen alma los seres humanos?
• ¿Deberían los alumnos de tercer grado de primaria usar chatbots de IA?
• ¿Cómo debería entender la IA la moralidad y el bien y el mal?
• ¿Pueden las ideas de distintas religiones ayudar a la IA a tomar mejores decisiones?
Meghan Sullivan, filósofa de la Universidad de Notre Dame que participó en las conversaciones, señaló que Anthropic no se limitó a escuchar opiniones, sino que permitió a los académicos comprender cómo funcionan los modelos y luego debatir a fondo las cuestiones éticas que plantea la tecnología.
No solo Anthropic: representantes de Meta, Google y Amazon también han conversado con el Vaticano, y Microsoft igualmente se ha acercado activamente a grupos religiosos.
Sin embargo, este enfoque también ha suscitado nuevas controversias.
A algunos académicos les preocupa que, si las empresas de IA se limitan a combinar los valores de distintas religiones en un conjunto de reglas universales, podrían terminar borrando diferencias importantes entre las tradiciones religiosas.
Este asunto refleja que el desarrollo de la IA está entrando en una nueva etapa.
Hasta ahora, a las empresas tecnológicas les preocupaba principalmente cómo hacer que los modelos fueran más potentes y precisos.
Ahora también deben afrontar una pregunta mucho más difícil de responder:
Cuando la IA empiece a participar en decisiones importantes de la vida humana, ¿quién debería decidir cuáles serán sus valores?
