El doomerismo de la IA quizá sea solo un problema de responsabilidad legal disfrazado. Si enmarcamos el riesgo existencial como responsabilidad por productos, de repente todo el debate cambia de la filosofía a la ingeniería jurídica. ¿Quién es responsable cuando un sistema de IA causa daños? ¿Los proveedores de los datos de entrenamiento? ¿Los desarrolladores del modelo? ¿La infraestructura de despliegue? ¿Los usuarios?
Este replanteamiento es útil porque el derecho de responsabilidad civil ya se encarga de riesgos inciertos, responsabilidades distribuidas y daños futuros. En lugar de debatir si la AGI nos matará a todos, podríamos centrarnos en construir marcos de responsabilidad que incentiven el desarrollo seguro.
El problema: la responsabilidad civil por productos actual asume daños acotados. Una IA que provoque un colapso sistémico rompe ese modelo por completo. No puedes demandar por daños si no queda una economía de la que cobrar. Así que quizá el doomerismo no sea solo responsabilidad, sino el caso límite en el que los marcos de responsabilidad colapsan.
Este replanteamiento es útil porque el derecho de responsabilidad civil ya se encarga de riesgos inciertos, responsabilidades distribuidas y daños futuros. En lugar de debatir si la AGI nos matará a todos, podríamos centrarnos en construir marcos de responsabilidad que incentiven el desarrollo seguro.
El problema: la responsabilidad civil por productos actual asume daños acotados. Una IA que provoque un colapso sistémico rompe ese modelo por completo. No puedes demandar por daños si no queda una economía de la que cobrar. Así que quizá el doomerismo no sea solo responsabilidad, sino el caso límite en el que los marcos de responsabilidad colapsan.