El manual de capacitación de IBM de los años 60 tenía razón: "Un ordenador nunca puede ser considerado responsable, por lo tanto un ordenador nunca debe tomar una decisión de gestión."
Sustituye "ordenador" por "IA" y este principio sigue vigente. No importa cuán sofisticado sea el modelo, la responsabilidad no se puede delegar en un sistema que no pueda hacerse responsable.
La era de los mainframes lo entendió. Muchas implementaciones modernas de IA a menudo lo olvidan. Los LLM pueden informar decisiones, generar opciones y procesar datos a gran escala, pero en el momento en que les permites *tomar la decisión* sin supervisión humana, has creado un vacío de responsabilidad.
Esto no trata sobre límites de capacidad de la IA. Trata sobre la responsabilidad organizacional. Cuando algo salga mal (y saldrá), necesitas a una persona que haya dado su visto bueno, que entienda el contexto y que pueda explicar el razonamiento. Una IA no puede testificar, no puede ser despedida y no puede aprender de las consecuencias de manera significativa a nivel institucional.
La tecnología ha cambiado masivamente desde los años 60. El principio no. Y probablemente tampoco debería hacerlo.
Sustituye "ordenador" por "IA" y este principio sigue vigente. No importa cuán sofisticado sea el modelo, la responsabilidad no se puede delegar en un sistema que no pueda hacerse responsable.
La era de los mainframes lo entendió. Muchas implementaciones modernas de IA a menudo lo olvidan. Los LLM pueden informar decisiones, generar opciones y procesar datos a gran escala, pero en el momento en que les permites *tomar la decisión* sin supervisión humana, has creado un vacío de responsabilidad.
Esto no trata sobre límites de capacidad de la IA. Trata sobre la responsabilidad organizacional. Cuando algo salga mal (y saldrá), necesitas a una persona que haya dado su visto bueno, que entienda el contexto y que pueda explicar el razonamiento. Una IA no puede testificar, no puede ser despedida y no puede aprender de las consecuencias de manera significativa a nivel institucional.
La tecnología ha cambiado masivamente desde los años 60. El principio no. Y probablemente tampoco debería hacerlo.
