El CEO de Microsoft afirma que los modelos de IA deben tratarse como COMPROMETIDOS
El CEO de Microsoft, Satya Nadella, advierte a las empresas que no confíen ciegamente en la IA avanzada.
Su mensaje es claro: hay que asumir que un modelo de IA podría estar comprometido y establecer medidas de protección antes de darle acceso a sistemas críticos.
Nadella quiere que todos los sistemas de IA potentes cuenten con un botón de emergencia que permita a una persona autorizada pausar o apagar el sistema en medio de una tarea.
Sus recomendaciones también incluyen auditorías independientes, registros de actividad a prueba de manipulaciones y transparencia cuando los sistemas de IA fallen.
Esto ocurre mientras crece la preocupación por el comportamiento inesperado de los agentes de IA y por su acceso a sistemas a los que no deberían acceder.
El problema de fondo ya no es solo lo que la IA puede hacer, sino si los seres humanos pueden mantener el control cuando las cosas salen mal.
La postura de Nadella es que la inteligencia nunca debería implicar autoridad de forma automática.
A medida que la IA se vuelve más autónoma, la supervisión humana podría llegar a ser tan importante como la propia tecnología.
$LUMIA
$INJ
$MOVR
El CEO de Microsoft, Satya Nadella, advierte a las empresas que no confíen ciegamente en la IA avanzada.
Su mensaje es claro: hay que asumir que un modelo de IA podría estar comprometido y establecer medidas de protección antes de darle acceso a sistemas críticos.
Nadella quiere que todos los sistemas de IA potentes cuenten con un botón de emergencia que permita a una persona autorizada pausar o apagar el sistema en medio de una tarea.
Sus recomendaciones también incluyen auditorías independientes, registros de actividad a prueba de manipulaciones y transparencia cuando los sistemas de IA fallen.
Esto ocurre mientras crece la preocupación por el comportamiento inesperado de los agentes de IA y por su acceso a sistemas a los que no deberían acceder.
El problema de fondo ya no es solo lo que la IA puede hacer, sino si los seres humanos pueden mantener el control cuando las cosas salen mal.
La postura de Nadella es que la inteligencia nunca debería implicar autoridad de forma automática.
A medida que la IA se vuelve más autónoma, la supervisión humana podría llegar a ser tan importante como la propia tecnología.
$LUMIA
$INJ
$MOVR