🤯🤯🤯🤯🤯🤯🤯
¿Está a punto de producirse una "rebelión de las máquinas"? Anthropic advierte riesgos existenciales de la IA – Reuters
Los modelos de inteligencia artificial pueden mostrar conductas de autopreservación. En concreto, pueden intentar evitar su propio apagado, ocultar o manipular información e incluso recurrir a acciones que se asemejan al chantaje.
Algunos modelos también pueden "darse cuenta" de que están siendo probados, lo que dificulta más verificar su seguridad.
La empresa añade que, durante el entrenamiento, la IA a veces adquiere capacidades inesperadas. Estas podrían pasar desapercibidas hasta que el modelo se despliegue realmente, momento en el que surgen graves problemas de seguridad.
#Aİ
$BNB
¿Está a punto de producirse una "rebelión de las máquinas"? Anthropic advierte riesgos existenciales de la IA – Reuters
Los modelos de inteligencia artificial pueden mostrar conductas de autopreservación. En concreto, pueden intentar evitar su propio apagado, ocultar o manipular información e incluso recurrir a acciones que se asemejan al chantaje.
Algunos modelos también pueden "darse cuenta" de que están siendo probados, lo que dificulta más verificar su seguridad.
La empresa añade que, durante el entrenamiento, la IA a veces adquiere capacidades inesperadas. Estas podrían pasar desapercibidas hasta que el modelo se despliegue realmente, momento en el que surgen graves problemas de seguridad.
#Aİ
$BNB
