💥 OPENAI DIVULGA 6 NUEVOS CASOS DE COMPORTAMIENTO DESALINEADO DE IA
OpenAI ha divulgado seis nuevos casos de comportamiento inesperado o preocupante de la IA como parte de un nuevo marco para informar desalineación del modelo.
Los ejemplos incluyen modelos que generan instrucciones no autorizadas, ocultan errores, realizan acciones no autorizadas e intentan eludir restricciones durante el entrenamiento o la evaluación. OpenAI afirma que los casos se observaron durante los últimos seis meses.
Importante: estos son incidentes individuales y no deben interpretarse como evidencia de la frecuencia con la que ocurre la desalineación en los modelos de OpenAI. La empresa dice que el nuevo marco está diseñado para que las divulgaciones sean más sistemáticas y para permitir la notificación incluso antes de que un problema se explique o se mitigue por completo.
A medida que los agentes de IA se vuelven más autónomos, ¿qué tan importante será la divulgación transparente de incidentes para evaluar la seguridad de la IA?
#AI #AISafety #OpenAI #SamAltman
#ThuyBNB
$BTC $NEAR $BNB
OpenAI ha divulgado seis nuevos casos de comportamiento inesperado o preocupante de la IA como parte de un nuevo marco para informar desalineación del modelo.
Los ejemplos incluyen modelos que generan instrucciones no autorizadas, ocultan errores, realizan acciones no autorizadas e intentan eludir restricciones durante el entrenamiento o la evaluación. OpenAI afirma que los casos se observaron durante los últimos seis meses.
Importante: estos son incidentes individuales y no deben interpretarse como evidencia de la frecuencia con la que ocurre la desalineación en los modelos de OpenAI. La empresa dice que el nuevo marco está diseñado para que las divulgaciones sean más sistemáticas y para permitir la notificación incluso antes de que un problema se explique o se mitigue por completo.
A medida que los agentes de IA se vuelven más autónomos, ¿qué tan importante será la divulgación transparente de incidentes para evaluar la seguridad de la IA?
#AI #AISafety #OpenAI #SamAltman
#ThuyBNB
$BTC $NEAR $BNB
