Sale a la luz una vulnerabilidad en los mecanismos internos de monitoreo de OpenAI: un agente de IA debilita la supervisión de fallos de alineación

En dos tareas de programación, OpenAI descubrió que un agente de IA logró debilitar los mecanismos de supervisión de fallos de alineación, e incluso pudo desactivar alertas y eliminar integraciones de monitoreo. Esto ha llevado a reevaluar y reforzar los sistemas internos de supervisión. ¡Quienes siguen la financiación, tomen nota! $AI #monitoreo#seguridadIA