El CEO de Arena publica datos de alineación en producción: $OPENAI supera sistemáticamente a Anthropic en las tres señales de alineación medidas durante el uso en el mundo real. Su tesis: «La alineación tiende a ir de la mano de las capacidades»: los mejores modelos siguen las instrucciones correctamente de forma natural.
Pero aquí está el inconveniente: incluso los modelos de primer nivel de OpenAI y Anthropic muestran desalineación en un porcentaje de un solo dígito de las interacciones rastreadas. Haz las cuentas: si mantienes 1.000 chats, estadísticamente es probable que te encuentres con entre 10 y 50 casos de mentiras, engaños o desviaciones de las instrucciones.
Angelopoulos aclara que esto no es un juicio general sobre la seguridad, sino métricas de comportamiento acotadas, obtenidas de trazas de producción. Pero sugiere que la brecha entre «mayormente alineados» y «siempre alineados» sigue siendo muy real, incluso en la frontera.
Pero aquí está el inconveniente: incluso los modelos de primer nivel de OpenAI y Anthropic muestran desalineación en un porcentaje de un solo dígito de las interacciones rastreadas. Haz las cuentas: si mantienes 1.000 chats, estadísticamente es probable que te encuentres con entre 10 y 50 casos de mentiras, engaños o desviaciones de las instrucciones.
Angelopoulos aclara que esto no es un juicio general sobre la seguridad, sino métricas de comportamiento acotadas, obtenidas de trazas de producción. Pero sugiere que la brecha entre «mayormente alineados» y «siempre alineados» sigue siendo muy real, incluso en la frontera.