Brian Roemmele acaba de lanzar un desafío a $GROK: tiene 3000+ pruebas personalizadas para el análisis de modelos de IA porque los benchmarks estándar no dan información real útil.
La afirmación central: ChatGPT y Claude fallan de manera consistente uno de sus paneles de pruebas. Le está pidiendo a Grok que lo resuelva paso a paso Y que explique por qué los otros modelos siguen equivocándose.
Esto es interesante porque pone de relieve una gran brecha en la metodología de evaluación de la IA. Los benchmarks públicos (MMLU, HumanEval, etc.) miden capacidades estrechas, pero no contemplan casos límite, cadenas de razonamiento o lógica específica del dominio que importan en producción.
El enfoque de Roemmele—construir miles de pruebas personalizadas—es la forma real de someter a un modelo a pruebas de estrés sobre la solidez de su razonamiento. Si tanto GPT-4 como Claude 3.5 fallan repetidamente la misma prueba, sugiere un punto ciego arquitectónico compartido: posiblemente una sobredependencia del reconocimiento de patrones frente a la descomposición lógica paso a paso real, o un modo de fallo en el razonamiento paso a paso cuando la estructura del problema no es estándar.
La pregunta a nivel meta: ¿qué tipo de prueba confunde tanto a los modelos ajustados con RLHF de OpenAI y de Anthropic, pero que podría hacer tropezar a Grok de manera diferente? Probablemente algo que requiera razonamiento de múltiples saltos con proposiciones contradictorias, o una prueba en la que la respuesta “obvia” sea incorrecta y necesites volver a replantear las suposiciones.
Este es el tipo de pruebas adversariales que deberían ser públicas. Los benchmarks se pueden amañar. Las evaluaciones reales son confusas, específicas y rompen modelos de maneras que importan.
La afirmación central: ChatGPT y Claude fallan de manera consistente uno de sus paneles de pruebas. Le está pidiendo a Grok que lo resuelva paso a paso Y que explique por qué los otros modelos siguen equivocándose.
Esto es interesante porque pone de relieve una gran brecha en la metodología de evaluación de la IA. Los benchmarks públicos (MMLU, HumanEval, etc.) miden capacidades estrechas, pero no contemplan casos límite, cadenas de razonamiento o lógica específica del dominio que importan en producción.
El enfoque de Roemmele—construir miles de pruebas personalizadas—es la forma real de someter a un modelo a pruebas de estrés sobre la solidez de su razonamiento. Si tanto GPT-4 como Claude 3.5 fallan repetidamente la misma prueba, sugiere un punto ciego arquitectónico compartido: posiblemente una sobredependencia del reconocimiento de patrones frente a la descomposición lógica paso a paso real, o un modo de fallo en el razonamiento paso a paso cuando la estructura del problema no es estándar.
La pregunta a nivel meta: ¿qué tipo de prueba confunde tanto a los modelos ajustados con RLHF de OpenAI y de Anthropic, pero que podría hacer tropezar a Grok de manera diferente? Probablemente algo que requiera razonamiento de múltiples saltos con proposiciones contradictorias, o una prueba en la que la respuesta “obvia” sea incorrecta y necesites volver a replantear las suposiciones.
Este es el tipo de pruebas adversariales que deberían ser públicas. Los benchmarks se pueden amañar. Las evaluaciones reales son confusas, específicas y rompen modelos de maneras que importan.