Sakana AI afirma que su método MASS podría permitir a los sistemas de IA mejorar en tareas demasiado complejas para que los humanos las juzguen con fiabilidad, eliminando un cuello de botella clave del entrenamiento.
Puntos clave
Sakana AI publicó su artículo MASS el domingo, proponiendo agentes que se supervisan entre sí para generar señales de entrenamiento sin validación externa
MASS se dirige a tareas demasiado complejas para que los humanos las juzguen de forma fiable, donde el entrenamiento tradicional no puede depender de datos etiquetados ni de retroalimentación humana
El método utiliza múltiples agentes de IA que trabajan en paralelo para revisar y criticar el trabajo de los demás
Sakana AI no ha publicado comparaciones de referencia contra líneas base de aprendizaje por refuerzo de un solo agente, dejando pendiente la verificación independiente de las mejoras de rendimiento
El artículo, titulado Recursive Self-Improvement through Multi-Agent Self-Supervision, o MASS, se publicó el domingo y fue compartido por el investigador de IA hardmaru, uno de los propios investigadores del laboratorio.
El problema central que aborda MASS es qué ocurre cuando los modelos de IA afrontan tareas tan complicadas que ningún revisor humano puede decir con confianza si la salida es correcta. El entrenamiento tradicional de IA depende de datos etiquetados o de retroalimentación humana para indicar a un modelo cuándo ha tenido éxito o ha fallado.
hardmaru describió el desafío directamente, preguntando cómo puede seguir mejorando la IA “cuando las tareas se vuelven demasiado complejas para que los humanos las juzguen de forma fiable”. MASS responde a eso sustituyendo a un único juez humano o a una única IA por un grupo de agentes que se supervisan entre sí, verifican cruzadamente las salidas y generan su propia señal de entrenamiento sin esperar validación externa.
Qué significa realmente la auto-mejora multiagente
Sakana AI describe MASS como un sistema que genera señales de entrenamiento mediante agentes que se supervisan entre sí, en lugar de depender de respuestas etiquetadas externamente.
La solución propuesta por Sakana AI utiliza múltiples agentes de IA que trabajan en paralelo, cada uno revisando y criticando el trabajo de los demás, con patrones de desacuerdo y consenso que actúan como sustituto de la corrección.
El enfoque presenta la técnica específicamente como un bucle recursivo, lo que significa que cada ronda de crítica entre agentes alimenta directamente la siguiente generación de entrenamiento.
Leer también: Los agentes de IA desbloquean recortes de costos de 657 veces, revela un nuevo benchmark
Una carrera reñida para resolver el límite de escalado de la IA
La IA auto-mejorable se ha convertido este año en uno de los frentes de investigación más disputados del sector. Varios laboratorios importantes han impulsado por separado técnicas de aprendizaje por refuerzo que convierten tareas verificables en señales de recompensa, un enfoque relacionado pero distinto que depende de que las tareas tengan respuestas correctas claras.
El artículo MASS de Sakana AI se diferencia por apuntar al caso mucho más difícil de tareas sin ningún tipo de verdad terreno verificable, una brecha que ha limitado hasta dónde pueden escalar los métodos actuales de posentrenamiento.
Las implicaciones son estructurales. A medida que los laboratorios de IA empujan a los modelos hacia tareas más largas y autónomas, la oferta de datos de entrenamiento etiquetados por humanos no ha seguido el ritmo de la complejidad de lo que los modelos intentan hacer.
Si bucles de auto-supervisión como MASS pueden sustituir de forma fiable el juicio humano en tareas complejas, se elimina uno de los cuellos de botella más claros que limitan hasta dónde pueden escalar los métodos de entrenamiento actuales, independientemente de cuánta capacidad de cómputo puedan comprar los laboratorios.
Qué vigilar de aquí en adelante
Sakana AI no ha publicado hasta ahora comparaciones de referencia contra líneas base de aprendizaje por refuerzo de un solo agente en el material compartido, por lo que la verificación independiente de las mejoras reales de rendimiento de MASS sigue pendiente.
Los investigadores estarán atentos a la publicación del artículo completo con estudios de ablación, el tipo de experimentos que aíslan exactamente qué parte de la configuración multiagente impulsa cualquier mejora, antes de sacar conclusiones firmes sobre su fiabilidad en el mundo real.
Leer siguiente: Hugging Face clona las pruebas matemáticas de OpenAI y admite que el verificador es “temprano y rudimentario”