SoL-Pi: recorta a la mitad los tokens de un paper ≠ la factura se corta de golpe
En el paper se indica que el flujo de tokens se reduce entre 44,7% y 49%; y que el coste del API, aproximadamente, baja un tercio. Pero no te apresures a pensar que tu propia factura actual de tu agente ya ha quedado a la mitad.
La publicación de SoL-Pi de NVIDIA, NTU y MIT, se obtuvo al enfrentarlo en EdgeBench contra 51 tareas, comparándolo con su propio andamiaje de Pi. Los cuatro mecanismos están todos enganchados en la capa harness: fusión de acciones, compresión de contexto en línea (online) para encajar hacia arriba y hacia abajo, ObservationPack y compresión de evidencias con verificación; sin cambiar el peso de los modelos. En comparación con el shell original de Codex/Claude Code, los autores estiman un ahorro de aproximadamente 8,75 a 13,5 dólares por hora.
Esa línea de tu cuenta no encaja, a menos que conectes esas cuatro piezas al shell que estás usando. El conjunto de evaluación se ve impresionante, pero no equivale a que en producción se vaya a ahorrar igual; mientras no se replique, esos porcentajes solo viven en el paper.
$NVDA
En el paper se indica que el flujo de tokens se reduce entre 44,7% y 49%; y que el coste del API, aproximadamente, baja un tercio. Pero no te apresures a pensar que tu propia factura actual de tu agente ya ha quedado a la mitad.
La publicación de SoL-Pi de NVIDIA, NTU y MIT, se obtuvo al enfrentarlo en EdgeBench contra 51 tareas, comparándolo con su propio andamiaje de Pi. Los cuatro mecanismos están todos enganchados en la capa harness: fusión de acciones, compresión de contexto en línea (online) para encajar hacia arriba y hacia abajo, ObservationPack y compresión de evidencias con verificación; sin cambiar el peso de los modelos. En comparación con el shell original de Codex/Claude Code, los autores estiman un ahorro de aproximadamente 8,75 a 13,5 dólares por hora.
Esa línea de tu cuenta no encaja, a menos que conectes esas cuatro piezas al shell que estás usando. El conjunto de evaluación se ve impresionante, pero no equivale a que en producción se vaya a ahorrar igual; mientras no se replique, esos porcentajes solo viven en el paper.
$NVDA
