El fin de semana saqué ese viejo disco duro mecánico que he estado usando durante cinco años, listo para limpiar un poco de fotos viejas. Al encenderlo, vi que tenía sectores dañados, y más de 200 G de material se me fueron al garete. Me quedé en el suelo maldiciendo y de repente recordé la noticia de @OpenGradient sobre cómo Model Hub se integró a fondo con Walrus; almacenamiento de pesos de modelos permanente, direccionamiento de contenido, resistencia a la censura, suena como si fuera escrito para personas como yo que han perdido datos.
Antes siempre lo había catalogado dentro de las cadenas de inferencia de IA comunes, pensando que el almacenamiento era simplemente conectar un IPFS y listo. Pero al investigar, descubrí que OpenGradient toma a Walrus como su backend de almacenamiento principal, y hasta los de Walrus han respaldado que OpenGradient es su mayor usuario, manejando más de 100 modelos de IA. La combinación de un proyecto de almacenamiento líder en el ecosistema Sui y una cadena de IA suena bastante bien, pero hay que hacer los números. $HEI
Un modelo de pesos de código abierto convencional fácilmente pesa varios G a decenas de G; al poner más de 100 modelos, el volumen de almacenamiento fácilmente supera los niveles de TB. Walrus utiliza codificación de borrado para dividir un solo dato en cientos de fragmentos distribuidos en nodos; el costo real de almacenar una sola copia en la cadena es el número de redundancias multiplicado por el precio unitario. Cada vez que se actualiza un modelo, ¿se debe conservar la versión anterior? Hacer un retroceso de versiones, realizar pruebas A/B, hacer auditorías de cumplimiento; cada versión adicional significa una nueva factura de almacenamiento. La llamada de inferencia de OpenGradient necesita extraer pesos de Walrus para correr en precompilación, y ese tirón y corrida viene con costos de ancho de banda y latencia; a largo plazo, ¿quién cubrirá eso?
Lo más crítico es el riesgo implícito del acoplamiento entre ecosistemas. Si la red principal de Walrus realmente tiene problemas, si el modelo económico de Sui se ajusta o si los incentivos de nodos caen, ¿los más de 100 modelos de OpenGradient se contagiarán también? Hablar sobre narrativas interecosistémicas suena bien, pero si las dependencias bajo el capó se acoplan demasiado, un fallo puntual se convierte en una resonancia de doble punto. $ATM
La próxima semana sacaré el tiempo real de llamada de algunos modelos de alta frecuencia en Model Hub y lo compararé con la distribución de nodos de Walrus; ver solo el borrador de PR no sirve de nada.
El disco duro sigue girando y haciendo ruido, mientras espero que el software de recuperación de datos termine, me pregunto si esos pesos de modelos que se guardaron permanentemente en Walrus vivirán más que este disco duro físico. #opg $OPG