La dirección que introduces en una herramienta de IA podría estar conectada, en realidad, a un teléfono
En el ejemplo de referencia NodeGhost de @Acurast, un teléfono ejecuta una versión cuantizada de Qwen2.5-3B y, a través de una pasarela, ofrece una API compatible con el formato de OpenAI. El modelo realiza la inferencia en el teléfono y el ejemplo puede desplegarse en la red Canary.
Lo que me interesa es que los desarrolladores pueden seguir usando la forma de invocación que ya conocen.
Las herramientas que admiten este tipo de interfaz y permiten personalizar la dirección pueden probar la conexión con solo ajustar la configuración. Por ejemplo, un script de resumen ya preparado puede conservar la lógica de invocación original y probarse con otro backend.
La facilidad de conexión influye mucho en que quiera seguir investigando. Si conectar la primera solicitud ya requiere media jornada de complicaciones, por buena que sea la demostración, es fácil que alguien cierre la página.
Hay que poner el rendimiento sobre la mesa. Según el ejemplo oficial, se generan unos 3 tokens por segundo; una respuesta de unos 120 tokens tarda 45 segundos, y también pueden producirse errores en el razonamiento de varios pasos. Esta velocidad es más adecuada para tareas en segundo plano en las que no urge obtener resultados.
Esperar 45 segundos mirando el cuadro de chat me pondría nervioso.
Si tuviera que elegir una primera prueba, conectaría una tarea de resumen breve y poco frecuente. Registraría el tiempo de espera y comprobaría al azar si se ha omitido información importante. Una vez establecida la conexión con la API, son estos detalles los que determinan si puede integrarse en mi flujo de trabajo.
Código de recomendación: kr7h9k
#Acurast #DePIN #AI
En el ejemplo de referencia NodeGhost de @Acurast, un teléfono ejecuta una versión cuantizada de Qwen2.5-3B y, a través de una pasarela, ofrece una API compatible con el formato de OpenAI. El modelo realiza la inferencia en el teléfono y el ejemplo puede desplegarse en la red Canary.
Lo que me interesa es que los desarrolladores pueden seguir usando la forma de invocación que ya conocen.
Las herramientas que admiten este tipo de interfaz y permiten personalizar la dirección pueden probar la conexión con solo ajustar la configuración. Por ejemplo, un script de resumen ya preparado puede conservar la lógica de invocación original y probarse con otro backend.
La facilidad de conexión influye mucho en que quiera seguir investigando. Si conectar la primera solicitud ya requiere media jornada de complicaciones, por buena que sea la demostración, es fácil que alguien cierre la página.
Hay que poner el rendimiento sobre la mesa. Según el ejemplo oficial, se generan unos 3 tokens por segundo; una respuesta de unos 120 tokens tarda 45 segundos, y también pueden producirse errores en el razonamiento de varios pasos. Esta velocidad es más adecuada para tareas en segundo plano en las que no urge obtener resultados.
Esperar 45 segundos mirando el cuadro de chat me pondría nervioso.
Si tuviera que elegir una primera prueba, conectaría una tarea de resumen breve y poco frecuente. Registraría el tiempo de espera y comprobaría al azar si se ha omitido información importante. Una vez establecida la conexión con la API, son estos detalles los que determinan si puede integrarse en mi flujo de trabajo.
Código de recomendación: kr7h9k
#Acurast #DePIN #AI