Al ver que una pequeña herramienta de IA respondía bien a las preguntas, lo primero que pensé fue: «¿No se podría usar ya?». Pero ponerla a disposición de otras personas es otra historia. Hay que volver a plantearse si la conexión es fluida y si el punto de acceso es seguro.
Esta vez, al revisar el tutorial de LLM de @Acurast, me fijé precisamente en este tema. La documentación oficial explica cómo ejecutar modelos GGUF en un Processor móvil, usar el servidor llama integrado para hacer inferencias y ofrecer una API compatible con OpenAI. Las aplicaciones que ya utilizan este tipo de interfaz podrían conectarse directamente a un modelo en el móvil con solo cambiar algunos ajustes.
Lo interesante es que, para permitir el acceso externo al modelo, el tutorial usa localtunnel. La propia documentación oficial advierte que este ejemplo no es seguro y que no debe ponerse en producción tal cual. El modelo ya está funcionando y se puede llamar a la API, pero la seguridad apenas empieza a abordarse. Es una advertencia muy sensata.
Después descubrí que #Acurast también tiene una guía específica sobre Tunnel: permite acceder desde fuera a los servicios del móvil mediante un túnel inverso, admite HTTPS y permite verificar un dominio propio. Es una solución distinta de localtunnel, que aparece en el tutorial anterior. Aunque se use HTTPS, todavía hay que revisar punto por punto la autenticación y los permisos de acceso de la propia aplicación.
Me gusta que la documentación oficial hable con claridad de estas limitaciones. Poder ejecutar modelos de IA en un móvil ya es bastante interesante, pero entre tener un ejemplo que funciona y ofrecer algo que otras personas puedan usar de forma estable durante mucho tiempo, aún quedan muchos detalles por resolver. Los usuarios comunes quieren algo sencillo: abrirlo y usarlo, sin tener que preguntarse si el punto de acceso al que se conectan es seguro.
👉 https://hub.acurast.com/rebellion?ref=apksoh
Esta vez, al revisar el tutorial de LLM de @Acurast, me fijé precisamente en este tema. La documentación oficial explica cómo ejecutar modelos GGUF en un Processor móvil, usar el servidor llama integrado para hacer inferencias y ofrecer una API compatible con OpenAI. Las aplicaciones que ya utilizan este tipo de interfaz podrían conectarse directamente a un modelo en el móvil con solo cambiar algunos ajustes.
Lo interesante es que, para permitir el acceso externo al modelo, el tutorial usa localtunnel. La propia documentación oficial advierte que este ejemplo no es seguro y que no debe ponerse en producción tal cual. El modelo ya está funcionando y se puede llamar a la API, pero la seguridad apenas empieza a abordarse. Es una advertencia muy sensata.
Después descubrí que #Acurast también tiene una guía específica sobre Tunnel: permite acceder desde fuera a los servicios del móvil mediante un túnel inverso, admite HTTPS y permite verificar un dominio propio. Es una solución distinta de localtunnel, que aparece en el tutorial anterior. Aunque se use HTTPS, todavía hay que revisar punto por punto la autenticación y los permisos de acceso de la propia aplicación.
Me gusta que la documentación oficial hable con claridad de estas limitaciones. Poder ejecutar modelos de IA en un móvil ya es bastante interesante, pero entre tener un ejemplo que funciona y ofrecer algo que otras personas puedan usar de forma estable durante mucho tiempo, aún quedan muchos detalles por resolver. Los usuarios comunes quieren algo sencillo: abrirlo y usarlo, sin tener que preguntarse si el punto de acceso al que se conectan es seguro.
👉 https://hub.acurast.com/rebellion?ref=apksoh