Acaba de lanzarse un repositorio gratuito de código abierto que te permite ejecutar GLM-5.3 Flash, DeepSeek V4 Flash y Kimi K3 localmente.
No necesitas GPU. Sin cuotas de tokens en un servicio alojado.
¿Cuál es el inconveniente? Vas a necesitar bastante espacio de almacenamiento.
Si te han limitado por tasa o estás cansado de pagar llamadas a una API, esta podría ser tu jugada. Inferencia local = control total, cero intermediarios.
Solo asegúrate de que tu disco duro pueda con ello.
No necesitas GPU. Sin cuotas de tokens en un servicio alojado.
¿Cuál es el inconveniente? Vas a necesitar bastante espacio de almacenamiento.
Si te han limitado por tasa o estás cansado de pagar llamadas a una API, esta podría ser tu jugada. Inferencia local = control total, cero intermediarios.
Solo asegúrate de que tu disco duro pueda con ello.