$BTC vuelve a rondar los 80.000.
¿Cómo demonios consigo perderme siempre los momentos en que despegan los modelos en el dispositivo?
Esta empresa ha lanzado un modelo de inferencia en el dispositivo con 24.000 millones de parámetros, pero solo activa 2.000 millones. En los portátiles de Apple alcanza de forma estable los 184 tokens por segundo. Esa velocidad significa que las billeteras y las herramientas de agentes en cadena ya no tendrán que pasar por la nube.
La relación con el mundo cripto es directa: los exchanges descentralizados, los protocolos de agentes en cadena y las billeteras de autocustodia, que antes sufrían por la latencia de la nube y los problemas de privacidad, encuentran solución con la llegada de los modelos en el dispositivo.
Dejen de darle vueltas a si esta vez los 80.000 aguantarán o se romperán. La inferencia en el dispositivo es la verdadera carta ganadora de la próxima ola.
#端侧AI #Liquid模型 #Tecnología
¿Cómo demonios consigo perderme siempre los momentos en que despegan los modelos en el dispositivo?
Esta empresa ha lanzado un modelo de inferencia en el dispositivo con 24.000 millones de parámetros, pero solo activa 2.000 millones. En los portátiles de Apple alcanza de forma estable los 184 tokens por segundo. Esa velocidad significa que las billeteras y las herramientas de agentes en cadena ya no tendrán que pasar por la nube.
La relación con el mundo cripto es directa: los exchanges descentralizados, los protocolos de agentes en cadena y las billeteras de autocustodia, que antes sufrían por la latencia de la nube y los problemas de privacidad, encuentran solución con la llegada de los modelos en el dispositivo.
Dejen de darle vueltas a si esta vez los 80.000 aguantarán o se romperán. La inferencia en el dispositivo es la verdadera carta ganadora de la próxima ola.
#端侧AI #Liquid模型 #Tecnología