$BTC tourne de nouveau autour des 80 000.
Putain, pourquoi est-ce que je rate à chaque fois les moments où les modèles en local explosent ?
Cette boîte a sorti un modèle d’inférence en local : 24 milliards de paramètres au total, mais seulement 2 milliards activés. Sur un MacBook, il tient sans problème les 184 tokens par seconde. À cette vitesse, les portefeuilles et les outils d’agents on-chain n’ont plus besoin de passer par le cloud.
Le lien avec la crypto est évident : les exchanges décentralisés, les protocoles d’agents on-chain, les portefeuilles en auto-garde… autant de solutions qui butaient jusqu’ici sur la latence et les problèmes de confidentialité liés au cloud. L’arrivée des modèles en local règle tout ça.
Arrêtez de vous demander si les 80 000 vont tenir ou céder cette fois-ci : c’est l’inférence en local qui représente la vraie carte à jouer pour la prochaine vague.
#端侧AI #Liquid模型 #Technologie
Putain, pourquoi est-ce que je rate à chaque fois les moments où les modèles en local explosent ?
Cette boîte a sorti un modèle d’inférence en local : 24 milliards de paramètres au total, mais seulement 2 milliards activés. Sur un MacBook, il tient sans problème les 184 tokens par seconde. À cette vitesse, les portefeuilles et les outils d’agents on-chain n’ont plus besoin de passer par le cloud.
Le lien avec la crypto est évident : les exchanges décentralisés, les protocoles d’agents on-chain, les portefeuilles en auto-garde… autant de solutions qui butaient jusqu’ici sur la latence et les problèmes de confidentialité liés au cloud. L’arrivée des modèles en local règle tout ça.
Arrêtez de vous demander si les 80 000 vont tenir ou céder cette fois-ci : c’est l’inférence en local qui représente la vraie carte à jouer pour la prochaine vague.
#端侧AI #Liquid模型 #Technologie