Les gars, cette fois-ci je n'ai pas regardé les logs des contributeurs, je me suis concentré sur les logs d'inférence OpenLoRA de @OpenLedger . C'est celui qui prétend qu'une seule GPU peut faire tourner des milliers de modèles, une manœuvre plutôt audacieuse. J'ai traîné pendant une semaine dans les logs des requêtes et j'ai découvert un phénomène intéressant. Sur une même GPU, il y a plus de trois cents modèles LoRA, mais plus de septante pour cent des requêtes d'inférence se concentrent sur seulement cinq modèles. Les autres trois cents modèles sont quasiment laissés à l'abandon. Pourquoi ? Parce qu'OpenLoRA, même s'il peut techniquement faire tourner beaucoup de modèles en même temps, suit toujours une règle de distribution de flux selon le poids des nœuds. Le flux est prioritairement dirigé vers les modèles associés aux nœuds avec le plus de $OPEN staké. Peu importe la qualité de ton modèle, s'il est attaché à un petit nœud, les requêtes des utilisateurs ne viendront jamais vers toi. L'architecture de #OpenLedger a effectivement ses mérites, elle peut faire tourner des centaines de modèles sur une seule carte sans planter, et le contrôle de la latence est plutôt bon. Mais le modèle économique donne tous les bénéfices de cette technologie aux gros investisseurs. Les modèles accrochés à des petits nœuds sont comme des boutiques cachées dans des ruelles, on ne les voit même pas. Ce qui est encore plus frustrant, c'est que lorsque les utilisateurs paient pour invoquer un modèle, la part qui revient au créateur du modèle est fixe. Peu importe la qualité de ton modèle, tant qu'il est invoqué, tu reçois la même part. Cela fait que personne ne veut investir du temps à optimiser des modèles de niche, car le nombre d'appels est trop faible, même avec un taux de partage élevé, tu ne gagnes pas grand-chose. Tandis que les modèles leaders, même avec une qualité moyenne, gagnent beaucoup d'argent grâce à leur gros volume de trafic. J'ai suivi les données d'un modèle peu connu. Ce modèle a un taux de précision de quinze pour cent supérieur à celui du modèle leader dans un domaine spécifique, mais il n'a été invoqué que moins de dix fois en une semaine. Le créateur du modèle a investi du temps et des ressources pour l'affiner, et à la fin il a récupéré $OPEN , ce qui ne couvre même pas ses frais de Gas. Pendant ce temps, le créateur du modèle leader n'a rien fait, juste parce qu'il est sous un gros nœud, il encaisse chaque semaine sans effort. Cette règle ne récompense pas l'innovation technique, mais favorise plutôt la concentration de capital. L'équipe n'est pas inconsciente de ce problème, mais si la règle de distribution de flux était modifiée pour se baser sur la qualité des modèles, ces gros stakers ne seraient pas d'accord, ils se mettraient à courir dès qu'ils verraient un changement dans le poids des nœuds. Si je devais investir de l'argent dans le développement de modèles, je préférerais rester dans le Bitcoin et l'Ethereum en attendant un marché haussier.