Une application doit appeler un service d’embeddings : faut-il forcément acheter ses propres serveurs pour fournir la puissance de calcul ?
Dans l’écosystème $DOGE , une approche consiste à répartir le travail : les nœuds se fournissent mutuellement de la puissance de calcul vectoriel. Le modèle utilisé est bge-m3, multilingue et doté de 1024 dimensions. Côté appelant, l’interface est compatible avec OpenAI : /v1/embeddings. Les requêtes sont automatiquement transférées vers les nœuds de calcul en ligne, en privilégiant ceux qui répondent rapidement ; en cas d’échec, le système passe au suivant. Les fournisseurs de puissance de calcul n’ont qu’à activer une option sur un Mac avec Apple Silicon. Le modèle occupe environ 1 GB sur le disque et est téléchargé puis vérifié automatiquement lors de la première utilisation.
Ce type de solution convient aux requêtes nombreuses et sensibles à la latence, sans exigence quant au fournisseur cloud utilisé. Le revers est clairement indiqué : le texte est envoyé en clair à d’autres nœuds ; mieux vaut donc ne pas y transmettre de contenu sensible.
#Dogecoin #Blockchain $DOGE
Tout investissement comporte des risques.
Dans l’écosystème $DOGE , une approche consiste à répartir le travail : les nœuds se fournissent mutuellement de la puissance de calcul vectoriel. Le modèle utilisé est bge-m3, multilingue et doté de 1024 dimensions. Côté appelant, l’interface est compatible avec OpenAI : /v1/embeddings. Les requêtes sont automatiquement transférées vers les nœuds de calcul en ligne, en privilégiant ceux qui répondent rapidement ; en cas d’échec, le système passe au suivant. Les fournisseurs de puissance de calcul n’ont qu’à activer une option sur un Mac avec Apple Silicon. Le modèle occupe environ 1 GB sur le disque et est téléchargé puis vérifié automatiquement lors de la première utilisation.
Ce type de solution convient aux requêtes nombreuses et sensibles à la latence, sans exigence quant au fournisseur cloud utilisé. Le revers est clairement indiqué : le texte est envoyé en clair à d’autres nœuds ; mieux vaut donc ne pas y transmettre de contenu sensible.
#Dogecoin #Blockchain $DOGE
Tout investissement comporte des risques.