Le vaste secteur des modèles de langage continue de croître alors que StabilityAI, fabricant du populaire outil de génération d'images Stable Diffusion, a lancé une suite d'outils de modèles de langage open source.
Baptisées StableLM, les versions alpha accessibles au public de la suite contiennent actuellement des modèles comportant trois et sept milliards de paramètres, avec des modèles de 15, 30 et 65 milliards de paramètres notés comme « en cours » et un modèle de 175 milliards prévu pour un développement futur.
Annonce de StableLM❗Nous publions le premier de nos grands modèles de langage, en commençant par les modèles de paramètres 3B et 7B, suivis de 15 à 65B. Nos LLM sont publiés sous licence CC BY-SA. Nous publions également des modèles optimisés RLHF à des fins de recherche. Lire la suite → https://t.co/R66Wa4gbnW pic.twitter.com/gvDDJMFBYJ
– Stabilité IA (@StabilityAI) 19 avril 2023
À titre de comparaison, GPT-4 a un nombre de paramètres estimé à mille milliards, soit six fois plus élevé que son prédécesseur GPT-3.
Cependant, le nombre de paramètres n'est peut-être pas une mesure uniforme de l'efficacité du LLM, comme l'a noté Stability AI dans son article de blog annonçant le lancement de StableLM :
« StableLM est formé sur un nouvel ensemble de données expérimentales construit sur The Pile, mais trois fois plus grand avec 1,5 billion de jetons de contenu […] La richesse de cet ensemble de données donne à StableLM des performances étonnamment élevées dans les tâches conversationnelles et de codage, malgré sa petite taille de 3 à 7 milliards de paramètres.
On ne sait pas encore exactement à quel point les modèles StableLM sont robustes. L'équipe StabilityAI a noté sur la page Github de l'organisation que plus d'informations sur les capacités du LM seraient à venir, y compris les spécifications du modèle et les paramètres de formation.
À condition que les modèles fonctionnent suffisamment bien lors des tests, l’arrivée d’une puissante alternative open source au ChatGPT d’OpenAI pourrait s’avérer intéressante pour le monde du trading de crypto-monnaie.
Comme Cointelegraph l'a signalé, les gens créent des robots de trading avancés en plus de l'API GPT et de nouvelles variantes intégrant l'accès à des outils tiers, tels que BabyAGI et AutoGPT.
L’ajout de modèles open source pourrait être une aubaine pour les traders férus de technologie qui ne veulent pas payer les primes d’accès d’OpenAI.
Les personnes intéressées peuvent tester une interface en direct pour le modèle StableLM à paramètres 7B hébergé sur HuggingFace. Cependant, au moment de la publication de cet article, nos tentatives en ce sens ont révélé que le site Web était débordé ou à pleine capacité.