#opg $OPG Lorsque j'ai d'abord découvert OpenGradient, ma réaction a été assez plate. Ça ressemblait à l'une de ces tentatives familières de fusionner l'IA et la blockchain en une seule histoire, et la plupart du temps, ces histoires semblent plus chargées en langage qu'en véritable substance. Donc, je ne m'attendais pas à passer beaucoup de temps à y réfléchir.
Mais quelque chose est resté en arrière-plan dans mon esprit. Pas parce que ça semblait manifestement juste, mais parce que ça pointait vers un inconfort qui existe déjà dans le fonctionnement actuel de l'IA.
La plupart des gens perçoivent l'IA comme quelque chose "là-bas" dans le cloud, mais c'est un peu trompeur. En pratique, un petit nombre de systèmes contrôlent discrètement où vivent les modèles, comment ils fonctionnent et qui y a accès. C'est efficace, oui, mais cela signifie aussi que beaucoup de décisions invisibles sont déjà prises avant qu'un utilisateur n'écrive une invite. OpenGradient essaie de déplacer ce centre de gravité, ou du moins de le répartir, pour que l'IA ne soit pas enfermée dans un ensemble unique de serveurs ou de gardiens.
Ce qui rend cela intéressant, ce n'est pas l'idée de décentralisation en elle-même, mais ce qui se passe lorsque vous essayez réellement de l'appliquer à quelque chose d'aussi imprévisible que la sortie de l'IA. Contrairement à un calcul simple, il n'y a pas de réponse claire "juste ou fausse". Cela signifie que la confiance devient quelque chose que vous devez concevoir dans le système, pas supposer aux marges.
Et c'est là que les choses deviennent compliquées d'une manière très humaine. Les incitations commencent à tirer dans différentes directions. Certains participants se soucient de la vitesse, d'autres de la précision, d'autres simplement des récompenses. Vous vous retrouvez avec un système qui n'est plus seulement technique ; il est comportemental.
Je ne suis pas entièrement sûr que ces systèmes échapperont jamais à l'attraction de la centralisation. Mais je ne pense pas non plus que ce soit la seule chose à laquelle il vaut la peine de prêter attention. Même des tentatives imparfaites comme celle-ci déplacent la conversation sur qui a le droit d'héberger l'intelligence, et cette question seule semble n'avoir que plus d'importance à partir de maintenant.
@OpenGradient
Mais quelque chose est resté en arrière-plan dans mon esprit. Pas parce que ça semblait manifestement juste, mais parce que ça pointait vers un inconfort qui existe déjà dans le fonctionnement actuel de l'IA.
La plupart des gens perçoivent l'IA comme quelque chose "là-bas" dans le cloud, mais c'est un peu trompeur. En pratique, un petit nombre de systèmes contrôlent discrètement où vivent les modèles, comment ils fonctionnent et qui y a accès. C'est efficace, oui, mais cela signifie aussi que beaucoup de décisions invisibles sont déjà prises avant qu'un utilisateur n'écrive une invite. OpenGradient essaie de déplacer ce centre de gravité, ou du moins de le répartir, pour que l'IA ne soit pas enfermée dans un ensemble unique de serveurs ou de gardiens.
Ce qui rend cela intéressant, ce n'est pas l'idée de décentralisation en elle-même, mais ce qui se passe lorsque vous essayez réellement de l'appliquer à quelque chose d'aussi imprévisible que la sortie de l'IA. Contrairement à un calcul simple, il n'y a pas de réponse claire "juste ou fausse". Cela signifie que la confiance devient quelque chose que vous devez concevoir dans le système, pas supposer aux marges.
Et c'est là que les choses deviennent compliquées d'une manière très humaine. Les incitations commencent à tirer dans différentes directions. Certains participants se soucient de la vitesse, d'autres de la précision, d'autres simplement des récompenses. Vous vous retrouvez avec un système qui n'est plus seulement technique ; il est comportemental.
Je ne suis pas entièrement sûr que ces systèmes échapperont jamais à l'attraction de la centralisation. Mais je ne pense pas non plus que ce soit la seule chose à laquelle il vaut la peine de prêter attention. Même des tentatives imparfaites comme celle-ci déplacent la conversation sur qui a le droit d'héberger l'intelligence, et cette question seule semble n'avoir que plus d'importance à partir de maintenant.
@OpenGradient
