Le problème de fiabilité croissant dans l'intelligence artificielle
Au cours des dernières années, j'ai remarqué quelque chose d'intéressant à propos de l'intelligence artificielle. La technologie devient incroyablement puissante, mais en même temps, il y a un problème silencieux dont la plupart des gens ne parlent pas assez. L'IA peut sembler très confiante même lorsqu'elle a tort. Quiconque a utilisé des outils modernes d'IA a probablement fait cette expérience. Vous posez une question et le système donne une réponse claire, parfois même avec des explications et des références. Mais plus tard, vous réalisez qu'une partie de la réponse était incorrecte.
Cela se produit parce que la plupart des systèmes d'IA fonctionnent en prédisant le mot suivant le plus probable plutôt qu'en prouvant des faits. Ils sont extrêmement bons pour produire un langage qui semble correct, mais cela ne signifie pas que l'information est toujours précise. Ce problème est souvent appelé "hallucination de l'IA". Même les modèles avancés produisent parfois des informations erronées ou biaisées, ce qui rend leur confiance difficile dans des domaines importants comme la finance, l'éducation, la santé ou le droit.
Pourquoi la vérification pourrait-elle être plus importante que l'intelligence
Le concept de Mira devient plus compréhensible une fois que l'on considère la façon dont les humains confirment les informations. En science, on peut difficilement croire une affirmation faite par un individu. La déclaration est mise à l'épreuve par d'autres chercheurs, recréant l'expérience et vérifiant les preuves. Ce n'est que lorsque cette affirmation est prouvée encore et encore qu'elle se transforme en connaissance acceptée.
Mira tente de transférer une valeur comparable à l'intelligence artificielle. La sortie du modèle d'un seul modèle n'est pas automatiquement fiable dans le réseau. Elle décompose plutôt une réponse d'IA en revendications plus petites qui peuvent être vérifiées. Ces assertions sont ensuite soumises à un certain nombre de modèles indépendants ou de nœuds de vérification qui les examinent individuellement.
Ce qui est intéressant dans ce design, c'est qu'il considère la vérité comme quelque chose qui résulte d'un consensus parmi diverses attitudes plutôt que d'être quelque chose d'interprété de manière centrale.
Le but de la décentralisation du système.
L'autre aspect qui fait que Mira se distingue à mon avis est la manière dont sa vérification est organisée. Le réseau ne s'appuie pas sur une seule entreprise ou un serveur centralisé pour effectuer la vérification, mais plutôt sur un grand nombre de participants indépendants. Ces participants exécutent divers modèles d'IA et des revendications déposées au réseau.
Cette organisation décentralisée est importante car elle élimine les risques de favoritisme ou de manipulation. Lorsque la vérification est effectuée par une seule organisation, il existe une possibilité qu'elle puisse être biaisée quant aux réponses qui devraient être considérées comme acceptables. Cependant, une fois que le nombre de validateurs indépendants est important, le résultat sera plus équilibré.
En termes simples, Mira tente d'établir une couche de confiance avec l'intelligence artificielle.
Motifs qui rendent le système honnête.
Les incitations sont l'une des choses que je ne néglige jamais lorsque j'étudie les projets crypto. La technologie est à peine suffisante. Ces systèmes ont tendance à fonctionner, car les individus sont punis s'ils n'agissent pas correctement.
Mira propose un système d'incitation par tokens qui motive les validateurs à soumettre la vérification correcte. Les parties prenantes peuvent parier pour rejoindre le réseau et obtenir une récompense lorsqu'elles effectuent correctement la vérification. Dans le cas où elles offrent une vérification négligente ou mensongère, une partie de leur mise peut être perdue.
Une autre approche de la pensée sur l'infrastructure de l'IA.
Moins je considère Mira, plus il semble s'agir d'un projet d'infrastructure et non d'un autre token crypto. Il n'aspire pas à créer un chatbot meilleur ou un modèle plus intelligent. Au contraire, il s'inquiète de quelque chose de plus profond : garantir que les résultats de l'IA sont crédibles.
Mira cherche le concept selon lequel ce n'est pas seulement l'intelligence qui suffit. Ce dont nous avons besoin est l'intelligence sur laquelle nous pouvons compter.