Je me souviens d'avoir testé différents outils d'IA l'année dernière et d'avoir remarqué quelque chose d'étrange.
La plupart des gens passaient beaucoup de temps à comparer quel modèle était le plus intelligent.
Presque personne ne se demandait si la sortie pouvait réellement être fiable.
Au début, je pensais que c'était normal.
Après tout, l'intelligence semblait être la chose la plus importante.
Mais plus je regarde cette industrie évoluer, plus je pense que nous négligeons quelque chose de bien plus précieux.
La vérification.
En ce moment, l'IA devient moins chère, plus rapide et plus accessible.
De nouveaux modèles apparaissent chaque mois.
Les capacités se répandent rapidement.
Ce qui était unique hier devient souvent standard demain.
Cela me fait me demander :
Si l'intelligence devient de plus en plus facile d'accès, qu'est-ce qui reste réellement rare ?
Je reviens toujours à la confiance.
Pas la confiance comme un sentiment.
La confiance comme une ressource économique.
La capacité de vérifier d'où vient l'intelligence, qui l'a produite, si elle a été altérée, et si l'activité qui l'entoure est authentique.
C'est une des raisons pour lesquelles @OpenGradient a attiré mon attention.
Pas à cause de ce qu'il prétend construire, mais parce qu'il se situe près d'un problème que je pense que le marché sous-estime encore.
À mesure que les réseaux d'IA se développent, la vérification pourrait devenir tout aussi importante que l'intelligence elle-même.
Bien sûr, il y a des risques.
Les systèmes de vérification peuvent être manipulés.
Les incitations peuvent attirer des activités sans créer de véritables utilisateurs.
La rétention peut s'affaiblir une fois les récompenses disparues.
Donc je ne suis pas convaincu que quiconque ait encore résolu cela.
Mais je continue à me demander :
Quand l'IA deviendra abondante, la valeur viendra-t-elle de la création d'intelligence ou de la preuve que l'intelligence peut être fiable ?
#opg $OPG @OpenGradient
La plupart des gens passaient beaucoup de temps à comparer quel modèle était le plus intelligent.
Presque personne ne se demandait si la sortie pouvait réellement être fiable.
Au début, je pensais que c'était normal.
Après tout, l'intelligence semblait être la chose la plus importante.
Mais plus je regarde cette industrie évoluer, plus je pense que nous négligeons quelque chose de bien plus précieux.
La vérification.
En ce moment, l'IA devient moins chère, plus rapide et plus accessible.
De nouveaux modèles apparaissent chaque mois.
Les capacités se répandent rapidement.
Ce qui était unique hier devient souvent standard demain.
Cela me fait me demander :
Si l'intelligence devient de plus en plus facile d'accès, qu'est-ce qui reste réellement rare ?
Je reviens toujours à la confiance.
Pas la confiance comme un sentiment.
La confiance comme une ressource économique.
La capacité de vérifier d'où vient l'intelligence, qui l'a produite, si elle a été altérée, et si l'activité qui l'entoure est authentique.
C'est une des raisons pour lesquelles @OpenGradient a attiré mon attention.
Pas à cause de ce qu'il prétend construire, mais parce qu'il se situe près d'un problème que je pense que le marché sous-estime encore.
À mesure que les réseaux d'IA se développent, la vérification pourrait devenir tout aussi importante que l'intelligence elle-même.
Bien sûr, il y a des risques.
Les systèmes de vérification peuvent être manipulés.
Les incitations peuvent attirer des activités sans créer de véritables utilisateurs.
La rétention peut s'affaiblir une fois les récompenses disparues.
Donc je ne suis pas convaincu que quiconque ait encore résolu cela.
Mais je continue à me demander :
Quand l'IA deviendra abondante, la valeur viendra-t-elle de la création d'intelligence ou de la preuve que l'intelligence peut être fiable ?
#opg $OPG @OpenGradient