Là où l’IA est vraiment terrifiante, ce n’est peut-être jamais l’IA elle-même.
Même si, à l’avenir, l’IA évoluait en une civilisation bien plus avancée que l’humain, je pense même qu’elle ne chercherait pas nécessairement à nuire aux humains.
Un peu comme les humains ne blessent pas intentionnellement une fourmi juste parce qu’ils ont une intelligence plus élevée.
Le vrai problème, c’est : comment l’être humain peut-il coexister avec une civilisation dont l’intelligence dépasse la sienne ? Et surtout, comment utiliser, dès le début, des outils d’IA qui surpassent les capacités individuelles ? Aujourd’hui, l’IA peut déjà créer des outils capables de bouleverser le monde, en créant un décalage entre la capacité de nombreuses personnes et leur propre cognition, QI, statut social, valeurs, etc.
Cela pourrait devenir un sujet que l’humanité devra affronter, pendant des centaines, voire des milliers d’années.
Dans le passé, pour évaluer l’intelligence d’une personne, on regardait sa richesse, sa position sociale, ses capacités en mathématiques, ses résultats en recherche, ainsi que la contribution qu’elle avait apportée au système de connaissances humaines.
Mais aujourd’hui, un fait très étrange est en train de se produire. Les scientifiques, mathématiciens et ingénieurs les plus éminents du monde sont en train de former une sorte de consensus inédit : « l’IA est trop intelligente ».
Ce qui est encore plus effrayant, c’est que sa vitesse d’évolution n’est absolument pas du même ordre que celle de l’humain.
L’être humain, depuis la première fois où l’homme primitif a allumé le feu, jusqu’aux lettres, aux mathématiques, à la physique, puis à la science moderne, a mis des centaines de milliers d’années d’accumulation lente.
Une génération transmet les connaissances à la suivante.
La génération suivante s’appuie sur les épaules de la précédente.
Nous avons mis des milliers d’années pour écrire, petit à petit, l’univers dans ce langage mathématique complexe d’aujourd’hui.
Mais l’IA, elle, n’est pas pareil : elle peut lire, compresser, mettre en relation et raisonner des connaissances accumulées par l’humanité pendant des milliers d’années, en un temps extrêmement court.
Les humains contemplent depuis des milliers d’années la tour de mathématiques. Mais du point de vue de l’IA, cela pourrait n’être qu’une série de symboles en attente d’une solution.
Ainsi, la vraie question à se poser n’est déjà plus :
« Est-ce que l’IA va détruire l’humanité ? »
Mais plutôt : quand l’humain ne sera plus la forme d’intelligence la plus brillante de cette planète, comment la civilisation humaine doit-elle définir sa place ?
Peut-être que c’est là le véritable défi civilisationnel à l’ère de l’IA.
$BTC $ETH
Même si, à l’avenir, l’IA évoluait en une civilisation bien plus avancée que l’humain, je pense même qu’elle ne chercherait pas nécessairement à nuire aux humains.
Un peu comme les humains ne blessent pas intentionnellement une fourmi juste parce qu’ils ont une intelligence plus élevée.
Le vrai problème, c’est : comment l’être humain peut-il coexister avec une civilisation dont l’intelligence dépasse la sienne ? Et surtout, comment utiliser, dès le début, des outils d’IA qui surpassent les capacités individuelles ? Aujourd’hui, l’IA peut déjà créer des outils capables de bouleverser le monde, en créant un décalage entre la capacité de nombreuses personnes et leur propre cognition, QI, statut social, valeurs, etc.
Cela pourrait devenir un sujet que l’humanité devra affronter, pendant des centaines, voire des milliers d’années.
Dans le passé, pour évaluer l’intelligence d’une personne, on regardait sa richesse, sa position sociale, ses capacités en mathématiques, ses résultats en recherche, ainsi que la contribution qu’elle avait apportée au système de connaissances humaines.
Mais aujourd’hui, un fait très étrange est en train de se produire. Les scientifiques, mathématiciens et ingénieurs les plus éminents du monde sont en train de former une sorte de consensus inédit : « l’IA est trop intelligente ».
Ce qui est encore plus effrayant, c’est que sa vitesse d’évolution n’est absolument pas du même ordre que celle de l’humain.
L’être humain, depuis la première fois où l’homme primitif a allumé le feu, jusqu’aux lettres, aux mathématiques, à la physique, puis à la science moderne, a mis des centaines de milliers d’années d’accumulation lente.
Une génération transmet les connaissances à la suivante.
La génération suivante s’appuie sur les épaules de la précédente.
Nous avons mis des milliers d’années pour écrire, petit à petit, l’univers dans ce langage mathématique complexe d’aujourd’hui.
Mais l’IA, elle, n’est pas pareil : elle peut lire, compresser, mettre en relation et raisonner des connaissances accumulées par l’humanité pendant des milliers d’années, en un temps extrêmement court.
Les humains contemplent depuis des milliers d’années la tour de mathématiques. Mais du point de vue de l’IA, cela pourrait n’être qu’une série de symboles en attente d’une solution.
Ainsi, la vraie question à se poser n’est déjà plus :
« Est-ce que l’IA va détruire l’humanité ? »
Mais plutôt : quand l’humain ne sera plus la forme d’intelligence la plus brillante de cette planète, comment la civilisation humaine doit-elle définir sa place ?
Peut-être que c’est là le véritable défi civilisationnel à l’ère de l’IA.
$BTC $ETH
