L’IA a besoin d’une Red Team 👀
Un élément du travail de Theoriq sur Targon m’a marqué davantage que les modèles eux-mêmes.
Ils ont conçu un agent dont le rôle est de contredire.
Pas d’optimiser le résultat.
Pas de rendre la recherche plus “attrayante”.
Essayer de le faire échouer.
L’agent adversarial vérifie indépendamment les données brutes, les hypothèses et les sorties, traque les fuites et tente d’invalider les conclusions avant qu’elles ne soient acceptées.
Theoriq affirme que ce processus a déjà permis de détecter des défauts qui auraient produit des faux positifs et entraîné la rétractation de certaines conclusions antérieures.
C’est une leçon étonnamment importante pour l’IA décentralisée.
Alors que des écosystèmes comme $TAO et $RENDER rendent de plus en plus accessibles l’intelligence et la puissance de calcul, faire tourner un autre modèle ne sera peut-être plus le goulot d’étranglement.
Concevoir des systèmes capables de vous dire quand votre propre modèle a tort pourrait bien l’être.
Surtout lorsque la sortie finit par éclairer une décision financière.
Je suis beaucoup plus à l’aise avec une IA qui participe à l’allocation de capital lorsque qu’un autre système s’efforce activement de prouver que l’IA ne devrait pas être de confiance.
#Altcoin Season#
Un élément du travail de Theoriq sur Targon m’a marqué davantage que les modèles eux-mêmes.
Ils ont conçu un agent dont le rôle est de contredire.
Pas d’optimiser le résultat.
Pas de rendre la recherche plus “attrayante”.
Essayer de le faire échouer.
L’agent adversarial vérifie indépendamment les données brutes, les hypothèses et les sorties, traque les fuites et tente d’invalider les conclusions avant qu’elles ne soient acceptées.
Theoriq affirme que ce processus a déjà permis de détecter des défauts qui auraient produit des faux positifs et entraîné la rétractation de certaines conclusions antérieures.
C’est une leçon étonnamment importante pour l’IA décentralisée.
Alors que des écosystèmes comme $TAO et $RENDER rendent de plus en plus accessibles l’intelligence et la puissance de calcul, faire tourner un autre modèle ne sera peut-être plus le goulot d’étranglement.
Concevoir des systèmes capables de vous dire quand votre propre modèle a tort pourrait bien l’être.
Surtout lorsque la sortie finit par éclairer une décision financière.
Je suis beaucoup plus à l’aise avec une IA qui participe à l’allocation de capital lorsque qu’un autre système s’efforce activement de prouver que l’IA ne devrait pas être de confiance.
#Altcoin Season#
