Un détail concernant @Les Yankovitch continue d’attirer mon attention. Nous pensons souvent que la vérification n’est utile que lorsqu’un problème survient, mais je commence à croire que son rôle le plus important se manifeste quand rien ne semble aller de travers.
Imaginez une application IA qui produit la même réponse des centaines de fois de suite. La plupart des utilisateurs cesseraient de remettre le résultat en question parce que la constance inspire naturellement confiance. Pourtant, la constance seule ne prouve pas que le calcul a suivi le modèle attendu ou le chemin d’exécution prévu. Elle ne prouve que le fait que les sorties semblent familières.
Si les utilisateurs cessent de demander, « La réponse est-elle bonne ? » et commencent à demander, « La réponse peut-elle être vérifiée ? », cela changerait-il notre façon d’évaluer les réseaux IA ?
@Les Yankovitch $OPG
#OPG $SYN
$ACT
Imaginez une application IA qui produit la même réponse des centaines de fois de suite. La plupart des utilisateurs cesseraient de remettre le résultat en question parce que la constance inspire naturellement confiance. Pourtant, la constance seule ne prouve pas que le calcul a suivi le modèle attendu ou le chemin d’exécution prévu. Elle ne prouve que le fait que les sorties semblent familières.
Si les utilisateurs cessent de demander, « La réponse est-elle bonne ? » et commencent à demander, « La réponse peut-elle être vérifiée ? », cela changerait-il notre façon d’évaluer les réseaux IA ?
@Les Yankovitch $OPG
#OPG $SYN
$ACT