Um detalhe sobre @Les Yankovitch continua
me puxando de volta para a atenção. Muitas vezes presumimos que a verificação só é valiosa quando algo dá errado, mas estou começando a pensar que seu papel mais importante aparece quando, na verdade, nada parece estar errado.
Imagine uma aplicação de IA produzindo a mesma resposta centenas de vezes seguidas. A maioria dos usuários pararia de questionar o resultado porque a consistência, por si só, naturalmente gera confiança. Porém, apenas consistência não prova que o cálculo seguiu o modelo esperado ou o caminho de execução previsto. Ela só prova que as saídas parecem familiares.
Se os usuários pararem de perguntar, "A resposta está boa?", e começarem a perguntar, "A resposta pode ser verificada?", isso mudaria a forma como avaliamos redes de IA?
@Les Yankovitch $OPG
#OPG $SYN
$ACT
me puxando de volta para a atenção. Muitas vezes presumimos que a verificação só é valiosa quando algo dá errado, mas estou começando a pensar que seu papel mais importante aparece quando, na verdade, nada parece estar errado.
Imagine uma aplicação de IA produzindo a mesma resposta centenas de vezes seguidas. A maioria dos usuários pararia de questionar o resultado porque a consistência, por si só, naturalmente gera confiança. Porém, apenas consistência não prova que o cálculo seguiu o modelo esperado ou o caminho de execução previsto. Ela só prova que as saídas parecem familiares.
Se os usuários pararem de perguntar, "A resposta está boa?", e começarem a perguntar, "A resposta pode ser verificada?", isso mudaria a forma como avaliamos redes de IA?
@Les Yankovitch $OPG
#OPG $SYN
$ACT