Un detalle sobre @Les Yankovitch mantiene
mi atención volviendo una y otra vez. A menudo asumimos que la verificación solo es valiosa cuando algo sale mal, pero estoy empezando a pensar que su papel más importante aparece cuando, en realidad, no parece haber nada mal.
Imagina una aplicación de IA que produce la misma respuesta cientos de veces seguidas. La mayoría de los usuarios dejarían de cuestionar el resultado porque la consistencia, por naturaleza, genera confianza. Sin embargo, la consistencia por sí sola no demuestra que el cálculo haya seguido el modelo esperado o la ruta de ejecución. Solo prueba que las salidas se ven familiares.
Si los usuarios dejan de preguntar, "¿La respuesta es buena?" y empiezan a preguntar, "¿Se puede verificar la respuesta?", ¿eso cambiaría la forma en que evaluamos las redes de IA?
@Les Yankovitch $OPG
#OPG $SYN
$ACT
mi atención volviendo una y otra vez. A menudo asumimos que la verificación solo es valiosa cuando algo sale mal, pero estoy empezando a pensar que su papel más importante aparece cuando, en realidad, no parece haber nada mal.
Imagina una aplicación de IA que produce la misma respuesta cientos de veces seguidas. La mayoría de los usuarios dejarían de cuestionar el resultado porque la consistencia, por naturaleza, genera confianza. Sin embargo, la consistencia por sí sola no demuestra que el cálculo haya seguido el modelo esperado o la ruta de ejecución. Solo prueba que las salidas se ven familiares.
Si los usuarios dejan de preguntar, "¿La respuesta es buena?" y empiezan a preguntar, "¿Se puede verificar la respuesta?", ¿eso cambiaría la forma en que evaluamos las redes de IA?
@Les Yankovitch $OPG
#OPG $SYN
$ACT