@Les Yankovitch についての一つの詳細が、

また注意を引き戻してくれます。検証は何か問題が起きたときにこそ価値がある、という前提が私たちにはよくあります。でも私は、その最大の役割は「何も問題が起きていないように見えるとき」にこそ現れるのではないかと考え始めています。

たとえば、AIアプリケーションが同じ答えを何百回も連続して出すと想像してください。ほとんどのユーザーは、その結果が一貫しているため自然に自信が生まれ、これ以上疑わなくなるでしょう。しかし、一貫性だけでは、その計算が期待されたモデルや実行経路に沿って行われたことは証明できません。証明できるのは、出力が見慣れたものに見える、ということだけです。

ユーザーが「その答えは良いのか？」ではなく「その答えは検証できるのか？」と尋ねるようになったら、私たちのAIネットワークの評価の仕方は変わるのでしょうか？

@Les Yankovitch $OPG
#OPG $SYN
$ACT