以前は、AIの信頼の問題は精度の割合についてだと思っていました。
Miraは、これが責任の問題のように感じさせます。
AIシステムがエラーを犯すと、その損害は統計的なものではなく、契約的なものです。誰かがその結果に基づいて行動しました。誰かがそれを承認しました。誰かが結果に対して責任があります。
Miraの方向性について興味深いのは、単に回答が正しい可能性が高いかどうかを尋ねるだけではなく、その回答を受け入れるプロセスが擁護可能かどうかを尋ねることです。
それは微妙ですが重要な変化です。
精度はモデルを改善します。
擁護可能性はシステムを改善します。
AIが金融、コンプライアンス、および高い自動化のワークフローに向かうにつれて、「おそらく正しい」だけでは十分ではありません。重要なのは、出力がリスクを集中させるのではなく、分散させる構造を通過したかどうかです。
AIの採用の未来は、より賢いテキストに依存しません。
誰が自信を持って言えるかに依存します。
「これは、私たち全員が合意したルールの下で確認されました。」
@Mira - Trust Layer of AI - Trust Layer of AI#mira $MIRA