$ROBO 自律機械における信頼問題
ロボットがより自律的になるにつれて、静かな疑問が現れ始めます。
私たちは機械が何をしているのかをどう信頼しますか？
従来のソフトウェアシステムでは、検証がしばしば容易です。ログが存在します。コードは監査できます。出力は時々再現可能です。
物理的な機械は異なります。
センサーは環境を誤読する可能性があります。モデルは予測不可能に動作します。同じ状況に直面している2つのロボットが異なる結果を生み出すことがあります。
最近この問題について考えていました。機械が得る自律性が増すほど、検証の重要性が高まります。
それが、@Fabric Foundation によって探求された概念が私の注意を引いた理由の一部です。
Fabricは、ロボティクスシステムが検証可能なコンピューティングと共有された調整層に依存できるインフラストラクチャを探求しています。
もちろん、ロボティクスにおける検証は簡単なものではありません。
それでも、自律機械に関する信頼の問題は無視するにはますます困難になっています。