$ROBO Проблема доверия в автономных машинах
По мере того как роботы становятся более автономными, тихий вопрос начинает возникать.
Как мы можем доверять тому, что делают машины?
В традиционных программных системах проверка часто проще. Существуют журналы. Код можно проверить. Выходные данные иногда можно воспроизвести.
Физические машины различны.
Датчики могут неправильно считывать окружающую среду. Модели ведут себя непредсказуемо. Два робота, оказавшихся в одной и той же ситуации, могут привести к разным результатам.
Я недавно думал об этой проблеме. Чем больше автономии получают машины, тем важнее становится проверка.
Частично именно поэтому концепция, исследуемая @Fabric Foundation , привлекла моё внимание.
Fabric исследует инфраструктуру, где робототехнические системы могли бы опираться на проверяемые вычисления и общие уровни координации.
Конечно, верификация в робототехнике далеко не проста.
Тем не менее, проблема доверия к автономным машинам становится всё труднее игнорировать.