$ROBO Problem zaufania w autonomicznych maszynach
Gdy roboty stają się coraz bardziej autonomiczne, zaczyna pojawiać się ciche pytanie.
Jak możemy ufać temu, co robią maszyny?
W tradycyjnych systemach oprogramowania weryfikacja jest często prostsza. Istnieją dzienniki. Kod można audytować. Wyniki można czasami odtwarzać.
Maszyny fizyczne są inne.
Czujniki mogą błędnie odczytywać otoczenie. Modele zachowują się nieprzewidywalnie. Dwa roboty stające w obliczu tej samej sytuacji mogą dawać różne wyniki.
Ostatnio myślałem o tym problemie. Im więcej autonomii zyskują maszyny, tym ważniejsza staje się weryfikacja.
To częściowo dlatego koncepcja badana przez @Fabric Foundation zwróciła moją uwagę.
Fabric bada infrastrukturę, w której systemy robotyczne mogłyby polegać na weryfikowalnym obliczaniu i współdzielonych warstwach koordynacji.
Oczywiście, weryfikacja w robotyce jest daleka od prostoty.
Niemniej jednak problem zaufania wokół autonomicznych maszyn staje się coraz trudniejszy do zignorowania.