$ROBO Il Problema della Fiducia nelle Macchine Autonome
Man mano che i robot diventano più autonomi, una domanda silenziosa inizia a sorgere.
Come possiamo fidarci di ciò che fanno le macchine?
Nei sistemi software tradizionali, la verifica è spesso più semplice. Esistono registri. Il codice può essere auditato. I risultati possono a volte essere riprodotti.
Le macchine fisiche sono diverse.
I sensori possono interpretare male gli ambienti. I modelli si comportano in modo imprevedibile. Due robot che affrontano la stessa situazione potrebbero produrre risultati diversi.
Recentemente ho riflettuto su questo problema. Maggiore è l'autonomia che le macchine guadagnano, più importante diventa la verifica.
È in parte per questo che il concetto esplorato da @Fabric Foundation ha attirato la mia attenzione.
Fabric sta esplorando un'infrastruttura in cui i sistemi robotici potrebbero fare affidamento su calcoli verificabili e strati di coordinamento condivisi.
Certo, la verifica nella robotica è tutt'altro che semplice.
Tuttavia, il problema della fiducia attorno alle macchine autonome sta diventando sempre più difficile da ignorare.