$ROBO Masalah Kepercayaan dalam Mesin Otonom
Seiring robot menjadi lebih otonom, sebuah pertanyaan diam mulai muncul.
Bagaimana kita mempercayai apa yang dilakukan mesin?
Dalam sistem perangkat lunak tradisional, verifikasi seringkali lebih mudah. Log ada. Kode dapat diaudit. Keluaran kadang-kadang dapat direproduksi.
Mesin fisik berbeda.
Sensor dapat salah membaca lingkungan. Model berperilaku tidak terduga. Dua robot yang menghadapi situasi yang sama mungkin menghasilkan hasil yang berbeda.
Saya telah memikirkan masalah ini baru-baru ini. Semakin banyak otonomi yang diperoleh mesin, semakin penting verifikasi menjadi.
Itulah sebagian alasan mengapa konsep yang dieksplorasi oleh @Fabric Foundation menarik perhatian saya.
Fabric sedang menjelajahi infrastruktur di mana sistem robotika dapat mengandalkan komputasi yang dapat diverifikasi dan lapisan koordinasi bersama.
Tentu saja, verifikasi dalam robotika jauh dari sederhana.
Namun, masalah kepercayaan seputar mesin otonom semakin sulit untuk diabaikan.