techaware

Bez žēlastības: kad tehnoloģija pārstāj būt rīks un kļūst par tiesnesi.

Ir filmas, kas kalpo kā izklaide, un citas, kas kalpo kā brīdinājums.

#Mercy pieder šai pēdējai kategorijai.

Kris Raven pamostas piesiets, apsūdzēts noziegumā, ko neatceras, priekšā pilnībā automatizētai tiesu sistēmai. Nav tiesnešu, nav apspriešanas, nav vietas šaubām.

Tikai #IA, kas apstrādā datus, aprēķina iespējas un pasludina spriedumus ar kompilatora precizitāti. Cik reizes mēs esam aizstāvējuši efektivitāti kā absolūtu vērtību, aizmirstot, ka efektivitāte bez konteksta var kļūt par vardarbības formu?

Šī algoritmiskā tiesu sistēma ir dabiskā tendences izplatīšana, kas jau pastāv. Kritisku lēmumu automatizācija. Modeļi, kas interpretē raksturus, nesaprotot, infrastruktūras, kas dod priekšroku ātrumam pār apspriešanu un reliģisku uzticību datu neitrālai nozīmei.

Bet dati nekad nav neitrāli. Tie ir realitātes fragmenti, kas atbrīvoti no vēstures, niansēm, pretrunām. Un, kad tie kļūst par vienīgo patiesības avotu, patiesība kļūst nepilnīga.

Kamēr Raven mēģina atjaunot savu atmiņu, filma atklāj savu patieso tēzi: tehniski perfekta sistēma var būt dziļi netaisna no cilvēka skatpunkta. Statistiskā precizitāte neaizvieto izpratni.

Algoritmiskās neobjektivitātes trūkums negarantē taisnīguma klātbūtni.

Kas notiek, kad tehnoloģija pārstāj būt rīks un sāk ieņemt morālās autoritātes vietu? Kas notiek, kad mēs deleģējam ētiskus lēmumus sistēmām, kas, pēc definīcijas, nevar saprast ētiku?

Viss jāatrisina ātri, bez berzes, bez nenoteiktības.

Bet taisnīgumam nepieciešams laiks, pretruna un cilvēks.

Vai mēs beidzot uzbūvēsim mašīnas, kas neizdodas, bet arī nesaprot?

Žēlastības trūkums nebūs sistēmas trūkums, bet gan mūsu pašu lēmumu sekas.

#TechAware