techaware

Senza pietà: quando la tecnologia smette di essere uno strumento e diventa un giudice.

Ci sono film che funzionano come intrattenimento e altri che funzionano come avvertimento.

#Mercy appartiene a quest'ultima categoria.

Chris Raven si sveglia legato, accusato di un crimine che non ricorda, di fronte a un sistema giudiziario completamente automatizzato. Non ci sono giudici, non ci sono delibere, non c'è spazio per il dubbio.

Solo una #IA che elabora dati, calcola probabilità e pronuncia sentenze con la precisione di un compilatore. Quante volte abbiamo difeso l'efficienza come se fosse un valore assoluto, dimenticando che l'efficienza senza contesto può trasformarsi in una forma di violenza?

Quel sistema giudiziario algoritmico è l'estrapolazione naturale di tendenze già esistenti. Automazione di decisioni critiche. Modelli che interpretano schemi senza comprendere, infrastrutture che danno priorità alla velocità sulla deliberazione e fiducia religiosa nella neutralità dei dati.

Ma i dati non sono mai neutrali. Sono frammenti di realtà privi di storia, di sfumature, di contraddizioni. E quando diventano l'unica fonte di verità, la verità diventa incompleta.

Mentre Raven cerca di ricostruire la sua memoria, il film rivela la sua vera tesi: un sistema perfetto dal punto di vista tecnico può essere profondamente ingiusto dal punto di vista umano. La precisione statistica non sostituisce la comprensione.

L'assenza di pregiudizio algoritmico non garantisce la presenza di giustizia.

Cosa succede quando la tecnologia smette di essere uno strumento e inizia a occupare il posto dell'autorità morale? Cosa succede quando delegiamo decisioni etiche a sistemi che, per definizione, non possono comprendere l'etica?

Tutto deve risolversi rapidamente, senza attrito, senza incertezze.

Ma la giustizia ha bisogno di tempo, contraddizione e umanità.

Finiremo per costruire macchine che non sbagliano ma che non comprendono nemmeno?

La mancanza di pietà non sarà un difetto del sistema, ma una conseguenza delle nostre stesse decisioni.

#TechAware