techaware

Sans pitié : quand la technologie cesse d'être un outil et devient juge.

Il y a des films qui fonctionnent comme divertissement et d'autres qui fonctionnent comme avertissement.

#Mercy appartient à cette dernière catégorie.

Chris Raven se réveille attaché, accusé d'un crime dont il ne se souvient pas, face à un système judiciaire complètement automatisé. Il n'y a pas de juges, pas de délibération, pas d'espace pour le doute.

Seulement une #IA qui traite des données, calcule des probabilités et prononce des sentences avec la précision d'un compilateur. Combien de fois avons-nous défendu l'efficacité comme si c'était une valeur absolue, oubliant que l'efficacité sans contexte peut se transformer en une forme de violence ?

Ce système judiciaire algorithmique est l'extrapolation naturelle de tendances qui existent déjà. Automatisation des décisions critiques. Modèles qui interprètent des motifs sans comprendre, infrastructures qui privilégient la vitesse sur la délibération et confiance religieuse dans la neutralité des données.

Mais les données ne sont jamais neutres. Ce sont des fragments de réalité dépourvus d'histoire, de nuances, de contradictions. Et quand elles deviennent la seule source de vérité, la vérité devient incomplète.

Au fur et à mesure que Raven tente de reconstruire sa mémoire, le film révèle sa véritable thèse : un système parfait d'un point de vue technique peut être profondément injuste d'un point de vue humain. La précision statistique ne remplace pas la compréhension.

L'absence de biais algorithmique ne garantit pas la présence de justice.

Que se passe-t-il lorsque la technologie cesse d'être un outil et commence à occuper la place de l'autorité morale ? Que se passe-t-il lorsque nous délégons des décisions éthiques à des systèmes qui, par définition, ne peuvent pas comprendre l'éthique ?

Tout doit être résolu rapidement, sans friction, sans incertitude.

Mais la justice a besoin de temps, de contradictions et d'humanité.

Allons-nous finir par construire des machines qui ne faillent pas mais qui ne comprennent pas non plus ?

Le manque de pitié ne sera pas un défaut du système, mais une conséquence de nos propres décisions.

#TechAware