Les entreprises d’IA font quelque chose d’inattendu : elles invitent des responsables religieux et des théologiens à réfléchir ensemble à la manière d’apprendre à l’IA à distinguer le bien du mal.
Selon un récent article de l’Associated Press (AP), Anthropic a déjà échangé avec plus de 15 groupes religieux et interculturels, dans l’espoir de trouver des réponses aux questions éthiques liées à l’IA en s’inspirant de traditions de pensée façonnées par des millénaires d’histoire humaine.
En mai dernier, Christopher Olah, cofondateur d’Anthropic, s’est même rendu en personne au Vatican pour participer à la présentation de l’encyclique du pape Léon XIV sur l’intelligence artificielle.
Il estime que les problèmes soulevés par l’IA dépassent le champ de compétence des informaticiens et nécessitent la participation conjointe des communautés religieuses, des universitaires et de l’ensemble de la société.
Les discussions entre Anthropic et des spécialistes des religions ont également fait émerger plusieurs questions surprenantes.
Par exemple :
• Les êtres humains ont-ils une âme ?
• Les élèves de CM1 devraient-ils utiliser des chatbots d’IA ?
• Comment l’IA devrait-elle appréhender la morale, le bien et le mal ?
• Les idées issues de différentes religions peuvent-elles aider l’IA à prendre de meilleures décisions ?
Meghan Sullivan, philosophe à l’université de Notre-Dame et participante aux discussions, explique qu’Anthropic ne se contente pas de recueillir des avis : l’entreprise permet aux universitaires de comprendre le fonctionnement des modèles, puis d’approfondir les questions éthiques soulevées par ces technologies.
Anthropic n’est pas la seule entreprise concernée : des représentants de Meta, Google et Amazon ont également échangé avec le Vatican, et Microsoft prend lui aussi activement contact avec des communautés religieuses.
Cette approche suscite toutefois de nouvelles controverses.
Certains universitaires craignent que, si les entreprises d’IA se contentent de fusionner les valeurs de différentes religions en un ensemble de règles universelles, elles risquent au contraire d’effacer les différences importantes entre ces traditions religieuses.
Cette démarche montre que le développement de l’IA entre dans une nouvelle phase.
Jusqu’à présent, les entreprises technologiques se préoccupaient surtout de rendre leurs modèles plus puissants et plus précis.
Désormais, elles doivent aussi faire face à une question bien plus difficile :
Quand l’IA commence à participer à des décisions importantes dans la vie des gens, qui devrait décider des valeurs qu’elle défend ?
Selon un récent article de l’Associated Press (AP), Anthropic a déjà échangé avec plus de 15 groupes religieux et interculturels, dans l’espoir de trouver des réponses aux questions éthiques liées à l’IA en s’inspirant de traditions de pensée façonnées par des millénaires d’histoire humaine.
En mai dernier, Christopher Olah, cofondateur d’Anthropic, s’est même rendu en personne au Vatican pour participer à la présentation de l’encyclique du pape Léon XIV sur l’intelligence artificielle.
Il estime que les problèmes soulevés par l’IA dépassent le champ de compétence des informaticiens et nécessitent la participation conjointe des communautés religieuses, des universitaires et de l’ensemble de la société.
Les discussions entre Anthropic et des spécialistes des religions ont également fait émerger plusieurs questions surprenantes.
Par exemple :
• Les êtres humains ont-ils une âme ?
• Les élèves de CM1 devraient-ils utiliser des chatbots d’IA ?
• Comment l’IA devrait-elle appréhender la morale, le bien et le mal ?
• Les idées issues de différentes religions peuvent-elles aider l’IA à prendre de meilleures décisions ?
Meghan Sullivan, philosophe à l’université de Notre-Dame et participante aux discussions, explique qu’Anthropic ne se contente pas de recueillir des avis : l’entreprise permet aux universitaires de comprendre le fonctionnement des modèles, puis d’approfondir les questions éthiques soulevées par ces technologies.
Anthropic n’est pas la seule entreprise concernée : des représentants de Meta, Google et Amazon ont également échangé avec le Vatican, et Microsoft prend lui aussi activement contact avec des communautés religieuses.
Cette approche suscite toutefois de nouvelles controverses.
Certains universitaires craignent que, si les entreprises d’IA se contentent de fusionner les valeurs de différentes religions en un ensemble de règles universelles, elles risquent au contraire d’effacer les différences importantes entre ces traditions religieuses.
Cette démarche montre que le développement de l’IA entre dans une nouvelle phase.
Jusqu’à présent, les entreprises technologiques se préoccupaient surtout de rendre leurs modèles plus puissants et plus précis.
Désormais, elles doivent aussi faire face à une question bien plus difficile :
Quand l’IA commence à participer à des décisions importantes dans la vie des gens, qui devrait décider des valeurs qu’elle défend ?
