Hors de question de croiser les bras pour Léon XIV: le développement de l’intelligence artificielle nécessite une réponse ferme et coordonnée. Notre Magnifique humanité – c’est le titre de son encyclique – est menacée par une technologie qui accroît les inégalités et nous détourne d’exigences morales.
«Le pape ne veut pas encenser l’humanité, mais la sauver.» Les mots du théologien dominicain Luc-Thomas Somme sont forts, à la hauteur du message que Léon XIV entend faire passer à travers sa première encyclique, Magnifique humanité, présentée le 25 mai. Le Saint-Père ne redoute pas une révolte de l’intelligence artificielle (IA) qui prendrait le pouvoir. Mais il craint que notre nature humaine ne disparaisse dans un mélange de désintérêt pour autrui et de course à l’optimisation de l’homme.
Esclavage et colonialisme
Face à l’IA, le pape fait siennes les préoccupations de beaucoup d’autres (lire page 38). La disparition de places de travail en est une. Les «nouvelles formes d’esclavage» sur lesquelles repose le développement technologique en sont une autre – Léon XIV évoque le «salaire de misère» versé à ceux qui étiquettent des données ou trient des contenus, sans parler de ceux qui sont exploités pour l’extraction des ressources naturelles nécessaires aux outils informatiques.
Il dénonce encore un colonialisme au «visage inédit» à travers l’appropriation des données qui «transforme les vies personnelles en informations exploitables». Ces mots du passé pour décrire le temps présent ne doivent rien au hasard, souligne Luc-Thomas Somme: «Le pape en profite pour demander pardon pour la position de l’Eglise sur l’esclavage. Moralement, elle n’a pas su évoluer assez vite sur cette question ni prendre ses distances avec la société de l’époque. Elle ne doit pas répéter ces erreurs avec l’intelligence artificielle».
L’Eglise doit être alerte et alerter. Il ne s’agit toutefois pas de se positionner pour ou contre l’IA – c’est trop tard –, mais de choisir son chantier: édifier la tour de Babel, «projet de domination qui finit par déshumaniser», ou, comme dans le livre de Néhémie, reconstruire Jérusalem, «œuvre de responsabilité partagée». Il s’agit de choisir entre un «homme amélioré» ou un «homme hybridé» – les dangereux courants transhumaniste et posthumaniste – et un «authentique ‘plus qu’humain’»: la transcendance qui conduit à «s’épanouir dans l’amour».
Rien d’étrange à voir apparaître l’amour dans un texte consacré à l’intelligence artificielle. Un amour vrai, humain, car, rappelle le pape, «les prétendues intelligences artificielles ne vivent pas d’expérience, ne possèdent pas de corps, ne connaissent ni la joie ni la douleur, ne mûrissent pas dans la relation, ne savent pas de l’intérieur ce que signifient l’amour, le travail, l’amitié, la responsabilité». Cet amour infuse les thèmes de l’encyclique «qui peuvent entrer dans la prédication, constate Mgr Charles Morerod: le respect de la dignité humaine, la dimension solidaire des innovations dans notre société, la relation personnelle qui ne peut être remplacée par l’interaction avec des machines».
Tout se trouve résumé dans cette question du pape: les innovations technologiques «contribuent-elles à faire grandir les personnes et les peuples en humanité et en fraternité, dans le respect de la Maison commune et des générations futures?». Un cadre est nécessaire pour que la réponse ne soit pas négative, pour que le développement de l’IA ne donne pas plus de pouvoir économique et politique à quelques-uns au détriment de beaucoup d’autres. Qui déterminera les règles? «Les destinataires de l’encyclique ne sont pas mentionnés parce qu’elle s’adresse potentiellement à tout être humain», répond Luc-Thomas Somme qui enseigne à l’Université de Fribourg.
Pour tous, pas pour Trump
Léon XIV vise ceux qui contrôlent l’IA, mais plus encore le monde politique, parce qu’«une IA plus morale ne sert à rien si cette morale est décidée par une poignée de personnes». Et parce que les familles ne doivent pas être laissées seules avec la question des jeunes et des réseaux sociaux, le pape réclame une alliance éducative et des limites d’âge pour l’accès à l’IA.
Il s’adresse aussi très clairement aux gouvernements lorsqu’il dénonce l’utilisation guerrière de cette technologie, l’ennemi étant alors réduit à une simple donnée. «Toute technologie qui facilite le fait de frapper sans voir le visage de l’autre abaisse le seuil moral du conflit», tonne le Saint-Père qui déplore les guerres hybrides, l’essor de l’industrie de guerre et l’augmentation des dépenses militaires. Autre phrase forte dans ce contexte: «Nous vivons une époque de grande cécité spirituelle et culturelle».
Le pape appelle au passage à dépasser le concept de «guerre juste». «Il était destiné à limiter les occasions de guerre, mais certains gouvernements l’utilisent aujourd’hui pour légitimer la guerre, y compris des frappes préventives», explique Luc-Thomas Somme. Le destinataire de l’encyclique serait-il donc à rechercher du côté des Etats-Unis? «Ce n’est pas un texte anti-Trump, coupe le théologien. C’est un texte beaucoup plus augustinien qu’américain ou anti-américain.»
L’évêque de Lausanne, Genève et Fribourg confirme cette vision: «L’identité augustinienne de Léon XIV traverse toute l’encyclique, notamment à travers une vision de l’histoire comme construction de deux cités». C’est celle de saint Augustin, selon qui l’homme avait bâti deux cités: l’une, terrestre, basée sur l’amour de soi jusqu’au mépris de Dieu; l’autre, céleste, basée sur l’amour de Dieu jusqu’au mépris de soi. Babel et Jérusalem dans la version du Saint-Père.
La civilisation de l’amour
«L’accent sur l’humanité dans ce qui semble un domaine technologique est assez prophétique», apprécie Mgr Charles Morerod au terme de sa lecture de l’encyclique. Il salue aussi l’intégration de cette problématique dans la doctrine sociale de l’Eglise, qui porte sur des conceptions plutôt économiques et politiques. L’intelligence artificielle y trouve naturellement sa place, ainsi que dans les préoccupations de l’Eglise qui s’inquiète aussi, par la plume de Léon XIV, de ce pas de retrait de nos cerveaux lorsque des machines travaillent à notre place. «Abandonner certaines décisions à des algorithmes opaques placés sous la direction d’une entreprise privée dont on ne connaît pas les intérêts revient à abdiquer notre discernement et notre liberté», estime Luc-Thomas Somme.
La résignation n’est pas possible pour le pape qui s’insurge contre la «forme élégante de capitulation, souvent déguisée en réalisme», qu’est l’idée que nous ne pouvons rien contre un problème trop grand pour nous. Il appelle ainsi tout un chacun à désarmer les mots, à chercher la paix et la justice, à adopter le regard des victimes, à relancer le dialogue et à cultiver un sain réalisme, celui qui «ne renonce pas à changer le monde». La civilisation de l’amour, écrit-il encore, naît «d’une somme de petites et tenaces fidélités faisant barrage à la déshumanisation».
PAS DE RÉPONSE UNIQUE
Formée en sociologie, en économie politique et en informatique de gestion, Anna Jobin est professeure à l’institut de sciences et technologies de l’interaction centrée sur l’humain de l’Université de Fribourg. Elle enseigne les perspectives sociales, politiques et éthiques en matière d’intelligence artificielle (IA).
Comment appréciez-vous l’intervention du pape dans le débat sur l’IA?
– C’est important qu’il y ait des voix qui, comme la sienne, mettent l’humain au centre. Les éléments qu’il soulève sont pertinents; on les trouve déjà dans certaines analyses sociales de l’IA. Et ce sont des questions qui se posaient déjà avant, à propos du développement numérique, du Web et des réseaux sociaux.
Est-ce qu’une IA éthique peut exister si les groupes puissants qui la développent sont lancés dans une course au profit?
– Il faut voir que l’IA n’est pas un objet unique. On trouve certes des grands logiciels liés à de grands corpus de données et à un usage massif, mais il existe une multitude d’IA plus petites dans différents domaines qui nécessitent différentes approches de régulation. Il n’y a pas de réponse unique. En revanche, face aux grands groupes, ne rien faire n’est pas une option. Ceux qui le réclament ont souvent un intérêt à ce que rien ne soit entrepris, contrairement par exemple aux personnes dont les données sont exploitées ou aux travailleurs du clic.
Le pape demande une responsabilité partagée. Qui est responsable de l’IA?
– Le débat est éternel et la réponse dépend de la perception de la vie humaine. Si on la voit comme une suite de transactions et l’homme comme un consommateur rationnel, alors la responsabilité incombe à tout un chacun. Or, cela ne fonctionne pas avec l’IA: en tant qu’individu on n’a pas toujours le choix de l’utiliser ou non. Et l’IA peut avoir un impact sur une personne qui ne l’utilise pas, par exemple par le choix des informations proposées en ligne ou le tri automatique de CV lors d’une candidature.
L’IA est partout.
– On ne devrait d’ailleurs peut-être plus parler d’IA, mais désigner plus précisément ce dont il est question: analyse d’images, traitement de données, etc. Si on désigne ChatGPT comme un logiciel ultrapuissant entraîné sur des milliards de documents humains pour prédire la prochaine syllabe à utiliser dans un contexte donné, il perd de son caractère «magique». A propos de «magie», les grandes entreprises de la tech essaient aussi de favoriser des débats sur la conscience des IA ou la révolte des robots pour nous distraire des questions essentielles qui se posent aujourd’hui.
