En datant sa première encyclique Magnifica humanitas du 15 mai, le Pape Léon XIV a choisi de s’inscrire dans une tradition bien établie : celle des grandes encycliques sociales, et en particulier celle de Rerum novarum, publiée le 15 mai 1891 par le Pape Léon XIII.
La « révolution industrielle » qui suscite sa préoccupation est celle de l’intelligence artificielle (IA). Cependant, Magnifica humanitas ne se veut pas une encyclique « sur » l’intelligence artificielle (bien que le thème soit central), mais plutôt une encyclique sur notre « magnifique humanité », bouleversée par la révolution en cours.
Dès les premiers mots du texte – présenté aujourd’hui au Vatican, dans la Salle du Synode, en présence du Souverain Pontife lui-même –, le cadre de la réflexion magistérielle est posé en ces termes : « La MAGNIFIQUE HUMANITÉ créée par Dieu se trouve aujourd’hui face à un choix décisif : ériger une nouvelle tour de Babel ou bâtir la cité où Dieu et l’humanité habitent ensemble. » [n. 1]
La réflexion qui suit vise à inviter l’humanité et les décideurs à procéder à un véritable examen de conscience. Il ne s’agit pas nécessairement de condamner sans appel. « La technique – écrit le Pape – ne doit pas être considérée, en soi, comme une force antagoniste par rapport à la personne : au contraire, elle est enracinée dans notre histoire depuis le commencement, en tant que « fait profondément humain, lié à l’autonomie et à la liberté de l’homme ». [n° 4]. Il s’agit plutôt d’établir un cadre éthique et moral préalable à l’utilisation de l’IA, en prenant comme critère épistémologique celui de la recherche du « bien commun ».
Dans le contexte actuel, Leone XIV montre à quel point les principes de la doctrine sociale sont d’une grande aide pour discerner. « Dans un monde où quelques sujets concentrent les données, les ressources informatiques et le pouvoir réglementaire, parler de bien commun signifie démasquer cette nouvelle asymétrie épistémique, économique et politique, en dénonçant les nouveaux monopoles de lʼIA », [n° 109], écrit-il. L’enjeu est de « désarmer l’IA », c’est-à-dire « la soustraire à la logique de la compétition armée qui, aujourd’hui, n’est plus seulement militaire, mais aussi économique et cognitive », la soustraire à la logique de la « Cʼest lacourse à lʼalgorithme le plus performant et à labanque de données laplus vaste dans le but de consolider un avantage géopolitique ou commercial sur tous les autres». [110] « Désarmer signifie rompre cette équivalence entre puissance technique et droit de gouverner. Désarmer ne signifie pas renoncer à la technologie, mais l’empêcher de dominer l’humain ». [110]
L’IA n’est pas « neutre »
L’un des éléments les plus significatifs de cette réflexion est en effet que l’IA n’est pas « neutre », car « elle prend le visage de ceux qui la conçoivent, la financent, la régulent et l’utilisent » [n° 9]. Le cœur de la réflexion est exposé au paragraphe 104 : « Nous ne pouvons pas considérer l’IA comme moralement neutre », insiste le Saint-Père. « En réalité, tout dispositif technique implique des choix et des priorités : ce quʼil mesure, ce quʼil ignore, ce quʼil optimise, et la manière dont il classe les personnes et les situations. Si un système est conçu ou utilisé de manière à traiter certaines vies comme moins dignes ou à les exclure sans possibilité de recours, il ne s’agit pas d’un simple instrument « à bien utiliser » ; il introduit déjà un critère qui contredit la dignité inaliénable de la personne. Cʼest pourquoi le discernement éthique ne peut se limiter à se demander si nous utilisons un certain système à des fins bonnes ou mauvaises, mais doit également sʼinterroger sur lamanière dont il est conçu et sur laconception de lapersonne et de lasociété qui est inscrite dans les données et les modèles qui le guident ».« C’est pourquoi, explique Léon XIV le premier choix ne se situe pas entre un “ouiˮ ou un “nonˮ à latechnologie, mais entre bâtir Babel ou reconstruire Jérusalem ; entre un pouvoir qui prétend dominer le ciel et un peuple qui, en présence de Dieu, se met à travailler de manière unie pour relever les murs de la cohabitation fraternelle » [n° 9].
Néocolonialisme numérique
Le texte dénonce un « colonialisme » contemporain au « visage inédit » qui « ne domine pas seulement les corps, mais sʼapproprie les données, transformant les vies personnelles en informations exploitables. ». « Des territoires entiers, en particulier ceux de moindre importance géopolitique et de plus grande fragilité structurelle, sont actuellement traversés par une nouvelle logique dʼextraction : celle des flux sanitaires, profils épidémiologiques, cartes génétiques et données démographiques», déplore le Pape. « Des territoires entiers, en particulier ceux qui ont une importance géopolitique moindre et une plus grande fragilité structurelle, sont aujourd’hui soumis à une nouvelle logique d’extraction : celle des flux sanitaires, des profils épidémiologiques, des cartes génétiques et des données démographiques. Ce sont là les nouvelles « terres rares » du pouvoir : des informations vitales qui, une fois mises en relation, peuvent servir à entraîner des modèles prédictifs, à orienter des stratégies d’investissement, à anticiper les crises et, surtout, à sélectionner les personnes et les choses qui comptent » [n° 178].
Le risque évident est celui de nouvelles formes de domination et d’une aggravation des inégalités, car «Celui qui
détient les données sanitaires de populations entières, aujourdʼhui souvent collectées sous le couvert de lʼaide, de larecherche ou de lʼinnovation. », tout comme « il peut décider, avant les autres, à qui destiner les médicaments, les investissements, les protections ». Pour le pape, c’est là que se joue « l’une des questions morales les plus urgentes de notre temps » : « transformer la connaissance partagée en bien commun, et non en levier de domination ; rendre aux peuples non seulement les données qui les décrivent, mais aussi la possibilité de décider comment elles seront utilisées, par qui et pour qui ». Sinon – prévient-il – « l’ère numérique ne sera pas postcoloniale, mais coloniale sous une autre forme ». [nn. 132–134]
Un pouvoir immense entre les mains de quelques-uns
Le Pape souligne qu’en effet, dans le contexte numérique, « dans de nombreux cas », « le contrôle des plateformes, des infrastructures, des données et de la puissance de calcul n’appartient pas aux États, mais à de grands acteurs économiques et technologiques qui, de fait, fixent les conditions d’accès, les règles de visibilité et les possibilités mêmes de participation ». Le problème est de grande envergure, car, comme il le souligne, « Lorsquʼun pouvoir dʼune telle ampleur se concentre entre quelques mains, il tend à devenir opaque et à échapper au contrôle public, et augmente le risque dʼun développement faussé qui engendre de nouvelles dépendances, des exclusions, des manipulations et des inégalités ».[n. 95–96]
La nouvelle gnose du transhumanisme et l’humain « à dépasser » comme un mal
Si « Magnifica humanitas » apparaît davantage comme un avertissement que comme une condamnation de l’IA, le ton est en revanche beaucoup plus sévère à l’égard des courants transhumanistes et posthumanistes « qui interprètent le progrès comme un dépassement de l’humain ». Léon XIV les compare à « un archipel d’îles conceptuelles différentes, reliées toutefois par le même océan de présupposés : la centralité de la technique et le rêve de dépasser les limites de la condition humaine ». [n.116] Il explique que le transhumanisme «imagine un renforcement de l’être humain grâce aux technologies (biomédecine, ingénierie corporelle, dispositifs, algorithmes), avec l’ambition d’accroître les performances et les capacités ». Quant au posthumanisme, il va encore plus loin : « il critique l’anthropocentrisme et envisage une forme d’hybridation entre l’être humain, la machine et l’environnement, allant jusqu’à imaginer un franchissement de seuil où l’humanité se surpassera en entrant dans une nouvelle étape évolutive », décrit-il. Même si le pape reconnaît que « ces hypothèses restent en grande partie spéculatives », il n’en tire pas moins la sonnette d’alarme car « elles modifient l’imaginaire collectif et, par conséquent, orientent les choix sociaux, économiques et politiques ». [n 116]
Face à ces dérives idéologiques d’autant plus dangereuses qu’elles peuvent telles le loup déguisé en brebis se maquiller de bonnes intentions, et constituent déjà pour certains un horizon quasi mystique, une nouvelle gnose qui méprise le corps humain sous sa forme limitée et rêve d’en repousser les limites, le christianisme possède une expérience précieuse. « Notre rapport à la vie semble aujourd’hui en crise, constate Léon XIV. Tout ce qui apparaît comme une “limite” – incapacité, maladie, vieillesse, souffrance, vulnérabilité – tend à être perçu avant tout comme un défaut à corriger, plutôt qu’un espace où l’humain mûrit et s’ouvre à la relation. » Or, rappelle le pape « nous devons nous rappeler que l’humain ne s’épanouit pas malgré la limite, mais souvent à travers la limite. » . [118] « Dans les promesses du transhumanisme et de certains courants posthumanistes, qui poursuivent une humanité améliorée et presque désincarnée, nous reconnaissons un désir qui nous concerne : le besoin d’une vie plus accomplie, moins exposée aux limites et à la fragilité. L’Incarnation ouvre cependant une voie différente », reconnaît-til. Mais alors que « les idéologies anciennes et nouvelles poussent l’homme au dépassement technique de la limite et à s’élever au-dessus des autres pour affirmer une domination, le mystère du Fils de Dieu qui entre dans notre condition décrit un mouvement opposé : le Dieu vivant descend dans notre histoire pour nous libérer de toute servitude, Il prend sur Lui notre faiblesse et la transforme en lieu de salut. Il n’y a pas un moment ou une condition de l’humain qui ne soit digne de Dieu. ».[232]
Les blessures par lesquelles la grâce peut passer
Léon XIV développe ici une magnifique réflexion sur la condition humaine, où la limite devient la brèche par laquelle peut s’infiltrer la lumière de la grâce. « C’est précisément dans notre nature limitée que trouvent leur place la compassion, la sincère préoccupation face aux besoins des autres, la générosité qui surprend même au milieu des ténèbres et de l’échec, l’expérience spirituelle et l’adoration de Dieu. Nous le constatons dans de nombreux moments où la limite se fait concrète dans notre vie, lorsque nous essuyons un refus, lorsque nous souffrons de la maladie ou de la mort d’un être cher, lorsque nous faisons l’expérience de l’incapacité ou de l’échec. Mystérieusement, c’est précisément dans ces moments-là que nous pouvons trouver une sagesse nouvelle, toucher de nos mains l’affection des gens et expérimenter la présence du Seigneur », écrit-il. [119]. « Même lorsque la limite se manifeste par des souffrances intérieures, la sagesse humaine nous enseigne à ne pas la refouler ni la réprimer, mais à l’intégrer. Pour éliminer totalement la douleur, il faudrait, au fond, éteindre aussi l’amour et le désir. En effet, celui qui aime et désire ne peut éviter de passer par l’épreuve et la souffrance, et c’est pourquoi, au fil des ans, nous gardons en nous des enseignements qui s’impriment comme des cicatrices, mémoire du chemin parcouru entre liberté et chutes, rêves et déceptions » [120]. Et encore : « La corruption morale de notre condition de créature – le mal qui agite manifestement le cœur de l’homme – ruine la société et la vie, allant jusqu’aux extrêmes de la déshumanisation. Et pourtant, même cette forme douloureuse de limitation laisse entrevoir des lueurs de bien. Même lorsque l’être humain se déshumanise et provoque des tragédies, une petite lumière continue de briller dans l’humanité et reste capable de se rallumer, par la grâce de Dieu, sur les chemins de la conversion et de la réconciliation. »[121]
C’est pourquoi Magnifica humanitas devient un hymne à l’esprit critique, à la liberté et à la beauté de l’être humain, à son infinie capacité à se relever, avec ses rides et ses cicatrices, avec ce trésor inestimable qu’est une chair promise non pas à un corps « augmenté », mais à un corps glorieux.
