« Désarmer » l’intelligence artificielle (IA) pour « l’empêcher de dominer l’humain » : le pape Léon XIV a lancé un puissant appel à encadrer et réguler les algorithmes et énoncer les « nouvelles formes d’esclavage » derrière leur essor fulgurant dans son premier document majeur, publié lundi par le Vatican.
Ecologie, crise du multilatéralisme, monopoles économiques : dans « Magnifica Humanitas » (Humanité magnifique), un texte de 130 pages à la tonalité profondément sociale, le pape américain répond à une multitude de défis de notre époque en se posant en défenseur de la dignité humaine à l’ère de la révolution numérique.
Dans cette encyclique très attendue – une lettre envoyée à l’ensemble des fidèles, fixant une position de référence sur des questions sociales, morales ou théologiques – Léon XIV appelle à dépasser le concept de « guerre juste » notamment par l’administration américaine de Donald Trump et dénonce la délégation de décisions létales à la technologie.
Signe de l’importance accordée à ce manifeste, le pape a participé lui-même à sa lundi présentation matin – une première – aux côtés de hauts responsables du Saint-Siège et d’experts de l’IA, dont le cofondateur de la start-up américaine Anthropic, Christopher Olah.
L’IA ne pouvant « être considérée comme moralement neutre », il convient de la « désarmer » pour « l’empêcher de dominer l’humain », avance le pape augustinien, qui insiste sur la nécessité d’un code éthique commun sur l’IA ainsi que sur le rôle crucial de l’éducation pour apprendre à en maîtriser les risques.
Aujourd’hui, « le contrôle des plateformes, des infrastructures, des données et de la puissance de calcul n’appartient pas aux États, mais à de grands acteurs économiques et technologiques » qui « fixent les conditions d’accès, les règles de visibilité et les possibilités de participation », regrette-t-il.
– « Esclavage » –
Selon les Nations unies, l’IA pourrait peser jusqu’à 4.800 milliards de dollars d’ici 2033, soit une multiplication par 25 en une décennie, tout en concentrant ses bénéfices entre les mains d’un nombre limité d’acteurs. En 2025, l’ONU alertait sur une « vide dangereuse » en matière de régulation.
Citant Platon, JRR Tolkien, Picasso ou encore Beethoven pour leur contribution à lutter contre la déshumanisation, le pape américain fustige aussi « les nouvelles formes d’esclavage » nées pour extraire les ressources nécessaires à l’utilisation de l’intelligence artificielle (IA) et appelle à « des solutions technologiques plus durables afin de réduire l’impact sur l’environnement ».
« Dans certaines régions du monde, des adolescents et des enfants travaillent dans des conditions dangereuses au broyage des matériaux dont on tire les terres rares. Des corps marqués, mutilés, usés pour que le flux de calcul ne s’interrompt pas », dénonce-t-il.
L’évêque de Rome en profite pour demander « sincèrement pardon » pour le retard avec lequel l’Église a condamné « le fléau de l’esclavage » au cours de l’Histoire, reconnaissant pour la première fois le rôle direct du Saint-Siège dans sa légitimation.
Au-delà des enjeux technologiques, le pape s’inquiète d’un risque de « déshumanisation », mettant en garde contre une vision de l’humain réduit à ses performances ou à des données exploitées par les machines.
Depuis son élection il y a un an, le premier pape nord-américain de l’Histoire a multiplié les avertissements face aux dangers de l’IA, en soulignant la nécessité d’une « alphabétisation numérique ».
Les experts estiment que l’impact de « Magnifica Humanitas » pourrait être comparable à celui de l’encyclique Laudato Si’, manifeste du pape François sur l’écologie intégrale qui avait, dès sa publication en 2015, entraîné une vague de réactions dans le monde.
– Crise du multilatéralisme –
Face à la crise du multilatéralisme, le chef de l’Église catholique renouvelle sa condamnation de l’utilisation de l’IA dans le domaine militaire. « Aucun algorithme ne peut rendre la guerre moralement acceptable », écrit-il.
Sans citer de nom, il réaffirme « le dépassement de la théorie de la +guerre juste+ trop souvent excitée pour justifier n’importe quelle guerre », un concept défendu notamment par l’administration américaine de Donald Trump, regrettant que « l’humanité (soit) en train de glisser vers une culture violente de la puissance » qui normalise la guerre comme un « instrument de politique internationale ».
En avril, le pape s’était attiré les critiques de la Maison Blanche après avoir affirmé que « Dieu n’entend pas les prières de ceux qui font la guerre », dans le contexte des tensions liées au conflit avec l’Iran.
Ce manifeste s’inscrit dans la continuité de l’enseignement social de l’Église : il a été signé le 15 mai, date du 135e anniversaire de Rerum Novarum (1891), encyclique de Léon XIII qui a posé les fondements de la doctrine sociale de l’Église face à la révolution industrielle.
Lors d’une conférence de presse lundi, le pape a expliqué avoir tiré ce texte de « l’écoute », après avoir échangé avec des scientifiques, des ingénieurs, des responsables politiques, des parents et des enseignants « préoccupés » pour les jeunes générations.
« Nous avons besoin que davantage d’acteurs dans le monde — communautés religieuses, société civile, chercheurs, gouvernements — fassent ce que Sa Sainteté a fait ici : prendre cela au sérieux, regarder attentivement et orienter les événements dans une meilleure direction », a pour sa part déclaré Christopher Olah.
AFP
