Léon XIV rejoint le débat sur l'IA dans sa première encyclique

« À chaque époque se profile le risque de construire un monde inhumain et encore plus injuste. » Ce sont quelques-uns des premiers mots de la première encyclique du pape Léon XIV. Un appel à défendre la dignité humaine face à la montée de l'intelligence artificielle, notamment face aux « usages manifestement anti-humains » des nouvelles technologies. Ainsi, le pontife établit une doctrine sur la position que l'Église doit adopter face aux transformations rapides que nos sociétés ont connues ces dernières années, avec un discours à caractère social marqué.

Léon XIV lui-même a présenté ce lundi au Vatican sa première encyclique papale : Des sciences humaines magnifiques. À moins d'un mois de sa visite en Espagne, il a révisé les principaux points de son texte de présentation en tant que chef de l'Église. Des menaces contre la démocratie à la protection de l’environnement et à son rôle dans l’éducation et le monde du travail, le document couvre les principales préoccupations apparues après l’émergence de l’IA.

« L'IA doit être désarmée », a déclaré avec force le pontife. Léon XIV a expliqué qu'il avait choisi le terme désarmer parce que « en ce moment il faut des mots forts, capables de capter l'attention » du monde. Ainsi, il a demandé que les nouvelles technologies soient libérées de la logique « qui en fait un instrument d'exclusion, de destruction et de mort ».

Il reconnaît néanmoins la valeur de l’IA à condition qu’elle soit orientée vers le bien commun. Autrement dit, « construire un avenir, non pas pour quelques privilégiés, mais pour toute l’humanité ». C’est pour cette raison qu’il a demandé que personne ne soit exclu de la transformation numérique, ce qui rend essentiel de toujours garder l’enjeu humain présent dans le développement d’instruments techniques puissants.

Qu'est-ce qu'une encyclique ?

Une encyclique est une lettre du pape adressée à l'ensemble de la communauté catholique, qui traite de questions de foi ou de morale, mais aussi de questions de société sur lesquelles le pontife souhaite prendre position. Son origine se trouve dans les lettres que les apôtres envoyèrent aux premiers chrétiens. C'est Benoît XIV qui relança cette pratique en publiant en 1740 Ubi primela première encyclique de l'histoire. Depuis, les chefs de l’Église ont rédigé près de trois cents documents de ce type.

Désormais, Léon XIV a choisi une date pleine de symbolisme pour présenter au monde sa première lettre papale. Écrit le 15 mai, il coïncide avec le 135e anniversaire de la Rerum Novarum de Léon XIII, la première encyclique sociale de l'Église, l'une des plus importantes de l'histoire du catholicisme. Le pape y parle de la condition des classes ouvrières, raison pour laquelle il est considéré comme un texte fondamental de la doctrine sociale de l'Église.

A partir de l'exemple de Léon XIII, qui a su reconnaître l'impact des transformations industrielles sur la société de son temps, le Saint-Père a voulu aborder de nouveaux changements « de même ampleur ou avec des conséquences encore plus grandes ». Il a ainsi écouté le cri des marginalisés, tout comme son prédécesseur l’avait fait il y a plus de cent ans pour celui des travailleurs de son temps.

En ce sens, le pape a évoqué une série de décisions qui génèrent de « nouvelles formes d'exclusion », comme les systèmes d'armes autonomes ou les algorithmes qui peuvent bloquer l'accès aux soins médicaux ou à l'emploi sur la base de données entachées de préjugés.

Crise du multilatéralisme et guerres « sans limites éthiques »

Dans son texte, Léon XIV réfléchit sur la normalisation de la guerre aujourd'hui. Alors qu'après la Seconde Guerre mondiale, la paix était placée au centre de l'ordre international, nous assistons aujourd'hui à une « inquiétante réhabilitation de la guerre en tant qu'instrument de politique internationale ». En ce sens, le pape souligne la croissance de l’industrie de guerre, « qui est devenue un secteur clé de l’économie de certains pays ».

A cela s'ajoute une crise du multilatéralisme, avec des institutions « fragilisées » par une volonté commune de les soutenir et de les réformer, aux yeux du Saint-Père. Il aborde la montée d'une « Realpolitik » qui décrit la paix comme une position utopique ou irrationnelle. « Lorsqu'une culture normalise et justifie les conflits, une dérive dangereuse s'ouvre : ce qui semble impensable aujourd'hui peut devenir acceptable demain sur la base de calculs d'utilité ou de sécurité », prévient le Saint-Père.

Tout ce contexte est un terrain fertile pour de nouvelles guerres « qui tendent à perdre toutes limites éthiques », c'est pourquoi elles sont plus dangereuses que les précédentes, selon la considération de Léon XIV. Sur ce point, il met également en garde contre l’utilisation de l’IA pour le développement de systèmes d’armes moins soumis au contrôle humain.

Dialogue entre l'Église et la technologie

Le co-fondateur d'Anthropic (une entreprise technologique axée sur le développement de modèles d'IA selon une éthique responsable), Christopher Olah, a également participé à la présentation de la nouvelle encyclique papale. À son tour de parler, il a admis que les entreprises technologiques ont besoin de voix critiques en dehors de l’industrie pour prendre position comme l’a fait l’Église.

Olah a détaillé les incitations à l'œuvre dans les laboratoires de pointe, au-delà de la volonté de faire le bon choix : la pression pour rester commercialement viable et à l'avant-garde de la recherche, la fierté et l'ambition, et la pression géopolitique. Selon l’homme d’affaires, les scientifiques et informaticiens sont influencés par ces aspects.

C'est pourquoi il a remercié la position adoptée par le Pape dans cette nouvelle encyclique : « Si la technologie arrive, elle doit le faire de manière positive, pour notre maison commune et pour les générations futures ». Il estime que grâce au « bras de fer » entre les scientifiques et les experts sur les questions morales, l'humanité réalisera de « grandes choses ».

Léon XIV a accepté votre invitation et a opté pour le dialogue avec les entreprises technologiques à ce sujet magnifique humanité (grande humanité). Même si elle ne veut pas remplacer les experts, l'Église veut participer à ces débats, a-t-il assuré. « Nous possédons une sagesse sur l'humanité dont notre époque a un besoin urgent. »

« C'est un grand signe d'espérance que, malgré nos différences, nous puissions nous écouter les uns les autres », a transmis le Saint-Père aux fidèles du monde entier.