Quand le pape s’insurge contre la démesure de l’IA - Par Mohammed Noureddine Affaya

Poursuivant sa lecture de l’encyclique du pape Léon XIV consacrée à l’intelligence artificielle qui a fait l’objet d’un premier texte Intitulé Face au retrait du sens, le message de Léon XIV sur l’intelligence artificielle, le philosophe et membre de l’Académie du Royaume, Mohammed Noureddine Affaya, se concentre sur les enjeux civilisationnels, politiques et humains soulevés par cette révolution technologique. Au-delà de la dimension religieuse du texte, l’auteur y voit un appel à encadrer collectivement une puissance technologique susceptible de redéfinir les rapports de pouvoir, les formes de connaissance et les fondements mêmes de la vie sociale.

Mohammed Noureddine Affaya

L’intelligence artificielle, une rupture sans précédent

Un sentiment diffus de désarroi accompagne aujourd’hui l’irruption fracassante des algorithmes de l’intelligence artificielle. Quiconque prétend comprendre pleinement ce qui se joue et ce qui émerge chaque jour gagnerait à faire preuve d’un peu d’humilité. La rapidité des innovations et l’extrême opacité qui les entoure conduisent même les spécialistes du domaine à reconnaître leur incapacité à saisir l’ensemble des transformations en cours, ou à prévoir celles à venir. Certains modèles d’intelligence dite « supérieure » ont déjà donné naissance à des « agents » dont les créateurs eux-mêmes ignorent comment ils évolueront et quelles orientations ils adopteront, tant l’autonomie qui leur a été accordée est grande.

Lire aussi : Face au retrait du sens, le message de Léon XIV sur l’intelligence artificielle – Par Noureddine Affaya

Il ne s’agit pas ici d’une peur du progrès ou des découvertes. L’intelligence artificielle est désormais une réalité avec laquelle il faudra composer, en faire un outil d’assistance au service de l’être humain, de son travail, de sa recherche et de sa vie quotidienne. Mais les mises en garde formulées par le pape dans son encyclique intitulée « La merveilleuse humanité », publié le 25 mai dernier, ainsi que les avertissements lancés par certains acteurs ayant participé au développement de cette technologie avant d’en mesurer les risques, placent l’humanité devant une nécessité vitale : élaborer des orientations collectives capables de déboucher sur une charte universelle destinée à encadrer cette intelligence et à contenir les conséquences potentiellement dévastatrices de son déploiement.

Faut-il considérer le message du pape Léon XIV comme la simple prise de position d’une institution religieuse et morale influente auprès d’une large partie de la population mondiale ? Ou convient-il plutôt de l’aborder à l’aune des enjeux existentiels et symboliques que soulèvent les algorithmes de l’intelligence artificielle, de l’ampleur de leur impact et de leur inscription dans un affrontement ouvert entre une autorité porteuse d’une mission éducative, pastorale et structurante, et une intelligence artificielle qui fonde une nouvelle « autorité temporelle », échappant progressivement à toute forme de contrôle ? Une autorité qui construit ce que certains qualifient d’« infrastructure morale » alternative, au service d’objectifs essentiellement lucratifs et des conceptions régressives.

Une nécessité intellectuelle et éthique

Le pape n’hésite pas à invoquer l’esprit du Christ lorsqu’il aborde cette question. Il appelle à ce qu’il nomme une « véritable écologie de la communication » ainsi qu’à l’établissement d’un pacte éducatif adapté à l’ère numérique. Selon lui, l’Église a le devoir de contribuer aux efforts de réflexion et d’élaboration de cadres pédagogiques concernant les médias, les réseaux de communication et l’intelligence artificielle au sein des systèmes éducatifs. Les bouleversements actuels imposent, à ses yeux, une révision des programmes, des méthodes de transmission du savoir, de communication et d’apprentissage, afin de développer chez les individus un véritable esprit critique leur permettant d’aborder les algorithmes de l’intelligence artificielle avec vigilance et discernement.

Nul ne peut ainsi demeurer simple spectateur face aux capacités d’orientation, d’influence et parfois de manipulation de ces technologies, ni face à leurs effets sur les enfants et les jeunes générations.

Parmi les nombreux ouvrages et études consacrés à l’intelligence artificielle au cours des quatre dernières années, le texte pontifical mérite une attention intellectuelle particulière. Il serait réducteur de le limiter à ses références religieuses et d’ignorer la portée des idées audacieuses qu’il avance. Il existe ainsi une nécessité intellectuelle et éthique d’intégrer cette contribution aux débats en cours, même lorsqu’elle émane du chef de l’Église catholique.

Car ce texte ne saurait être réduit à de simples considérations morales. Il propose une analyse des bouleversements, des inquiétudes et des fractures engendrés par l’intelligence artificielle. Il offre également un diagnostic porté avec un courage moral et institutionnel certain, interrogeant les responsabilités propres de son auteur face aux mutations technologiques actuelles et à leurs conséquences sur l’être humain, sa liberté, sa dignité et sa condition même d’homme, quelles que soient ses croyances, ses orientations ou ses choix de vie.

Le lecteur de cette encyclique, attentif aux défis existentiels ainsi qu’aux mutations anthropologiques et politiques que soulève l’intelligence artificielle, remarquera sans doute, au-delà de son objet même, qu’elle interroge les mêmes phénomènes, identifie les mêmes risques et appelle aux mêmes exigences de raison et de prudence : la nécessité d’établir des règles collectives pour encadrer cette intelligence supérieure et réguler son fonctionnement. Elle invite également à demeurer fidèle aux valeurs qui placent l’être humain, son intelligence, sa liberté, son équilibre existentiel et ses liens sociaux au sommet des priorités.

L’esprit inventif de l’humanité a produit d’innombrables découvertes techniques. L’homme s’est trouvé contraint de les concevoir pour dépasser ses limites physiques, surmonter certaines contraintes de la nature, organiser ses déplacements, gérer sa vie quotidienne et répondre à de multiples besoins qui ont toujours nourri l’innovation. Il a ainsi créé des énergies et des moyens qui ont profondément transformé l’existence humaine et notre rapport à l’espace, au temps et aux autres, à l’image de l’électricité, du train, de l’automobile ou encore d’Internet.

Mais l’intelligence artificielle ne progresse pas comme une découverte ordinaire, ni comme une simple innovation destinée à servir l’homme, ainsi qu’ont pu l’être les inventions précédentes malgré les risques qu’elles comportaient. Elle ébranle les fondements mêmes de la vie sociale et humaine, notamment dans les domaines de la production des connaissances, de l’organisation des sociétés et de la gestion des relations humaines. C’est pourquoi le message du pape Léon XIV sur l’intelligence artificielle inscrit cette problématique dans une perspective civilisationnelle où s’affrontent deux modèles : la « civilisation de la puissance et de la domination », d’une part, et ce qu’il appelle la «civilisation de l’amour », d’autre part.

Le défi de la souveraineté face aux géants technologiques

La référence du pape à l’encyclique Rerum Novarum (« Des choses nouvelles »), publiée par le pape Léon XIII dans le contexte des bouleversements engendrés par la révolution industrielle du XIXe siècle, n’a rien d’anodin. Elle porte une signification profonde : toute innovation technologique possède la capacité de transformer les modes de vie, de modifier les relations humaines, d’influencer les sensibilités collectives et de fragiliser les liens sociaux. Dès lors, chaque découverte majeure exige une réflexion collective approfondie ainsi qu’une lucidité suffisante pour anticiper les conséquences que ses mécanismes pourraient produire sur les sociétés et sur le destin de l’humanité.

Face au recul de l’action politique et à des dirigeants mondiaux qui se contentent souvent d’observer les dérives et les atteintes portées aux droits humains, où tout au plus de les commenter le pape refuse, à travers cette lettre, d’endosser le rôle du spectateur passif. Il s’élève contre la puissance croissante acquise par l’intelligence artificielle et contre les perspectives qu’elle ouvre en matière de déconstruction des États, des institutions et des sociétés.

Alors que, dans un passé encore récent, les découvertes technologiques étaient supervisées par les États, qui en réglementaient les usages, ou par des organisations internationales chargées d’en fixer les limites — comme ce fut le cas pour l’énergie nucléaire, notamment après le lancement de la bombe atomique par les États-Unis durant la deuxième guerre mondiale et les tragédies humaines, sanitaires et sociales qu’elle a infligées au peuple japonais —, la situation apparaît aujourd’hui radicalement différente.

Le pape souligne en effet que l’intelligence artificielle n’est plus dirigée par les États, à l’exception notable de la Chine. Elle est désormais largement contrôlée par des entreprises privées dont les capacités financières et technologiques dépassent souvent celles des gouvernements eux-mêmes. Ces derniers recourent à leurs services pour gérer leurs administrations, leurs armées où encore leurs systèmes financiers. Même lorsque ces relations s’inscrivent dans le cadre d’accords contractuels précis, les secrets technologiques demeurent l’apanage exclusif de ces plateformes privées.

Une telle situation soulève une interrogation fondamentale sur la souveraineté des États, sur la nature et l’étendue de leur pouvoir, ainsi que sur les transformations qui affectent leurs mécanismes de gouvernance dans les domaines éducatif, scientifique, social, sécuritaire et institutionnel, y compris leur monopole traditionnel de la contrainte légitime.

Les entreprises qui développent les algorithmes de l’intelligence artificielle contrôlent désormais les infrastructures numériques, orientent les flux massifs d’informations selon leurs propres stratégies et attirent les meilleurs cerveaux des sciences mathématiques grâce à des rémunérations vertigineuses, dans une course effrénée à la conception de modèles toujours plus puissants.

Leur influence ne se limite donc pas à la sphère économique. Elles concentrent entre leurs mains des leviers de pouvoir potentiellement illimités qui touchent à la connaissance, à la géostratégie, à la culture et à bien d’autres domaines encore.