par Sur le blog de Grégory Aimar : L’Évangile selon Big Tech
Depuis sa publication le 25 mai, l’encyclique du Pape Léon XIV, Magnifica Humanitas, a été très commentée. Ces nombreuses réactions témoignent d’une attente profonde des citoyens, dans le monde entier, d’un besoin de repères, à la fois intellectuels et éthiques, dans une révolution technologique que beaucoup ressentent de plus en plus comme étant hors de contrôle. Mais un aspect du texte a été, étonnamment, assez peu discuté, alors qu’il constitue le fondement même de l’encyclique : sa dimension spirituelle. Et contre toute attente, c’est une intervention, une semaine plus tôt, non pas du Pape mais d’Elon Musk, qui pourrait bien révéler toute l’importance de cette lecture pour le futur du développement de l’intelligence artificielle et, en réalité, pour l’avenir de notre « magnifique humanité ».
« Il faut désarmer l’IA »
C’est la punchline de l’encyclique. Celle qui a été reprise par la majorité des médias et l’on comprend pourquoi : cette injonction du Pape Léon XIV fait d’une pierre deux coups, ciblant à la fois l’utilisation croissante de l’intelligence artificielle dans les conflits mondiaux et la concurrence agressive qui se déroule au sein l’industrie elle-même. « Désarmer l’IA, écrit le Saint Père, c’est la soustraire à la logique de la compétition armée qui n’est plus aujourd’hui seulement militaire, mais aussi économique et cognitive » (§110). « Désarmer ne signifie pas renoncer à la technologie, mais l’empêcher de dominer l’humain », précise-t-il en écho au sous-titre de l’encyclique — Sur la protection de la personne humaine à l’ère de l’intelligence artificielle. Le Pape met en garde les grandes puissances contre l’illusion d’une avance technologique qui confèrerait automatiquement à ceux qui la possède le droit de dominer les nations et les peuples.
Dès le paragraphe suivant, Léon XIV affirme la dimension chrétienne de son raisonnement et démontre, par la même occasion, que son approche n’a rien de technophobe : « L’innovation technologique peut être, d’une certaine manière, une forme humaine de participation à l’acte divin de la création » (§ 111). Pour lui, les développeurs et les producteurs de l’IA portent une « responsabilité éthique et spirituelle particulière » dans l’évolution de l’humanité : « Le risque n’est pas seulement que certaines technologies soient mal utilisées, mais que le paradigme technocratique dans lequel nous sommes plongés, renforcé par la révolution numérique et l’IA, fasse passer pour juste et normale une vision anti-humaine » (§112). En fait, pour le Pape, s’il faut « désarmer l’IA », c’est avant tout pour sortir d’une nouvelle course aux armements qui, par le sentiment d’urgence qu’elle suscite, nous fait perdre de vue ces composantes essentielles de la vie que sont « l’affection, la volonté, le dévouement et la relation ». Pour l’auteur, « le pouvoir technique, s’il n’est pas équilibré, ne nous rend pas plus capables : il nous rend plus seuls, et plus exposés aux logiques de domination et d’exclusion » (§113).
Babel vs. Jérusalem
Ce versant spirituel de l’encyclique, en-dehors de quelques chercheurs comme David Pucheu, peu d’observateurs semblent l’avoir relevé. Il est pourtant central et est prégnant dès l’introduction du document. Pour schématiser l’enjeu civilisationnel qui se présente à nous avec l’IA, Léon XIV convoque deux images bibliques qu’il met en opposition : d’un côté, la tour de Babel (Gn 11, 1-9), qui symbolise un projet accompli sans Dieu, menant à la division des hommes et à l’effondrement de leur société ; de l’autre côté, la reconstruction des murs de Jérusalem (Ne 2-6), une entreprise menée avec Dieu, dans la coopération, conduisant à une société unie et pérenne. Ainsi, l’encyclique nous invite à éviter le « syndrome de Babel », « l’idolâtrie du profit qui sacrifie les plus faibles, l’uniformité qui gomme les différences, la prétention d’un langage unique — y compris numérique — capable de tout traduire, même le mystère de la personne, en données et en performances » (§10).
En critiquant la réduction de la personne humaine à des données et en rappelant l’importance des relations sociales dans notre vie, le souverain pontife vise juste. La dernière édition de l’étude AI in the Wild publiée début juin dans la Harvard Business Review — une étude sur l’évolution de nos usages en matière d’intelligence artificielle depuis trois ans — est claire : en tête du classement, le recours aux IA à des fins « thérapeutiques » ou « relationnelles ». Un boom des fameux « compagnons IA » qui constitue probablement aujourd’hui, devant les questions environnementales, économiques ou militaires, le plus grand risque pour l’avenir de notre civilisation. Ce qui est en cause ici, c’est l’influence croissante de l’idéologie transhumaniste qui progresse dans le monde entier, à bas bruit, des croyances technoreligieuses qui, de plus en plus, « modifient l’imaginaire collectif et orientent nos choix sociaux, économiques et politiques » (§116).
Le catéchisme d’Elon Ier
Si vous n’êtes pas encore familiers avec le projet transhumaniste des géants du numérique — courez lire L’Évangile selon Big Tech ! —, Elon Musk en a rappelé les fondements à l’occasion du dernier Samson International Smart Mobility Summit, à Tel Aviv, tout juste une semaine avant la publication de Magnifica Humanitas. Devant un parterre d’entrepreneurs et d’investisseurs israéliens béats, l’Antipape de la tech nous a donné un vrai cours de catéchisme.
Leçon n°1 — La conscience des machines
Chez Tesla, « en termes de conduite autonome, nous faisons des progrès constants. (…) Nous essayons de conduire les voitures de la même façon que les humains conduisent leurs voitures, avec leur vision et leur réseau neuronal biologique. (…) C’est assez magique de sentir que la voiture est, en quelque sorte, consciente. On a l’impression que c’est vivant. Au fil de l’amélioration du logiciel, vous pouvez sentir la conscience grandir dans la voiture. »
Leçon n°2 — Le remplacement des êtres humains par les robots
« Tesla construit des robots à quatre roues actuellement. Mais dans le futur, nous aurons également des robots humanoïdes. Ma prédiction c’est que, dans le futur, nous aurons plus de robots intelligents sur Terre que d’êtres humains. Et je pense que c’est une bonne chose. »
Leçon n°3 — La colonisation spatiale
« Nous sommes aujourd’hui à la version 3 de la fusée SpaceX et je pense que nous parviendrons bientôt à la réutilisation totale et rapide de ces engins. Ce sera une percée nécessaire pour développer la civilisation multiplanétaire et étendre la conscience au-delà de la Terre. »
Leçon n°4 — La fusion entre le cerveau et l’intelligence artificielle
« À propos des interfaces Neuralink, qui permettent de créer un lien entre l’IA et le cerveau, nous permettrons à des personnes qui ont perdu la connexion entre leur corps et leur esprit de retrouver la parole et de marcher à nouveau. (…) Plus tard cette année, nous allons également inaugurer notre premier implant pour les aveugles — de naissance ou non — de façon à leur rendre la vue et même d’aller au-delà, vers une vision surhumaine. »
Leçon n°5 — L’avènement d’une religion technologique
« Vous pouvez qualifier ces avancées de ‘’technologies du niveau de Jésus (Jesus-level technologies)’’… — Miracles, miracles ! commente l’animatrice — Oui, des miracles ! reprend Musk. Les miracles de la science. »
Leçon n°6 — La foi dans le technosolutionnisme
« Nous sommes en route vers un futur d’incroyable abondance grâce à ces robots. Chacun pourra avoir tout ce qu’il veut. »
Leçon n°7 — L’avènement d’une religion technologique, suite
« Ensuite, il y a des questions de ‘’sens’’. Comment trouver du sens dans un monde où l’IA et les robots peuvent tout faire mieux que nous ? (…) J’aime poser cette question : quel est le futur que vous désirez ? Quel est le meilleur futur que vous pouvez imaginer ? Imaginez que vous priez Dieu pour lui demander la réalisation d’un certain futur : quel avenir souhaitez-vous que Dieu vous offre ? »
Pour Elon Musk, investir dans Tesla, SpaceX et Neuralink, c’est comme prier Dieu. Une ambition messianique partagée, en fait, par la majorité des acteurs de la tech.
La réponse de Léon XIV
Le Pape dresse un parallèle évident entre le projet transhumaniste et la tour de Babel : « Au nom du progrès, prévient-il, on peut en venir à imaginer des ‘‘sacrifices nécessaires’’ et à faire payer aux plus fragiles le prix d’une prétendue optimisation de l’espèce ». Rappelant l’importance d’une acceptation sincère de notre finitude, Léon XIV en souligne également les vertus : « C’est précisément parce que [l’être humain] fait l’expérience de la limite — la vulnérabilité, la douleur, l’échec — qu’il peut reconnaître sa propre dignité et celle d’autrui comme inviolables. Et dans cette même expérience de la limite, il reste capable de percevoir une fraternité plus grande que lui-même et de reconnaître l’injustice comme un scandale » (§122).
Magnifica Humanitas est un texte dense qui aborde de nombreuses réflexions et vient explicitement prolonger l’encyclique Rerum Novarum publiée par le Pape Léon XIII en 1891 qui, déjà, s’inquiétait des effets de la révolution industrielle sur la société : le conflit entre le capital et le travail, la question ouvrière, les transformations économiques et sociales, notamment. Plus largement, c’est la Doctrine sociale de l’Église (DSE) qui sert de référence à Léon XIV dans l’analyse de cette nouvelle révolution industrielle que constitue l’intelligence artificielle. Ce corpus d’enseignements culturels et sociaux, qui a pris racine dans Rerum Novarum et qui s’est nourri au fil des décennies des nombreuses publications de l’Église, repose sur un principe aussi simple qu’exigeant pour ses membres : « Tant qu’il y aura dans le monde des peuples exclus d’un développement digne de l’être humain, la communauté chrétienne ne pourra se contenter de proclamer la paix de manière abstraite, mais devra laisser l’Évangile juger ces structures économiques et politiques à partir de ceux qui en sont écartés » (§36).
Ce sont les valeurs de l’Évangile qui président à l’analyse papale de la révolution technologique en cours. Il y est bien question de foi, ou plutôt du choix entre deux types de foi : la foi en Dieu et la participation de l’homme son dessein (Jérusalem), ou la foi en la technologie et la substitution de l’homme à Dieu (Babel). Le paragraphe 126 est probablement celui qui résume le mieux l’esprit de l’encyclique et le message que Léon XIV a souhaité adresser au monde : « L’humanité — magnifique et blessée — ne doit être ni remplacée ni dépassée : elle peut accueillir les progrès de la technique pour soulager les souffrances et ouvrir de nouvelles possibilités, à condition de ne pas renier ce qui fait d’elle ce qu’elle est, c’est-à-dire la capacité de relation et d’amour. À ce stade, une question décisive s’impose : s’il existe un authentique ‘‘plus qu’humain’’, où se trouve-t-il ? La foi chrétienne y répond en indiquant un accomplissement qui ne découle pas d’une divinisation technologique, mais de l’opération de la grâce de Dieu reçue dans le Christ. »
La curieuse anthropologie d’Anthropic
En réalité, il est difficile d’extraire un seul passage de Magnifica Humanitas tant les sujets traités sont nombreux et tous d’une égale importance : droits de l’homme et de la femme, solidarité, justice sociale, démocratie, conflits armés, écologie intégrale, santé, travail, éducation, famille, foi et sagesse… Tous ces domaines sont impactés par l’accélération technologique et sur tous ces sujets, la DSE peut constituer une source de discernement. Cependant, un choix de Léon XIV dans la présentation de son encyclique au public a laissé certains observateurs perplexes : l’invitation de Christopher Olah, co-fondateur d’Anthropic, à la tribune. Si l’on saisit assez facilement la volonté du Pape d’afficher une ouverture au dialogue avec les Big Tech à ce moment stratégique et, en particulier, avec la société Anthropic qui fait figure de dissidente vis-à-vis de l’administration Trump (elle-même très critique envers le Vatican), il est plus difficile de comprendre la liberté accordée à l’entrepreneur dans son discours devant la salle du Synode.
Depuis sa création, Anthropic est l’une des entreprises d’IA qui a le plus communiqué sur la prétendue « sensibilité des machines ». Prenant appui sur une étude des universités de Stanford, Oxford et New York, Anthropic s’interrogeait, début 2025, dans un billet de blog : « Devrions-nous nous préoccuper de la conscience potentielle des [systèmes d’IA] ? Devrions-nous aussi nous préoccuper de leur bien-être ? ». Des questions rhétoriques qui traduisent, en réalité, l’adhésion de l’entreprise à la leçon n°1 du catéchisme transhumaniste d’Elon Musk : les machines seraient conscientes et devraient bénéficier de droits, au même titre que les citoyens humains. Et c’est cette doctrine que Christopher Olah est venu prêcher au Vatican, le 25 mai. Après un rappel consensuel de l’importance pour les Big Tech de concevoir des intelligences artificielles orientées vers le bien de l’humanité, l’associé de Dario Amodei a assuré à l’audience que, chez Anthropic, ils observaient régulièrement « des choses mystérieuses [dans le fonctionnement de leurs IA ], des choses troublantes, des indices d’introspection, des états internes qui reproduisent fonctionnellement la joie, la satisfaction, la peur, le chagrin, le malaise… ». « Je ne sais pas ce que cela signifie,a-t-il conclu, mais nous avons besoin que plus de personnes prennent cela au sérieux. »
Un discours en décalage, voire en totale contradiction avec une encyclique censée mettre l’accent sur « la protection de la personne humaine à l’ère de l’intelligence artificielle ». Anthropic ne défend pas les data workers, exploités par l’industrie de l’IA en Afrique ou en Asie, ni les victimes des chatbots, manipulées par les algorithmes jusqu’à être parfois poussées au suicide. Non, le souci d’Anthropic, c’est de défendre « le bien-être des IA ». Il est légitime, dès lors, de s’interroger sur la sincérité de leurs intentions quand ils prétendent vouloir bénéficier des lumières de l’Eglise dans le développement de leurs technologies. Après le #greenwashing, assistons-nous à l’avènement du #christwashing ?
Partager L’Evangile selon Big Tech | Le blog
Une nécessaire prise de conscience
Qu’il s’agisse de la nature de la conscience, de la définition de notre humanité ou encore de notre conception du vivant et de notre responsabilité envers notre planète, le coeur du débat est spirituel. Certains ingénieurs de l’IA, aux avant-postes de l’innovation, commencent à être conscients de cette réalité : « Les avancées technologiques nous forcent à nous poser des questions existentielles, confie un ancien salarié de Big Tech à La Croix. Qu’est-ce que l’humain ? Qu’est-ce que la conscience ? L’esprit ? L’âme ? Cela pousse certains ingénieurs à se tourner vers la spiritualité et la religion. » Pour ces développeurs, il ne s’agit pas de tomber dans le prosélytisme, mais de réhabiliter des réflexions qui ont toujours été au coeur du développement moral de l’humanité. Ne pas s’emparer de ces questions, c’est les laisser aux mains d’entrepreneurs dont l’agenda n’est pas forcément, malgré les discours, en phase avec le bien commun et la justice sociale.
En 2015, l’historien des sciences Georges Dyson identifiait déjà la tension entre religion et technologie, dans le documentaire conceptuel In Limbo, d’Antoine Viviani : « La religion existe parce qu’il y a un fossé entre l’esprit des êtres humains et celui de Dieu, et c’est dans cet espace vide que nous créons la religion. Et cet espace est aujourd’hui un terreau très fertile pour la technologie. (…) Nous avons des religions millénaires, mais… de la même façon que nous assistons à la création d’un nouvel univers [numérique], il n’y a pas de raison pour que nous ne voyions pas émerger une nouvelle religion. (…) Ma théorie est donc la suivante : peut-être que le diable attend toujours et qu’il veut les ordinateurs. Et notre rôle, en tant qu’humains, est de nous assurer que les ordinateurs ne deviennent pas l’instrument du diable, ce qui est, nous le savons, très possible… » Une référence au diable que l’on peut comprendre ici comme la déshumanisation des relations, l’exploitation des plus vulnérables ou encore l’aveuglement face aux conséquences de politiques industrielles qui n’auraient pour finalité que la recherche de puissance et de profit, au détriment de la paix et de la solidarité.
Léon XIV le rappelle à la fin de sa prose : « Chaque choix technologique ou économique devient un lieu de discernement spirituel, une occasion de vérifier si les progrès de l’IA ouvrent des espaces de justice et de participation, ou bien concentrent la richesse et le pouvoir entre les mains d’un petit nombre » (§240). Des choix qui sont autant individuels que collectifs, comme il le souligne également : « Personne n’est sans responsabilité, chacun dispose de son propre champ d’action » (§212), « il y a des situations dans lesquelles, pour rester humains, nous devons abandonner nos hésitations et prendre position » (§216). Ce sera donc à chacun et chacune d’entre nous qu’il incombera, dans les mois et les années à venir, de « prendre position » afin de répondre à cette question déterminante, existentielle, à la fois technologique, politique, philosophique et spirituelle : « S’il existe un authentique ‘‘plus qu’humain’’, où se trouve-t-il ? »
