L'HUMANITE AU RISQUE DE L'IA : LECTURE DE L'ENCYCLIQUE "MAGNIFICA HUMANITAS"

Depuis plusieurs années, philosophes, scientifiques et essayistes s'aventuraient sur le terrain de la critique de l'intelligence artificielle. À l’inverse, peu de responsables étatiques acceptaient d'affronter publiquement la question tant les problèmes soulevés par son développement sont immenses et profonds. En publiant son encyclique Magnifica Humanitas SS le pape Léon XIV l'a fait, et il a marqué les esprits.

Le Pape s'adresse à l'Église dans sa dimension universelle, mais aussi aux femmes et aux hommes de bonne volonté; la sagesse qu'il déploie est de nature à éclairer les croyants comme les non-croyants. Cette encyclique nous intéresse  tous.

J'évoquerai ici très modestement les thèmes qui me paraissent dans l’immédiat constituer les points les plus forts et les plus structurants de ce texte majeur sans avoir le prétention d'en faire un "commentaire". 

Il faut en préalable souligner le choix du Saint-Père de placer sa réflexion dans la double perspective de Babel et de la reconstruction de Jérusalem; par cette hauteur de vue Leon XIV révèle d'emblée la dimension ontologique et spirituelle de son analyse. 

Au-delà de l'outil : la non neutralité morale

Après avoir proposé plusieurs approches d'une définition de l'intelligence artificielle et rappelé qu'elle ne possède pas toutes les facultés de l'intellect humain, le Saint-Père dépasse la formule, pourtant répandue, selon laquelle l'IA ne serait qu'un simple outil. Certains spécialistes, comme Luc Julia, s'en tiennent à cette définition instrumentale (il la compare à un marteau...). D'autres, comme par exemple Laurent Alexandre, considèrent qu'en raison de ses capacités croissantes, elle devient une concurrente directe de notre intelligence, allant jusqu’à affirmer que désormais l’homme serait la deuxième espèce la plus intelligente après l'IA …

Le Pape emprunte un autre chemin. Il dépasse cette opposition stérile. Il affirme qu'aucun système technique n'est moralement neutre lorsqu'il transforme les conditions dans lesquelles les hommes prennent leurs décisions. L'enjeu n'est donc pas de savoir si la machine est plus performante ou pas, bonne ou mauvaise, mais de reconnaître que les usages qu'elle permet, les arbitrages qu'elle automatise et les dépendances qu'elle crée engagent toujours une responsabilité humaine. Le point important c’est la non neutralité morale de l’usage que l’on en fait. Notre intelligence restera-t-elle humaine?

Dès lors qu'un dispositif conduit par exemple à traiter certaines vies comme moins dignes que d'autres, à exclure ou à discriminer, ce ne sont pas les algorithmes qui deviennent coupables, mais les hommes qui renoncent à exercer pleinement leur discernement. « La matière que l'IA traite, habituellement soumise au discernement humain, exige que son usage demeure traversé d'arbitrages conscients. »

Contrairement à ce que prétendent certains discours, la machine ne s'est pas émancipée de l'homme. Derrière chaque algorithme, chaque centre de données et chaque décision automatisée subsistent des choix humains. Que l'on songe simplement à ce fait si peu évoqué, même par le Saint-Père : les hommes peuvent toujours l'arrêter en appuyant sur le bouton « Off »; de même une panne électrique suffit à interrompre son fonctionnement. 

La véritable question n'est donc pas celle de la souveraineté de la machine, mais celle de l'usage que les hommes décident d'en faire.

La question morale ne disparaît pas avec l'automatisation ; elle change simplement de lieu. La difficulté – le défi – est d’y répondre efficacement et de manière aussi pertinente que digne. Pour cela il faut du discernement en se fondant sur des principes clairs, fermes et incontestables tels ceux de la doctrine sociale de l'Eglise que SS le Pape prend le soin de rappeler.

L'opacité de la « boîte noire » et l'urgence du désarmement

Le Pape interroge ensuite la « boîte noire » de l'IA, cette zone d'ombre que la plupart des concepteurs et des utilisateurs contournent, tout en reconnaissant qu'ils ne comprennent pas totalement comment la machine parvient à produire ses résultats.

Cette opacité coïncide avec un décalage croissant entre la vitesse du développement technologique et le rythme auquel se forment les consciences, les normes et les institutions. Comme le rappelle le texte, Romano Guardini l'avait pressenti : « L'homme moderne n'a pas reçu l'éducation nécessaire pour faire un bon usage de son pouvoir. » Il y a là une impasse dont les risques sont aggravés par la concentration du pouvoir entre les mains de quelques acteurs privés guidés par leurs seuls intérêts.

Vient alors l'appel au « désarmement de l'IA », largement commenté par les médias. Il convient de le lire avec attention. En parlant de désarmement, le Pape entend soustraire l'intelligence artificielle à la logique de la compétition armée — qu'elle soit militaire, économique ou cognitive. Désarmer, écrit-il, c'est rompre l'équivalence entre la puissance technique et le droit de gouverner. Ce n'est pas renoncer à la technologie ; c'est l'empêcher de dominer l'humain.

Reste évidemment la question des moyens. Michel Onfray observe que ce désarmement ne peut être accompli que par l'intelligence humaine elle-même, et regrette l'absence de propositions concrètes, comme l’absence du mot « livre » dans le texte. Le reproche mérite d'être entendu. Pour autant, la nature même d'une encyclique ne permet pas d'entrer dans le détail des solutions pratiques. Le champ demeure ouvert : il appartient désormais aux responsables politiques, mais aussi à chacun d'entre nous, d'inventer les modalités concrètes de ce désarmement. La tâche sera immense.

L'éloge de la limite face au transhumanisme

Le développement le plus marquant est selon moi celui consacré à la limite. Après avoir critiqué le transhumanisme et le posthumanisme à la lumière de la doctrine sociale de l'Église, le Saint-Père souligne que, dans nos sociétés, tout ce qui apparaît comme une limite — maladie, vieillesse, souffrance ou vulnérabilité — tend à être perçu comme un défaut à corriger plutôt que comme une dimension constitutive de la condition humaine.

Cette évolution n'est pas sans lien avec la logique même des systèmes techniques. Pour une machine, la limite est un défaut ; pour l'homme, elle peut être une condition de son accomplissement. Pour un algorithme, l'erreur est un écart à corriger ; elle n'a pas de sens en elle-même. La perfection consiste à réduire toujours davantage cet écart. La vie humaine obéit à une autre logique. Une erreur, un échec, une épreuve ou une fragilité peuvent devenir l'occasion d'un apprentissage, d'une conversion ou d'une maturation. L'avenir d'une personne ne se réduit jamais à une prévision ou à une projection statistique ; il demeure ouvert à l'exercice de sa liberté.

C'est précisément sur ce point que porte la critique du Saint-Père. Dès lors que la limite est perçue comme un simple défaut technique, l'idéal devient son effacement progressif. Or ce que rappelle Léon XIV, c'est que l'être humain ne se laisse pas réduire à une logique d'optimisation. Il existe en lui une part irréductible au calcul, à la performance et à la maîtrise technique.

S'il ne s'agit évidemment pas de récuser les progrès susceptibles de soulager certaines souffrances, la réflexion du Saint-Père invite à s'interroger sur la signification même de la limite. Car c'est souvent dans l'expérience de notre finitude que deviennent possibles la solidarité, le don de soi, la dépendance réciproque et, plus largement, la vie commune.

La limite nous rappelle que nous sommes humains. Son acceptation rend possibles la générosité, la solidarité et l'amour lui-même. Sans limite, il n'y a plus de don. Sans limite, il n'y a plus d'amour. Sans limite, il n'y a plus de vie commune.

Le « jeûne de l'IA » et la résistance au quotidien

Un autre thème marquant me semble être celui du « jeûne de l'IA », une formule qui a beaucoup frappé les commentateurs. Le Pape l'utilise dans le cadre de sa réflexion sur l'éducation. Face à la difficulté d'intégrer l'IA dans les systèmes scolaires sans sacrifier les fondements d'une véritable formation de l'esprit, il propose cette ascèse. L'éducation ne peut se réduire à un apprentissage technique ; elle doit continuer de façonner l'intelligence humaine elle-même. Dès lors, comme pour les écrans ou les réseaux sociaux, l'idée d'un jeûne apparaît non seulement juste, mais nécessaire.

Le travail humain.

Par ailleurs, l'encyclique consacre plusieurs passages importants à l'esclavage moderne qui se cache derrière le fonctionnement de ces technologies, notamment à travers le travail souvent invisible des « travailleurs du clic », mais également derrière certains de leurs usages. Cette attention portée aux victimes permet à Léon XIV d'éviter aussi bien le catastrophisme que l'angélisme. Il propose des responsabilités concrètes : désarmer les mots, construire la paix dans la justice, adopter le regard des plus fragiles, cultiver le réalisme et relancer le dialogue.

Cette préoccupation s'étend au monde du travail, dont les transformations accélérées constituent sans doute l'un des défis majeurs de l'intelligence artificielle. Si le Saint-Père évoque les risques liés à l'automatisation, peut-on regretter qu'il n'explore pas davantage les conséquences d'un phénomène déjà à l'œuvre qui voit les hommes et les femmes être appelés à travailler, décider et parfois même dialoguer quotidiennement avec des machines ? 

La question n'est pas seulement celle de la disparition éventuelle de certains emplois, mais aussi celle de la transformation du travail humain lui-même, de son sens, de ses finalités et des relations qu'il structure. À cela s'ajoute naturellement l'inquiétude suscitée par les formes de chômage que ces mutations pourraient engendrer. Ces questions demeurent largement ouvertes et mériteront à elles seules un examen approfondi dans le prolongement des précédents textes fondamentaux de la doctrine sociale de l’Eglise comme l’encyclique Rerum Novarum dans le sillage de laquelle le Pape place son encyclique.

Une citation de Tolkien par l'encyclique résume parfaitement l'esprit du texte :

« Il ne nous appartient pas de rassembler toutes les marées du monde, mais de faire ce qui est en nous pour le secours des années dans lesquelles nous sommes placés. »

La civilisation de l'amour ne naît pas d'un geste spectaculaire, mais d'une somme de petites fidélités tenaces faisant barrage à la déshumanisation.

Conclusion : La machine face au réel

Au-delà de cet appel à un amour transfiguré par la figure et la vie de Notre Seigneur Jésus-Christ, il convient de revenir sur le mythe de la concurrence absolue entre l'homme et la machine.

Le débat du dépassement de l'homme par la technologie n'est pas nouveau, mais il prend une tournure particulière avec l'IA en raison de sa capacité à intervenir dans des domaines jusque-là largement réservés au jugement humain avec une puissance en croissance exponentielle. Cette situation nourrit des inquiétudes légitimes. Pourtant, il importe de ne pas confondre la puissance des systèmes techniques avec une autonomie véritable, la mythique singularité qui demeure inaccessible pour le moment.

L'intelligence artificielle demeure une création humaine. Elle dépend d'infrastructures, de ressources matérielles, d'organisations économiques, de décisions politiques et, en dernier ressort, de choix humains. Son importance ne réside donc pas dans une prétendue émancipation de la machine à l'égard de l'homme, mais dans la place croissante qu'acceptent de lui accorder les sociétés contemporaines.

C'est précisément pour cette raison que la question de l'IA est d'abord une question politique, morale et anthropologique. Le véritable enjeu n'est pas de savoir si la machine remplacera l'homme et la « magnifique humanité », mais de déterminer quelles responsabilités les hommes accepteront encore d'assumer dans un monde où une part croissante de leurs décisions risque d'être médiatisée par des systèmes techniques dont le contrôle est l’enjeu de demain.

A l'heure où nos politiques se croient investis d'une mission messianique avec leurs projets de lois sur la génétique, l'euthanasie, la GPA etc, et plutôt que de se contenter de commenter les usages que nous faisons de l'IA sous la houlette des acteurs de la Silicon Valley, ils feraient mieux de s'emparer de ces questions comme SS le Pape Léon XIV les y invite!