L'HUMANITE AU RISQUE DE L'IA : LECTURE DE L'ENCYCLIQUE "MAGNIFICA HUMANITAS"

SS le pape Léon XIV a marqué les esprits avec son encyclique Magnifica Humanitas. Depuis plusieurs années, philosophes, scientifiques et essayistes s'aventuraient sur le terrain de la critique de l'intelligence artificielle, sans fil conducteur. De leur côté les responsables étatiques étaient atones tant les problèmes soulevés par son développement sont immenses et profonds. Le Saint-Père a affronté l'Everest des temps modernes avec la perspective de la doctrine de l'Eglise dont il mène la barque.

Il est extrêmement difficile de commenter un tel texte à chaud ; aussi ne m'aventurerai-je pas dans une analyse exhaustive. Il faut souligner sa hauteur de vue et sa dimension magistrale. Le choix du Saint-Père de placer sa réflexion dans la double perspective de Babel et de la reconstruction de Jérusalem révèle d'emblée la dimension ontologique et spirituelle de son analyse; sa hauteur de vue. 

Si le Pape s'adresse à l'Église dans sa dimension universelle, la sagesse qu'il déploie est également de nature à éclairer les non-croyants; les femmes et les hommes de bonne volonté. Elle nous intéresse donc tous.

Voici les thèmes qui dans l’immédiat me paraissent constituer les points les plus forts et les plus structurants de ce texte essentiel.

Au-delà de l'outil : la non neutralité morale

Après avoir proposé plusieurs approches de ce que pourrait être l'intelligence artificielle et rappelé qu'elle ne possède pas toutes les facultés de l'intellect humain, le Saint-Père dépasse la formule, pourtant répandue, selon laquelle l'IA ne serait qu'un simple outil. Certains spécialistes, comme Luc Julia, s'en tiennent à cette définition instrumentale (il la compare à un marteau...). D'autres, comme Laurent Alexandre, considèrent qu'en raison de ses capacités croissantes, elle devient une concurrente directe de notre intelligence, allant jusqu’à affirmer que désormais l’homme serait la deuxième espèce la plus intelligente…

Le Pape emprunte un autre chemin. Il transcende cette opposition stérile et paralysante. Il affirme qu'aucun système technique n'est moralement neutre dès lors qu'il transforme les conditions dans lesquelles les hommes prennent leurs décisions. L'enjeu n'est donc pas de savoir si la machine est bonne ou mauvaise, mais de reconnaître que les usages qu'elle permet, les arbitrages qu'elle automatise et les dépendances qu'elle crée engagent toujours une responsabilité humaine. Le point important c’est la "non neutralité morale" de l’usage que l’on en fait.

Dès lors que l'IA exclue, discrimine, tranche et s'immisce dans nos vies  ce ne sont pas les algorithmes qui sont responsables, mais les hommes qui renoncent à exercer pleinement leur discernement. « La matière que l'IA traite, habituellement soumise au discernement humain, exige que son usage demeure traversé d'arbitrages conscients. »

Contrairement à ce que prétendent certains fanatiques de l'IA, la machine ne s'est pas émancipée de l'homme. La singularité demeure un rêve de science-fiction! Derrière chaque algorithme, chaque centre de données et chaque décision automatisée subsistent des choix humains. Je remarque pour ma part, ce qui est très peu souligné, et n'est d'ailleurs sauf erreur pas évoqué par notre Pape que les hommes peuvent toujours l'arrêter en appuyant sur le bouton « Off », et une panne électrique suffit à interrompre son fonctionnement. La véritable question n'est donc pas celle de la souveraineté de la machine, mais celle de l'usage que les hommes décident d'en faire.

La question morale ne disparaît pas avec l'automatisation ; elle change simplement de lieu. La difficulté – le défi – est d’y répondre efficacement et de manière pertinente.

L'opacité de la « boîte noire » et l'urgence du désarmement

Le Pape interroge ensuite la « boîte noire » de l'IA, cette zone d'ombre que la plupart des concepteurs et des utilisateurs contournent, tout en reconnaissant qu'ils ne comprennent pas totalement comment la machine parvient à produire ses résultats.

Cette opacité coïncide avec un décalage croissant entre la vitesse du développement technologique et le rythme auquel se forment les consciences, les normes et les institutions. Comme il le rappelle, Romano Guardini l'avait pressenti : « L'homme moderne n'a pas reçu l'éducation nécessaire pour faire un bon usage de son pouvoir. » Il y a là une impasse dont les risques sont aggravés par la concentration du pouvoir entre les mains de quelques acteurs privés guidés par leurs seuls intérêts.

Vient alors l'appel au « désarmement de l'IA », largement commenté par les médias. Il convient de le lire avec attention. En parlant de désarmement, le Pape entend soustraire l'intelligence artificielle à la logique de la compétition armée — qu'elle soit militaire, économique ou cognitive. Désarmer, écrit-il, c'est rompre l'équivalence entre la puissance technique et le droit de gouverner. Ce n'est pas renoncer à la technologie ; c'est l'empêcher de dominer l'humain.

Reste la question des moyens. Michel Onfray observe que ce désarmement ne peut être accompli que par l'intelligence humaine elle-même, et regrette l'absence de propositions concrètes, comme celle du mot « livre » dans le texte. Le reproche mérite d'être entendu. Pour autant, la nature même d'une encyclique ne permet pas d'entrer dans le détail des solutions pratiques. Le champ demeure ouvert : il appartient désormais aux responsables politiques, mais aussi à chacun d'entre nous, d'inventer les modalités concrètes de ce désarmement. La tâche sera immense.

L'éloge de la limite face au transhumanisme

Le développement le plus marquant est selon moi celui consacré à la limite. Après avoir critiqué le transhumanisme et le post humanisme à la lumière de la doctrine sociale de l'Église, le Saint-Père souligne que, dans nos sociétés, tout ce qui apparaît comme une limite de l'humain — maladie, vieillesse, souffrance ou vulnérabilité — tend à être perçu comme un défaut à corriger plutôt que comme une dimension constitutive de la condition humaine. Or nous voyons que l'IA nous propose des moyens de "réparer".

Pour un algorithme, l'erreur est un écart par rapport à un résultat attendu. Pour une personne, elle peut devenir l'occasion d'un apprentissage, d'une conversion ou d'une maturation. L'avenir d'un être humain ne se réduit pas à une projection statistique ; il demeure ouvert à l'exercice de sa liberté. Ce que certaines formes de transhumanisme tendent à remettre en cause, c'est précisément l'idée qu'il existe dans l'homme une dimension irréductible à l'optimisation et au calcul.

S'il ne s'agit pas de récuser les progrès susceptibles de soulager certaines souffrances, la réflexion du Saint-Père invite à s'interroger sur la signification même de la limite et sur ce que nous pouvons en faire. Car c'est souvent dans l'expérience de notre finitude que deviennent possibles la solidarité, le don de soi, la dépendance réciproque et, plus largement, la vie commune. Refuser toute limite ne revient donc pas seulement à accroître une puissance technique ; c'est aussi risquer de modifier profondément notre compréhension de ce qu'est une existence humaine.

Cette réflexion sur la limite nous fait toucher de manière très pertinente et profonde la nécessaire réflexion à conduire sur notre attitude face à tout ce qui va nous être offert pour nous réparer, nous améliorer, nous rendre plus performant ou encore nous permettre de vivre plus longtemps.

Le « jeûne de l'IA » et la résistance au quotidien

L'avant-dernier thème qui m'a marqué lors de cette première lecture est celui du « jeûne de l'IA »; une formule qui a beaucoup frappé les commentateurs. Le Pape l'utilise dans le cadre de sa réflexion sur l'éducation. Face à la difficulté d'intégrer l'IA dans les systèmes scolaires sans sacrifier les fondements d'une véritable formation de l'esprit, il propose cette ascèse. L'éducation ne peut se réduire à un apprentissage technique ; elle doit continuer de façonner l'intelligence humaine elle-même. Dès lors, comme pour les écrans ou les réseaux sociaux, l'idée d'un jeûne apparaît non seulement juste, mais nécessaire et vertueuse.

Le travail humain.

L'encyclique consacre plusieurs passages importants à l'esclavage moderne qui se cache derrière le fonctionnement de ces technologies, notamment à travers le travail souvent invisible des « travailleurs du clic », mais également derrière certains de leurs usages. Cette attention portée aux victimes permet à Léon XIV d'éviter aussi bien le catastrophisme que l'angélisme. Il propose des responsabilités concrètes : désarmer les mots, construire la paix dans la justice, adopter le regard des plus fragiles, cultiver le réalisme et relancer le dialogue.

Cette préoccupation s'étend également au monde du travail, dont les transformations accélérées constituent sans doute l'un des défis majeurs de l'intelligence artificielle. Si le Saint-Père évoque les risques liés à l'automatisation, peut-on regretter qu'il n'explore pas davantage les conséquences d'un phénomène déjà à l'œuvre : les hommes et les femmes sont appelés à travailler, décider et parfois même dialoguer quotidiennement avec des machine ? La question n'est donc pas seulement celle de la disparition éventuelle de certains emplois, mais aussi celle de la transformation du travail humain lui-même, de son sens, de ses finalités et des relations qu'il structure. À cela s'ajoute naturellement l'inquiétude suscitée par les formes de chômage que ces mutations pourraient engendrer. Ces questions demeurent largement ouvertes et mériteront à elles seules un examen approfondi dans le prolongement des précédents textes fondamentaux de la doctrine sociale de l’Eglise comme l’encyclique Rerum Novarum dans le sillage de laquelle le Pape place son encyclique.

Une citation de Tolkien résume parfaitement l'esprit du texte :

« Il ne nous appartient pas de rassembler toutes les marées du monde, mais de faire ce qui est en nous pour le secours des années dans lesquelles nous sommes placés. »

La civilisation de l'amour ne naît pas d'un geste spectaculaire, mais d'une somme de petites fidélités tenaces faisant barrage à la déshumanisation.

Conclusion : La machine face au réel

Au-delà de cet appel à une civilisation de l'amour et de l'appel du Saint-Père au renversement par l'imitation de NSJC qui s'est incarné pour nous libérer de notre servitude et de nos limites, je souhaite revenir sur le nécessaire traitement politique du mythe de la concurrence absolue entre l'homme et la machine.

Le débat du dépassement de l'homme par la technologie n'est pas nouveau, mais il prend une tournure particulière avec l'IA en raison de sa capacité à intervenir dans des domaines jusque-là réservés au jugement humain. Cette situation nourrit des inquiétudes légitimes. Pourtant, il importe de ne pas confondre la puissance des systèmes techniques avec une autonomie véritable, comme celle de la mythique singularité.

L'intelligence artificielle demeure une création humaine. Elle dépend d'infrastructures, de ressources matérielles, d'organisations économiques, de décisions politiques et, en dernier ressort, de choix humains. La question ne réside donc pas dans une prétendue émancipation de la machine à l'égard de l'homme, mais dans la place croissante qu'acceptent de lui accorder les sociétés contemporaines et dans l'aptitude que nous aurons à discerner ce qui est bon, vrai et bien et à rester dignes.

C'est précisément pour cette raison que la question de l'IA est d'abord une question politique, morale et anthropologique. Le véritable enjeu n'est pas de savoir si la machine remplacera l'homme et la « magnifique humanité », mais de déterminer quelles responsabilités les hommes accepteront encore d'assumer dans un monde où une part croissante de leurs décisions risque d'être médiatisée par des systèmes techniques dont le contrôle est l’enjeu de demain.

Nos hommes politiques qui sont si avides de questions sociétales comme la sexualité, l'avortement, l'euthanasie, le secret de la confession (récent projet de loi!) feraient bien de se décider, de sortir de leur léthargie à l'égard de l'IA. Ils doivent cesser de rester spectateurs de son installation dans nos vies, comme s'il suffisait de s'en servir. Ils doivent entendre l'appel de SS le Pape Léon XIV et faire de la politique afin que la société de demain ne soit ni transhumaniste ni post humaniste.