L'IA EST-ELLE UN CAUCHEMAR ? PEUT-ON LA MAITRISER ?

Je sors d'un cauchemar, après m'être laissé consumer par mon anxiété naturelle face aux développements les plus récents des nouvelles technologies numériques.

Je me réveille.

J’ai lu, réfléchi, échangé, pour m’éveiller à la raison. Ce billet a une vocation thérapeutique, retrouver la sérénité en vue de poursuivre mon vagabondage terrestre dans le monde des datas et de l'intelligence artificielle plutôt que de me replier à l’ombre de mes chênes bargemonnais ; sachant que contrairement à Elon Musk je ne rêve pas d’immortalité sur terre. 

Un ami m’a dit qu’il ne faut pas intellectualiser, qu’il faut simplement utiliser l'IA avec prudence et sagesse. Certes, mais il n’est pas mauvais non plus de réfléchir à ce que l’on fait et à ce dans quoi nous plongeons nos vies. Un homme averti…

Je suis partagé entre le souci d'analyser - et de théoriser sans doute à tort - et le désir de ne rien laisser passer de possibilités hors-normes, bluffantes comme disent ceux qui ont expérimenté l’IA générative pour la première fois.

Déblayons.

Le terme intelligence artificielle est une escroquerie ; une escroquerie intellectuelle… Sachons-le, mais le terme est rentré dans les esprits et les habitudes, dans le vocabulaire courant. C'est une défaite.

La singularité ce stade imaginaire d'évolution où les outils d'intelligence artificielle seraient susceptibles de se retourner contre l'homme est un faux problème car chacun sait que la machine n'aura jamais de conscience autonome. La n'imagine pas ex nihilo. Elle n'éprouve pas de sentiments qui n'aient été créés de toute pièce par des algorithmes. Elle ne s'étonne pas. Elle ne désire pas. Comment penserait-elle à la manière singulière de l’homme ? 

Pour autant l'intelligence artificielle se développe et se perfectionne, soutenue par des puissances financières qui concurrencent les États. Elle défie l’humanité. Les outils génératifs de langage et d'images s’immiscent dans l'exercice de nos facultés de création au point que l'on ne sait plus ce qui vient de l'homme ou de la machine, introduisant ainsi un doute sur l'authenticité, la vérité ou la fausseté de nombre de messages véhiculés dans les réseaux sociaux et des médias.

Pour qui s'intéresse à l'évolution du monde et à ce qu'il sera dans seulement quelques années ces questions ont de quoi hanter, d’où mon cauchemar !

Je me rassure.

Ce n'est pas la machine qui doit être l'objet de notre méfiance mais l'homme qui l'utilise et qui avec elle tente d'installer son pouvoir . Voilà qui semble vrai mais qui ne l’est en réalité pas tout à fait. Ce serait une erreur de croire en la neutralité de la technologie numérique. Elle hybride. Les algorithmes jouent un rôle actif propre. La machine développe ce que l’homme crée. Il existe des risques générés par la machine eu égard à sa puissance de calcul, à la masse de ses connaissances, à sa capacité d'analyse, d'expertise et de recommandations et enfin à sa capacité d’intervenir dans la chaîne symbolique du langage.

Je rechute.

Cela va-t-il continuer ? Jusqu’où ? On n'arrête pas la science ; même si nous sommes peut-être en passe de sortir de la courbe exponentielle de la loi de Moore comme me le confiait Jean-Gabriel Ganascia que je ne demande qu’à croire. D’accord mais par quels moyens bridera-t-on les initiatives des géants de la « tech ».  Notre éthique ne fera pas le poids face à leur puissance économique et financière ?

J’ai le vertige.

Mes réserves, comme mon anxiété que j’ai encore du mal à repousser viennent du vertige occasionné par les progrès informatiques et particulièrement les outils génératifs tels que ChatGPT, qui posent la question de la maîtrise, des incertitudes de notre capacité à maîtriser. Nous savons en effet que seule la maîtrise de l'outil peut nous permettre de conserver notre indépendance. Or cette maîtrise nécessite de la formation, des efforts, de l'abnégation ; de se plonger dans un univers qui nous déstabilise, nous affole et nous agresse car il ne nous est pas familier (je parle bien sûr de ma génération). En serons-nous capables ? 

Inversement, la familiarité des nouvelles générations avec ce système technologique numérique n’est-elle pas un danger dans la mesure où elle élimine toute prévention et toute méfiance de leur part ?

J'approfondie.

Cette valse-hésitation qui anime ma réflexion s’articule autour de la notion d'hybridation, d’hyper-hybridation à laquelle procède la technologie numérique. La machine intervient de manière active. Elle agrège, transforme, multiplie, démultiplie. Déjà Lévi-Strauss s'interrogeait au sujet de la cybernétique et de son influence sur le règne humain dans les années 50. Nous sommes confrontés à un processus de même nature. Une mutation anthropologique est en cours. Les technologies numériques s’auto-alimentent comme elles auto-apprennent. Il faut pourtant qu’elles restent des outils au service de l'humain.

Cette mutation doit conduire les hommes à un effort créatif qui me semble être un impératif de survie tant il est vrai par ailleurs que la technologie flatte notre paresse naturelle en même temps qu'elle est le reflet ou le produit d'un nouvel anthropomorphisme ; d’où les très pertinentes réflexions de Jean-Gabriel Ganascia sur le caractère gnostique de l’attitude des magnats de ces évolutions technologiques. Le vieux rêve de l’homme demeure de se faire dieu.

Je développe.

Essayons de comprendre en quoi ces technologies modifient notre rapport au réel et à la vérité.

Il est impératif d'approfondir notre analyse de l'impact profond et transformateur des outils d'intelligence artificielle les plus récents. Ces technologies ne se contentent pas de modifier notre interaction avec la réalité ; elles remodèlent notre perception même du monde qui nous entoure. En s'interposant entre nous et le réel, ces outils nous font privilégier l'accès à des bases de données et à des plateformes génératives avant même de considérer l'expérience directe ou la recherche traditionnelle. Nous sommes ainsi guidés dans la création et l'interaction par des artéfacts façonnés par l'IA à partir de ses propres analyses de données - ces dernières étant elles-mêmes souvent extraites d'autres applications d'IA et de vastes réservoirs d'informations.

La réalité virtuelle de ces technologies disruptives devient notre nouveau terrain de jeu dans lequel notre compréhension de la vérité et de la fiction est intrinsèquement liée à la structure et aux choix sous-jacents des algorithmes sophistiqués élaborés par leurs développeurs. Par conséquent, notre capacité à discerner le réel du factice, le véritable du manipulé, est désormais dépendante de la transparence, de l'éthique et de l'intentionnalité des créateurs de ces outils d'intelligence artificielle. Il est donc crucial que les utilisateurs et la société dans son ensemble, exigent une plus grande clarté dans leur mise en œuvre.

J'ouvre les yeux.

Les effets sont caricaturaux. Nous voyons fleurir des images truquées, des interviews dans lesquelles on fait dire à un personnage public le contraire de ce qu'il pense ou de ce qu'il a réellement dit. Ainsi de suite.

La science nous avait permis d’améliorer notre recherche de l’éternelle adéquation entre le réel et l’esprit. Voici que les outils technologiques nous éloignent et nous séparent du réel. C'est une révolution aux conséquences à la fois anthropologiques et politiques.

Toutes nos actions individuelles et collectives sont impactées par le numérique, transformées. La vie sociale, économique et politique aussi dès lors que toutes nos actions personnelles sont dorénavant transformées par l’utilisation des outils d’IA ; car aucun domaine n’y échappe.

Pourrai-je me soigner ?

Que faire ?

Refuser d’utiliser ? Non. Quelle que soit la valeur de ses analyses, le rejet que prône Eric Sadin est passéiste et nécessairement rétrograde. On n’arrête pas la science. La peur n’évite pas le danger…

Se jeter tête baissée dans l’utilisation aveugle ? Non plus. Rien de pire compte tenu de ce que je viens d’écrire.

Donc : Se former. Former. S’informer. Comprendre. Pour maîtriser. Décrypter le vrai du faux en réapprenant l’esprit critique tout en ayant à l’esprit qu’une révolution est en cours. 

Il faut se jeter à l’eau en ayant à l’esprit que le courant risque de nous entrainer très loin… Expérimentons. Domestiquons. Maitrisons. Nous n’avons pas le choix. Ne refusons pas ce qui n’est rendu possible que par une nature dont la Bible nous enseigne qu’elle nous a été confiée dans toutes ses dimensions.

Pascal me rassure. « La machine d'arithmétique fait des effets qui approchent plus de la pensée que tout ce que font les animaux ; mais elle ne fait rien qui puisse faire dire qu'elle a de la volonté, comme les animaux. »

Il est temps de se réveiller et d’agir ! Comme depuis le premier jour.

 

PS. J'ai mis la main au feu! Deux paragraphes de ce texte (ils se suivent) ont été écrits par ChatGPT en fonction de mes prompts... Cherchez les!