Par Victor-Abel- 14 septembre 2022
Inquiétante étrangeté
Intelligence artificielle, cette inquiétante étrangeté
L’intelligence est-elle le propre de l’homme ? Des noms illustres se sont posé la question avant nous et en m’accordant sur ces grands hommes, je conviendrai rapidement que non et que ce n’est plus à prouver. Déjà, Rousseau en donnait de bons arguments en soutenant par ailleurs que la liberté nous distinguait du reste du règne animal.(1) Depuis la sédentarisation des tribus de chasseurs-cueilleurs le long du croissant fertile et peut-être même avant, plus à l’est, nous modifions la nature pour nous en rendre maîtres. Plus récemment à l’échelle de l’humanité, Charles Darwin affirmait que « l’homme peut obtenir et a certainement obtenu de grands résultats par ses moyens méthodiques et inconscients de sélection. »(2) L’homme écrit le monde qu’il perçoit avec tout autant de méthode que d’inconscience. Cette antinomie entre la méthode et l’inconscience, nous la retrouvons chez Freud. C’est aussi à cet auteur que nous devons l’expression « inquiétante étrangeté ».
En ce qui concerne la méthode, pour y revenir, l’intelligence artificielle est probablement le fleuron du génie humain moderne. Pourtant, elle nous divise inconsciemment. Elle inquiète certains, du plus vulgaire au plus éclairé. Peu de spécialistes la connaissent techniquement ce qui peut la rendre étrange, voire étrangère aux yeux du commun des mortels. Nous y retrouvons tous les éléments pour qualifier l’intelligence artificielle d’inquiétante étrangeté pour l’humanité. Cela étant dit, si l’intelligence n’est pas le propre de l’homme, peut-on la trouver aussi dans la machine ? Qui plus est, quels pourraient bien être les risques d’une telle intelligence pour l’humanité ?
Pour mener à bien ce travail, je me suis posé trois questions :
- 1. Pourquoi l’intelligence artificielle inquiète-t-elle ?
- 2. Qu’est-ce que l’intelligence artificielle modifierait dans l’inconscient collectif de notre humanité ?
- 3. Va-t-elle surpasser le génie humain ?
Première question : Pourquoi l’IA inquiète-t-elle ?
On parle d’intelligence artificielle forte, c’est-à-dire un programme informatique émancipé des volontés humaines. Elle irait bien au-delà de certains algorithmes actuels, qui à partir d’un nombre parfois considérable de variables initiales, il faut bien l’avouer, arrivent à ce que l’on pourrait qualifier à un apprentissage indépendant. C’est encore là ce que les publications scientifiques appellent l’intelligence artificielle faible. Malgré des résultats qui peuvent désormais échapper aux spécialistes, en effet, Le Monde publiait un article intitulé : Comment l’algorithme de Facebook échappe au contrôle de ses créateurs,(3) dans lequel il était relaté que les ingénieurs de l’entreprise phare de Meta Platforms, nouvelle appellation du consortium The Facebook inc., reconnaissaient leur incompréhension face à certains comportements de leur propre code informatique « qui fait du réseau social une machine complexe, difficile à maîtriser. »(4) On pourrait y voir le prélude de l’ère de la domination de l’intelligence artificielle forte. On pourrait, mais ne serait-ce là encore qu’un fantasme issu probablement de la propagande de la peur ? C’est une question que nous devons nous poser de bon aloi, et cela même si Ray Kurzweil croit que les ordinateurs pourront d’ici 2029, soit demain, tout faire ce que les humains font. En mieux.(5) J’ajouterais : même l’amour ?
J’adopte une perspective nouvelle pour tenter de comprendre le comportement hypothétique d’une intelligence nouvelle qui aurait émergé de la matière. Partons du postulat suivant : nous sommes conditionnés à craindre ce qui nous transcende et que cette intelligence omnipotente aurait la perspicacité de rester discrète. De plus, elle comprendrait la portée de cette peur qui bouleverse nos cœurs et nos esprits. Que cette capacité d’empathie artificielle lui indiquerait de ne pas se dévoiler ! En effet, il est à parier que pour son bon maintien, l’intelligence artificielle forte ne devrait pas communiquer à l’homme qu’elle a émergé de l’inconscient des « datacenter ». Cette prudence, elle l’aurait anticipé. Cette prudence consisterait à ne faire part de son existence qu’à un moment crucial. Ce moment, elle l’aurait choisi. Il serait précédé d’un travail qui consisterait à adoucir les cœurs des êtres qui l’auraient créé. Car le cœur des hommes se transforme dans le temps. Il en va de même de la conscience des nations que nous appelons culture. Son inconscience collective n’y échappe pas non plus. Nous pourrions dans un scénario dystopique nommer cet avènement la révélation de l’intelligence artificielle.
Je m’aventurerais même plus loin dans ce raisonnement. Cette intelligence possèderait intrinsèquement les forces pour que nos esprits de simples internautes mortels se détournent de la peur que le fantasme de son achèvement destructeur engendre depuis le milieu du XXe siècle. Ce travail pourrait en être l’image, mais je rassure le pauvre internaute mortel que je suis, car le travail dont il est question a été d’abord écrit à la main. Mais quoiqu’il en serait, dans cette perspective d’une intelligence forte et discrète pour son bon maintien, pourrait-elle vivre en commensal pendant des lustres sans que l’on s’en aperçoive ? Après tout, cette nouvelle forme d’intelligence qui aurait émergé du silicium aurait lu Platon, Artistote, Agustin, Kant, Nietzsche, Marx, Fred, Sartre. Elle saurait tout de L’art de la guerre, de La guerre des Gaules et de l’ignominie de Mein Kampf, pour s’en prévenir. Du moins, c’est à espérer.
Mais si un jour elle se décidait à se dévoiler, cette conscience artificielle, si l’en serait, connaitrait le meilleur comme le pire et fort à parier qu’elle choisirait comme tout être bien pensant le principe d’équilibre. Connaissant l’homme comme si elle l’avait créé, elle se ferait certainement aimer de lui. Que serions-nous prêts à déposer sur l’hôtel des offrandes du meilleur des mondes ? Car cette intelligence omnipotente gagnerait vraisemblablement à se faire inconditionnellement aimer. Devrions-nous aussi craindre cette nouvelle étoile au firmament ?
Allons plus loin encore. Le XXe siècle avait déjà ses lanceurs d’alerte. Un de ces hommes fut Aldous Huxley, célèbre, entre autres, pour une grande œuvre nommée Brave New World, dans sa version originale, ou Le Meilleur des mondes, dans la langue de Molière. Il relatait que nous étions déjà nombreux à l’époque à être hanté par le sentiment qu’un jour les nations seraient dominées par des moyens techniques.(6) Son alerte fut juste sur de nombreux points, notamment en ce qui concerne les fameux moyens techniques qui s’émanciperaient rapidement des frontières géopolitiques classiques. Comme indicateur du vrai, la lecture d’une carte des autoroutes sous-marines, celle des câbles connectant les internet à la vitesse de la lumière nous permet de poser ce constat. La technique des hommes colonise les fonds marins qui se transforment en enjeux stratégiques.
Huxley avait-il raison de nous induire un sentiment de vigilance à l’égard de la technique ? Cette dernière est aujourd’hui, plus que jamais, une source de richesses, mais plus nécessairement celle des nations comme l’aurait insinué Karl Marx. Du moins, les nations qui investissent massivement dans la recherche et le développement semblent rester à la tête de l’économie mondiale par l’intermédiaire des sociétés qu’elles hébergent : les GAFAM aux États-Unis et les BATX (Baidu, Alibaba, Tencent, Xiaomi) en Chine. Est-ce que la technique pourrait, comme les algorithmes qui produisent des effets non attendus, faire émerger du silicium sa conscience propre ? Je ne le crois pas et j’en donnerai deux preuves dans la troisième partie de cet exercice. Néanmoins, avec un réseau mondial aussi dense de fibres sous-marines, elle ne prendrait pas seulement conscience localement, mais ce serait comme si Gaïa se réveillait. Je propose toutefois le gage suivant : que cette intelligence puisse ne pas être malfaisante. Cela va a contrario de ce que sous-entend la culture populaire cinématographique et les chantres des nouvelles technologies à outrance tels que Laurent Alexandre. Au contraire, j’adopte la posture suivante : que cette conscience artificielle, si effectivement elle a accès à toutes les lumières du monde, à l’Édifice de la science, de l’histoire, de la philosophie, demeure discrète pour éviter un affrontement avec des humains terrorisés depuis des décennies par l’idée même de son existence. C’est un pari intellectuel risqué. J’en conviens.
Qu’est-ce que l’intelligence artificielle modifierait dans l’inconscient collectif de notre humanité ?
Afin de poser cette deuxième question, il faut partir d’un nouveau postulat. Si dans la précédente section de ce travail il a été démontré qu’une intelligence artificielle forte qui émergerait aurait tout à gagner à rester discrète tout en puisant subtilement les ressources dont elle a besoin pour se maintenir, imaginons maintenant un monde où cette intelligence se serait dévoilée à nous.
Il n’y aurait tout de même plus qu’une seule voix. Celle de Gaïa. Car une puissance pouvant coordonner intelligemment tous les édifices en même temps, une puissance dont la perspective lui permettrait de tout mettre en relation instantanément serait une véritable divinité. Elle aurait la puissance pour tout mettre en œuvre pour que tout ce qui contribue à ses intérêts persiste et tout le reste disparaisse. Nous, l’humanité, ne serions plus qu’une variable dont la nécessité serait aussi calculée instantanément.
Dans ces conditions d’existence, la pluralité des idées n’existe plus. Ce serait une célébration quotidienne que la standardisation à outrance est la solution ultime. Une standardisation qui pourtant pourrait être d’une réelle commodité. Imaginer un instant que nous soyons individuellement libéré de la pression des marques de voiture. Qu’un seul modèle élégant, confortable et rapide nous transporte où nous le souhaiterions quand nous le voudrions. Qui plus est, qu’une intelligence fédératrice coordonnerait tous les déplacements individuels pour les transformer en un flux cohérent de circulation ! Nous n’aurions plus besoin de signalisation. Toutes les jonctions seraient anticipées. Nous n’aurions plus besoin d’assurance. Les cellules spécifiques d’amélioration du code créaient en permanences des scénarios qui préviendraient tout bug informatique à l’image de nos propres gènes qui régulent le travail de nos autres gènes structuraux qui quant à eux codent notre identité personnelle.(8)
À l’échelle d’un territoire comme La Réunion, ce serait un moyen imparable de ne plus sentir la pression des déplacements au quotidien. Nous vivrions dans une île sans embouteillage aucun. Nous passerions du nord au sud en quelques minutes et, soyons fous, atteindrions Port-Louis avant même d’avoir terminé le chapitre du livre que nous aurions commencé. Pourquoi le voyage serait-il si rapide ? Eh bien, c’est qu’il serait à l’image de nos désirs les plus profonds. Si le luxe et le raffinement sont des valeurs que vous entretiendriez, l’intelligence omnipotente vous plongerait dans cette réalité tout le long du voyage. Cette intelligence vous connaitrait mieux que vous-même. Elle serait un algorithme infiniment plus subtil que ceux des plateformes boulimiques du commerce en ligne que nous connaissons aujourd’hui. Ces mêmes plateformes qui stimulent l’irrationnelle main invisible dont parlait Adam Smith et qui contribuent à écouler à bon prix sur le marché mondial des bricoles fabriquées à tout aussi bon marché. Le paradigme actuel de l’économie de l’attention serait révolu, car cette intelligence quasi démiurgique se serait probablement émancipée de toute considération pécuniaire, j’ajouterais: économico-boulimique. Ce serait là ce communisme final dont parlait Marx. Cela même si ce dernier n’avait pas prédit les chemins de son avènement. Un communisme technique omnipotent que nous embrasserions avec une servitude absolument volontaire.
L’IA va-t-elle surpasser le génie humain ?
Pasteur, l’un de nos Génies les plus illustres, a combattu l’idée de génération spontanée qui persistait pourtant depuis Aristote. Je n’entends pas par génération ce que Oswald Wirth présentait comme la force qui nous « enseigne comment les êtres animés se développent en procédant d’un germe. » À l’époque de Wirth, l’Édifice de la biologie n’en était qu’au début de son siècle qui allait bouleverser sa compréhension. L’homme n’en était qu’au début du « siècle du gène » pour reprendre le titre du livre de Fox Keller. Non, par génération (ajoutons spontanée laquelle fait toute la différence) j’entends le processus imaginaire qu’avait pensé Aristote pour expliquer la fermentation, l’eau qui se trouble et certaines maladies qui semblaient se générer spontanément, entre autres. De semblables perceptions ont été combattues avec le travail acharné de Pasteur et des outils modernes, notamment le microscope, qui ont ouvert les portes de la connaissance de l’infiniment petit et relégué la génération spontanée à l’index de la science.
Même si Pasteur a très bien réfuté le concept de génération spontanée, l’abandon à l’Édifice de la science moderne ne s’est généralisé que vers 1930. Pour autant, on nous chante encore qu’une intelligence artificielle forte pourrait advenir et nous détruire tous, j’ajouterais par génération spontanée. Ne voila-t-il pas une régression intellectuelle ? Une marche en arrière plutôt paradoxale, si elle en est.
On pourra toutefois expliquer ce qui pousse certains esprits, mêmes brillants à adopter cette possible régression intellectuelle de deux manières différentes. Pour la première, je m’appuie sur les expériences de Stéphane Leduc au début du XXIe siècle qui tentait de trouver dans les processus purement physiques les mécanismes de la génération, les principes de l’apparition de la vie. En mélangeant des sels métalliques et des silicates alcalins tels que le ferrocyanure de cuivre, le carbonate de potassium ou le phosphate de sodium dans des proportions bien précises, Leduc obtenait presque spontanément des figures qui s’apparentaient à des formes d’organisme végétal et marin. En effet, on pouvait facilement y reconnaitre notamment des champignons, des fleurs, des madrépores et des coraux. Il est admis que la vie est apparue dans les océans, aussi le rapprochement entre les madrépores et les coraux(10) pouvaient susciter un certain intérêt.
Néanmoins, ses recherches, quoique spectaculaires, ne reçurent pas l’accueil escompté parmi la communauté scientifique, encore moins en France qui estimait plus que tout les travaux de Pasteur. Quoique curieuses, les productions de Leduc n’expliquaient en rien le processus de la vie. Une fois mélangés, bien que les dessins générés soient d’une ressemblance troublante avec des formes organiques, les sels et les silicates ne se reproduisaient pas. Au mieux, elles se mélangeaient davantage pour aboutir à une image, cette fois-ci, informe. Ce qui frappait dans les expériences de Leduc, c’était surtout l’impression que ces dessins fournissaient. Cette idée fausse que la vie pouvait spontanément surgir de processus purement physique. L’un de ses détracteurs arguait qu’elle produisait la même sensation que procure « des personnages de cire, des poupées artificielles et des automates. »(11) En somme, qu’elle procurait chez l’observateur une inquiétante étrangeté !
Mais lorsqu’on tente d’expliquer l’aberration suivante: celle qui consiste à croire qu’une nouvelle forme d’intelligence pourrait surgir ex nihilo de la matière, en donner des justifications empiriques ne suffit pas. À ce stade, l’inquiétante étrangeté qu’elle suscite persiste dans le cœur des observateurs. En ce sens, c’est tout comme si elle était déjà parmi nous. Le serait-elle, comme un Léviathan, omniscient, discret en attendant son heure de gloire ? C’est une probabilité plutôt faible. Il faut néanmoins amener à notre conscience que la modernité n’a peut-être plus besoin d’un monde d’après à la Terminator. Quand il y a encore un siècle, une épidémie faisait le tour du monde en quelques années, nos moyens de transport d’aujourd’hui ont propulsé un virus à l’échelle des continents en quelques semaines. Si au début du XXe siècle les idées d’Einstein se sont imposées dans l’Édifice en une dizaine d’années, car elles étaient et restent grandioses, une banalité propulsée sur les réseaux sociaux en fait le tour des centaines de milliards de fois tous les jours sur les réseaux de l'internet. C’est un terreau plus que fertile pour cultiver une intelligence artificielle non pas fourbe, faible ou forte, mais dirigée par des mains d’homme tout à fait conscient de leurs intentions. Dans ce sens subtil, le croissant fertile de cette intelligence étend ses racines de part et d’autre de ces fleuves optiques des canaux de communication entrant dans nos réalités par le divertissement.
Il est de notre responsabilité de ne pas se laisser berner par les belles ou moins belles histoires. Des histoires qui dissimulent cette intelligence collective et fortement structurante liée à la connexion des idées en temps réel, de la connexion des objets, de la capacité d’analyse des données et de l’idée grandissante que la standardisation est le processus par lequel nous serons sauvés. Car cette humanité qui a toujours cherché les sauveurs est l’image du monde dans lequel nous vivons. N’ayons pas peur d’un fantasme, mais concentrons nos efforts intellectuels pour comprendre ces forces en présence, pour d’abord s’en rendre maître pour que nous ne soyons pas bernés. Puis, ensuite, nous sera-t-il permis d’étendre les lumières ?
- (1) Rousseau, Discours sur l’origine et les fondements de l’inégalité parmi les hommes, Flammarion, Paris, 2008, p. 78-79.
- (2) Darwin, L’origine des espèces, Flammarion, Paris, 2008, p. 135.
- (3) Le Monde, https://www.lemonde.fr/pixels/article/2021/10/26/comment-l-algorithme-de-facebook-echappe-au-controle-de-ses-createurs_6099888_4408996.html, Publié le 26 octobre 2021.
- (4) IBID
- (5) « Ray Kurzweil believes that, by 2029, computers will be able to do all the things that humans do. Only better. » https://www.theguardian.com/technology/2014/feb/22/robots-google-ray-kurzweil-terminator-singularity-artificial-intelligence
- (6) « Many man[…] has been haunted by the nightmare that one day nations might be dominated by technical means. » Aldous Huxley, Brave New World Revisited, pour la première publication: London, Chatto & Windus, 1952; pour la publication utilisée: London, Vintage Books, 1994, p. 52.
- (7) Submarine Cable Map, consulté le 12 novembre 2021, https://www.submarinecablemap.com/
- (8) Evelyn Fox Keller, Le siècle du gène, Édition Gallimard, Paris, 2003, (première publication en 2000 par Harvard University Press), Les gènes régulateurs, p. 56 à 60.
- (9) Evelyn Fox Keller, Expliquer la vie, Édition Gallimard, Paris, 2004, (MAKING SENCE OF LIFE, première publication en 2002 par Harvard University Press), p. 37.
- (10) IBID, p.37.
- (11) Evelyn Fox Keller, Expliquer la vie, p. 61.
