L’intelligence artificielle (AI) fait partie de ces concepts mobilisateurs dont la fonction est de répondre par un rêve à un désir ou à une peur. Peur ou désir revient au même car autant l’un que l’autre sont un discours sur un manque (1) . Ce manque que nous avons tous en commun : celui du sentiment de ne pouvoir agir sur son environnement.
On ne peut être que fasciné quand on assiste au prouesse de systèmes comme « Deep Blue » ou « Watson (2) ». Mais il y a dans ces présentations une part importante de mise en scène qui vise à faire rêver sur des possibles.
Le désir que suscite l’intelligence artificielle s’appuie sur le manque de puissance tout autant que la peur de sa propre puissance, tel que l’illustre le mythe du Golem. Ce que nous vivons depuis longtemps avec la machine qui décuple les forces de l’homme et lui permet de détruire ce qui ne sert pas son intérêt immédiat au détriment de son intérêt futur.
Bête comme une I.A.
L’émergence du concept d’«intelligence artificielle» nous oblige à réfléchir a ce qu’on met derrière le mot intelligence. Si l’intelligence se ramène à la puissance cognitive alors on peut dire qu’effectivement il peut exister une intelligence artificielle. Dans ce cas on peut parler plus modestement et moins commercialement qu’on a affaire à un système de Gestion Automatisée des Flux d’Information (GAFI). Les fameux GAFA (3) dont on parle tant, sont essentiellement des GAFI.
L’intelligence humaine ne se ramène pas simplement à la puissance cognitive. L’intelligence est aussi une certaine capacité à s’adapter en apprenant. C’est être capable de modifier ses processus de gestion de l’information pour modifier les prises de décision. Là encore la machine a conquis un espace jusque là réservé à l’humain avec le « deep learning » : un système capable de modifier ses propres processus d’une manière autonome. Mais il y a toujours quelque part un humain caché derrière la machine.
Même si le public est hypnotisé par la mécanique apparente, il y a toujours comme dans le « turc mécanique (4) » une intention humaine qui ne se montre pas. L’autonomie de la machine est, quoi qu’il arrive, déterminée par la volonté d’un humain. Le processus ne peut exister sans qu’un humain ne le mette en marche par son intention. Si la machine paraît autonome elle ne s’autodétermine pas pour autant.
La machine ne fait que gérer automatiquement un procédé destiné à venir en soutient à une intention humaine. Une intention qui est déterminée par une certaine conscience de soi dans un environnement et à l’imagination d’une solution pour modifier la relation que l’individu entretien avec son environnement.
C’est un peu ce qui fait la différence entre la machine est l’humain. Si la machine sait gérer des flux d’information et modifier ses propres processus, elle dépend largement d’un humain dans sa capacité réflexive et sa capacité à imaginer quelque chose et à le rendre cohérent avec le réel par confrontation à ce réel et ajustements successifs. C’est sans doute cela qui caractérise l’intelligence humaine : la capacité à imaginer un réel et à produire les ajustements nécessaires à sa réalisation.
Objectivité de la rationalité technique
Derrière la notion d’intelligence artificielle il y a un sous entendu d’objectivité rationnelle qui est à questionner.
Par exemple : les systèmes de reconnaissance faciale mis au point sont très performants pour reconnaître un homme blanc en Amérique ou un asiatique en Chine, mais beaucoup moins pour reconnaître une femme noire.
L’explication est assez simple : la programmation de la machine se fait en lui faisant avaler une quantité astronomique de données (des millions de photos) et en laissant le système deep learning généraliser des caractéristiques et produire des catégories. La façon dont on nourrit la machine influence ses modes de généralisation et de catégorisation. Si on ne lui donne que des hommes blancs à voir elle caractérisera à partir de ce qu’elle a appris. Ainsi donc le fonctionnement de la gestion automatisée des flux d’information sera largement déterminée par l’intention (consciente ou non) de celui qui programmera la machine. L’illusion de l’objectivité disparaît rapidement dès que l’humain introduit ses intentions cachées ou inconscientes et ses pratiques systématiquement biaisées.
L’I.A. orthèse ou prothèse ?
À l’instar des machines de l’ère industrielle qui démultipliaient la force physique des hommes en l’augmentant par l’insertion d’un appareillage entre l’intention de l’homme et le réel, l’intelligence artificielle augmente la force intellectuelle, en démultiplie la puissance par l’insertion d’un appareillage entre l’intention de l’homme et le réel.
Mais comme la machine en ce qui concerne la force physique, cela n’exclut pas les biais et les mésusages. Cela ne fait qu’augmenter la force de l’intention, constructive ou destructrice.
Le fait d’«augmenter» ne remplace pas. En ce sens, l’intelligence artificielle ne remplace pas l’intelligence humaine comme une prothèse remplace un membre. Elle tente de l’appareiller pour en augmenter la puissance ou pallier ses faiblesses, comme une orthèse.
Intelligence : puissance cognitive ou capacité d’interaction ?
L’émergence de système d’assistance (machine à vapeur, laser, intelligence artificielle) réveille systématiquement le désir des hommes d’égaler la puissance des Dieux. La question est ici le désir, pas la puissance. Comme disait Lacan, le désir nait du manque et pas l’inverse. Le désir est un discours sur un manque. Chaque nouvelle invention apparaît comme un moyen à notre disposition pour calmer notre sentiment de ne pas être assez puissant, de ne pas pouvoir contrôler notre environnement, la nature.
Une machine capable de gérer des milliards d’information représente un rêve de puissance face à notre sentiment intime d’être incapable de gérer plus de 7 informations à la suite.
Mais ramener la mesure de l’intelligence à notre capacité de gérer de l’information conduit à une conception mécaniste de l’intelligence.
Un raisonnement qui a conduit un député européen polonais à déclarer sans rire qu’il était normal que les femmes soient moins payées que les hommes puisqu’elles étaient moins intelligentes. La preuve de leur moindre intelligence est que dans les cent premiers mondiaux des échecs il n’y a aucune femme. Quand on connaît un peu le monde des surpuissants du mental, que ce soit dans l’entreprise, dans la recherche ou dans d’autres exploits de ce type, on peut se demander parfois si, ne pas en faire partie, n’est pas une sorte de garantie de santé psychique et d’intelligence !
L’intelligence artificielle nous permet de requestionner notre conception de l’intelligence. La puissance cognitive n’est un critère d’intelligence que dans les sociétés fascinée par le mental comme la notre. Contrairement aux apparences, on ne pense pas avec sa tête (sa cognition). La cognition est un outil de formalisation qui sert à témoigner des résultats de la pratique de son intelligence d’une manière socialement communicable.
Au delà de la puissance cognitive qui peut en être l’instrument, l’intelligence est la capacité à être dans une interaction responsable avec soi-même et son environnement. Facebook utilisé pour sa puissance de calcul afin de faire élire Trump n’est pas de l’intelligence dans la mesure ou elle ne participe pas d’une relation au monde fructueuse et constructive.
C’est le mythe du Golem. Nous vivons quasiment au premier degré le mythe du Golem avec la civilisation du silicium. Pour mémoire le mythe du Golem raconte qu’un homme a réussi à donner vie à une statue de sable (le sable c’est du silicium) et sa création dépourvue de conscience lui échappe et commence à détruire le monde. Rien de nouveau ! Juste de l’amnésie ! Nous vérifions en permanence que «Science sans conscience n’est que ruine de l’Âme» et accessoirement de la nature.
Être intelligent c’est être peut être aussi « être en intelligence » avec son environnement humain et non-humain. Mais c’est aussi être en intelligence avec soi-même. Avoir une conscience de soi et des autres telle qu’on est capable de percevoir les effets que l’on a sur les personnes et notre relation au monde avant que les conséquences nous reviennent en retour.
La puissance cognitive est au service de l’intelligence mais elle n’est pas l’intelligence. Notre conception « mentale » de l’intelligence peut être vue comme une forme de perversion. Perversion dans le sens ou le moyen devient le but. L’instrument qu’est le mental n’est plus au service d’une intention. Il prend le pouvoir. C’est ce qu’on va trouver dans l’usage des nouveaux outils comme les smartphones chez les plus immatures (5) : le but c’est l’outil et il n’y a plus d’autre but que d’utiliser l’outil.
L’intelligence, une capacité de réfléchissement ?
On peut être fasciné par le spectacle de ces robots humanoïdes capable d’interagir avec les humains en répondant à leurs questions. On a l’impression qu’il répondent comme s’ils savaient qu’on existe en tant qu’humain. Ce qui suppose par corolaire qu’ils ont conscience qu’eux même existent. Mais le Robot sait il qu’il existe ?
Ce qui caractérise l’intelligence humaine est la conscience que chacun d’entre nous a de sa propre existence. C’est la capacité que chacun d’entre nous a être attentif aux autres, au monde et à lui-même. C’est cette attention qui va déterminer son intelligence. Être attentif, c’est faire le choix conscient de considérer tous les éléments de l’environnement, au delà de ce que la situation me laisse voir pour prendre une décision.
On se souvient que récemment le GAFI de Google a censuré le tableau de Courbet « l’origine du monde » ou la photo de cette petite fille nue fuyant un bombardement au napalm pendant la guerre du Viet-Nam. Cette censure vient du fait que le GAFI répond à une règle anti porno-pédophilie et censure ce qu’il reconnaît comme y ressemblant. En ce sens il n’est pas capable d’être attentif au contexte, de considérer l’environnement, l’intention du message et le projet du messager.
Pour ce faire, il faudrait qu’il soit capable d’un regard critique sur sa perception. Ce qui supposerait une conscience qu’il est un sujet regardant dont la perception pourrait être critiquée. La question qu’on peut poser à l’intelligence artificielle si on la rencontre un jour dans la rue, pourrait être : comment sais-tu que tu existes ?
Tant que l’intelligence artificielle ne pourra répondre à cette question (sans avoir été programmée pour cela) on pourra se demander s’il est vraiment question d’intelligence.
Notes
1) Comme disait Lacan : le désir né du manque et non l’inverse.
2) Système de GAFI développé par IBM et capable de battre les meilleurs aux échecs ou au jeu de Go
3) GAFA. les 4 grands Golem nés de notre désir de puissance : Google, Apple, Facebook, Amazon auquel on peut rajouter M & A. pour Microsoft et ALibaba
4) Le Turc mécanique ou l’automate joueur d’échecs est un célèbre canular construit à la fin du xviiie siècle : il s’agissait d’un prétendu automate doté de la faculté de jouer aux échecs.
Construit et dévoilé pour la première fois en 1770 par Johann Wolfgang von Kempelen, le mécanisme semblait capable de jouer contre un adversaire humain,
Ce mécanisme n’était qu’une illusion permettant de masquer la profondeur réelle du meuble. Celui-ci possédait un autre compartiment secret dans lequel un joueur humain pouvait se glisser, et manipuler le mannequin, comme un marionnettiste, sans être vu. L’automate était alors capable de jouer une partie d’échecs contre un adversaire humain.( Source wikipedia)
