L’Intelligence Artificielle nous conduit-elle vers un monde totalitaire ?

Marc Alpozzo et Jean-Pierre Noté

Entretien avec Jean-Pierre Noté

On voit aujourd’hui, que certains transhumanistes, notamment dans la Silicon Valley en Californie, rêvent de cyborgs du futur, bardés de capteurs permettant de récolter en temps réel des informations sur l’état de santé de leurs organes, d’alerter en cas de problème les secours, ou encore d’augmenter leur espérance de vie, avec pour horizon indépassable à leurs délires transhumanistes, le désir d’éternité, donc l’abolition de la mort. Est-ce un rêve possible ou un cauchemar climatisé ? Nous en avons discuté avec Jean-Pierre Noté, qui vient de publier un roman fascinant sur le sujet.

Marc Alpozzo : Vous avez publié récemment un roman, Tantièmes. Un monde sans puss (Az’art atelier éditions, 2022) sur l’intelligence artificielle. Or, loin d’être aussi enthousiaste que l’est cette époque vis-à-vis des I.A., vous prétendez dans votre roman que l’intelligence artificielle a de fortes chances de produire un monde orwellien. Pourquoi ?

Jean-Pierre Noté : je ne parlerais ni d’enthousiasme ni de répulsion. Ou alors je parlerais successivement de ces deux sentiments opposés. Quand j’étais jeune homme, j’avais cette idée bien ancrée en moi que trouver l’information était difficile. On pouvait téléphoner aux « renseignements » pour avoir une adresse, se plonger pendant des heures dans l’Encyclopédie Universalis du lycée pour se faire une idée sur le peuple Dogon, rechercher dans ses vieux cahiers de mathématiques pour retrouver la formule du volume de la sphère, prendre un dictionnaire pour espérer convertir les pieds en centimètres, utiliser l’horloge parlante pour connaitre l’heure exacte à Moscou, attendre l’adorable météo marine sur France Inter avant de partir en voilier, ou bien faire le tour des pizzéria du quartier pour trouver la bonne. J’ai sauté de joie quand mon père est rentré à la maison avec « Le Quid », ce gros bouquin à entrées multiples avec ses ancêtres des liens hypertextes où l’on commençait à entrevoir une sorte de couteau suisse du savoir universel. Mais il ne se mettait à jour qu’une fois par an : la météo marine avait tout loisir de changer des milliers de fois, les villages Dogon pouvaient être déplacés pour mettre un barrage en eau sans qu’on n’en sache rien et une pizzéria du quartier se transformait en fleuriste sans prévenir. Puis sont venus le Minitel, Internet et, suprême luxe, sa déclinaison portable le smartphone. Aujourd’hui, nous avons le Monde dans notre poche, toujours à portée de nous en quelques touches ! Comment ne pas être enthousiaste ! Mycologue insatiable, je ne me serai jamais imaginé il y a 30 ans me promener avec les 10 kilos de l’atlas Romagnesi – la bible du mycologue européen – dans les bois pentus des Pyrénées. Aujourd’hui, il est dans ma poche comme tous les autres savoirs humains.

Imaginons que je clique sur l’appli du mycologue dans mon coin à morilles à 2300 mètres d’altitude, protégé de mes concurrents – et amis, ils ont la même passion – par les dénivelés impressionnants que j’ai franchis et par la profondeur insondable de la forêt de sapins. S’ils s’intéressaient aux champignons, Mr. Microsoft, Mr. Orange, Mr. Facebook ou bien M. Starlink découvriraient mes coins à morilles avec une précision au centimètre près. Passe encore pour les morilles, même si j’ai un peu de mal à l’accepter ! Mais, s’ils s’intéressaient non plus aux champignons mais à moi directement, je n’aurais plus aucun secret pour eux. L’idée d’être nu face à un Jeff Bezos ou tout autre inconnu n’est-elle pas glaçante ? Si j’étais prof de philo, voici la question que j’aimerais poser à mes élèves : « Elon le libertarien, Musk le liberticide ? »

M. A. : Cette référence à George Orwell n’est évidemment pas anodine, puisque l’on sait que l’écrivain anglais a écrit un roman d’anticipation, 1984, qui n’a jamais été aussi actuel. Or, vous mettez vos pas dans les siens, puisque vous proposez vous-mêmes un roman d’anticipation, qui mêle une grande entreprise multinationale américaine, qui s’appelle Babel, producteur d’une box connectée qui donne accès à tout, et qui traduit même en simultané un nombre impossible de langues. Cela nous fait évidemment penser à Google translator, mais aussi à Amazon, à Uber, etc. Quels sont les dangers selon vous, que nous font courir ces nouvelles entités internationales, que l’on rassemble sous l’acronyme GAFAM ?

J.-P. N. : Permettez-moi de commencer par ce qui semble n’être qu’une anecdote. Il y a quelques mois, un Président des Etats-Unis, à mes yeux indigne de cette fonction, a été banni de Tweeter. Je m’en suis immédiatement félicité. Comme beaucoup d’autres, j’ai fait mien le fameux raisonnement de Saint-Just, adapté aux circonstances : pas de liberté pour les ennemis de la démocratie dont procède cette liberté. Mais, à y regarder de plus près, je n’avais guère de raison de me réjouir ! Qu’on coupe aux Etats-Unis l’infernal gazouillis d’un Donald Trump comme on le fait par exemple en Europe avec de sinistres révisionnistes niant la Shoa est certes judicieux. Mais le procédé n’est pas le même dans les deux cas. Qui coupe ? Là est la question. Pour Donald Trump, c’est un patron d’une de ces entreprises mondiales qu’on appelle les GAFAM. Dans l’autre cas, c’est un juge qui applique une loi votée par un parlement élu. Qu’est-ce qui motive un dirigeant d’entreprise ? Sa morale, l’image de son entreprise, l’opinion de ses principaux actionnaires, le rendement des parts de ses derniers ? Un autre aurait pu tout aussi bien décider de ne pas stopper la logorrhée de l’ancien président car il aurait jugé que son intérêt personnel était de le laisser faire ou bien que ses principes s’opposaient à toute forme de censure. Je ne sais pas pour vous, mais je n’ai pas plus voté pour le Guide Suprême iranien ou pour le président du Jockey club de ma ville que pour le directeur général de Tweeter. Or, qui sont ces GAFAM ? Ils règnent désormais en maître sur les autoroutes de l‘information, les câbles sous-marins et les flottes de satellites. Leurs comptes de résultat font pâlir la plupart des états. Ils forment sans doute les organisations les plus puissantes de la planète. La démocratie n’est-elle qu’une parenthèse qui se referme, laissant la place aux Jacques Cœur du XXIème siècle ?

M. A. : Dans votre roman, le personnage Aline, qui est une sorte de Wonder woman moderne, est convoitée par le PDG de cette entreprise internationale, qui répond à un drôle de nom, 3K, et on la voit aux prises d’un nœud gordien : faut-il céder au mondialisme de notre époque, ou pencher plutôt pour le terroir et le souverainisme ? Quel message passez-vous alors ?

J.-P. N. : Aline voit le monde comme un puzzle constitué de « business plan ». Son objectif est clair : avoir le plus gros. S’il faut pour cela privatiser les langues, s’emparer de l’Académie Française, introduire une interface homme-machine, c’est-à-dire une puce, dans le cerveau de milliards d’habitants, faisons-le. Aline et 3K vont imposer la connexion directe de tous les individus entre eux et les relier directement à toutes les bases de données. Comme lorsque MM Ford et Citroën ont imposé la voiture individuelle à la planète il y a un siècle, leur unique boussole était le profit. Une entreprise n’a pas d’opinion, elle n’a que des intérêts. Le capitalisme mondialisé est simple, voire simpliste. Les majors du pétrole continuent à extraire les énergies fossiles tant que cela reste plus profitable que de faire tourner des moulins à vent, Aline « puce ou chipe » la population à tour de bras, dans les deux cas en évitant soigneusement d’envisager toutes les conséquences. 

L’opposition n’est pas entre mondialisation et terroir, mais entre mondialisation libérale et humanité. En effet, Aline recouvre toutes ses capacités cognitives quand elle se reconnecte à la nature. En dehors du monde monolithique de l’entreprise, dans la montagne chérie de son enfance, « hors connexion », elle réfléchit enfin comme un être humain peut le faire. Comme un Jim Harrison dans son Montana, elle retrouve toute son humanité en frottant sa peau au gneiss étincelant du Caroux, en plongeant dans l’eau froide des torrents ou en rusant avec les vipères.

M. A. : Votre roman est absolument passionnant, et je le recommande à tout lecteur qui aime l’anticipation. Modestement, certes, mais sûrement, il s’inscrit dans cette lignée des romans d’anticipation qui ont su voir venir notre nouveau siècle, comme 1984, mais aussi Le Troupeau aveugle, de John Brunner, ou Blade runner, de Philip K. Dick. Dans votre roman, vous parlez de drone, de box, de puces, de surveillance généralisée. Est-ce que le monde de demain vous fait peur ?

 J.-P. N. : Est-ce vraiment un roman d’anticipation ? Comme dit Ray Bradbury, la science-fiction est un genre pour décrire la réalité. L’action de Tantièmes se déroule entre 2025 et 2030. Mais je me suis fait rattraper, et bientôt dépasser par la réalité. Neuralink, une des sociétés d’Elon Musk, encore lui, attend l’autorisation de la FDA (Food and Drug Administration) pour implanter les premières puces électroniques chez les humains afin de « mieux marier le cerveau et l’Intelligence Artificielle ». Il arrive probablement chez chacun de nous, et à chaque génération, un moment où l’on prend conscience que ce qu’on pensait éternel disparait, remplacé par un monde qui nous est étranger. Faut-il en avoir peur ou bien doit-on s’en remettre à la génération qui vient pour s’adapter, corriger, et même se rebeller quand il le faut ? Avoir peur du monde de demain ce serait manquer de confiance dans mes enfants et mes petits enfants !

M. A. : Lorsqu’on parle d’intelligence artificielle, on parle forcément de transhumanisme. On parle aussi d’augmentation de l’humain, et de posthumanisme. Pensez-vous que la question de l’humanisme ne s’est jamais autant posée aujourd’hui ? Ne pensez-vous pas que la véritable question, finalement, est celle aujourd’hui, du dépassement de l’homme comme fondement même de son humanité ?

 J.-P. N. : Quand on parle « augmentation de l’humain » j’ai coutume de dire que l’humain a déjà bien augmenté. Prenons l’espérance de vie au XVIIème siècle en France : elle est d’une trentaine d’année à 25 ans. En d’autres termes, si on atteint l’âge de 25 ans on peut espérer vivre jusqu’à 55 ans. Mais l’espérance de vie à la naissance est inférieure à celle d’un individu de 25 ans ! Je suis jeune grand-père et ma petite fille de 3 mois est gratifiée d’une espérance de vie estimée à 96 ans. Voici donc une augmentation faramineuse de l’humain ! De quels progrès des mathématiques avons-nous été privés en 1832par la mort précoce à 20 ans d’Evariste Galois ? Et que dire des prothèses qu’on nous promet pour marcher, voir, entendre ? Alors, oui, je suis résolument pour l’augmentation de l’humain ! Mais la question est plus vaste : les progrès techniques et ceux de l’Intelligence Artificielle sont tels qu’on peut désormais imaginer créer des chimères humaines : un écrivain « universel » comme imaginé dans Tantièmes, une espérance de vie de 500 ans, un sprinter courant le 100 m en-dessous de 5 secondes, un joueur d’échecs infaillible, un tireur d’élite disposant de la vue perçante d’un aigle, un bébé sans grossesse…. Il y a tant de possibilités qui semblent désormais à notre portée. Imagine-t-on un match de Rugby ou chaque camp cache les données techniques de ces joueurs ? Au mieux cela ressemblerait à une course de formule 1, ce qui n’est déjà plus vraiment un sport, au pire à la guerre où tous les progrès techniques sont les bienvenus pour détruire l’adversaire. Et la guerre, la guerre technologique en particulier, n’en déplaise à Ernst Jünger, c’est la négation même de l’Humanité.

M. A. : Le transhumanisme rêve de nous affranchir de toutes les limites du réel. Dans votre roman, cette entreprise internationale propose toute une gamme de services, et notamment des traductions en simultanée, qui effacent toutes les frontières entre les hommes, Babel renvoyant évidemment au mythe de Babel dans la Bible. Mais les transhumains rêvent aussi de nous affranchir de la tyrannie de la maladie et de la mort. Pour cela, ils comptent s’appuyer sur les biotechnologies, et peut-être même effacer notre « date de péremption ». Sous couvert d’assurer et de favoriser notre bien-être et notre épanouissement, vous semblez dire, à juste titre, qu’en réalité, on nous prépare un nouveau monde plus totalitaire que tous les précédents. Est-ce vraiment le risque que l’on court avec toutes ces technologies de l’augmentation de l’humain ?

 J.-P. N. : Oui, un monde totalitaire est une perspective tout à fait réaliste à cause du développement exponentiel de l’Intelligence Artificielle et de compagnies plus puissantes que les états démocratiques. Et l’on peut observer que des états non démocratiques utilisent les réseaux sociaux pour contrôler leur population. La démocratie n’est peut-être qu’une courte parenthèse dans le temps et dans l’espace. Alors, si on nous prépare un tel monde, il y aura comme dans Tantièmes et comme à chaque génération des résistants !

M. A. : Notre monde actuel connait deux tendances : les bioconservateurs vs les biolibéraux. Dans quel camp vous rangez-vous et pourquoi ?

J.-P. N. : Dans les biolibéraux, résolument ! Il faut laisser chercher, laisser trouver ! D’ailleurs les bioconservateurs ont perdu la partie avant même de la commencer : tout ce qui est possible de développer ou d’inventer sera développé ou inventé. C’est dans la nature même de l’homme depuis qu’il a taillé son premier biface. La question a toujours été l’usage que l’on fait du biface une fois réalisé.  

M. A. : Où pensez-vous que se niche l’éthique dans ce monde où technologies convergentes, super intelligence, intelligence artificielle concourent à faire de la nature humaine une aporie ? Pensez-vous que l’humanité soit en danger de mort ?

J.-P. N. : Vous avez raison. La question est éthique. Quand j’exprime dans Tantièmes qu’une entreprise n’a pas d’opinion mais qu’elle n’a que des intérêts, cela fait écho au célèbre « science sans conscience n’est que ruine de l’âme » de Rabelais. Une fois que l’on a dit que tout ce qui est à notre portée technique sera réalisé, il n’y a plus qu’à s’en remettre à l’éthique. Or, Aline démontre que le capitalisme mondialisé, volontairement simpliste et réduit au seul dogme du retour sur investissement n’en a pas. Eric Vuillard, dans « l’ordre du jour » décrit le mécanisme qui conduit les entreprises allemandes dans les années 30, à pactiser avec le diable au nom de ce retour sur investissement. L’humanité est toujours en danger de mort, hier comme aujourd’hui et ma petite fille, comme bien des humains avant elle confrontés à d’autres défis, a du pain sur la planche.  

Propos recueillis par Marc Alpozzo

We would like to give thanks to the writer of this write-up for this awesome content

L’Intelligence Artificielle nous conduit-elle vers un monde totalitaire ?

Check out our social media profiles , as well as other pages that are related to them.https://yaroos.com/related-pages/