Face à l’avènement de la posthumanité, revendiquons notre vulnérabilité

Jamais nous n’avons aussi clairement réalisé combien les technologies étaient en train de nous modifier. Chaque jour apporte son lot d’innovations qui bouleversent nos comportements, nos manières de penser et parfois aussi nos corps eux-mêmes. Nous vivons l’ère des « anthropotechnies », c’est-à-dire des techniques de transformation non thérapeutiques du corps humain, et en éprouvons à la fois de la satisfaction et de la crainte. La même personne qui s’enthousiasme qu’on puisse permettre à des tétraplégiques de marcher grâce à des exosquelettes ou des interfaces cerveau-machine s’effraiera de l’utilisation qu’on en fait déjà dans le domaine militaire. La manipulation récente du génome de l’embryon de deux jumelles exposées à être contaminées par le sida de leur père suscitera des sentiments contrastés : un bien, selon certains qui voient là une manière de prévenir une maladie injuste, un mal pour d’autres qui redoutent la pente glissante vers un eugénisme. Nous n’avons jamais aussi vivement perçu le caractère ambivalent des technologies : des remèdes mais aussi des poisons, comme les médicaments que nous consommons parfois à la légère.

« Tuer la mort »

Un courant d’opinions se fait de plus en plus entendre dans les sociétés modernes. Il regroupe des gens qui se disent « technoprogressistes » parce qu’ils considèrent que le progrès technologique ne peut que contribuer à répondre aux aspirations des humains que nous sommes. Quelles sont donc ces aspirations, selon eux ? La réponse ne surprend guère : ne pas laisser naître des enfants déficients, supprimer la douleur, éliminer les maladies, ne plus vieillir et – on ose le dire – cesser de mourir. Les plus radicaux des technoprogressistes pensent qu’il y a là le programme pour un « transhumanisme » (du nom de ce mouvement technoscientifique né dans les années 1980 aux États-Unis) capable de dépasser les limitations qui sont les nôtres, d’augmenter nos performances et finalement, peut-être, de faire surgir un posthumain, c’est-à-dire une espèce débarrassée des fragilités de l’humanité.

Ce programme est déjà en partie engagé : nous sommes tout près de fabriquer des bébés à la carte, nous connaissons de mieux en mieux le cerveau et savons produire des molécules contre la douleur, des maladies qui nous tuaient sont de mieux en mieux soignées, la compréhension des mécanismes cellulaires permet d’envisager de bloquer les phénomènes de vieillissement et de prolonger indéfiniment la vie. Quant à la mort, certaines recettes sont déjà proposées pour en venir à bout et donner réalité au slogan imputé à la société de biotechnologies Calico, créée en 2013 par Google : « Tuer la mort » ! Parmi ces recettes : la production à la demande d’organes issus de la mise en culture de cellules souches (les « cellules souches pluripotentes induites »), l’importation dans le génome humain de gènes d’espèces à la longévité extraordinaire (par exemple ceux de méduses), le transfert du contenu du cerveau sur des matériaux inaltérables, qui viendraient habiter de nouveaux corps ou seraient dématérialisés et confiés au cyberespace (voir le déjà célèbre « mind-uploading » ou « téléchargement de l’esprit »). Le transhumanisme sait, à l’occasion, réactiver des thèmes de science-fiction, mais il a aussi une force de frappe économique, industrielle, financière qui impressionne, voire influence de plus en plus les milieux politiques dans les sociétés en quête de prospérité, grâce aux innovations technologiques. Les Gafam (Google, Amazon, Facebook, Apple, Microsoft) et leur concurrent chinois BATX (Baïdu, Alibaba, Tencent, Xiaomi) se présentent volontiers comme la chambre d’écho des ambitions transhumanistes.

(Lire aussi : Ne laissons pas les algorithmes décider pour nous !)

Pari pascalien

Le bon sens voudrait qu’on rejette ces ambitions comme autant de fantasmes tout juste bon à alimenter l’imaginaire de séries télévisées du genre Black Mirror. Il devrait être évident pour chacun que nous avons affaire à des effets d’annonce propices à aspirer des financements pour les laboratoires technoscientifiques et à enrichir les « capital-risqueurs ». Reste que les « technoprophètes » jouent sur du velours pour imposer leur message à nos contemporains. Notamment quand ils invoquent le domaine de la santé où les attentes du public sont toujours aiguës : on annonce ainsi les développements d’une « médecine connectée » qui confiera à des applications, des plateformes et des objets dits intelligents la surveillance et le traitement des maladies. Cette médecine contribuera à collecter les données que les dispositifs de contrôle et de mesure du fonctionnement de notre organisme fourniront à des algorithmes qui les classeront, les compareront, les indexeront… Bref, les exploiteront afin d’établir des diagnostics et de prescrire des traitements. Nous entendons dire que, de plus en plus, internet nous conduit à n’être plus que des supports de données qui vont alimenter des machines appelées à devenir de plus en plus performantes et bientôt à nous remplacer. Nous comprenons de mieux en mieux ce que sont ces « machines à apprendre » qui rendront irréversible le triomphe d’une intelligence artificielle d’ici à quelques décennies.

Cette « médecine connectée », qui bénéficie déjà des prouesses de l’imagerie et qui est promise à des progrès incroyables grâce aux algorithmes et à l’intelligence artificielle, est évidemment séduisante : elle sera, dit-on, prédictive et personnalisée. C’est-à-dire que les données qu’elle traitera traduiront le fonctionnement d’un organisme particulier – le vôtre – auquel on pourra appliquer des protocoles de soins individualisés. Si l’on songe qu’on recourra aussi de plus en plus au décryptage du génome de chacun d’entre nous et aux ressources en manipulation offertes aux thérapies géniques, on se convainc que la maladie pourra être étouffée dans l’œuf, comme le prédisent les transhumanistes. Qui est prêt à refuser une médecine promettant l’augmentation de la longévité grâce aux progrès biotechnologies et aux outils de numérisation ? On peut se vouloir méfiant à l’égard des prophéties annonçant la « singularité » technologique, c’est-à-dire la rupture qui consacrera la domination de l’intelligence artificielle et la relégation de l’intelligence biologique dans l’obsolescence. Mais lorsqu’on vous annonce que vous allez gagner 30, 50, 100 ou même 1 000 ans d’existence, la méfiance risque d’encourager certains à un « remake » du pari de Pascal – qui considérait que l’on a tout intérêt à croire en l’existence de Dieu, car cela est plus avantageux – et à tout miser sur les promesses d’une médecine intégralement technologisée. Dès lors, bien des objections que formulerait un esprit formé aux humanités ne sont plus guère audibles : cette médecine traite en effet la maladie comme une simple panne qu’on doit pouvoir réparer ; elle aborde l’humain comme une simple mécanique ou ne le distingue guère d’un animal lui-même réduit au fonctionnement de ses métabolismes biologiques ; elle n’a plus besoin de la relation clinique, faite de paroles et de récits, qui unissait jusqu’à il y a peu le médecin à son patient ; elle ne cherche même plus à identifier la source des symptômes, puisqu’elle se laisse guider par les corrélations entre les données individuelles et celles réunies à grande échelle d’après des cohortes de patients. Pour gagner des années d’existence, on est désormais disposé à souhaiter une médecine déshumanisée.

(Pour mémoire : Des robots qui nous ressemblent de plus en plus)

Honte prométhéenne

Au cours du XXe siècle, un sentiment d’impuissance avait déjà saisi les hommes : au travail, nous ne sommes plus à la hauteur des machines que nous fabriquons, « l’humain est le maillon faible dans les entreprises », disait-on dès 1900. Dans les années 1950, le philosophe allemand Gunther Anders avait donné un nom à la pathologie associée à ce sentiment croissant d’impuissance : « la honte prométhéenne d’être soi ». De nos jours, cette pathologie s’est encore affirmée. Un rapport publié en décembre 2017 par l’OCDE lui donne un aliment chiffré : 87 % de nos emplois sont susceptibles d’être plus efficacement assurés par des machines. L’humain est donc en passe de devenir superflu. Rien d’étonnant si la dépression menace tant de nos contemporains. La vie quotidienne est le théâtre de la mutation à laquelle nous contraignent les machines : qui refuse de se comporter conformément aux exigences dictées par les formats technologiques est socialement mort. Essayez de communiquer avec une administration publique occidentale sans être contraint de vous soumettre au diktat d’un serveur vocal, de formulaires tracassiers ou d’automates stupides... Il faut que nous devenions nous-mêmes machines pour interagir avec ces machines censées nous faciliter la vie !

Notre culture humaniste nous donnait à penser que nous sommes des êtres de langage capables de prendre des distances avec l’immédiateté qui oblige les animaux à réagir mécaniquement aux agressions de leur milieu. Nous avions fini par nous convaincre que l’intelligence consiste chez nous à résister aux automatismes des instincts. Nous pensions être capables d’entretenir avec le monde des relations désintéressées, délivrées des impératifs de l’utilité et de l’efficacité, propices à la poésie. Cette culture humaniste ne sera bientôt plus qu’un archaïsme avec la domination de la culture numérique que nous accueillons comme une fatalité. Nous serons bientôt des êtres simplifiés à l’extrême par les mécanismes de toutes sortes, devenus inaptes à la vie intérieure et à la réflexion, livrés à la stupidité fonctionnelle des entreprises, des humains technologiquement augmentés seulement pour assurer les performances requises par une société compétitive et concurrentielle…

Tel est le destin auquel le transhumanisme entend nous conformer : l’humanité a fait son temps, pense-t-il, et elle a raté à peu près tout ce qu’elle a entrepris, ainsi qu’en témoignent les désastres politiques ou écologiques du siècle passé. Elle doit à présent laisser la place à quelque chose d’autre : une posthumanité à laquelle participeront peut-être ceux qui pourront se ménager les bénéfices des évolutions technologiques, ceux qui joueront la carte de l’intelligence artificielle, ceux qui auront les moyens de se procurer les ressources offertes par les « objets intelligents ».

Bref, du point de vue du transhumanisme, le seul avenir pensable appartiendra aux humains disposés à se laisser déposséder de leur humanité. L’heure est sans doute à la résistance – une résistance qui requiert déjà que nous nous demandions si la perfection promise par les technosciences n’est pas un piège, auquel on échappera en revendiquant la part de vulnérabilité qui fait de nous des humains appelés à construire une histoire commune, sans échéance assignable.

Jean-Michel Besnier est intervenu jeudi lors d’une table ronde tenue dans le cadre de la 4e édition de la « Nuit des idées » organisée à Beyrouth par l’Institut français et intitulée : « Face au présent : l’intelligence artificielle, réinventer l’homme ? »

Jean-Michel Besnier est professeur émérite de philosophie à la Sorbonne-Université. Dernier ouvrage : « Les robots font-ils l’amour ? » (Dunod, 2016).

Lire aussi
Thales appelle à interdire les "robots tueurs" équipés d'intelligence artificielle

Écouteurs, smartphones : l’intelligence artificielle au service de la traduction

L’intelligence artificielle s’impose dans les bagarres du cyberespace

En 2025, les machines accompliront plus de tâches que les humains