La bêtise de masse, conséquence de l'avènement de l'intelligence artificielle ?

La plupart des discussions sur les progrès de la robotique et de l’intelligence artificielle se sont naturellement concentrées sur les craintes de pertes d'emplois massives. Mais les implications de ces technologies sont en réalité beaucoup plus terrifiantes. Nous sommes à l’aube d'une transformation évolutive alarmante, non seulement des capacités humaines, mais du moi individuel.
L'histoire ne fournit qu’un guide partiel pour déchiffrer l'avenir incertain auquel nous sommes confrontés. Ce que nous savons depuis la première révolution industrielle, c’est que les nouvelles technologies peuvent modifier fondamentalement les humains et les autres espèces. Selon le professeur  de Cambridge Tony Wrigley et grand historien de cette époque,  la clé de ce processus a été le remplacement de l'énergie mécanique humaine et animale par des formes plus productives, comme le charbon et d'autres combustibles fossiles.
Certes, la dévaluation à grande échelle de la puissance musculaire humaine et animale ne s’est pas produite immédiatement. Dans un premier temps, de nombreuses tâches auxiliaires – y compris l'extraction du charbon, ou la création de produits intermédiaires dans les ateliers – ont continué à requérir d’énormes efforts physiques. Mais, après environ deux siècles, la force physique était devenue rarement nécessaire. Peu à peu, la nature même du travail a changé. À la fin du XXe siècle, les agriculteurs se sont assis sur des tracteurs, et même les mines de charbon étaient devenues largement mécanisées. Peu de gens dans les pays développés gagnaient encore des revenus à la sueur de leur front.

Perfectibilité
La physionomie humaine a également changé, surtout quand le plein potentiel de la révolution industrielle a été réalisé. Les modes de vie sédentaires ont produit des personnes visiblement différentes. Les tours de taille se sont élargis lorsque les régimes alimentaires sains de naguère, nécessaires pour alimenter les énormes efforts physiques, sont devenus de plus en plus malsains. Certaines personnes se sont rendues compte de ces changements, et se sont inquiétés à leur sujet. Une minorité de plus en plus importante a commencé à pratiquer une activité physique intense non plus dans les champs ou les usines, mais dans un cadre de loisirs. La sueur de son front n'était plus associé à un travail productif, mais à de la consommation – souvent une consommation ostentatoire. Les gymnases sont devenus de nouveaux espaces communautaires. Et, quand des collègues ont commencé à faire de l’exercice ensemble, certains employeurs éclairés ont commencé à voir ces loisirs comme une source précieuse de bien-être physique et mental.
La révolution industrielle a été basée sur l'activité mentale. Dès lors, une autre façon de voir les choses est de la considérer comme une « révolution industrieuse », terme proposé par Jan De Vries de l'Université de Californie, Berkeley, Joel Mokyr des Universités Northwestern et de Tel-Aviv, ainsi que d’autres historiens. Dans une révolution industrieuse, des groupes d’innovateurs reliés entre eux se font concurrence pour concevoir de nouvelles solutions aux problèmes existants, résultant en un cercle vertueux.
En mettant l'accent sur les efforts mentaux et en rendant obsolètes les taches physiques routinières, la transformation au cours des trois derniers siècles a donné aux gens plus d'occasions de penser. Alors que l'intelligence collective de l'humanité atteignait de nouveaux sommets, le rêve de la perfectibilité humaine a émergé. Mais, nous le savons maintenant, c’était une illusion. Le niveau d'intellectuel qui a résulté de la révolution industrielle pourrait se révéler avoir été un plateau.

Économie stupide
La révolution technologique en cours génère un autre type de remplacement. De nombreuses tâches qui exigeaient l'intelligence humaine – établir des liens et en déduire des conclusions; reconnaitre des régularités; prévoir les répercussions d’événements complexes – sont maintenant mieux gérées par des applications d’intelligence artificielle. Que le travail consiste à analyser des milliers de pages de contrats juridiques pour y trouver des incohérences, ou à faire des évaluations radiologiques, un algorithme peut maintenant le faire de façon plus fiable et moins cher. Bientôt, ce sera aussi le cas de la conduite de véhicules.
En même temps, l'économie comportementale moderne a montré que la pensée humaine peut introduire des éléments irrationnels dans des processus simples par ailleurs. La recherche est maintenant lancée pour découvrir et contrôler les caractéristiques de l'esprit humain qui pourraient produire ce genre d’effets de distorsion, non productifs ou inefficaces. Apparemment, la prochaine étape de la perfectibilité humaine nous obligera à renoncer purement et simplement à la pensée et à un jugement indépendant.
L’intelligence artificielle et l'automatisation ont des implications évidentes pour l'emploi. Mais elles affecteront aussi l'esprit humain. Les emplois de l'avenir, la plupart d'entre eux dans le secteur des services, nécessiteront un autre ensemble de compétences, en particulier les compétences interpersonnelles, que les applications robotiques – même Siri (l’application de commande vocale d’Apple, Ndlr) ou Alexa (celle développé par Amazon) – ne peuvent pas fournir. La capacité à effectuer des calculs complexes ou des analyses sophistiquées sera beaucoup moins importante.
Le problème est que de nombreuses activités plus anciennes – qu’il s’agisse de conduire dans des conditions difficiles sur une route de montagne ou de statuer sur un cas juridique complexe – sont une source d'épanouissement pour d'innombrables personnes, parce qu'elles offrent des possibilités d'affronter des défis difficiles et intrinsèquement motivés. Bientôt, ces activités, comme ce fut le cas du labour des champs médiévaux, pourraient être perdues à jamais. Pire encore, de nombreuses données montrent que les gens pourraient avoir raison de regretter de devoir abandonner des emplois exigeant mentalement pour se lancer dans une vie de loisirs. Il s’avère que, ne pas avoir à réfléchir régulièrement n’est ni reposant, ni agréable. Au contraire, cela tend à générer une mauvaise santé mentale et physique, ainsi qu’une détérioration de la qualité de vie.
L'élimination d’innombrables tâches cognitives a des conséquences alarmantes pour l'avenir. Tout comme la révolution industrielle a rendu la plupart des humains physiquement plus faibles, la révolution de l’intelligence artificielle nous rendra collectivement plus bêtes. Outre les tours de taille flasques, nous aurons des esprits flasques. Ce n'est pas « the economy, stupid »; c’est l'économie stupide. Déjà, les banques centrales étudient de toute urgence de nouvelles façons de simplifier leurs déclarations à destination d’un public de plus en plus simple.
La bêtise de masse sera une conséquence de la technologie. Mais, comme pour le culte de la condition physique qui s’est développé au cours de la révolution industrielle, une nouvelle industrie de formation de l'intelligence émergera probablement pour contrer la détérioration mentale. Écouter quelqu'un construire un argument logiquement articulé deviendra une source exclusive de plaisir esthétique et de distinction. Les œuvres de la littérature ou des arts visuels « difficiles » deviendront une forme de plus en plus attrayante de consommation ostentatoire.
Et pourtant, quelque chose à ce propos parait profondément désagréable. Il est assez pénible d’écouter les gens se vanter de leur condition physique. Mais les fanfaronnades au sujet de leur intelligence supérieure seront bien pires. Le besoin de démontrer être une relique durable de l'ancienne suprématie humaine ne menacera pas seulement le bien commun, mais aussi notre humanité commune.

© Project Syndicate, 2018.
Traduction Timothée Demont
Harold James est professeur d’histoire et de relations internationales à l’université de Princeton et chercheur au Centre pour l’innovation dans la gouvernance internationale.