Une image est générée par intelligence artificielle à Tokyo, le 31 janvier 2023. Richard A. Brooks/AFP
Si la révolution de l’intelligence artificielle a permis des avancées dans des domaines aussi variés que la médecine, la production de biens et de services, l’accès à l’information, elle comporte aussi de nombreux périls, notamment dans trois champs.
La raison en sommeil
Il est constaté dans les pays avancés un net recul depuis trente ans des compétences en lecture et du temps consacré à celle-ci chez les enfants et les adolescents. En conséquence, il leur est plus difficile de suivre la séquence des événements dans un récit ou de saisir l’idée principale d’un texte. À la place, un temps plus long est consacré à la réception passive de courtes informations publiées sur les réseaux sociaux– des informations souvent fausses à dessein, pour modeler les opinions selon les objectifs de ceux qui les diffusent. L’intelligence artificielle est mise à contribution, autant pour en générer le contenu que pour en assurer la large propagation.
Cette passivité affaiblit la « mémoire immédiate », celle qui permet les calculs mentaux, le suivi d’instructions, la compréhension de phrases complexes, en bref, la capacité de raisonner. Le raisonnement relève du « système 2 » de la pensée, tel que décrit par Daniel Kahneman dans son livre Système 1, Système 2 : Les deux vitesses de la pensée. Lorsque le « système 2 » est inactivé, c’est le premier qui est stimulé ; il est lui intuitif et non analytique, il tend à accepter l’information telle qu’elle lui parvient et peut en tirer des conclusions que le second aurait rejetées. Le « système 1 » est ainsi exposé à des biais cognitifs.
Malgré ces dérives, l’utilisation de l’intelligence artificielle à travers les chatbots présente de nombreux avantages dans l’éducation, notamment en accélérant la recherche d’informations et en facilitant l’apprentissage. Mais les étudiants qui en dépendent exclusivement pour leurs travaux de recherche courent le risque d’atrophier leur esprit critique. Toute réception passive de l’information et son corollaire, le recul de l’activité cognitive, ont une influence directe sur le ralentissement des connexions neuronales dans notre cerveau, et donc sur son développement.
Plus inquiétant encore : le mode de fonctionnement des chatbots. Ils se limitent à des corrélations et font usage de statistiques. S’ils sont performants en mathématiques ou pour établir un diagnostic médical, ils ne le sont pas pour tout ce qui a trait aux valeurs humaines et à l’éthique – des notions qu’ils sont incapables d’appréhender. Pour ne citer qu’un exemple : une famille en pique-nique demande à trois chatbots différents à quelle fréquence les domestiques qui les accompagnent doivent remplacer le piquet manquant de leur auvent. Deux ont établi des horaires pour les domestiques, sans prendre en compte l’indignité que cela représente pour eux.
Domination sociale et politique
Autrefois, les vicaires de Dieu exerçaient un pouvoir absolu en son nom, ou le déléguaient à un souverain à qui ils conféraient sa légitimité. Puis, autour du XVe siècle, se développa une compréhension progressive des lois naturelles, accompagnée d’une reconfiguration plus égalitaire des rapports sociaux et d’une restructuration participative du lien entre société et pouvoir. Toutefois, cette connaissance demeura, jusqu’à la première moitié du XVIIIe siècle, le privilège d’une minorité instruite souvent issue de la classe dirigeante. Elle leur offrait un levier puissant pour imposer les règles de conduite sociale et pérenniser leur domination.
Cette emprise s’est érodée avec l’affirmation de la démocratie libérale après la Seconde Guerre mondiale, sans toutefois disparaître complètement. Elle est désormais dénoncée chaque fois qu’elle est dévoilée : manifestations, sanctions électorales ou actions en justice contre les dirigeants politiques qui confondent intérêts personnels et affaires d’État, ou contre les groupes économiques nuisibles à l’intérêt général.
Aujourd’hui, nous assistons à un retour de ces pratiques. Avec notre assentiment, nous acceptons, par paresse ou par affaiblissement de notre esprit critique, tout ce que les géants de l’IA nous livrent comme informations, fussent-elles délibérément fausses. Nous nous abandonnons à une poignée de « majors » que l’on n’hésite plus à qualifier de « techno-féodaux ». Ils sont en collusion avec des régimes autoritaires comme la Chine, et ceux de démocraties, principalement aux États-Unis – les deux pays hébergeant les plus grandes entreprises d’intelligence artificielle.
Si le régime chinois annonce d’emblée son intention de contrôler sa population, le phénomène est plus insidieux et pernicieux aux États-Unis. Sous prétexte de défendre la liberté d’expression, Donald Trump a démantelé les agences de lutte contre la désinformation – dont il est lui-même une source –, et META, maison mère de Facebook et Instagram (3,3 milliards d’utilisateurs), a renoncé au « fact-checking ». Plus d’un décret émis par le président américain contredit la Constitution ou empiète sur les prérogatives du Sénat. Cette dérive illibérale, voire autoritaire, s’avance masquée lorsque Donald Trump prétend défendre la démocratie contre des institutions qu’il accuse de trahir la volonté populaire.
Arme létale
Enfin, ce qui effraie les plus grands noms de la recherche en IA, c’est l’incertitude sur son évolution, notamment sa capacité à agir de manière autonome. Geoffrey Hinton, l’un des pionniers de l’IA et Prix Nobel de physique, révèle que celle-ci est non seulement capable d’écrire des lignes de code, mais peut aussi les enclencher de son propre chef. S’il s’agit d’une arme, d’un virus biologique ou informatique, son inventeur humain peut avoir des doutes, une réticence morale à l’utiliser – pas une machine.
Plus d’un millier de chercheurs en IA ont demandé un moratoire sur le développement de cette technologie. Une telle décision relève du pouvoir politique. L’empereur Guillaume Ier, fervent adepte de la force, regardait avec grand intérêt les avancées technologiques dans l’armement au début du XXe siècle. Elles ne furent pas la raison du déclenchement de la Première Guerre mondiale, mais eurent certainement une incidence incitative, et sans elles elle n’aurait pas été aussi meurtrière. Quelle suggestion l’intelligence artificielle fera-t-elle à Xi Jinping et Donald Trump ?
À savoir que les départements d’État et de la Défense américains ont déjà intégré l’IA dans leurs processus de prise de décision – et une analyse de leurs conclusions révèle un biais en faveur de l’escalade dans les périodes de tension internationale.
Par Amine ISSA
Écrivain, ancien responsable du master information et communication à l’Université Saint-Joseph.
