Rechercher
Rechercher

Idées - Point de vue

Ce que la gouvernance mondiale de l’intelligence artificielle doit accomplir

Ce que la gouvernance mondiale de l’intelligence artificielle doit accomplir

Archives AFP

Même si cela faisait déjà plusieurs décennies que l’intelligence artificielle nous venait en aide discrètement, ses avancées se sont accélérées ces dernières années, et 2023 restera dans l’histoire comme une année « big bang » en la matière. Avec l’apparition de l’IA générative, l’intelligence artificielle s’est imposée dans la conscience collective et façonne désormais le discours public, influençant les investissements et l’activité économique, suscitant une compétition géopolitique et transformant toutes sortes d’activités humaines, de l’éducation jusqu’à la santé, en passant par l’art. Chaque semaine apporte son lot de nouveautés stupéfiantes. L’IA est là pour rester et le changement s’accélère.

L’élaboration des politiques évolue presque aussi rapidement avec le lancement de nouvelles initiatives réglementaires et de forums visant à répondre aux défis du moment. Seulement voilà, bien que les efforts actuels du G7, de l’Union européenne et des États-Unis soient encourageants, aucune de ces démarches ne revêt un caractère universel susceptible de représenter le bien commun au niveau mondial. Le développement de l’IA étant en effet mené par une poignée de PDG et d’acteurs du marché dans quelques pays seulement, les voix de la majorité, en particulier celles des pays du Sud, demeurent absentes des discussions sur la gouvernance.

Lire aussi

Sous pression US, la principale société d’IA aux Émirats arabes unis rompt avec ses fournisseurs chinois

Les défis uniques que soulève l’IA exigent une approche de gouvernance coordonnée à l’échelle mondiale, et une seule institution jouit de la légitimité inclusive nécessaire pour organiser une telle réponse : l’ONU. Nous devons parvenir à une gouvernance digne de ce nom en matière d’IA si nous entendons exploiter son plein potentiel et atténuer ses risques. Dans cette perspective, le Comité consultatif de haut niveau des Nations unies sur l’intelligence artificielle a été créé pour formuler des analyses et recommandations destinées à remédier au déficit mondial de gouvernance en la matière. Cet organe est composé de 38 membres issus du monde entier, représentant une multitude de régions, de genres, d’âges ainsi que de profils disciplinaires, et reposant sur l’expertise des États, de la société civile, du secteur privé et du milieu universitaire.

Nous avons le privilège d’exercer au sein de l’organe exécutif de ce Comité consultatif. Nous avons publié aujourd’hui le rapport préliminaire du groupe, qui propose cinq principes d’ancrage de la gouvernance de l’IA et d’appréhension de plusieurs défis interconnectés.

Premièrement, étant donné que les risques diffèrent selon les contextes mondiaux, chacun nécessitera des solutions adaptées. Cela signifie comprendre comment les libertés et les droits peuvent être compromis par des choix spécifiques en termes de conception, d’utilisation (et de mauvaise utilisation) ainsi que de gouvernance. Le fait de ne pas appliquer l’IA de manière constructive – ce que nous appelons les « utilisations manquées » – risquerait d’aggraver inutilement les difficultés et inégalités existantes.

Deuxièmement, l’IA étant un outil de développement économique, scientifique et social, et assistant d’ores et déjà les individus dans leur vie quotidienne, elle doit être gouvernée dans l’intérêt public. Cela signifie prendre en compte les objectifs d’équité, de durabilité, ainsi que de bien-être social et individuel, sans oublier les problématiques structurelles plus larges, telles que la nécessité de marchés concurrentiels et d’écosystèmes d’innovation sains.

Troisièmement, les cadres réglementaires émergents dans les différentes régions devront être harmonisés afin que puissent être efficacement surmontés les défis de la gouvernance mondiale de l’IA. Quatrièmement, il est nécessaire que la gouvernance de l’IA s’accompagne de mesures consistant à préserver la capacité d’action, la vie privée et la sécurité des données personnelles. Enfin, la gouvernance devra s’ancrer dans la Charte des Nations unies, dans le droit international qui protège les individus, et dans plusieurs autres engagements internationaux faisant l’objet d’un large consensus mondial, dont les objectifs de développement durable.

Affirmer ces principes dans le contexte de l’IA nécessite de surmonter certains défis tenaces. L’IA repose sur des quantités massives de puissance informatique, de données et, bien sûr, de talents humains spécifiques. La gouvernance mondiale doit envisager comment développer et assurer un large accès aux trois. Elle doit également aborder le renforcement des capacités des infrastructures de base qui sous-tendent l’écosystème de l’IA – notamment un haut débit et un réseau électrique fiables –, en particulier dans les pays du Sud.

Des efforts accrus sont par ailleurs nécessaires pour faire face aux risques connus et encore inconnus qui pourraient résulter du développement, du déploiement ou de l’utilisation de l’IA. Le risque lié à l’IA fait l’objet de débats animés. Tandis que certains se concentrent sur d’ultimes scénarios de disparition de l’humanité, d’autres s’inquiètent davantage des préjudices causés aux personnes ici et maintenant. En revanche, presque tous s’entendent sur le fait qu’une IA non réglementée présenterait des risques inacceptables.

Une bonne gouvernance impose des éléments de preuve fiables. Nous entrevoyons la nécessité d’évaluations objectives de l’état de l’IA et de sa trajectoire afin de fournir aux citoyens et aux gouvernements une base solide pour les politiques et les réglementations. Dans le même temps, un observatoire analytique chargé d’évaluer l’impact sociétal de l’IA – qu’il s’agisse de la perturbation du marché du travail ou des menaces pour la sécurité nationale – permettrait aux dirigeants politiques de rester informés sur les changements majeurs que l’IA entraîne dans le monde réel. La communauté internationale devra développer une capacité à s’autocontrôler, notamment en surveillant et en répondant aux incidents potentiellement déstabilisateurs (comme le font les grandes banques centrales face aux crises financières), ainsi qu’en facilitant l’imputabilité, voire certaines actions coercitives.

Ce ne sont là que quelques-unes des recommandations que nous formulons. Elles doivent être considérées comme un plancher, pas comme un plafond. Plus important encore, elles sont une invitation à ce que davantage de personnes nous fassent savoir à quel type de gouvernance de l’IA elles aspirent.

Si nous souhaitons que l’IA atteigne son plein potentiel mondial, de nouvelles structures et de nouveaux garde-fous seront nécessaires pour nous permettre à tous de prospérer à mesure de son évolution. Tout le monde a intérêt à voir l’IA se développer de manière sûre, équitable et responsable. Les risques liés à l’inaction sont par ailleurs clairs. Nous sommes convaincus de la nécessité primordiale d’une gouvernance mondiale de l’IA qui permette d’exploiter les opportunités majeures et de gérer les risques que cette technologie présente aujourd’hui pour chaque État, chaque communauté et chaque individu, ainsi que pour les générations à venir.

Ian BREMMER est fondateur et président d’Eurasia Group et de Gzero Media. Carme Artigas est secrétaire d’État espagnole pour le numérique et l’intelligence artificielle. James Manyika est vice-président principal recherche, technologies et société chez Google/Alphabet. Marietje Schaake, ancienne députée européenne, est directrice des politiques du Cyber Policy Center de l’Université de Stanford et présidente du CyberPeace Institute. Ils sont tous membres de l’organe exécutif du Comité consultatif de haut niveau des Nations unies sur l’intelligence artificielle.

Copyright: Project Syndicate, 2023.


Même si cela faisait déjà plusieurs décennies que l’intelligence artificielle nous venait en aide discrètement, ses avancées se sont accélérées ces dernières années, et 2023 restera dans l’histoire comme une année « big bang » en la matière. Avec l’apparition de l’IA générative, l’intelligence artificielle s’est imposée dans la conscience collective et façonne...

commentaires (1)

Que des généralités et aucune illustration concrète. Faites refaire votre article par une IA, svp !

F. Oscar

09 h 01, le 26 décembre 2023

Tous les commentaires

Commentaires (1)

  • Que des généralités et aucune illustration concrète. Faites refaire votre article par une IA, svp !

    F. Oscar

    09 h 01, le 26 décembre 2023

Retour en haut