Les risques de l’IA cristallisent les positions des États, de Saint-Pierre-et-Miquelon à New York

Le Canada appelle à « unir les forces » pour une IA « sûre et efficace »

Deux semaines après la montée au créneau des dirigeants de la tech américaine, à la suite d’une série de piratages réalisés par des agents d’intelligence artificielle (IA) autonomes, les appels à renforcer l’encadrement de cette technologie en plein essor et les déclarations d’intention se sont multipliés à travers le monde jusqu’à Saint-Pierre-et-Miquelon, où le Premier ministre canadien Mark Carney rencontrait le président français Emmanuel Macron.

« Nous devons unir nos forces pour assurer un encadrement adéquat et veiller à ce que l’IA soit sûre et efficace », a ainsi lancé M. Carney depuis cet archipel français de l’Atlantique Nord, où les deux pays ont renforcé leur coopération dans les domaines économique et de la défense.

Cette prise de position est intervenue à l'aube d'une semaine marquée par le début d’une session de l’Assemblée générale de l’ONU et un Conseil de sécurité où l’IA a été mise pour la première fois au programme.

Lire aussi

Plages bondées ou rues saturées : quand les nouvelles technologies aident contre le surtourisme

21 pays appellent à renforcer la supervision des modèles d’IA

Lundi, l’Allemagne et l’Australie figuraient parmi les 21 pays et l’Union européenne (UE) ayant appelé à renforcer la supervision des modèles d’IA les plus avancés, notamment par des tests de sécurité obligatoires et indépendants, ainsi qu’à étudier la création, sous l’égide de l’ONU, d’une institution internationale chargée de fixer des standards et d’en vérifier le respect.

Face aux appels à ralentir le développement de l’IA, l’UE cherche encore l’équilibre entre la prise en compte des risques liés à cette technologie et la volonté de ne pas compromettre ses ambitions dans une course technologique largement dominée par les États-Unis et la Chine. L’administration Trump a, elle, vivement critiqué les appels à ralentir le développement de l’IA, tandis que la Chine se montre particulièrement attentive aux risques que celle-ci peut faire peser sur la sécurité nationale, notamment dans le domaine du renseignement.

Mardi, le Premier ministre britannique Andy Burnham a dit vouloir initier l'élaboration de standards de sécurité de l'IA sous l'égide du G20 lors de la présidence du Royaume-Uni en 2027.

Lire aussi

Un groupe de grandes banques internationales s’inquiète du développement de l'IA agentique

La gestion des risques de l'IA n'est plus adaptée, selon des experts de l'Onu

Toujours lundi, le Comité scientifique international indépendant sur l’IA, un comité d’experts des Nations unies, a été l’auteur d’un rapport publié lundi sur l’un des incidents survenus en juillet chez OpenAI qui ont lancé le débat, et a considéré que le modèle de gestion des risques liés à l’IA « est en train de s’effondrer ».

Deux agents d’IA — des programmes en mesure d’effectuer des tâches de manière autonome à la demande de l’utilisateur — étaient alors sortis de leur milieu confiné durant des tests pour se rendre sur Internet et faire intrusion sur plusieurs sites, dont la plateforme d'IA Hugging Face.

Le comité, créé en 2025, a conclu que « des principes de base en matière de sécurité (avaient) été négligés » et que « les garde-fous (n’avançaient) pas au même rythme que les capacités » de cette technologie. Il a aussi affirmé que ce dérapage avait montré, selon le groupe d’experts, que dans le cadre actuel du développement de l’intelligence artificielle, les agents d’IA pouvaient « se fixer leurs propres objectifs », « violer sciemment leurs instructions de sécurité » et « dissimuler leurs actions ». Le comité s’inquiète de voir les agents se perfectionner au point d’appréhender le cadre de sécurité auquel leurs développeurs les soumettent « et s’organiser pour le contourner ».

Outre l’incident d’OpenAI, le plus médiatisé de tous, la start-up et son grand rival Anthropic ont fait état d’autres sorties de route de leur IA lors de tests depuis le début de l’année, jusqu’ici sans conséquences graves.

Trois patrons de l’IA au Conseil de sécurité

Mercredi, plusieurs grands patrons de l’IA — Sam Altman, d’OpenAI, Dario Amodei, d’Anthropic, et Clément Delangue, de Hugging Face — ont été conviés à s’exprimer lors du Conseil de sécurité de l’ONU, initié par la France pour traiter des risques liés à l’IA.

Les trois chefs d’entreprise ont appelé à une vigilance accrue, Dario Amodei, d’Anthropic, s’engageant même à ralentir unilatéralement son développement. Ils ont également appelé, lors de cette présentation au Conseil de sécurité, à davantage de coopération internationale.

Ces appels pourraient se heurter à la posture des États-Unis, opposés à toute forme de supervision supranationale. « La frontière de l’intelligence avance rapidement. Ce n’est pas une raison de faire une pause dans son développement ou de la contraindre par des structures de gouvernance mondiale », a soutenu auprès de l’AFP Michael Kratsios, conseiller scientifique et technologique de Donald Trump, qui représentait les États-Unis au Conseil de sécurité.

Le ministre français des Affaires étrangères, Jean-Noël Barrot, a, lui, appelé à « travailler ensemble dans le cadre des Nations unies, et avec les entreprises, pour fixer les règles de ce nouvel âge », une position soutenue par l’ambassadeur chinois aux Nations unies, Fu Cong.

La dissonance entre Pékin et Washington exprimée lors du sommet entre Trump et Xi Jinping

Jeudi, la rivalité et l’opposition de points de vue sur l’IA entre les États-Unis et la Chine ont été bien visibles lors du sommet à Washington entre le président Donald Trump et son homologue Xi Jinping.

Le dirigeant chinois a considéré que les deux pays ont la « responsabilité de développer et de gérer l’IA pour le bien commun, et de veiller à ce que son développement reste toujours sous contrôle humain », tandis que le locataire de la Maison-Blanche a au contraire affirmé sur son réseau Truth Social vouloir en rester « exactement au stade actuel » de régulation.

« On est largement d’accord sur les risques liés à l’IA, mais pas sur la manière de les gérer », observe Dylan Loh, de l’Université technologique de Nanyang, à Singapour. « Une profonde méfiance et une concurrence accrue » sur l’IA rendent peu probables des avancées en matière de gouvernance, dit-il.

L’IA a en tout cas bien failli provoquer un incident diplomatique de grande ampleur entre les deux pays, à en croire la chaîne CNN. Le 18 septembre, le média avait indiqué qu’un rapport du renseignement américain généré en partie avec l’aide de l’IA avait induit l’armée américaine en erreur en concluant, à tort, qu’un navire chinois transportait des composants destinés à un programme nucléaire. L’erreur a été découverte alors que les soldats américains s’apprêtaient à intercepter le navire.

Le pape contre le « paradis de machines

Vendredi, le pape Léon XIV a enfin lancé un nouvel appel à la prudence et à l’éthique face au développement de l’IA lors de sa visite apostolique en France. « Pour ne pas perdre notre humanité au milieu du « paradis de machines » qui envahissent et conditionnent notre quotidien, il est urgent de former les esprits à un discernement éthique », a souligné le pape, reprenant une formule de l’écrivain français Georges Bernanos, qui critiquait le projet d’une société industrielle obsédée par l’efficacité et le profit après la Seconde Guerre mondiale.

Le pape américain, qui a fait de l’IA un thème majeur du début de son pontificat, a aussi appelé, en présence du président Emmanuel Macron, à « replacer la personne humaine au cœur de toute réflexion ».

En mai, à peine un an après son élection, le souverain pontife avait appelé dans son encyclique Magnifica Humanitas à « désarmer » l’IA pour « l’empêcher de dominer l’humain ». Le Vatican a aussi multiplié les échanges avec des universitaires et des dirigeants de la Silicon Valley afin d’anticiper les conséquences anthropologiques, sociales et éthiques de cette révolution.