Jacob Coxon, le jeune chercheur britannique qui a tiré la sonnette d’alarme cette semaine sur les dangers du développement de l’IA. Capture d’écran de son passage sur CBS News le 10 septembre 2026
ChatGpt et les maths
La semaine a débuté avec une annonce fracassante : OpenAI affirme avoir résolu l'équation en 88 heures seulement via un modèle « aux capacités significativement plus élevées que GPT-6 Astra », son dernier né pourtant lancé il y a moins d'une semaine, un problème mathématique vieux de plus d'un siècle. Il s'agit de l’équation dite de Navier-Stokes portant sur le mouvement des fluides (gaz et liquides) et sur la capacité à l’anticiper dans la durée.
Ce type d’annonce semble s'inscrire dans la course qui oppose les États-Unis à la Chine. Huawei et Xiaohongshu, avaient ainsi annoncé en juillet que leurs modèles d’IA avaient chacun obtenu 100 % aux questions posées lors de l’Olympiade internationale de mathématiques.
A noter que peu après l'annonce d'OpenAI, un duo de chercheurs – les mathématiciens Tristan Buckmaster et Levent Alpöge, qui est aussi employé d’Anthropic – ont évoqué un possible plagiat de leurs travaux.
« L'IA pourrait nous tuer d’ici la fin de la décennie »
Peu après l'annonce d'OpenAI, la semaine prenait un nouveau tournant. « Aucune des deux entreprises (OpenAI et Anthropic, ndlr) n’agit de manière responsable. Elles foncent tout droit vers une superintelligence capable de s’améliorer elle-même et jouent avec nos vies », a ainsi écrit, mardi Jacob Coxon, un jeune chercheur britannique qui avait quitté OpenAI pour rejoindre son rival Anthropic, en annonçant sur X sa démission.
« Les gens qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie. Ce n’est pas un coup marketing », a-t-il ajouté. Ces propos se sont aussitôt répandus comme une trainée de poudre et ont entraîné une sorte de réaction en chaîne. Un responsable de la sûreté d'Anthropic, Evan Hubinger, lui a ainsi donné raison, estimant à titre personnel à « plus de 10 % » le risque que l'IA « tue tous les humains » dans la décennie, une estimation que le pionnier de l'IA Geoffrey Hinton a jugée « pas déraisonnable » sur la BBC.
OpenAI et Anthropic en appellent au Congrès US
L'affaire semble avoir réveillé les deux acteurs majeurs du secteur aux États-Unis. Mercredi, OpenAI s'est ainsi jointe à sa rivale Anthropic pour presser le Congrès américain d'adopter rapidement des règles de sécurité obligatoires pour les créateurs des intelligences artificielles les plus puissantes.
« La perspective d'un développement de l'IA accéléré par l'IA exige davantage que des engagements volontaires », a écrit mercredi Chris Lehane, responsable des affaires publiques du créateur de ChatGPT, dont les agents en test ont piraté cet été la plateforme Hugging Face. Il a demandé au Congrès d'imposer, avant fin décembre, des règles communes aux laboratoires de pointe : tests obligatoires, évaluations par des organismes indépendants et signalement transparent des incidents de sécurité. OpenAI veut également des règles internationales fixant « quand et comment le développement devrait ralentir ou s'arrêter. Le même jour, Anthropic a redit qu'il réclamait un mécanisme « légal et vérifiable » de ralentissement coordonné.
Fin juillet, des dirigeants d'Anthropic, d'OpenAI et de Google DeepMind avaient signé un appel demandant aux gouvernements de se doter d'outils pour freiner le développement de l'IA.
Aucune loi fédérale n'encadre aujourd'hui ces modèles aux États-Unis. À deux mois des élections américaines de mi-mandat, l'IA est devenue un sujet de campagne majeur, au point qu'un sénateur républicain, Thom Tillis, y voit un handicap pour son parti, selon le média parlementaire The Hill.
Anthropic annonce avoir déjoué des opérations malveillantes
L'américain Anthropic a, lui, annoncé jeudi avoir stoppé plusieurs opérations de surveillance menées contre des dissidents et des minorités ethniques à l'aide de son assistant IA Claude. Ces incidents, détectés et neutralisés entre janvier et juillet, provenaient de Chine, d'Iran et d'Afrique de l'Ouest, selon un rapport d'Anthropic consacré aux différents détournements de ses modèles.
Ces campagnes de surveillance « ont visé les mêmes communautés de la diaspora et les mêmes dissidents que ces régimes ciblent historiquement, notamment des figures pro-démocratie à Hong Kong, les communautés tibétaines et du Falun Gong à travers l'Asie, ainsi que des minorités iraniennes et des opposants au régime iranien à l'étranger », indique le rapport.
Dans un cas, des acteurs iraniens ont mis au point un moyen d'identifier des personnes à partir de leurs comptes sur les réseaux sociaux. Dans un autre, un prestataire travaillant pour les autorités de sécurité nationale du Mali a utilisé Claude « pour concevoir le logiciel sur lequel reposait la collecte de renseignements ».
Développement d'armes téléguidées au Yémen
Une cellule « d'acteurs malveillants » yéménites a utilisé Claude pour tenter de développer des armes téléguidées, a annoncé Anthropic, peu avant l'annonce de la prise de contrôle, par les houthis, du détroit de Bab el-Mandeb. une étape majeure dans le cadre de l'offensive d'ampleur menée par les rebelles depuis plusieurs jours.
« Nous avons identifié une cellule d'acteurs malveillants basée dans le nord du Yémen qui menait trois programmes de développement d'armes », a indiqué Anthropic. Ces programmes concernaient « une roquette guidée utilisant un calculateur de vol de type smartphone avec autoguidage », un missile balistique avec un objectif de portée de plus de 2 000 km, et un missile avec un « type de planeur hypersonique », d'après le rapport. La cellule s'est servie de Claude pour se substituer à une équipe d'ingénieurs spécialisés dans la création de logiciels de guidage, navigation et contrôle d'armes volantes.
Si Anthropic n'a pas nommé les acteurs en question, il est probable qu'il s'agisse des rebelles houthis pro-iraniens qui contrôlent une grande partie du nord du Yémen, dont la capitale Sanaa.
« Mettez vos modèles d’IA sous contrôle », lance l’UE aux géants de la tech
La semaine s'est achevée sur un appel de l'Union européenne aux grandes entreprises technologiques à mettre leurs puissants modèles d’intelligence artificielle « sous contrôle ».
Les craintes concernant des IA devenant incontrôlables se sont intensifiées après qu’une technologie d’OpenAI, fonctionnant sans supervision humaine, a piraté Hugging Face, une plateforme hébergeant des modèles d’IA. Et dans un incident révélé la semaine dernière, des milliers d’agents d’IA autonomes développés par OpenAI ont désobéi à leurs instructions et pris le contrôle d’un site internet allemand.
Interrogé sur des informations selon lesquelles le piratage aurait été plus vaste que prévu, un porte-parole de l’UE a déclaré : « Il est grand temps que ces fournisseurs mettent de l’ordre dans leurs affaires et s’assurent que leurs modèles avancés restent sous contrôle. »
Le bloc des 27 pays a adopté une réglementation complète sur l’intelligence artificielle, dont les pouvoirs de contrôle et de sanction sont entrés en vigueur le mois dernier. Les entreprises doivent donc se conformer à la loi, sous peine d’amendes. « L’AI Act est désormais pleinement applicable. Ce n’est plus seulement un ensemble de règles sur le papier », a déclaré le porte-parole Thomas Regnier.
