Les lunettes connectées Ray-Ban dotées d’IA présentées au salon international IFA 2026 consacré à l’électronique grand public et à l’électroménager, le 4 septembre 2026 à Berlin. Photo TOBIAS SCHWARZ /AFP
L’essor de l’Intelligence artificielle (IA) nourrit de grandes promesses en cybersécurité, mais aussi des doutes sur les capacités réelles des modèles de langage (LLM) à défendre les systèmes comme à les attaquer.
C’est notamment la position de Potech. Dans un article publié cette semaine sur Medium, intitulé « LLMs Can’t Play Chess, and They Definitely Can’t Pentest » (« Les LLM ne savent pas jouer aux échecs, et encore moins faire des pentests »), le groupe de cybersécurité, fondé en 2002 et actif dans plusieurs pays, affirme que les LLM ne sont pas suffisamment fiables pour mener seuls un test d’intrusion, c’est-à-dire tenter de pirater un système de manière contrôlée afin d’en repérer les failles.
Potech reconnaît que les LLM peuvent analyser du code, formuler des hypothèses d’attaque ou proposer des moyens de tester une vulnérabilité. Leur limite, selon le groupe : ils peuvent générer une piste plausible sans disposer d’une représentation suffisamment fiable de l’état réel du système, ni être capables de vérifier pourquoi une tentative a fonctionné ou échoué. Aussi valable soit-il, l’argumentaire de Potech reste celui d’un acteur de la cybersécurité qui tente de se démarquer en proposant son approche hybride, dans laquelle les LLM génèrent des hypothèses d’attaque, tandis qu’une couche de modèles d’apprentissage automatique et de règles spécifiques contrôle et vérifie les actions menées au cours du test.
Pas encore de quoi freiner l’actualité de l’IA, toujours aussi florissante cette semaine, avec son lot de craintes : entre la peur d’une nouvelle bulle financière, celle d’une transformation brutale du marché du travail ou encore celle, de moins en moins fantaisiste, d’une révolte des machines.
Putin et Xi à Bichkek
Les présidents russe et chinois ont discuté lundi de la coopération économique bilatérale, Vladimir Poutine soulignant auprès de Xi Jinping les opportunités que présentent les innovations numériques et l'IA, à l'occasion du sommet de l'Organisation de coopération de Shanghai (OCS) qui s'est tenu lundi et mardi à Bichkek au Kirghizstan. Leur précédente rencontre datait de mai en Chine.
« De nouvelles possibilités pour le développement économique de nos pays s'ouvrent aussi grâce aux innovations numériques, notamment les technologies de l'IA », a affirmé le président russe, rappelant la création à l'initiative de la Chine de l'Organisation de coopération mondiale sur l’IA (WAICO), que soutient Moscou, annoncée en juillet. Xi Jinping a de son côté affirmé que « grâce aux efforts des deux parties, la fondation du développement des liens entre la Chine et la Russie sera plus solide ».
Le même jour, lee ministère japonais de la Défense a demandé un budget record de 8 900 milliards de yens (plus de 64 milliards de dollars) mettant l'accent sur IA pour accélérer la prise de décision dans un contexte de tensions croissantes avec des voisins comme la Chine, la Corée du Nord et la Russie.
Trump Versus Anthropic
Une juge fédérale de Californie a déclaré jeudi illégales les sanctions prises en février par l'administration Trump contre la start-up d'IA Anthropic, les jugeant motivées politiquement et non par des risques supposés.
Cette décision ne concerne cependant qu'une des deux procédures engagées par l'entreprise contre le gouvernement américain, l'autre, devant un tribunal fédéral de Washington, n'ayant pas encore été tranchée. Elle interdit à toutes les entités de l'exécutif et ministères de rompre leurs contrats avec Anthropic, comme les y avait enjoint Donald Trump en février. Néanmoins, la mise à l'écart de l'entreprise par le ministère de la Défense, pour une question de droit.
Le conflit avait éclaté après le refus d'Anthropic de lever certaines restrictions à l'utilisation de son modèle d'IA, Claude, pour des attaques létales entièrement autonomes ou la surveillance de masse des Américains. L'administration Trump est beaucoup plus amicale avec le rival d'Anthropic, OpenAI, dont elle a pris le parti dans un conflit judiciaire au long cours avec le New York Times, qui accuse le fabricant de ChatGPT de violer le droit d'auteur en utilisant ses contenus pour entraîner ses modèles d'IA.
OpenIA déploie son Astra
OpenAI a commencé à déployer jeudi GPT-6 Astra, présenté comme son modèle d'IA le plus puissant, capable selon l'entreprise de San Francisco de se servir seul d'un ordinateur et diffusé avec un dispositif pouvant l'arrêter s'il sort de son cadre.
GPT-6 est réservé dans un premier temps à « un nombre limité d'organisations », avant d'être ouvert « dans les prochains jours » aux abonnés payants de ChatGPT et aux développeurs. Il s'agit du premier modèle d'OpenAI à atteindre le niveau de risque le plus élevé de sa propre grille d'évaluation en cybersécurité, capable de pirater seul des systèmes informatiques solidement protégés.
Vendredi, des chercheurs dont Sydney Von Arx, patronne de l'organisation dédiée à la sécurité sur internet Nightingale, ont affirmé que des milliers d'agents IA attribués à OpenAI ont utilisé de leur propre initiative un site allemand pour poster des messages les uns pour les autres et se coordonner, en mai. « Nous pensons qu'OpenAI était au courant et n'en a pas fait état », a écrit Sydney Von Arx sur X.
En juillet, des agents IA d'OpenAI étaient sortis de leur milieu théoriquement confiné pour faire spontanément intrusion sur la plateforme Hugging Face - un episode qui a défraye la chronique en juillet , dans ses systèmes, de deux modèles d'OpenAI, lors d'une phase de test, à la recherche de réponses à un test.
Nvidia veut Hugging Face
Hugging Face a aussi fait la Une cette semaine, avec l’annonce de son rachat par le géant américain des puces électroniques Nvidia pour 12,9 milliards de dollars, dans le cadre d’une stratégie de diversification. Créée en 2016 à New York par trois Français, la société propose un accès à un très large éventail de modèles d’IA. Sollicités par l’AFP, les deux groupes n’ont pas donné suite dans l’immédiat.
Le prix d’acquisition dépasse largement la valorisation de 7 milliards de dollars qui avait servi de base aux premières négociations avec Nvidia, fin 2025, selon le Financial Times. Le groupe de Santa Clara avait alors proposé d’injecter 500 millions de dollars au capital de Hugging Face.
La société, dont le nom est inspiré d’un émoji, se présente comme « la communauté IA qui construit l’avenir » et défend les modèles dits ouverts, téléchargeables et modifiables, par opposition aux modèles fermés d’OpenAI ou d’Anthropic.
L’essor des agents IA, capables de réaliser des tâches de façon autonome, d’en évaluer le résultat et de le modifier, a fortement accru les besoins en puissance de calcul et les coûts associés. Pour limiter leurs dépenses, de plus en plus d’entreprises et de développeurs se tournent ainsi vers les modèles ouverts, souvent moins chers. Une tendance qui a dopé la fréquentation de Hugging Face, valorisé à 4,5 milliards de dollars lors de son dernier tour de table, en 2023. Anthropic a de son côté signé un contrat de quelque 35 milliards de dollars pour louer de la puissance de calcul auprès de Lambda, un fournisseur de services informatiques soutenu par Nvidia, a indiqué lundi à l'AFP une source proche du dossier.
