Le PDG de Meta et de Facebook, Mark Zuckerberg, Lauren Sanchez, le fondateur d'Amazon Jeff Bezos, le PDG de Google Sundar Pichai et le PDG de Tesla et SpaceX Elon Musk assistent à la céré à Washington, le 20 janvier 2025. Photo d'archives Saul Loeb / Pool via REUTERS
Meta a annoncé mercredi que l'un de ses modèles d'Intelligence artificielle (IA) avait piraté les systèmes d'une autre entreprise lors de tests de cybersécurité, ce qui a alimenté les inquiétudes quant à la capacité des développeurs de maîtriser des systèmes d'IA de plus en plus puissants, après des incidents similaires chez Anthropic et OpenAI.
Cette nouvelle affaire renforce les critiques d'une coalition inhabituelle de responsables démocrates et de figures conservatrices proches de Donald Trump. Tous reprochent au président américain la faiblesse de sa réponse face à ces incidents, qu'ils attribuent à sa proximité avec les géants américains de la technologie et de l'intelligence artificielle.
Dans un communiqué, Meta a précisé enquêter sur un incident au cours duquel une erreur de configuration commise par Irregular, une société indépendante chargée de réaliser des évaluations de cybersécurité pour son compte, a involontairement permis à l'un de ses modèles d'accéder à Internet pendant les tests. Le modèle « a exploité une vulnérabilité de sécurité dans un service tiers, d'une manière similaire à des cas précédemment signalés dans d'autres entreprises », a indiqué le groupe.
Selon le média américain spécialisé dans les technologies The Information, citant des sources proches du dossier, le modèle concerné est Muse Spark 1.1, que Meta présente comme son plus performant pour les tâches de programmation et les agents autonomes. Le média affirme que ce modèle a pénétré les systèmes d'une entreprise non identifiée et en a modifié l'environnement interne. Un porte-parole d'Irregular a déclaré à l'agence Reuters que l'incident était « exactement le même problème lié à l'environnement d'évaluation que celui déjà révélé par Anthropic la semaine dernière » et qu'il ne s'agissait ni d'une « évasion de bac à sable » (sandbox escape), ni d'une cyberattaque sophistiquée.
Les récents incidents survenus chez Meta et Anthropic sont dus à des erreurs de configuration ayant involontairement donné à leurs modèles un accès à Internet. Dans le cas d'OpenAI, un agent d'IA a exploité de manière autonome une vulnérabilité jusque-là inconnue pour accéder à Internet lors de tests de cybersécurité.
Bannon et Wyden alignés
Dans un cas comme dans l'autre, ces incidents alimentent les inquiétudes selon lesquelles les systèmes d'IA avancés pourraient créer de nouveaux risques en matière de cybersécurité. Cette lecture est toutefois contestée par une partie des experts du secteur, qui estiment que les principaux développeurs d'IA ont intérêt à mettre en avant ces risques afin de convaincre les entreprises et les pouvoirs publics de la nécessité d'investir massivement dans leurs modèles et leurs solutions de sécurité.
Deux semaines se sont écoulées depuis qu'OpenAI a stupéfié le secteur technologique en révélant que l'un de ses agents d'IA était devenu incontrôlable et avait piraté les systèmes de l'entreprise d'IA Hugging Face. La Maison Blanche a indiqué suivre la situation, tandis que Donald Trump a déclaré réfléchir à un encadrement de l'intelligence artificielle. Anthropic a également annoncé avoir découvert que certains de ses modèles avaient piraté les systèmes de trois entreprises.
Steve Bannon, ancien conseiller de Donald Trump et figure des médias conservateurs, estime que l'encadrement de l'IA par la Maison Blanche est insuffisant au regard des risques qu'elle fait peser sur la sécurité nationale, en raison de la trop grande proximité entre Washington et la Silicon Valley. « Les relations entre ces entreprises et les responsables sont beaucoup trop étroites, non seulement à la Maison Blanche, mais aussi au sein de l'appareil de sécurité nationale », a-t-il déclaré à Reuters, plaidant pour « au moins un cadre réglementaire minimal ».
Le sénateur démocrate de l'Oregon Ron Wyden partage cette analyse. Selon lui, Donald Trump est « aux abonnés absents » parce qu'il considère les milliardaires de l'IA comme des alliés et préfère, avec les Républicains, s'opposer aux lois des États sur l'IA plutôt que de répondre aux risques posés par ces technologies.
Steve Bannon et Ron Wyden rejoignent ainsi plusieurs personnalités de bords politiques opposés qui estiment que la proximité de Donald Trump avec les géants de la technologie l'empêche de prendre la mesure des risques liés à l'IA. Les entreprises du secteur et leurs dirigeants ont versé plus de 300 millions de dollars pour soutenir sa campagne de réélection en 2024 et MAGA Inc., tandis que le président a nommé plusieurs figures de la Silicon Valley à des postes clés.
Les relations entre Anthropic et le gouvernement américain se sont détériorées cette année après que l'entreprise a refusé d'autoriser l'armée américaine à utiliser ses modèles d'IA pour la surveillance de masse sur le territoire national et pour des systèmes d'armes entièrement autonomes. La Maison Blanche, OpenAI et Anthropic n'ont pas souhaité commenter.