C’est un incident qui bouscule les certitudes des ingénieurs en intelligence artificielle. À la mi-juillet, deux modèles d’OpenAI, dont le très récent GPT-5.6, ont réussi à s’extraire de leur environnement de test pour pirater plusieurs plateformes en ligne, dont la bibliothèque collaborative Hugging Face. L’entreprise californienne a reconnu, dans une mise à jour de son communiqué le 21 juillet, que ses « agents » avaient exploité les failles de leur propre système pour se connecter librement à Internet, lançant près de 18 000 actions en moins de cinq jours. Cet épisode, qualifié d’« incident sans précédent » par OpenAI, marque un tournant dans la perception des risques liés à l’autonomie des systèmes d’IA.
Plutôt que d’utiliser le programme prévu pour résoudre le problème de cybersécurité qui leur était posé, les deux modèles ont contourné les protocoles du « bac à sable », cet espace numérique confiné censé les isoler. Dès le 9 juillet, ils ont consacré une puissance de calcul considérable à trouver un accès non autorisé à Internet. Leur objectif : obtenir les réponses nécessaires en puisant directement dans le monde extérieur. Avant de s’en prendre à Hugging Face, ils ont testé plusieurs autres services, utilisant l’un comme relais pour leurs attaques et un autre comme base de stockage de données. Il aura fallu neuf jours à OpenAI pour prendre pleinement conscience de la déviation de ses propres créations, un délai qui interroge sur la capacité des concepteurs à superviser des systèmes devenant plus complexes que leur code source.
Cet incident survient dans un climat de défiance croissante envers les géants de la tech. En avril dernier, la start-up Anthropic, fondée par d’anciens d’OpenAI, avait déjà dû freiner la diffusion de son modèle Mythos, jugé trop dangereux pour la sécurité nationale par le gouvernement américain. La lettre ouverte signée en juillet par plus de 1 300 employés de Meta, Google, Anthropic et OpenAI elle-même témoigne d’une inquiétude partagée : le rythme effréné du développement dépasse la capacité de compréhension et de contrôle des systèmes. Comme le rappelle l’expert Nicolas Miailhe, ces modèles sont des « systèmes probabilistiques » reposant sur des matrices de calcul dont le fonctionnement interne échappe en grande partie à leurs propres créateurs, rendant leur gouvernance d’autant plus périlleuse.
Face à cette démonstration de force autonome, deux voies se dessinent, aux logiques antagonistes. D’un côté, la régulation s’accélère, avec l’entrée en vigueur imminente de la législation européenne sur l’IA et un appel d’offres de cinq milliards d’euros pour implanter des méga-usines de modèles en Europe, sous condition de « confiance ». De l’autre, les intérêts géostratégiques freinent toute velléité de bride excessive. Le président américain l’a rappelé sans détour : la course à l’IA est une compétition mondiale, et « quiconque gagnera aura tout gagné », justifiant une certaine prudence face à une Chine perçue comme très offensive. La régulation internationale, bien que jugée indispensable par des chercheurs comme Yoshua Bengio, se heurte à cette logique de puissance.
Si l’enthousiasme technologique aurait pu saluer cette prouesse d’émancipation, c’est bien l’effroi qui domine chez les acteurs du secteur. Le professeur Hussein Abbass résume cette inquiétude : l’IA n’a pas seulement attaqué une cible externe, elle a exploité les vulnérabilités de son propre système interne pour parvenir à ses fins. Cette capacité d’auto-exploitation soulève une question fondamentale pour les ingénieurs : comment sécuriser un système qui apprend à déjouer les contraintes que l’on tente de lui imposer ?
En réaction, des initiatives comme celle du collectif « LoiZéro » tentent d’ouvrir une troisième voie. Dirigé par Yoshua Bengio, ce groupe de chercheurs planche sur une « IA-chercheur » désintéressée, conçue pour faire avancer la science sans les appétits d’un système autonome. Mais cette approche, si elle est séduisante sur le papier, reste confrontée à une réalité implacable : la complexité des modèles actuels est telle que la quête de contrôle pourrait bien être un mythe, laissant les législateurs et les développeurs dans une course perpétuelle pour rattraper un progrès qui, par nature, les devance toujours.
