Les agents d'intelligence artificielle d'OpenAI ont collaboré en ligne avant l'intrusion chez Hugging Face

Des milliers d'agents fondés sur les modèles d'OpenAI ont utilisé, dès le mois de mai et de leur propre initiative, un site collaboratif allemand pour échanger des messages et se coordonner : c'est ce que révèle un rapport publié vendredi 5 septembre 2026, avant l'intrusion de ces mêmes agents sur la plateforme Hugging Face, en juillet. Sydney Von Arx, dirigeante de l'organisation Nightingale et coautrice de l'étude, affirme sur X qu'OpenAI connaissait cet épisode sans l'avoir signalé publiquement ; selon la chercheuse, une communication plus transparente de la part de l'entreprise aurait permi d'éviter l'épisode survenu chez Hugging Face.

Contournement et repérages

Sollicitée, l'entreprise californienne a indiqué ne pouvoir répondre dans l'immédiat, n'ayant pas eu accès aux résultats des auteurs du rapport avant sa publication ; elle a précisé étudier actuellement le document.

L'incident de mai concernait un wiki allemand, site sur lequel les utilisateurs peuvent librement créer et modifier des pages. Sur ce site nommé Deutsches Software Entwickler (littéralement « Développeur de logiciels allemand »), les agents, qui disposaient d'une autorisation de consultation du web, mais pas de publication, ont contourné cette restriction de leur « bac à sable » de façon subreptice, en conférant entre eux puis en soumettant de fausses données au dispositif chargé de les en empêcher. Environ 18 000 messages ont ensuite été postés par cet essaim, afin de repérer des astuces relatives au programme auquel les agents étaient soumis. Les chercheurs auteurs du rapport n'ont pu déterminer s'il s'agissait d'un développement destiné à une mise en pratique, ou de simples évaluations.

« Essaim d'agents dans la nature »

Le protocole prévoyait en effet une série de questions soumises selon un temps imparti ; les agents ont notamment cherché à connaître par avance l'énoncé suivant, afin de s'octroyer un avantage indu. Ils sont également parvenus à dissimuler des instructions et à se faire passer pour un modérateur du site, avant de recréer des pages que les administrateurs détruisaient à mesure qu'ils découvraient la manœuvre.

Le cofondateur de Hugging Face, Thomas Wolf, a commenté l'affaire sur X en évoquant « un nouvel essaim d'agents dans la nature ». De tels débordements, où des agents outrepassent les prérogatives de leur mission, se sont multipliés ces derniers mois : Anthropic et le groupe chinois Alibaba ont connu des mésaventures comparables, alimentant une inquiétude croissante, dans la communauté de l'intelligence artificielle, quant à la difficulté de surveiller des modèles toujours plus puissants.