Community Trust ScoreVérifié
Un réseau lié à la Russie a utilisé ChatGPT pour fabriquer un institut académique entier. Le rapport d’OpenAI, publié mercredi, a tout dévoilé : faux profils, recherches plagiées, et un mensonge soigneusement construit déguisé en érudition légitime.
OpenAI a banni plusieurs comptes liés à l’opération. Les comptes utilisaient des invites en russe pour générer du contenu en anglais sur les réseaux sociaux, puis masquaient l’origine russe du contenu via ChatGPT. Le public réellement atteint par la campagne était assez limité, mais sa complexité la distinguait des autres opérations d’influence liées à la Russie perturbées depuis le début du conflit en Ukraine. Ce décalage entre portée et sophistication a attiré l’attention des enquêteurs.
La fraude de l’International Burke Institute
L’organisation fictive au centre de tout cela s’appelait l’International Burke Institute. Elle prétendait être un groupe d’experts basé en Israël. Des profils et comptes à l’apparence officielle imitaient des utilisateurs ordinaires pour donner de la crédibilité à l’institut. ChatGPT générait du contenu qui semblait suffisamment autoritaire pour passer un regard occasionnel.
Il n’a pas survécu à un examen plus approfondi.
La revue du site web de l’institut par OpenAI a révélé que 34 des 36 articles étaient plagiés. Certains de ces articles créditaient des universitaires qui n’étaient pas les auteurs originaux. Un exemple : un article sur le corridor économique Chine-Pakistan, directement tiré d’une source de Cambridge University Press, était attribué à tort à un professeur de l’Université de Nottingham spécialisé dans la politique sud-asiatique. Ce professeur ignorait probablement que son nom était associé à un travail volé.
Étant donné que ChatGPT n’est pas disponible en Russie, le groupe a utilisé des réseaux privés virtuels — VPN — pour accéder au service. Les VPN leur permettaient de contourner les restrictions régionales et de générer du contenu qui semblait provenir d’un endroit totalement différent. Une manœuvre intelligente, opérationnellement parlant. Cela leur a acheté du temps avant que quiconque ne commence à examiner de près la production réelle de l’institut.
Doppelganger et Forest Blizzard : pas un nouveau schéma
L’opération de l’International Burke Institute ne s’est pas déroulée dans un vide. En 2024, OpenAI a exposé une autre campagne liée à la Russie appelée Doppelganger. Celle-ci utilisait ChatGPT pour créer du contenu favorable à la Russie tout en critiquant l’Ukraine, l’OTAN et les États-Unis. Même boîte à outils de base, cible différente.
Et cela va au-delà des campagnes d’influence. Des groupes liés au renseignement militaire russe ont également utilisé ChatGPT pour des opérations cybernétiques. Un groupe appelé Forest Blizzard — lié au renseignement militaire russe — a exploité le chatbot pour la recherche de cibles, la rédaction de scripts et le support de phishing. Ce n’est pas seulement de la désinformation. C’est l’IA utilisée comme un outil opérationnel direct dans la cyberguerre.
La variété des applications est ce qui la rend préoccupante. Fabriquer des institutions académiques. Façonner des récits géopolitiques. Construire une infrastructure de phishing. C’est la même technologie qui fait des travaux très différents, tous pointant dans la même direction.
Ce qu’OpenAI ne peut toujours pas répondre
Malgré tout cela, OpenAI n’a pas attribué la campagne de l’International Burke Institute directement au gouvernement russe. Le langage du rapport était prudent. L’utilisation d’invites en russe n’égale pas automatiquement une direction étatique, et OpenAI a déclaré qu’il ne pouvait pas tracer cette ligne avec confiance.
Certains individus en Israël ont peut-être représenté l’institut lors de conférences ou contribué à des articles. Leur lien avec la campagne réelle reste cependant indéfini. OpenAI a déclaré qu’il ne pouvait pas déterminer de liens directs entre ces individus et les opérateurs russes dirigeant l’opération. Il est incertain s’ils étaient des participants conscients, inconscients, ou quelque chose de plus complexe entre les deux.
Cette ambiguïté est véritablement frustrante du point de vue de la responsabilité. Le réseau a déployé de sérieux efforts — faux personnages, contenu académique volé, accès VPN — et pourtant la chaîne de commandement reste floue. Les opérations décentralisées sont plus difficiles à tracer. C’est probablement le but.
Ce que le rapport rend clair, c’est que la sophistication de ces campagnes continue de grimper. L’IA générative réduit considérablement le coût de production de contenu convaincant. Un réseau qui aurait pu avoir besoin d’une équipe de rédacteurs pour maintenir un faux site académique peut maintenant le faire plus rapidement et à moindre coût avec un chatbot. Le problème de plagiat — 34 des 36 articles volés — suggère que les opérateurs ne faisaient même pas beaucoup d’efforts sur la qualité. Ils misaient sur le volume et la crédibilité de surface.
Il est à noter que la campagne de l’International Burke Institute, malgré sa complexité, n’a pas réellement atteint un large public. OpenAI l’a explicitement signalé. Mais la portée n’est pas toujours l’objectif dans les opérations d’influence en phase initiale. Parfois, il s’agit de construire une infrastructure — profils, sites web, archives d’articles — qui peut être activée ou étendue plus tard.
Forest Blizzard a utilisé ChatGPT pour le support de phishing. L’International Burke Institute l’a utilisé pour l’usurpation académique. Doppelganger l’a utilisé pour façonner des récits géopolitiques. OpenAI a maintenant banni les comptes liés aux trois, mais le schéma plus large des opérations d’influence assistées par l’IA liées à des acteurs russes continue de s’étendre.
OpenAI a déclaré que 34 des 36 articles sur le site de l’institut étaient plagiés.
Questions Fréquentes
Qu’était l’International Burke Institute ?
L’International Burke Institute était une organisation fictive promue par un réseau lié à la Russie utilisant ChatGPT pour se faire passer pour un groupe d’experts académiques basé en Israël, avec 34 de ses 36 articles de site web trouvés plagiés.
Comment le réseau a-t-il accédé à ChatGPT s’il est indisponible en Russie ?
Les opérateurs ont utilisé des réseaux privés virtuels (VPN) pour contourner les restrictions régionales et accéder à ChatGPT, leur permettant de générer du contenu qui semblait provenir de l’extérieur de la Russie.
La campagne est-elle liée au gouvernement russe ?
OpenAI n’a pas attribué la campagne de l’International Burke Institute directement au gouvernement russe, déclarant qu’il n’a pas pu déterminer de liens directs entre les opérateurs et les entités étatiques.
Pourquoi c'est important
Cette affaire souligne les risques croissants associés à la désinformation et à l'utilisation des technologies avancées pour manipuler l'opinion publique. Dans un contexte où la crédibilité des sources d'information est de plus en plus remise en question, une telle exploitation des outils numériques peut avoir des répercussions significatives sur la perception des institutions académiques et scientifiques. Cela soulève également des interrogations sur la responsabilité des plateformes et des technologies d'IA dans la régulation du contenu qu'elles génèrent.
