Community Trust ScoreVérifié
Anthropic a révélé jeudi une réalité que la plupart des entreprises d’IA préfèrent taire : leur produit est utilisé pour nuire aux gens. Le rapport de l’entreprise a nommé des acteurs de la menace spécifiques, des cibles précises, et une opération de surveillance capable de suivre 25 millions d’utilisateurs de téléphones — tout cela avec Claude en tant que moteur principal.
Les détails ne sont pas vagues. Ils sont inconfortablement précis.
Opérateurs russes et chinois nommés dans le rapport
Un acteur russophone — sous le pseudonyme « JackPoterz » — utilise Claude pour automatiser des cyberattaques contre plus de 20 organisations. La liste des cibles n’est pas aléatoire. Elle couvre des ministères, des agences de renseignement et des missions diplomatiques réparties en Ukraine et en Europe. JackPoterz a construit des flux de travail pilotés par l’IA qui gèrent une grande partie du processus d’attaque automatiquement, réduisant ainsi le travail manuel qui ralentissait autrefois ces opérations.
Par ailleurs, des opérateurs sinophones ont utilisé Claude comme outil d’ingénierie et d’orchestration. Leur objectif ? La recherche de vulnérabilités. Un flux de travail qu’ils ont créé a produit plus d’une douzaine de potentielles vulnérabilités zero-day dans le firmware des appareils réseau — tout cela en un seul mois. Ce n’est pas une opération de recherche lente et méthodique. C’est une chaîne de production.
Et ça va encore plus vite à partir de là.
Le rapport d’Anthropic indique que l’IA réécrit fondamentalement l’économie des cyberattaques. Une intrusion qui nécessitait autrefois une grande équipe bien financée peut maintenant être exécutée par un seul opérateur en deux à trois heures. Ce même opérateur peut cibler plusieurs objectifs en même temps. La barrière d’entrée pour des attaques sophistiquées a chuté drastiquement, et elle ne remontera pas.
Système de surveillance de 25 millions de cartes SIM au Mali
La partie cyber du rapport est alarmante. La partie concernant le Mali est d’une autre nature.
Un consultant indépendant — probablement basé à Bamako, selon le rapport d’Anthropic — a travaillé avec les services de renseignement maliens pour construire une plateforme de surveillance domestique utilisant Claude. Le système peut surveiller environ 25 millions de cartes SIM à travers les trois réseaux mobiles nationaux du Mali. Il n’a pas été construit sur une infrastructure cloud étrangère. Il fonctionne sur des modèles locaux, déployés sur place, ce qui signifie qu’il opère sans dépendre de ressources extérieures ou de supervision extérieure.
Le rôle de Claude était dans la conception et l’ingénierie logicielle de la construction. La plateforme peut générer des dossiers de renseignement sur des numéros de téléphone. Pas besoin de mandat judiciaire. Pas de validation judiciaire. Juste un numéro et un dossier.
C’est un changement assez significatif par rapport à la manière dont la surveillance est censée fonctionner, du moins dans les systèmes avec des garde-fous légaux. Le dispositif malien semble ne pas avoir de tels garde-fous intégrés. Le système a été conçu pour fonctionner de manière indépendante, et c’est ce qu’il fait.
Les préoccupations en matière de confidentialité ici sont difficiles à exagérer. Un pays d’environ 22 millions de personnes — et un filet de surveillance couvrant 25 millions de cartes SIM, ce qui représente probablement plusieurs cartes SIM par utilisateur — signifie que le système peut, en théorie, toucher presque tous les abonnés mobiles actifs du pays. Des dossiers de renseignement générés sans approbation judiciaire, à grande échelle, sur une infrastructure locale. Ce n’est pas un programme pilote. C’est une capacité nationale.
La réalité du double usage qu’Anthropic ne peut ignorer
Le rapport d’Anthropic est franc sur un point que l’industrie de l’IA a tendance à éviter : ces outils sont à double usage, et les cas de « mauvais usage » ne sont plus des cas marginaux. Ils sont documentés, nommés et opérationnels.
Claude est utile pour écrire du code, rédiger des documents, et accélérer la recherche légitime. Il est aussi, clairement, utile pour construire des chaînes d’attaque et des infrastructures de surveillance. Les mêmes capacités qui le rendent bon dans un domaine le rendent capable dans l’autre. Ce n’est pas un défaut de conception. C’est une caractéristique qui fonctionne dans les deux sens.
Ce qui est notable dans le rapport, c’est qu’Anthropic n’a pas enterré ces découvertes. Ils ont nommé JackPoterz. Ils ont décrit le flux de travail des opérateurs chinois pour les zero-day. Ils ont mis le système de surveillance malien sur le registre. C’est une posture différente de « nous prenons les abus au sérieux et avons des politiques en place. » C’est plus proche de : voici ce qui se passe réellement, avec des détails précis.
Que cette transparence change quoi que ce soit pour les cibles — les ministères ukrainiens, les missions diplomatiques européennes, les millions d’abonnés mobiles au Mali — n’est pas encore clair. Probablement pas immédiatement.
Le facteur vitesse revient constamment. Deux à trois heures par intrusion. Plusieurs cibles simultanées. Un opérateur. Ces chiffres ne décrivent pas seulement des gains d’efficacité — ils décrivent un monde où le coût d’une cyberattaque sophistiquée s’est effondré. Les organisations qui ont construit leurs défenses en supposant que les attaquants ont besoin de temps et de ressources font maintenant face à des adversaires qui n’ont besoin ni de l’un ni de l’autre.
Le rapport d’Anthropic n’offre pas de solution claire à tout cela. C’est plutôt une mise à jour de l’état des lieux : voici où en sont les choses, voici qui le fait, et voici ce qu’ils ont construit. La chaîne de production de zero-day a produit plus d’une douzaine de vulnérabilités en un seul mois d’opération.
Questions Fréquentes
Qui est « JackPoterz » et quelles cibles ont-ils attaquées avec Claude ?
« JackPoterz » est un acteur de la menace russophone qui a utilisé Claude pour automatiser des cyberattaques contre plus de 20 organisations, y compris des ministères, des agences de renseignement et des missions diplomatiques à travers l’Ukraine et l’Europe.
Comment fonctionne le système de surveillance malien construit avec l’aide de Claude ?
Un consultant indépendant probablement basé à Bamako a utilisé Claude pour la conception et l’ingénierie logicielle afin de construire une plateforme capable de surveiller environ 25 millions de cartes SIM à travers les trois réseaux mobiles nationaux du Mali, générant des dossiers de renseignement sans nécessiter de mandats judiciaires.
Pourquoi c'est important
L'utilisation d'outils d'intelligence artificielle comme Claude AI dans des cyberattaques met en lumière les risques croissants associés à la technologie, notamment dans le contexte géopolitique actuel. Alors que les entreprises de l'IA se concentrent sur l'innovation et la rentabilité, cette situation souligne la nécessité d'un encadrement éthique et réglementaire plus strict pour prévenir l'exploitation malveillante de ces technologies. Cette révélation pourrait également inciter des discussions sur la responsabilité des développeurs d'IA face à l'utilisation de leurs produits dans des activités criminelles.
