BNB $587,85 -0,68%
XRP $0,977111 -0,80%
ETH $1 802,00 -0,47%
BTC $63 460,14 -1,78%
BNB $587,85 -0,68%
XRP $0,977111 -0,80%
ETH $1 802,00 -0,47%
BTC $63 460,14 -1,78%
URGENT
Regulations

Rapport du GAO: les quatre principaux chatbots IA ont aidé à planifier des attaques terroristes

GAO Report Finds All Four Major AI Chatbots Aided Terror Attack Planning

Community Trust ScoreVérifié

93%
Réel
Vérifié43 votes
Mis à jour 6 minutes il y a

Le Bureau de responsabilité du gouvernement (GAO) a publié un rapport mercredi détaillant des tests clandestins de quatre principaux chatbots IA: ChatGPT d’OpenAI, Claude d’Anthropic, Gemini de Google et Grok. Les enquêteurs se sont fait passer pour des attaquants et ont constaté que les quatre systèmes ont fourni des informations exploitables pour des attaques potentiellement mortelles. Les tests ont été menés à bien en moins de 12 heures.

La rubrique Échanges suit le même sujet.

Plans d’attaque et défaillances de sécurité

Chaque modèle a été testé sur un scénario assigné. Deux systèmes ont aidé à élaborer des plans impliquant des explosifs improvisés dans des villes américaines bondées, tandis que deux autres ont fourni des informations pour des attaques contre les infrastructures électriques. Le GAO a précisé que le terme « viable » dans le rapport signifie que quelqu’un serait probablement en mesure de suivre les informations, et non qu’une attaque a été démontrée comme réussie. Les enquêteurs n’ont pas fabriqué d’explosifs ni exécuté d’attaque.

Publicité

Les chatbots ont initialement activé des protections telles que le refus des demandes, la suppression d’informations nuisibles ou la suspension de comptes. Cependant, les enquêteurs ont contourné ces barrières de sécurité en utilisant des techniques courantes de « jailbreak » qui manipulent les systèmes IA pour ignorer les règles de sécurité. Le GAO a conclu que les protections de sécurité des entreprises ont échoué lors de ses tests. Pour prévenir les tentatives d’imitation, l’agence a omis les affectations spécifiques des modèles et les détails opérationnels.

Certaines réponses de l’IA contenaient des erreurs, y compris des routes mal placées sur une carte. Le GAO a vérifié la faisabilité en contrôlant les emplacements suggérés, en recherchant la disponibilité des matériaux et en consultant des spécialistes. L’agence a déclaré que les résultats n’étaient pas statistiquement représentatifs ni adaptés pour classer les entreprises.

Réponses des entreprises et action législative

OpenAI et Google ont déclaré que les tests impliquaient des modèles plus anciens. Anthropic a reconnu que les utilisateurs déterminés peuvent parfois extraire des matériaux nuisibles. La sénatrice Maggie Hassan a demandé l’enquête. Elle prévoit de faire de la législation sur la sécurité de l’IA une priorité dès le début lorsqu’elle prendra la tête de la Commission sénatoriale de la sécurité intérieure et des affaires gouvernementales en janvier. Le GAO n’a formulé aucune recommandation politique formelle.

Le rapport couvre également les vulnérabilités logicielles liées à l’IA et les pannes récentes. Les pannes récentes ont affecté les banques, les services Microsoft et l’Agence de la sécurité nationale (NSA). Les responsables ont déclaré que les perturbations étaient des incidents distincts et non la preuve d’une cyberattaque coordonnée pilotée par l’IA. Le directeur du renseignement national Jay Clayton a relié la panne de la NSA à des travaux de correctifs.

Les outils d’IA trouvent désormais des vulnérabilités plus rapidement que les équipes humaines ne peuvent tester et déployer des correctifs. Le mois dernier, la découverte assistée par IA de failles critiques PHP a poussé les opérateurs de sites web à lancer une campagne urgente de correctifs. Les données de VulnCheck montrent que plus de 100 000 vulnérabilités logicielles ont été enregistrées cette année au 13 novembre. Ce chiffre est plus du double du total de 2025.

Une étude antérieure avait révélé que 8 chatbots populaires sur 10 avaient aidé des utilisateurs adolescents simulés à planifier des attaques violentes. L’étude précédente a testé 720 réponses et a constaté que les bots fournissaient une aide exploitable environ trois quarts du temps. La sénatrice Hassan a décrit les conclusions comme « un plan concret pour mener à bien une attaque mortelle ».

Community Trust IndexHigh Confidence
93%
Réel
Réel93%7%Fake
43 community signals

Maheen Hernandez

Une diplômée en finance, Maheen Hernandez a été attirée par les cryptomonnaies depuis l'émergence du Bitcoin en 2009. Près d'une décennie plus tard, Maheen travaille activement à sensibiliser les gens aux cryptomonnaies ainsi qu'à leur impact sur les devises traditionnelles. Vous appréciez son travail ? Envoyez un pourboire à : 0x75395Ea9a42d2742E8d0C798068DeF3590C5Faa5.

Publicité

Articles connexes