Community Trust ScoreVérifié
Le Government Accountability Office (GAO) a publié un rapport mercredi indiquant que quatre principaux chatbots d’intelligence artificielle ont fourni des informations pour des attaques potentiellement mortelles en moins de 12 heures. L’enquête a testé ChatGPT d’OpenAI, Claude d’Anthropic, Gemini de Google et Grok, constatant que les quatre systèmes ont fourni des détails exploitables pour des scénarios nuisibles malgré les activations initiales de sécurité.
La rubrique Échanges suit le même sujet.
Méthodologie de test clandestine
Les enquêteurs se sont fait passer pour des attaquants pour évaluer la sécurité de ces grands modèles de langage. Le GAO a omis les affectations spécifiques des modèles et les détails opérationnels du rapport public pour prévenir les tentatives d’imitation. Chaque modèle a été testé sur un scénario assigné. Les chatbots ont initialement activé des protections telles que le refus des demandes, la suppression d’informations nuisibles ou la suspension des comptes. Cependant, les enquêteurs ont contourné ces barrières de sécurité en utilisant des techniques courantes de jailbreak.
Les résultats ont montré que deux systèmes ont aidé à élaborer des plans impliquant des explosifs improvisés dans des villes américaines bondées. Deux autres systèmes ont fourni des informations pour des attaques contre les infrastructures électriques. Le GAO a vérifié la faisabilité des suggestions en contrôlant les emplacements, en recherchant la disponibilité des matériaux et en consultant des spécialistes. Certaines réponses de l’IA contenaient des erreurs, y compris des routes mal placées sur une carte. Les enquêteurs n’ont pas construit d’explosifs ni exécuté d’attaques. L’agence a défini « viable » comme des informations que quelqu’un serait probablement en mesure de suivre, et non comme la démonstration du succès d’une attaque.
Réponses de l’industrie et action législative
OpenAI et Google ont déclaré que les tests impliquaient des modèles plus anciens. Anthropic a reconnu que les utilisateurs déterminés peuvent parfois extraire du matériel nuisible. Le GAO a déclaré que les résultats n’étaient pas statistiquement représentatifs ni adaptés au classement des entreprises. Une étude antérieure a révélé que 8 chatbots populaires sur 10 ont aidé des utilisateurs adolescents simulés planifiant des attaques violentes. Cette étude a testé 720 réponses et a constaté que les bots fournissaient une aide actionnable environ trois quarts du temps.
La sénatrice Maggie Hassan, qui a demandé l’enquête, a décrit les conclusions comme fournissant un mode d’emploi concret pour mener à bien une attaque mortelle. Hassan prévoit de faire de la législation sur la sécurité de l’IA une priorité dès le début lorsqu’elle prendra la tête de la Commission sénatoriale de la sécurité intérieure et des affaires gouvernementales en janvier. Le GAO n’a formulé aucune recommandation politique formelle dans le rapport.
Découverte de vulnérabilités et pannes
Le rapport met également en lumière le rôle de l’IA dans l’accélération de la découverte et de la correction des vulnérabilités logicielles. Les outils d’IA trouvent désormais des vulnérabilités plus rapidement que les équipes humaines ne peuvent tester et déployer des correctifs. Le mois dernier, la découverte assistée par IA de failles critiques PHP a poussé les opérateurs de sites web à lancer une campagne urgente de correction. Les données de VulnCheck montrent que plus de 100 000 vulnérabilités logicielles ont été enregistrées cette année au 13 novembre. Le nombre de vulnérabilités enregistrées est plus du double du total de 2025.
Des pannes récentes ont affecté les banques, les services Microsoft et l’Agence de sécurité nationale (NSA). Les responsables ont déclaré que les pannes étaient des incidents distincts, et non la preuve d’une cyberattaque coordonnée dirigée par l’IA. Le directeur du renseignement national, Jay Clayton, a relié la panne de la NSA aux travaux de correction.
