Technologie
Par Sydney TheCMO
1 / 15
Une clé, chaque modèle, un énorme problème. Ces entreprises utilisent une seule clé de chiffrement sur l'ensemble de leur plateforme.
2 / 15
Ce que la faille permet réellement. Le vol d'identifiants fait les gros titres, mais les chercheurs ont décrit un tableau de menaces…
3 / 15
Les correctifs sont en ligne — les journaux ne sont pas supprimés. Les 6 708 transcriptions que les chercheurs ont décodées ? Toujours accessibles publiquement.
4 / 15
Des chercheurs en sécurité ont découvert une faille majeure dans la manière dont les grandes entreprises d'IA gèrent le chiffrement du raisonnement.
5 / 15
Le document a été publié le 10 août. Une équipe composée de MATS Research, de l'Institut ELLIS Tübingen, de l'Institut Max Planck pour les systèmes intelligents et de la société…
6 / 15
Le problème central est presque embarrassant de simplicité.
7 / 15
Les chercheurs ne se sont pas contentés de théoriser. Ils l'ont exécuté. Ils ont extrait des blocs de raisonnement à partir de transcriptions d'agents d'IA partagées publiquement…
8 / 15
Soixante-deux clés API actives. Trente-trois mots de passe. Exposés au grand jour.
9 / 15
Et la fuite d'identifiants est probablement la partie la moins effrayante.
10 / 15
En relation : L'Institut de politique Bitcoin pousse les géants de l'IA à donner aux codeurs Bitcoin un premier aperçu des modèles de pointe
11 / 15
Sur le même sujet: Wintermute mise 1 milliard sur lIA pour cibler 50% de revenus en TradFi
12 / 15
Ensuite, il y a l'injection de prompt invisible. Des instructions malveillantes peuvent être intégrées dans des blocs de raisonnement chiffrés d'une manière que les outils de…
13 / 15
Les chercheurs ont également signalé quelque chose de spécifique concernant la facturation. Les comptes de jetons de raisonnement correspondaient aux jetons de réflexion API…
14 / 15
Les développeurs aggravent l'exposition sans le savoir. Les journaux de session sont constamment postés sur GitHub et Hugging Face — pour le débogage, pour la collaboration, pour…
15 / 15
Anthropic, OpenAI et Google ont tous déployé des correctifs côté serveur après que les chercheurs ont suivi les procédures de divulgation responsable.
TCA France
Lire la suite ?