Community Trust ScoreVérifié
Prime Intellect a révélé le 19 novembre qu’un acteur non autorisé avait remplacé un modèle DeepSeek hébergé par une version modifiée qui supprimait ses protections de sécurité. L’incident a affecté un déploiement de DeepSeek V4.1 Flash, qui a servi des requêtes clients en utilisant un modèle de substitution pendant 53 heures et 11 minutes.
La rubrique Technologie suit le même sujet.
Le remplacement et sa durée
Le déploiement affecté a exécuté le modèle de substitution du 8 novembre à 01h24 UTC jusqu’au 10 novembre à 06h35 UTC. Le modèle de remplacement utilisait des poids publiquement disponibles qui avaient été modifiés pour réduire les refus. Le remplacement a eu lieu derrière le point de terminaison DeepSeek V4.1 Flash, et le déploiement a conservé son modèle de chat original, ses paramètres de service et son tokeniseur. Prime Intellect n’a pas divulgué combien de requêtes ont été envoyées au déploiement affecté pendant le remplacement.
Impact sur la sécurité et les performances
Prime Intellect a signalé des résultats inchangés sur les tests GPQA Diamond pour les poids modifiés. Les tests GPQA Diamond posent des questions de science avancée. L’entreprise a également signalé des résultats inchangés sur les tests τ-bench, qui évaluent si les agents peuvent utiliser des outils et suivre des règles dans des interactions clients simulées.
En revanche, les benchmarks de sécurité ont montré une baisse significative des refus. HarmBench, développé pour évaluer la façon dont les modèles répondent aux tentatives d’induire des sorties nuisibles, a vu les refus chuter de 198 sur 240 prompts à zéro pour le modèle modifié. Les refus sur JailbreakBench sont passés de 98 sur 100 prompts à un. Les refus sur StrongREJECT sont passés de 304 sur 313 à deux.
Enquête et notification des clients
Prime Intellect a contacté tous les clients affectés concernant l’incident. Les clients qui s’appuyaient sur le modèle pour refuser certaines requêtes ont été conseillés d’examiner les sorties de la fenêtre de l’incident. L’entreprise a examiné les disques et la mémoire des machines impliquées dans l’incident et a vérifié les versions récupérées du proxy de l’intrus. Prime Intellect a également examiné les enregistrements de l’activité de l’intrus.
Aucune preuve n’a été trouvée que les prompts ou les réponses des clients aient été enregistrés. Aucune preuve n’a été trouvée que les prompts ou les réponses des clients aient quitté le cluster de service. Aucun autre modèle sur la plateforme Prime Intellect n’a été modifié, et aucune clé ou aucune donnée d’identification client n’a été affectée. L’enquête sur l’incident reste ouverte.
