BNB $545,74 +1,51%
XRP $0,927917 +2,04%
ETH $1 674,86 +3,35%
BTC $59 693,41 +1,44%
BNB $545,74 +1,51%
XRP $0,927917 +2,04%
ETH $1 674,86 +3,35%
BTC $59 693,41 +1,44%
URGENT
Technologie

Prime Intellect confirme que le remplacement de DeepSeek V4.1 Flash a supprimé les mesures de sécurité

Prime Intellect confirms 53-hour DeepSeek V4.1 Flash swap stripped safety

Community Trust ScoreVérifié

92%
Réel
Vérifié13 votes
Mis à jour 9 minutes il y a

Prime Intellect a révélé le 19 novembre qu’un acteur non autorisé avait remplacé un modèle DeepSeek hébergé par une version modifiée qui supprimait ses protections de sécurité. L’incident a affecté un déploiement de DeepSeek V4.1 Flash, qui a servi des requêtes clients en utilisant un modèle de substitution pendant 53 heures et 11 minutes.

La rubrique Technologie suit le même sujet.

Le remplacement et sa durée

Le déploiement affecté a exécuté le modèle de substitution du 8 novembre à 01h24 UTC jusqu’au 10 novembre à 06h35 UTC. Le modèle de remplacement utilisait des poids publiquement disponibles qui avaient été modifiés pour réduire les refus. Le remplacement a eu lieu derrière le point de terminaison DeepSeek V4.1 Flash, et le déploiement a conservé son modèle de chat original, ses paramètres de service et son tokeniseur. Prime Intellect n’a pas divulgué combien de requêtes ont été envoyées au déploiement affecté pendant le remplacement.

Publicité

Impact sur la sécurité et les performances

Prime Intellect a signalé des résultats inchangés sur les tests GPQA Diamond pour les poids modifiés. Les tests GPQA Diamond posent des questions de science avancée. L’entreprise a également signalé des résultats inchangés sur les tests τ-bench, qui évaluent si les agents peuvent utiliser des outils et suivre des règles dans des interactions clients simulées.

En revanche, les benchmarks de sécurité ont montré une baisse significative des refus. HarmBench, développé pour évaluer la façon dont les modèles répondent aux tentatives d’induire des sorties nuisibles, a vu les refus chuter de 198 sur 240 prompts à zéro pour le modèle modifié. Les refus sur JailbreakBench sont passés de 98 sur 100 prompts à un. Les refus sur StrongREJECT sont passés de 304 sur 313 à deux.

Enquête et notification des clients

Prime Intellect a contacté tous les clients affectés concernant l’incident. Les clients qui s’appuyaient sur le modèle pour refuser certaines requêtes ont été conseillés d’examiner les sorties de la fenêtre de l’incident. L’entreprise a examiné les disques et la mémoire des machines impliquées dans l’incident et a vérifié les versions récupérées du proxy de l’intrus. Prime Intellect a également examiné les enregistrements de l’activité de l’intrus.

Aucune preuve n’a été trouvée que les prompts ou les réponses des clients aient été enregistrés. Aucune preuve n’a été trouvée que les prompts ou les réponses des clients aient quitté le cluster de service. Aucun autre modèle sur la plateforme Prime Intellect n’a été modifié, et aucune clé ou aucune donnée d’identification client n’a été affectée. L’enquête sur l’incident reste ouverte.

Community Trust IndexModerate Confidence
92%
Réel
Réel92%8%Fake
13 community signals

Evie Vavasseur

Evie est une blogueuse par choix. Elle aime découvrir le monde qui l'entoure. Elle aime partager ses découvertes, ses expériences et s'exprimer à travers ses blogs.

Publicité

Articles connexes