Buterin approuve la suppression des capacités de piratage de Kimi K3.1 Pro de Moonshot AI

Le co-fondateur d’Ethereum, Vitalik Buterin, a publiquement soutenu la décision de Moonshot AI de supprimer les capacités cyber offensives de pointe de son modèle Kimi K3.1 Pro. Buterin a déclaré que restreindre des cas d’utilisation spécifiques est considérablement moins nocif que de restreindre l’accès des utilisateurs, une position qu’il a détaillée dans un post sur X le 26 octobre 2026.

Moonshot AI, une startup basée à Pékin, prévoit de publier les poids ouverts de Kimi K3.1 Pro d’ici le 4 novembre. Cette publication permettra aux utilisateurs de télécharger et d’exécuter le modèle sur leur propre matériel. Pour faciliter cette publication ouverte, l’entreprise a supprimé les données liées au cyberespace de son corpus d’entraînement et de ses environnements d’apprentissage par renforcement, tout en conservant les tâches de codage générales.

Compromis de performance dans le filtrage du modèle

La décision de filtrer les capacités offensives a entraîné une réduction mesurable des performances du modèle sur les benchmarks de sécurité. Moonshot a rapporté que le modèle Kimi K3.1 Pro filtré a résolu 81 % des tâches sur son benchmark interne d’exploitation. En comparaison, une version non filtrée du modèle a résolu 90,5 % des mêmes tâches.

Pour contexte, le modèle ouvert V4.1-Flash de DeepSeek a obtenu un score de 85,7 % sur le même benchmark. Ce point de données met en lumière le paysage concurrentiel des modèles IA à poids ouverts et les différents degrés de capacité conservés après le filtrage de sécurité. L’écart de performance entre les versions filtrée et non filtrée de Kimi K3.1 Pro illustre le compromis direct entre les restrictions de sécurité et la capacité offensive.

Avertissements sur les risques IA et l’accès des utilisateurs

Buterin a soutenu que la période actuelle est cruciale pour que les développeurs renforcent les systèmes, vérifient le code legacy et valident les nouveaux logiciels avant que les attaques alimentées par l’IA n’atteignent leur pleine force. Il a souligné que le monde a besoin de temps pour se préparer et vérifier l’ancienne infrastructure.

L’urgence de cette préparation est soulignée par les résultats de Binance Research plus tôt dans l’année. La recherche a indiqué que les systèmes IA exploitent les contrats intelligents environ deux fois plus efficacement qu’ils ne détectent les défauts. Cette asymétrie suggère que les capacités défensives sont actuellement en retard par rapport aux capacités offensives dans le contexte de la sécurité des contrats intelligents.

Buterin a également décrit un scénario négatif si la première vague de risques liés à l’IA est mal gérée. Il a averti que cela pourrait conduire à des modèles verrouillés, à des vérifications obligatoires de l’identité (KYC) pour toute utilisation de l’IA et à une surveillance intrusive. Dans un tel avenir, l’accès aux outils d’IA pourrait dépendre des identifiants et de la nationalité de l’utilisateur, créant potentiellement des niveaux d’utilisateurs de deuxième, troisième ou quatrième classe.

Malgré son soutien aux mesures de filtrage actuelles, Buterin ne s’attend pas à ce que ces restrictions soient permanentes. Il a reconnu que d’autres laboratoires d’IA construiront des capacités offensives similaires indépendamment de la décision de Moonshot. Pour Buterin, la sécurité de l’IA est une course contre la montre plutôt qu’un blocage permanent, favorisant les défenseurs qui adoptent des mesures de sécurité robustes avant que les attaquants ne rattrapent leur retard.