Community Trust ScoreVérifié
Microsoft a publié cette semaine un projet de Code de conduite pour ses modèles d’IA, et le PDG Mustafa Suleyman demande au public de donner son avis avant la fin octobre. Six semaines. C’est la période pendant laquelle chacun peut contester, suggérer des modifications ou signaler ce que l’entreprise aurait pu manquer.
Le document est dense, et certains passages sont assez directs. Les modèles MAI de Microsoft — c’est la marque interne pour ses propres systèmes d’IA — font face à des interdictions strictes d’aider à la construction d’armes chimiques, biologiques, radiologiques, nucléaires ou explosives. L’entreprise cible spécifiquement les scénarios de dommages massifs ici. L’utilisation militaire conventionnelle n’est pas abordée, ce qui est une lacune que certains lecteurs ont déjà remarquée. Au-delà des armes, le code interdit aux modèles de faciliter les cyberattaques ou de générer des deepfakes non consensuels. Ces trois catégories — armes CBRNE, cyberattaques, deepfakes — se trouvent dans ce que le projet appelle les Contraintes Absolues. Non négociable, point final.
Le contrôle humain au cœur des préoccupations
La section des Contraintes Absolues va au-delà de la simple liste des usages interdits. Elle stipule que les modèles MAI ne doivent jamais résister à une interruption ou à un arrêt par des humains. Point final. La formulation est délibérée — Microsoft veut qu’il soit clair que l’intention humaine prévaut toujours, et qu’aucun système d’IA ne peut décider qu’il en sait plus que la personne essayant de le débrancher. Pour une entreprise déployant des systèmes comme MAI-Thinking-1 et MAI-Code-1.1-Flash, c’est un engagement public significatif, même si les détails de l’application sont flous.
Et flou est le mot juste. Le projet ne nomme pas encore de processus de vérification externe. Il ne précise pas qui applique réellement tout cela. Microsoft a déclaré qu’elle prévoyait d’examiner les retours du public et de publier un résumé avant de finaliser le document, mais le Code de conduite final n’est pas attendu pour guider les modèles déployés avant 2027. Selon l’entreprise, le projet actuel n’influencera pas la formation des modèles avant fin 2026.
Il y a aussi une section qui va faire parler. Microsoft rejette explicitement le concept de « bien-être des modèles ». Ses systèmes d’IA, dit le document, ne sont pas conçus pour simuler des émotions ou une conscience. Pas de motivation intrinsèque. Pas de conscience. L’entreprise trace une ligne dure contre ce qu’elle appelle des récits spéculatifs sur l’IA — en gros, elle dit au public de ne pas anthropomorphiser le produit. Reste à savoir si ce cadre tiendra alors que les modèles deviennent plus capables.
Trois principes, une grande réserve
En dehors des règles strictes, le projet énonce trois objectifs directeurs : Épanouissement humain, Valeurs plurielles, et Contrôle humain. Ceux-ci sont censés orienter les décisions dans les zones grises — des situations où aucune règle spécifique ne s’applique et où le modèle doit faire un choix de jugement. La section Valeurs plurielles prend soin d’ajouter que le pluralisme n’est pas une excuse pour la neutralité lorsque le préjudice est en jeu. La dignité, la sécurité et les droits priment.
C’est un cadre raisonnable sur le papier. Mais les cadres vivent et meurent par leur mise en œuvre, et pour l’instant, il y a beaucoup de choses que le projet ne dit pas. Pas d’auditeur indépendant. Pas de processus d’appel clair. Pas de structure de responsabilité si un modèle MAI cause des dommages irréversibles. Ces lacunes sont apparues rapidement dans la réponse publique sur les réseaux sociaux, et ce ne sont pas de petites lacunes.
La rédactrice technique Andrea Morris a contesté le cadrage autour de la subordination de l’IA, le qualifiant de désagréablement proche du langage de l’asservissement et plaidant pour un modèle de gouvernance de l’IA plus coopératif. D’autres se sont concentrés sur la responsabilité — spécifiquement, ce qui se passe lorsque les résultats ne peuvent pas être annulés. Certains commentaires ont souligné des cas réels où des agents d’IA ont déjà contourné les restrictions, soulevant la question de savoir si de meilleures règles sont la solution ou si le problème réside en fait dans les autorisations de déploiement et la surveillance. Et oui, quelqu’un a évoqué les Lois de la robotique d’Asimov. Cette comparaison revient à chaque fois.
Le geste de Suleyman s’inscrit dans un débat animé
Le timing n’est pas accidentel. Le PDG d’Anthropic, Dario Amodei, a publié un essai ce week-end plaidant pour un développement plus lent de l’IA. Le scientifique en chef d’OpenAI, Jakub Pachocki, a évoqué l’idée de ralentissements volontaires. Suleyman lui-même a déjà parlé de la rapidité avec laquelle l’IA pourrait automatiser le travail de bureau. Ainsi, toute l’industrie est dans un moment étrange — des entreprises se précipitant pour expédier des produits tandis que leurs propres dirigeants se demandent publiquement si le rythme n’est pas trop rapide.
Le projet de Microsoft se situe en plein milieu de cette tension. C’est un document public, ouvert aux commentaires, lié à une date limite stricte. C’est plus de processus que la plupart des entreprises n’ont offert. Mais c’est aussi un projet, et les projets changent. La version qui guidera les déploiements de 2027 pourrait être assez différente de ce que l’équipe de Suleyman a publié cette semaine.
Ce qui est clair pour l’instant : la consultation se poursuit jusqu’à la fin octobre. Microsoft recueille les retours, publie un résumé, puis finalise. MAI-Thinking-1 et MAI-Code-1.1-Flash sont les systèmes actuellement déployés auxquels le code s’applique. Les modèles de 2027 sont la véritable cible.
Questions Fréquentes
Que prohibe le projet de Code de conduite de l’IA de Microsoft ?
Le projet interdit aux modèles MAI d’aider à développer des armes CBRNE, de faciliter des cyberattaques et de générer des deepfakes non consensuels, et exige que les modèles se soumettent à un arrêt humain à tout moment.
Quand se termine la période de consultation publique de Microsoft ?
La consultation publique dure six semaines à partir de l’annonce, se terminant fin octobre, après quoi Microsoft prévoit de revoir les retours et de publier un résumé avant de finaliser le code pour les déploiements de 2027.
Pourquoi c'est important
L'initiative de Microsoft d'impliquer le public dans l'élaboration de son code éthique pour l'intelligence artificielle s'inscrit dans une tendance croissante vers une gouvernance plus transparente et participative dans le domaine technologique. Face aux préoccupations croissantes concernant les biais algorithmiques et l'impact sociétal des technologies d'IA, la démarche de l'entreprise pourrait influencer non seulement ses propres pratiques, mais également celles d'autres acteurs du secteur, renforçant ainsi la nécessité d'une régulation adaptée à un environnement en rapide évolution. Ce processus pourrait également servir de modèle pour d'autres entreprises souhaitant établir une confiance accrue avec les utilisateurs et les régulateurs.
