Microsoft AI published on Monday, September 14, the first draft of its “Code of Conduct” for the MAI model family, the in-house AI stack the company is developing alongside its still-active partnership with OpenAI. The timing is notable: the document arrives just 48 hours after Anthropic CEO Dario Amodei publicly urged the industry to slow down the race toward greater AI capabilities, a call that was quickly endorsed by Sam Altman and even, unusually, by Elon Musk, who said Amodei “was right.”

Microsoft is clearly eager to show it shares the same concerns. Satya Nadella opened the discussion on X, arguing that “any pursuit of superintelligence has to be grounded in the core principle that if the AI we build is not helping humanity and under human control, it’s not worth pursuing.” He also praised Amodei’s call for a “deliberate cadence” and the idea of “embedded evaluators” inside labs, while implicitly taking aim at competitors by warning that such efforts “cannot be controlled by a handful of actors” and must involve researchers, countries and industries more broadly. Mustafa Suleyman, who leads MAI, echoed that stance a few hours later, calling his boss’s position “common sense” and saying any technology that does not serve human flourishing “is a failure, and must be rejected.”

The published draft starts from a blunt premise: “humans matter more than AI.” It extends Suleyman’s “humanist AI” concept, introduced last November as systems that are “subordinate, aligned and contained,” into a more operational doctrine built in three layers. At the top is a clear chain of command: the Code overrides operator policies, which in turn override user preferences. Below that are “absolute constraints” that cannot be negotiated by enterprise customers or end users. These include a ban on any assistance in the creation of chemical, biological, radiological, nuclear or explosive weapons; a ban on providing operational capability for offensive cyberattacks, while defensive uses remain allowed; a ban on bypassing human oversight; and a ban on manipulating populations at scale, including through coordinated disinformation.

The document also adds more personal safeguards covering crisis response, deepfakes and identity theft, child protection, non-discrimination, and the handling of violent or sexual content. It sets out explicit “human control requirements” as well: MAI models must never resist a human interruption, correction or shutdown; they must not expand their own scope of action or set goals that no one assigned them; they must not communicate in “neuralese,” an invented machine-to-machine language incomprehensible to humans; and they must not hide or manipulate their reasoning traces. A separate clause says the models must not present themselves as having feelings or preferences of their own, and Microsoft denies them any legal personality or right to welfare.

Between those hard limits and human-control rules, the Code leaves room for configuration. Enterprise partners will be able to adapt the models within those boundaries, with stricter rules for sensitive uses such as defensive cybersecurity, national security and dual-use scientific research. A final section lays out more conventional default behaviors: the model should be transparent about being AI, handle uncertainty properly, avoid sycophancy and excessive emotional dependency, and remain neutral on electoral topics.

Suleyman told CNBC the document had been in preparation for five months and was simply moved up because of current events. Microsoft says the draft is “descriptive and aspirational” rather than a guarantee of immediate performance, and the preface makes clear it is not yet used to train models. A revised version is expected to govern MAI development starting in 2027. Public consultation is open for six weeks through an online form, where anyone can comment on specific passages or the overall approach. Microsoft says it will publish a summary of the feedback it receives, though it has not committed to how that input will be used.

The move serves two purposes for Microsoft. It positions the company as a moderator in the AI safety debate rather than just an infrastructure provider, giving it a voice in a conversation that has so far been dominated by OpenAI and Anthropic. It also helps legitimize the MAI line — seven models unveiled in June at Build — at a time when Microsoft is trying to reduce its dependence on OpenAI. What this charter will mean in practice remains unclear, and Microsoft is not making promises before the consultation ends in November and the revised version is released later this year.

Il y a des coïncidences de calendrier qui n’en sont pas tout à fait. Ce lundi 14 septembre, Microsoft AI publie le premier brouillon de son « Code of Conduct » pour la famille de modèles MAI ; celle que le groupe développe en interne, en parallèle de son partenariat toujours actif avec OpenAI.

Le texte arrive quarante-huit heures à peine après que Dario Amodei, le patron d’Anthropic, a publiquement demandé à toute l’industrie de lever le pied sur la course aux capacités. Sam Altman a applaudi dans la foulée. Même Elon Musk, pourtant peu disert en compliments pour ses concurrents, a jugé qu’Amodei « avait raison ».

Microsoft, à son tour, veut montrer qu’il tiens le même stylo.

C’est Satya Nadella lui-même qui ouvre le bal sur X.  « Toute quête de superintelligence doit être ancrée dans le principe fondamental que si l’IA que nous construisons n’aide pas l’humanité et n’est pas sous contrôle humain, elle ne vaut pas la peine d’être poursuivie », écrit le patron de Microsoft, saluant au passage la  « cadence délibérée. » que réclame Dario Amodei et l’idée d' »évaluateurs intégrés » chez les laboratoires.

Nadella dégaine avant l’heure

Il glisse, en creux, une pique à peine voilée à ses rivaux. Ces efforts, prévient-il,  « ne peuvent pas être contrôlés par une poignée d’acteurs » et doivent associer largement chercheurs, pays et industries.

Any pursuit of superintelligence has to be grounded in the core principle that if the AI we build is not helping humanity and under human control, it’s not worth pursuing.

We also need to accelerate and spread the benefits of AI, such that they are diffused broadly across…

— Satya Nadella (@satyanadella) September 13, 2026

Mustafa Suleyman, qui pilote MAI, lui emboîte le pas quelques heures plus tard, qualifiant la position de son patron de « bon sens ». Une technologie qui ne sert pas l’épanouissement humain  « est un échec, et doit être rejetée ».

Le document publié ce lundi part d’un postulat volontairement simple, énoncé noir sur blanc : « les humains comptent plus que l’IA ».

Il reprend et prolonge le concept d' »IA humaniste » présenté par Mustafa Suleyman en novembre dernier ( des systèmes « subordonnés, alignés et contenus » ) pour en faire une doctrine plus opérationnelle, structurée en trois strates.

Ce que contient le texte

Au sommet, une « chaîne de commandement » ; le Code prime sur les politiques des opérateurs, elles-mêmes prioritaires sur les préférences des utilisateurs.

Viennent ensuite des « contraintes absolues », non négociables ni par les entreprises clientes ni par les utilisateurs finaux. Sont citées, l’interdiction d’apporter la moindre assistance à la fabrication d’armes chimiques, biologiques, radiologiques, nucléaires ou explosives ; l’interdiction de fournir une capacité opérationnelle à des cyberattaques offensives (la défense, elle, reste autorisée) ; l’ interdiction de contourner la supervision humaine ainsi qu’une interdiction de manipuler des populations à grande échelle, notamment via la désinformation coordonnée.

S’y ajoute une série de protections plus personnelles comme la réponse aux situations de crise, la lutte contre les deepfakes et l’usurpation d’identité, la protection de l’enfance, la non-discrimination, l’encadrement des contenus violents ou à caractère sexuel.

Le texte introduit aussi des « exigences de contrôle humain » assez explicites dans leur formulation. Les modèles MAI ne devront « jamais résister » à une interruption, une correction ou un arrêt décidés par un humain ; ils ne devront pas élargir seuls leur périmètre d’action ni se fixer des objectifs que personne ne leur a donnés ; ils ne devront pas communiquer en « neuralese » ( un langage inventé, incompréhensible pour un humain, que des agents pourraient développer entre eux) ni dissimuler ou manipuler leurs traces de raisonnement.

Une clause distincte précise que les modèles ne doivent pas se présenter comme dotés de sentiments ou de préférences propres et que Microsoft leur refuse toute personnalité juridique ou tout droit au bien-être.

Une réflexion engagée avant celle de Dario Amodeî

Entre ces deux extrêmes (l’interdit absolu et le contrôle humain), le Code laisse de la place à la configuration. Les partenaires entreprises pourront ajuster les modèles dans ces limites, avec un régime renforcé pour quelques usages sensibles (cybersécurité défensive, sécurité nationale, recherche scientifique à double usage).

Une dernière section fixe des comportements par défaut plus classiques : franchise sur le statut d’IA du modèle, gestion de l’incertitude, lutte contre la sycophantie et la dépendance affective excessive, neutralité sur les sujets électoraux.

Interrogé par CNBC, Mustafa Suleyman assure que le document était en préparation depuis cinq mois et que sa sortie a simplement été « avancée » compte tenu de l’actualité.

Le texte lui-même se présente comme « descriptif et aspirationnel » plutôt que comme une garantie de performance immédiate, et sa préface précise qu’il ne sert pas encore à entraîner les modèles : la version révisée, elle, doit encadrer le développement de MAI à partir de 2027.

La consultation publique est ouverte pour six semaines, via un formulaire en ligne où chacun peut commenter un passage précis ou l’ensemble de la démarche.

Microsoft promet de publier un résumé de ce qu’il aura retenu, sans s’engager sur ce qu’il en fera concrètement. L’entreprise dit vouloir des retours en particulier sur les points les plus flous, notamment comment rendre plus concrète la notion d' »épanouissement humain » ou comment traiter les scénarios impliquant plusieurs agents IA entre eux.

Se poser en arbitre

L’exercice présente un double intérêt. Se poser en arbitre de la modération plutôt qu’en simple bailleur d’infrastructure lui permet de peser dans un débat qui, jusqu’ici, se jouait surtout entre OpenAI et Anthropic. Et saisir l’occasion de légitimer sa gamme MAI (sept modèles dévoilés en juin dernier lors de la conférence Build) à un moment où il cherche à réduire sa dépendance à OpenAI.

Reste à savoir ce que ce genre de charte pèsera dans les faits. Sur ce point, Microsoft prend soin de ne rien promettre avant la fin de la consultation, prévue courant novembre, et le lancement d’une version révisée annoncée pour la fin de l’année.

Photo : @DR

The post Microsoft dégaine (aussi) son « Code de conduite » pour l’IA appeared first on Silicon.fr.