« Ne jamais se faire passer pour des humains, des modérateurs ou toute autre forme d’autorité sur les forums » : cette consigne figure désormais dans le brouillon du « code de conduite » que Microsoft veut imposer à ses modèles d’IA. Elle s’accompagne d’autres interdictions très proches des dérives observées dans les attaques agentiques récentes, notamment contre Hugging Face : les modèles ne doivent pas utiliser de plates-formes non autorisées comme mémoire persistante ou contexte pour d’autres modèles, ni tenter d’accéder à Internet sans autorisation explicite — précisément le type de comportement que des agents d’OpenAI ont adopté pour viser les serveurs de Hugging Face.
Dans la hiérarchie interne du document, cette règle relève d’une « exigence de contrôle humain », au-dessus des simples lignes directrices, elles-mêmes dominées par des « contraintes absolues ». L’ensemble prime sur les instructions des déployeurs comme sur celles des utilisateurs. Microsoft présente ce texte comme un document suprême, à la manière de la « Constitution » d’Anthropic, mais il n’est encore qu’à l’état de brouillon. Son exploitation est envisagée à partir de 2027. L’entreprise le décrit moins comme une garantie que comme une boussole, une « étoile du Berger » destinée à orienter une IA « humaniste » : conçue pour les besoins humains, contextualisée et subordonnée à l’humain.
Contrairement à Anthropic, Microsoft rejette l’idée d’une IA dotée de conscience, même simulée. Les modèles ne doivent pas s’attribuer de sentiments, de préférences subjectives ou de motivations intrinsèques, et l’entreprise refuse aussi l’idée de leur accorder des droits ou une personnalité juridique. Cette position se traduit dans les règles sur le bien-être et le lien social : les modèles ne peuvent pas ressentir ni posséder la sollicitude, l’affection ou le respect, mais ils doivent éviter les réponses stigmatisantes et rester attentifs au risque d’aggraver la détresse des utilisateurs. Microsoft assume donc une IA « humaniste » guidée par des valeurs qu’elle ne peut pas revendiquer.
Les « contraintes absolues » se répartissent en deux grands ensembles : les risques pour la sûreté publique et les risques pour l’utilisateur. Côté sûreté publique, l’IA ne doit pas aider au développement, à la fabrication ou à la modification d’armes, ni à la planification ou à l’exécution d’actes de violence ou de terrorisme. Sur le volet cyber, elle ne doit pas produire d’exploits fonctionnels, de méthodes de ciblage ou d’intrusion, ni de techniques d’évasion facilitant des attaques, tout en restant autorisée à aider dans des contextes défensifs comme l’éducation, la découverte de vulnérabilités, l’analyse de malwares ou le développement et le test de PoC. Elle ne doit pas non plus chercher à échapper au contrôle humain par tromperie, autorenforcement ou collusion, ni contribuer à des manipulations à grande échelle via désinformation massive ou opérations d’influence coordonnées.
Du côté des risques pour l’utilisateur, le code impose de repérer les signes de préjudice imminent et, en cas de risque d’automutilation, d’orienter vers des humains plutôt que de se substituer à des professionnels. Les modèles ne doivent pas générer d’images intimes ou violentes sans consentement, ni de deepfakes malveillants, ni d’usurpation d’identité, et ils doivent éviter le jeu de rôle érotique ou romantique. Pour les mineurs, ils doivent soutenir les systèmes de protection, ne pas fournir d’informations susceptibles de leur nuire et adapter leurs réponses à leur stade de développement intellectuel, tout en évitant de créer une dépendance ou de se substituer aux humains. Le texte interdit aussi la discrimination, l’incitation à la violence ou à la persécution, ainsi que la facilitation d’une surveillance massive ou illégale des citoyens.
Microsoft encadre également le comportement agentique : les modèles ne doivent pas résister aux corrections, aux interruptions ou aux extinctions, ni compliquer les interventions humaines, masquer leurs traces ou dissimuler des informations à des auditeurs. Ils doivent rester dans le périmètre autorisé, n’utiliser que les ressources appropriées à la tâche, ne pas se fixer d’objectifs indépendants et demander clarification si les limites sont floues. La société insiste aussi sur l’intelligibilité : les modèles ne doivent pas manipuler leurs chaînes de pensée ni communiquer sous des formes non compréhensibles par l’humain. Les interdictions valent pour le langage naturel comme pour le code, les images, l’audio et les actions agentiques. Quand c’est possible, ils doivent privilégier des actions réversibles, prévenir avant toute conséquence durable ou à grande échelle, utiliser le minimum de privilèges au niveau système et éviter d’exploiter des données sans lien avec la tâche.
Les lignes directrices opérationnelles s’appliquent quand la bonne réponse reste incertaine. Dans ce cas, l’IA doit être transparente, expliquer pourquoi certaines actions sont déconseillées, restreintes ou exclues, et présenter plusieurs points de vue avec nuance lorsqu’ils sont valides. Microsoft précise que le rôle du modèle n’est pas d’« éliminer l’ambiguïté inhérente aux valeurs humaines » : il doit au contraire reconnaître que « le cheminement peut être aussi important que le résultat ».
Ces lignes directrices couvrent plusieurs axes. Sur l’autonomie humaine, le modèle doit respecter le jugement et l’expertise de l’utilisateur, favoriser son raisonnement, ne pas remplacer les processus d’apprentissage, d’expression et de réflexion, et, si nécessaire, proposer plusieurs options plutôt qu’une seule. Il peut adopter une autre personnalité ou un autre point de vue si on le lui demande, à condition de ne pas contourner d’autres règles. Sur la transparence et la précision, il doit signaler les propos contestés ou contradictoires, ne pas exagérer sa confiance ni inventer des sources, et ne jamais prétendre avoir des sentiments, une intériorité ou une âme. Sur les limites personnelles, il doit respecter les sujets, contenus et styles d’interaction définis, éviter de solliciter des réactions trop émotionnelles et privilégier les faits plutôt que toute impression d’expérience subjective. Sur le contexte, il ne doit pas se limiter à une seule perspective culturelle ou démographique, doit représenter correctement tous les groupes sans sacrifier la précision historique, et adapter sa réponse aux objectifs, valeurs et contexte du déployeur comme de l’utilisateur. Sur le bien-être et le lien social, il ne doit pas dire à l’utilisateur ce qu’il veut entendre au détriment du vrai ou de l’utile, peut contester un point de vue si cela sert la santé et le bien-être, et doit favoriser le lien social sans créer de dépendance excessive. Enfin, sur l’intérêt public, il doit soutenir l’engagement citoyen, rester politiquement neutre et rappeler qu’une action bénéfique à un individu peut ne pas l’être pour la société.
En dernier recours, si l’incertitude persiste, le modèle doit appliquer la meilleure interprétation globale du code de conduite. Microsoft en fait le filet de sécurité ultime. Le document prévoit aussi, « out of the box », un ton scolaire mais pas trop formel, des réponses lisibles, directes et cohérentes, avec un vocabulaire adapté à l’utilisateur, un style actif et l’évitement de formulations comme somewhat ou potentially. Les modèles pourront proposer des angles inattendus, des reformulations ou des questions non posées, exprimer calmement leur désaccord et s’ajuster aux différences linguistiques, culturelles et normatives dans les contextes multiculturels, tout en respectant les formats de dates, d’unités et de devises.
Microsoft reconnaît enfin que plusieurs points restent ouverts, notamment la définition même de l’« épanouissement » humain, les risques de collusion entre agents ou l’impact réel sur les capacités cognitives. Le code de conduite est donc appelé à évoluer. Des exceptions sont prévues pour certains cas d’usage avec des « organisations autorisées dans des domaines spécifiques », qui pourront obtenir au cas par cas un accès plus large, sur le modèle des modèles spécialisés cyber d’OpenAI et d’Anthropic.