Microsoft has directed its engineering teams to optimize how they use generative AI, shifting the focus from maximizing token volume to maximizing value per token. In an internal memo obtained by 404 Media, Jay Parikh, EVP of CoreAI, stressed that “tokenmaxxing” is not the goal and urged teams to prioritize the utility generated from each token, treating AI consumption like any other IT resource subject to cost-efficiency.

As a concrete step, Microsoft set OpenAI’s GPT-5.6 Sol as the default model for its employees using GitHub Copilot. Engineers can override this selection when a different model is better suited for a particular task. The change applies only to internal usage and does not alter the model choices offered to external Copilot customers.

Internally, each Microsoft division operates with defined token consumption targets. Engineers track their own usage through a dashboard, with monthly per-engineer costs typically ranging from a few hundred to several thousand dollars. Microsoft has not disclosed official spending figures. Parikh emphasized that the initiative is not a retreat from the company’s “AI-first” strategy but a disciplined approach to managing inference costs, which have become a pressing concern as AI assistants and copilots scale across the industry. The new guidelines originate from the CoreAI engineering group, now responsible for GitHub Copilot alongside Visual Studio and VS Code, explaining why the development environment is the first to adopt them.

Microsoft demande à ses équipes d’ingénierie de revoir leur manière d’utiliser l’IA générative.

Dans une note interne, révélée par 404 Media, Jay Parikh, vice-président exécutif de CoreAI, indique que le « tokenmaxxing » n’est pas l’objectif recherché et invite les équipes à privilégier la valeur créée par token.

Ainsi, Microsoft a défini GPT-5.6 Sol d’OpenAI comme modèle par défaut dans GitHub Copilot utilisé par ses collaborateurs. Ce paramètrage ne constitue toutefois pas une obligation. Les ingénieurs Microsoft peuvent sélectionner un autre modèle lorsqu’ils estiment qu’il est mieux adapté à une tâche spécifique.

Cette évolution concerne uniquement les usages internes de Microsoft et ne modifie pas, à ce stade, les choix de modèles proposés aux clients de GitHub Copilot.

GPT-5.6 Sol devient le modèle par défaut pour les collaborateurs de Microsoft

Selon les documents internes consultés par 404 Media, chaque division de Microsoft dispose d’un objectif de consommation de tokens IA. Les ingénieurs peuvent suivre leur propre utilisation via un tableau de bord interne. La dépense mensuelle en tokens par ingénieur représente généralement quelques centaines à plusieurs milliers de dollars, selon les équipes et les projets. Microsoft n’a toutefois publié aucun chiffre officiel concernant ces coûts.

Selon Jay Parikh, il ne s’agit pas de ralentir la stratégie « AI-first » de Microsoft mais de considérer les tokens comme n’importe quelle autre ressource informatique, en tenant compte de leur coût et en recherchant le meilleur rendement possible.

Cette évolution intervient alors que les coûts liés à l’inférence deviennent un enjeu majeur pour les fournisseurs de services d’IA. À mesure que les entreprises généralisent l’usage des assistants de développement, des copilotes et des agents IA, la capacité à maximiser la valeur produite par chaque token consommé devient un levier important de maîtrise des coûts.

Le fait que GitHub Copilot relève désormais du groupe d’ingénierie CoreAI, dirigé par Jay Parikh aux côtés de Visual Studio et de Visual Studio Code, explique que ces nouvelles lignes directrices s’appliquent en priorité à cet environnement de développement.

The post Microsoft veut optimiser chaque token d’IA appeared first on Silicon.fr.