Microsoft is asking its engineering teams to rethink how they use generative AI, with a new internal directive focused less on maximizing usage and more on extracting the most value from every token consumed.

In an internal memo obtained by 404 Media, Jay Parikh, executive vice president of CoreAI, said “tokenmaxxing” is not the goal. Instead, teams are being told to prioritize the value created per token. The guidance reflects a broader shift in how Microsoft wants employees to approach AI as a computing resource: something to be measured, costed and optimized like any other infrastructure input.

As part of this change, Microsoft has set OpenAI’s GPT-5.6 Sol as the default model in GitHub Copilot for its own employees. That default is not mandatory, however: Microsoft engineers can still choose another model when they believe it is better suited to a specific task. The change applies only to Microsoft’s internal usage and does not, for now, alter the model options offered to GitHub Copilot customers.

According to the internal documents reviewed by 404 Media, each Microsoft division has an AI token consumption target, and engineers can track their own usage through an internal dashboard. Monthly token spending per engineer typically ranges from a few hundred to several thousand dollars, depending on the team and the project. Microsoft has not disclosed any official figures for these costs.

Parikh’s message is not meant to slow Microsoft’s “AI-first” strategy, but to make teams more disciplined about efficiency. The company wants tokens treated as a finite resource, with attention paid to cost and return on investment rather than raw consumption.

The timing is significant. Inference costs are becoming a major issue for AI providers as companies scale up the use of coding assistants, copilots and AI agents. In that context, improving the value generated by each token is emerging as a key lever for controlling expenses.

The move also reflects GitHub Copilot’s place within Microsoft’s engineering organization. Copilot now sits under CoreAI, the group led by Jay Parikh alongside Visual Studio and Visual Studio Code, which helps explain why these new guidelines are being applied first in that development environment.

Microsoft demande à ses équipes d’ingénierie de revoir leur manière d’utiliser l’IA générative.

Dans une note interne, révélée par 404 Media, Jay Parikh, vice-président exécutif de CoreAI, indique que le « tokenmaxxing » n’est pas l’objectif recherché et invite les équipes à privilégier la valeur créée par token.

Ainsi, Microsoft a défini GPT-5.6 Sol d’OpenAI comme modèle par défaut dans GitHub Copilot utilisé par ses collaborateurs. Ce paramètrage ne constitue toutefois pas une obligation. Les ingénieurs Microsoft peuvent sélectionner un autre modèle lorsqu’ils estiment qu’il est mieux adapté à une tâche spécifique.

Cette évolution concerne uniquement les usages internes de Microsoft et ne modifie pas, à ce stade, les choix de modèles proposés aux clients de GitHub Copilot.

GPT-5.6 Sol devient le modèle par défaut pour les collaborateurs de Microsoft

Selon les documents internes consultés par 404 Media, chaque division de Microsoft dispose d’un objectif de consommation de tokens IA. Les ingénieurs peuvent suivre leur propre utilisation via un tableau de bord interne. La dépense mensuelle en tokens par ingénieur représente généralement quelques centaines à plusieurs milliers de dollars, selon les équipes et les projets. Microsoft n’a toutefois publié aucun chiffre officiel concernant ces coûts.

Selon Jay Parikh, il ne s’agit pas de ralentir la stratégie « AI-first » de Microsoft mais de considérer les tokens comme n’importe quelle autre ressource informatique, en tenant compte de leur coût et en recherchant le meilleur rendement possible.

Cette évolution intervient alors que les coûts liés à l’inférence deviennent un enjeu majeur pour les fournisseurs de services d’IA. À mesure que les entreprises généralisent l’usage des assistants de développement, des copilotes et des agents IA, la capacité à maximiser la valeur produite par chaque token consommé devient un levier important de maîtrise des coûts.

Le fait que GitHub Copilot relève désormais du groupe d’ingénierie CoreAI, dirigé par Jay Parikh aux côtés de Visual Studio et de Visual Studio Code, explique que ces nouvelles lignes directrices s’appliquent en priorité à cet environnement de développement.

The post Microsoft veut optimiser chaque token d’IA appeared first on Silicon.fr.