« J’ai démissionné d’Anthropic aujourd’hui. » En publiant ce message sur X, Jacob Coxon, chercheur britannique de 27 ans, a déclenché une nouvelle salve de débats sur le risque existentiel que ferait peser la course aux IA toujours plus puissantes. Son post a dépassé 160 millions de vues en deux jours, un niveau d’audience que n’atteignent même pas les figures les plus médiatiques du secteur comme Sam Altman ou Dario Amodei.
Coxon n’est pas un dirigeant, mais un chercheur de terrain, ce qui donne un poids particulier à sa prise de parole. Diplômé de mathématiques, il a travaillé environ trois ans sur le pré-entraînement de modèles, c’est-à-dire la phase où l’on fait absorber à une IA d’immenses volumes de données pour construire ses capacités de base. Il a d’abord été chez OpenAI entre 2023 et 2026, où il a notamment contribué à GPT-4o, avant de rejoindre Anthropic début 2026, attiré par la réputation de l’entreprise en matière de sécurité de l’IA.
Dans ses messages, puis dans des entretiens accordés à Fox News et au New York Times, il a précisé sa position : le risque d’une prise de contrôle immédiate par l’IA lui paraît encore faible, mais la vraie rupture viendrait de systèmes capables de s’améliorer eux-mêmes. Il juge cette échéance proche, évoquant un horizon d’un an, voire six mois. Selon lui, les dirigeants d’Anthropic et d’OpenAI veulent sincèrement développer l’IA de manière responsable, mais la pression concurrentielle entre entreprises, et entre les États-Unis et la Chine, les pousse à prendre des risques qu’aucun acteur n’assumerait seul.
Son alerte a reçu un soutien notable de l’intérieur même d’Anthropic. Evan Hubinger, responsable de la recherche sur l’alignement, a écrit sur X que Coxon avait raison et a estimé à plus de 10 % la probabilité que l’IA provoque l’extinction de l’humanité dans la décennie à venir. Il a toutefois précisé que les modèles actuels présentent un risque limité, son inquiétude portant surtout sur l’auto-amélioration future. D’autres chercheurs ont abondé dans ce sens : Samuel Marks, chercheur chez Anthropic sur la supervision des modèles, a expliqué à titre personnel que le niveau d’inquiétude augmente généralement avec l’ancienneté dans les entreprises d’IA. Alex Turner, ancien chercheur de Google DeepMind, a également validé publiquement les propos de Coxon. Daniel Kokotajlo, ex-OpenAI et aujourd’hui à la tête de l’AI Futures Project, a pour sa part estimé que le danger ne viendrait pas d’une IA « malveillante », mais d’un système assez puissant pour ne plus avoir besoin d’obéir aux instructions humaines.
En face, les sceptiques rappellent que les systèmes actuels restent loin d’une autonomie stratégique réelle et que le scénario d’une « explosion d’intelligence » par auto-amélioration récursive demeure spéculatif, faute de preuve empirique solide. Ils estiment aussi qu’insister sur un risque d’extinction lointain et incertain peut occulter les bénéfices immédiats de l’IA en santé, en science ou en productivité, et freiner inutilement son déploiement. Même parmi les soutiens de Coxon, la nuance est importante : Hubinger souligne que le danger des modèles déjà déployés reste faible et que la menace ne monterait qu’avec des systèmes capables de s’auto-améliorer, ce qui complique l’élaboration d’une politique publique robuste sur un scénario encore conditionnel.
Le cas Coxon s’inscrit dans une tension plus ancienne chez Anthropic et OpenAI. Anthropic a déjà vu partir cette année un chercheur sécurité qui estimait que « le monde est en péril ». Chez OpenAI, Jan Leike avait quitté en 2024 la direction de l’équipe Superalignment en dénonçant la priorité donnée aux produits au détriment de la sécurité, tandis qu’Ilya Sutskever avait aussi quitté l’entreprise la même année avant de fonder Safe Superintelligence. Anthropic revendique pourtant depuis sa création une approche prudente, avec une politique de mise à l’échelle responsable imposant des tests de capacités dangereuses avant tout déploiement, et Dario Amodei avait lui-même évoqué dès 2023 la possibilité de capacités imprévues et dangereuses. Mais l’entreprise a récemment refusé de soumettre son dernier modèle, Mythos 5.1, à une évaluation préalable par l’institut britannique de sécurité de l’IA (AISI), une décision qui alimente les doutes sur la solidité de ses engagements.
Au fond, le débat ouvert par Coxon ne porte pas sur l’existence de garde-fous, mais sur leur résistance quand les systèmes deviendront nettement plus capables qu’aujourd’hui.