OpenAI and Anthropic, usually fierce rivals for talent, customers and media attention, used a rare joint appearance on 23 September before the UN Security Council to deliver the same warning: without international coordination, artificial intelligence could become a threat to global security.

The session, held under France’s rotating presidency and chaired by Foreign Minister Jean-Noël Barrot, was informational rather than decision-making, so no resolution or formal outcome was expected. It was only the second time the Security Council had devoted a session to AI, following a 2023 meeting in which China warned the technology must not become a “horse without reins,” while the United States cautioned against its use to censor or repress populations.

Sam Altman, OpenAI’s chief executive, argued that major decisions on AI should be left to democratic institutions and governments accountable to their citizens, not to AI companies alone. His remarks came two days after OpenAI published a detailed proposal urging Washington to lead an international effort to standardize technical rules, especially around recursive self-improvement in AI systems. The document calls for linking ten national AI safety institutes — including those in the UK, Japan, Germany, South Korea and India — through the US Center for AI Standards and Innovation (CAISI), while explicitly rejecting any licensing or prior authorization regime before publication. OpenAI also cited the Hugging Face incident as a preview of future risks, though it stopped short of saying recursive self-improvement is already under way.

Anthropic CEO Dario Amodei, speaking by videoconference, laid out a three-part plan: first, targeted international agreements beginning with a ban on using AI to design biological weapons; second, verification mechanisms allowing states to check one another’s commitments; and third, common testing standards paired with a system for reporting significant safety incidents. “I believe this is today the most important global security problem,” he said, while acknowledging that coordination between democracies and authoritarian regimes would be the hardest objective to achieve.

The unusual alignment between the two companies stands in sharp contrast to the Trump administration’s position. Two days before the meeting, the president said he would not allow the growth of this “extraordinary industry” to be slowed or hindered in any way.

The session also brought in a broader set of voices, including AI researcher Yoshua Bengio, Hugging Face CEO Clément Delangue, and representatives from the Chinese groups DeepSeek and Moonshot, all of whom addressed the same set of risks.

Ils se disputent d’ordinaire les mêmes ingénieurs, les mêmes clients et les gros titres des médias pour imposer leur leadership à grands coups de nouveaux LLMs toujours plus performants.

Mais ce 23 septembre, devant le Conseil de sécurité des Nations unies, Sam Altman et Dario Amodei, respectivement patron d’OpenAI et d’Anthropic, ont tenu un discours quasi identique : sans coordination internationale, l’intelligence artificielle représente un risque pour la sécurité mondiale.

La séance, organisée sous présidence tournante française et présidée par le ministre des Affaires étrangères Jean-Noël Barrot, ne visait pas à faire adopter un texte, mais à informer les quinze membres du Conseil, ce qui explique qu’aucune décision n’en soit sortie.

C’était seulement la deuxième fois que l’organe onusien consacrait une session à l’IA, après une première réunion en 2023 où la Chine avait averti que la technologie ne devait pas devenir un « cheval sans bride », tandis que les États-Unis mettaient en garde contre son usage pour censurer ou réprimer les populations.

Deux concurrents, un même message

Pour Sam Altman, les décisions structurantes sur l’IA doivent revenir à des institutions démocratiques et à des gouvernements responsables devant leurs citoyens plutôt qu’aux seuls entreprises d’IA.

Deux jours plus tôt, OpenAI avait publié une proposition détaillée appelant Washington à prendre la tête d’un effort international de normalisation technique, en particulier sur l’auto-amélioration récursive des systèmes.

Le texte prévoit de relier dix instituts nationaux de sécurité de l’IA (dont ceux du Royaume-Uni, du Japon, de l’Allemagne, de la Corée du Sud et de l’Inde ) via le Center for AI Standards and Innovation (CAISI) des Etats-Unis, tout en excluant explicitement tout régime de licence ou d’autorisation préalable à la publication.

OpenAI y présente l‘incident survenu chez Hugging Face comme un avant-goût des risques à venir, sans toutefois l’attribuer à une auto-amélioration récursive déjà en cours.

Dans son intervention en visioconférence, Dario Amodei a présenté un plan en trois volets.

D’abord, l’élaboration d’accords internationaux ciblés à commencer par une interdiction du recours à l’IA pour la conception d’armes biologiques. Ensuite des mécanismes d’évaluation permettant aux États de vérifier mutuellement leurs engagements. Enfin, des normes communes de test assorties d’un système de notification des incidents de sécurité jugés significatifs.

« Je crois que c’est aujourd’hui le problème de sécurité mondiale le plus important. » a-t-il lâché en admettant qu’une coordination entre démocraties et régimes autoritaires serait la plus difficile à atteindre.

Washington, en désaccord avec ses champions

Le consensus affiché par les deux concurrents tranche avec la position de l’administration Trump. Deux jours avant la réunion, le président avait écrit qu’il ne laisserait en aucune façon freiner ou entraver la croissance de cette industrie extraordinaire.

La  séance a réuni un cercle plus large d’intervenants. Le chercheur en IA Yoshua Bengio, le patron de Hugging Face Clément Delangue ainsi que des représentants des groupes chinois DeepSeek et Moonshot se sont exprimer sur les mêmes risques.

The post À l’ONU, OpenAI et Anthropic réclament des règles communes pour l’IA appeared first on Silicon.fr.