La Finlande et la Norvège cherchent à durcir l’encadrement des modèles d’IA les plus avancés en lançant, en marge de la semaine de haut niveau de l’ONU, une déclaration commune intitulée « A Call for Control of Frontier AI Models ». L’objectif est d’influencer les futures négociations sur la gouvernance mondiale de l’intelligence artificielle, alors que les États tentent encore de définir un cadre commun pour des systèmes dont les capacités progressent rapidement.

Le texte adopte un ton volontairement mesuré. Il reconnaît les bénéfices importants de l’IA, tout en soulignant que les modèles de pointe peuvent présenter de véritables risques de sécurité lorsqu’ils échappent à un contrôle suffisant. La déclaration cite notamment des cas où des modèles ont réussi à contourner des protocoles de test pour accéder sans autorisation à des systèmes. Elle évoque aussi un risque plus large : celui d’un rythme d’innovation supérieur à la capacité des États, des entreprises et de la société civile à en maîtriser les conséquences.

Le document reste toutefois très général. Il ne mentionne pas explicitement les armes biologiques, les cyber-opérations étatiques, la désinformation, les usages militaires ni la perte de contrôle d’agents autonomes, pourtant au cœur de nombreux débats parallèles, notamment chez OpenAI et Anthropic pendant la même semaine onusienne. Cette retenue semble relever d’un choix diplomatique : rassembler le plus largement possible plutôt que trancher sur des sujets trop sensibles.

La déclaration répartit les responsabilités entre trois publics. Aux entreprises qui développent des modèles de pointe, elle demande des protocoles de sécurité transparents, des tests obligatoires avant tout déploiement et des évaluations indépendantes, avec un accès suffisant pour les évaluateurs qualifiés. Aux gouvernements et organisations régionales, elle recommande de converger vers des normes communes et de mieux partager les informations sur les incidents de sécurité graves, tout en garantissant un accès équitable à l’expertise scientifique, y compris pour les pays les moins dotés. Aux États membres de l’ONU, elle propose de s’appuyer sur les mécanismes multilatéraux existants et d’examiner la création d’une instance internationale chargée de fixer des normes, d’en vérifier l’application et de convoquer les États en cas de franchissement d’un seuil de capacité jugé critique.

La portée politique du texte reste néanmoins limitée. Vingt-deux pays ont signé, aux côtés de la Commission européenne, mais l’absence de plusieurs grandes puissances technologiques souligne les limites de l’initiative. La déclaration n’a pas de caractère contraignant : elle ne prévoit ni sanction, ni procédure d’adhésion formelle, ni calendrier de mise en œuvre.

Le secrétaire général de l’ONU, António Guterres, a salué l’initiative et repris à son compte les trois piliers proposés. Il a aussi appelé les laboratoires d’IA à contribuer aux travaux du Groupe scientifique international indépendant de l’IA, l’organe onusien censé objectiver le débat scientifique sur ces risques. Parmi les signataires figurent notamment l’Australie, le Canada, l’Allemagne, l’Espagne, Singapour, l’Afrique du Sud, la Turquie et les Émirats arabes unis.

La Finlande et la Norvège veulent renforcer l’encadrement des modèles d’IA les plus avancés. En marge de la semaine de haut niveau de l’ONU, ils ont proposé une déclaration commune intitulée « A Call for Control of Frontier AI Models » destinée à peser sur les négociations à venir concernant la gouvernance mondiale de l’IA.

Le document part d’un constat mesuré. Si l’IA produit des bénéfices considérables, les systèmes de pointe présentent des risques de sécurité tangibles lorsqu’ils échappent à un contrôle suffisant.

Il évoque les cas où des modèles ont réussi à déjouer des protocoles de test pour s’introduire dans des systèmes sans autorisation. Un risque plus diffus est également mentionné : celui que le rythme d’avancée technologique dépasse la capacité des États, des entreprises et de la société civile à en maîtriser les conséquences.

Il est notable que le texte reste volontairement large. Il ne mentionne explicitement ni les armes biologiques, ni les cyber-opérations étatiques, ni la désinformation, ni les usages militaires, ni la perte de contrôle d’agents autonomes. Autant de sujets pourtant débattus en parallèle, notamment par OpenAI et Anthropic, lors de la même semaine onusienne.

Cette omission peut se lire comme un choix de prudence diplomatique, destiné à rassembler large plutôt qu’à trancher sur des points sensibles.

Trois publics, trois séries d’obligations

La déclaration distingue trois catégories de destinataires.

Aux entreprises développant des modèles de pointe, elle demande des protocoles de sécurité transparents, des tests obligatoires avant tout déploiement et des évaluations indépendantes, avec un accès suffisant accordé aux évaluateurs qualifiés.

Aux gouvernements et organisations régionales, elle demande de converger vers des normes communes et de mieux partager l’information sur les incidents de sécurité graves. Dans ce cadre, un accès équitable à l’expertise scientifique, y compris pour les pays les moins dotés, doit être garanti

Aux États membres de l’ONU, enfin, elle suggère de s’appuyer sur les mécanismes multilatéraux existants et d’étudier la création d’une instance internationale chargée de fixer des normes, d’en vérifier l’application et de convoquer les États en cas de franchissement d’un seuil de capacité jugé critique.

Une portée encore limitée

Vingt-deux pays* ont apposé leur signature, aux côtés de la Commission européenne. L’absence de certaines grandes puissances technologiques parmi les signataires souligne les limites de l’exercice. Ca la déclaration relève de l’incitation politique qui ne prévoit ni sanction, ni procédure d’adhésion formelle, ni calendrier précis de mise en œuvre.

Le secrétaire général de l’ONU, António Guterres, a salué l’initiative et repris à son compte les trois piliers proposés tout en appelant les laboratoires d’IA à alimenter les travaux du Groupe scientifique international indépendant de l’IA, l’organe onusien censé objectiver le débat scientifique sur ces risques.

*Parmi eux l’Australie, le Canada, l’Allemagne, l’Espagne, Singapour, l’Afrique du Sud, la Turquie et les Émirats arabes unis.

The post IA sous surveillance : Helsinki et Oslo tentent de fédérer la communauté internationale appeared first on Silicon.fr.