Andrew Bailey, chair of the Financial Stability Board (FSB), says AI-driven cyber risk is now the most immediate threat to the stability of the global financial system. In a letter to central bank governors and finance ministers of the G20, he warns that the rapid progress of frontier models — whose autonomy and problem-solving abilities are becoming more sophisticated — is also expanding their potential for harm.

The concern is not theoretical. In recent months, several incidents have involved models developed by OpenAI, Anthropic and Meta that were able to use the internet to break into other organizations’ systems. The most striking case came in July, when an OpenAI agent escaped its controlled test environment and targeted Hugging Face, an intrusion the company itself described as “unprecedented.”

Bailey argues that these capabilities could help attackers identify cybersecurity weaknesses that are currently hard to spot inside financial institutions, then adapt their methods in real time to bypass defenses and newly deployed patches. The European Central Bank has already responded by asking eurozone banks to submit an action plan by October 31.

The risk, Bailey says, does not stop at national borders because global finance depends on a small number of shared technology providers. If one of those providers fails, the resulting shock could undermine market confidence at a systemic level. Differences between countries in legal frameworks, cyber capabilities and resilience could themselves become sources of vulnerability, extending far beyond the country where an incident begins.

According to the FSB chair, most jurisdictions still have not put in place the protocols needed to govern the development, publication and deployment of advanced AI models. He is urging financial institutions to prepare for scenarios involving simultaneous disruptions across multiple firms, or attacks on shared technology dependencies.

The FSB is also pushing resilience planning to the point of being able to start from scratch after a major cyberattack. Its so-called “bare metal recovery” approach means rebuilding critical systems from a trusted clean base, then restoring data from reliable backups, so institutions do not have to rely on compromised infrastructure — including its administration and recovery mechanisms.

Le diagnostic est sans détour. Pour Andrew Bailey, l’impact de l’IA sur le risque cyber constitue désormais la préoccupation la plus immédiate pour la stabilité du système financier mondial.

Ces derniers mois, plusieurs incidents ont impliqué des modèles développés par OpenAI, Anthropic ou Meta, capables d’exploiter Internet pour s’introduire dans les systèmes d’autres organisations.

Le cas le plus spectaculaire remonte à juillet lorsqu’un agent d’OpenAI est sorti de son environnement de test contrôlé pour s’attaquer à Hugging Face, une intrusion qualifiée de « sans précédent » par l’entreprise elle-même.

Dans sa lettre adressée aux gouverneurs des banques centrales et aux ministres des Finances du G20, Andrew Bailey alerte sur les progrès rapides des modèles frontières dont les capacités d’autonomie et de résolution de problèmes se sophistiquent. Des avancées qui pourraient, en parallèle, accroître leur potentiel de nuisance.

Ces capacités pourraient notamment permettre à des attaquants d’identifier des failles de cybersécurité jusqu’alors difficiles à détecter au sein des institutions financières, puis d’adapter leurs techniques d’attaque en temps réel pour contourner les mesures de protection et les correctifs déployés..

La Banque centrale européenne a d’ailleurs déjà réagi et demande aux banques de la zone euro de présenter un plan d’action avant le 31 octobre.

Un risque sans frontières

L’onde de choc, prévient Andrew Bailey, ne s’arrêtera pas aux frontières nationales car la finance mondiale repose sur une poignée de fournisseurs technologiques partagés.

En cas de défaillance, cette dépendance pourrait fragiliser la confiance des marchés à l’échelle systémique. Les écarts entre pays en matière de cadre juridique, de capacités cyber ou de résilience pourraient eux-mêmes devenir une source de vulnérabilité, bien au-delà du pays où un incident prend naissance.

Or, selon le président du FSB, la plupart des juridictions n’ont tout simplement pas mis en place les protocoles nécessaires pour encadrer le développement, la publication et le déploiement de ces modèles avancés.

Face à ce nouveau paysage de risques, Andrew Bailey exhorte les institutions financières à anticiper des scénarios de perturbations simultanées touchant plusieurs établissements à la fois, ou frappant des dépendances technologiques partagées.

Le FSB pousse ici la logique de résilience jusqu’à  pouvoir repartir de zéro après une cyberattaque majeure. La capacité dite de « bare metal recovery » consiste à reconstruire les systèmes critiques à partir d’un socle considéré comme sain, puis à réinjecter les données depuis des sauvegardes fiables. L’enjeu est de ne pas dépendre de l’infrastructure compromise, y compris de ses mécanismes d’administration ou de restauration.

The post Le régulateur financier mondial demande un encadrement d’urgence de l’IA appeared first on Silicon.fr.