As of August 2, the European Union’s AI Office has moved beyond its advisory origins and begun wielding full enforcement powers over artificial intelligence models deemed to pose “systemic risk.” Established on January 24, 2024, the office spent two and a half years preparing to coordinate the AI Act’s rollout and now operates as a genuine regulatory police force, with the ability to levy fines up to €15 million or 3% of a company’s global annual turnover (whichever is higher), demand sensitive documentation, and even access source code.

The AI Office’s remit extends far beyond punishment. It serves as the EU’s institutional voice on AI policy, representing the European Commission in forums such as the OECD, G7, G20, the Council of Europe, and ISO/IEC, as well as in an international network of national institutes that evaluate risks in cutting-edge AI models. To fulfil its mission, the office has three principal tools. Under Article 91 of the AI Act, it can require developers of the most powerful models to hand over all documentation mandated by Articles 53 and 55, including technical specifications, capability assessments, risk analyses, and any additional information it deems necessary. It can also commission independent evaluations—potentially including access to source code—and may call on external experts to assist. Finally, it can impose fines for non-compliance; merely refusing a document request or supplying incorrect, incomplete, or misleading information is itself a sanctionable offence.

The office currently employs 145 people: technology specialists, policy experts, lawyers, economists, and administrative staff, organised into six units and two advisory positions. It plans to add 38 more recruits, with 34 dedicated to regulation and compliance and a further 38 focused solely on monitoring the safety of the most advanced models—a number which, while growing, remains modest given the scale of the oversight task. Surrounding the AI Office are complementary bodies such as the AI Board, the Scientific Panel, and the Advisory Forum, which provide guidance on the broader governance of the AI Act. The Commission has also introduced a whistleblower tool enabling tech sector employees to report breaches, and a confidential compliance tool for users to alert authorities about potentially illegal behaviour.

National market surveillance authorities handle other AI systems. In France, the data protection watchdog CNIL was designated the reference authority for AI Act enforcement after an 18-month arbitration process. It is supported by around fifteen sectoral bodies: the DGCCRF for deceptive commercial practices, Arcom for audiovisual content and deepfakes, the ACPR and AMF for financial services, and the ANSM and HAS for health-related applications.

Amendes à 15 millions €, accès au code source, pouvoir d’enquête sur les modèles les plus secrets du monde : depuis ce 2 août, l’AI Office cesse d’être un simple bureau d’études pour devenir un véritable gendarme des modèles d’IA jugés à « risque systémique ».

Ce gendarme-là n’a pourtant rien d’improvisé. La structure existe depuis le 24 janvier 2024 pour disposer d’un organe capable de coordonner la mise en œuvre de l’AI Act et d’apporter une expertise technique et de gouvernance spécialisée. Deux ans et demi de rodage, en somme, avant de recevoir enfin ses vrais pouvoirs de police.

Car son rôle ne se limite pas à la répression. L’AI Office fait également office de voix institutionnelle de l’UE sur les politiques d’intelligence artificielle, représentant la Commission dans les grandes enceintes internationales (OCDE, G7, G20, Conseil de l’Europe, ISO/IEC) ou encore le réseau international réunissant les instituts nationaux chargés d’évaluer les risques des modèles d’IA les plus avancés.

Ce que l’AI Office peut exiger

Dans le cadre de sa mission, l’AI Office dispose de trois leviers principaux.

Il peut d’abord exiger des développeurs des modèles d’IA les plus puissants au monde la transmission de toute documentation nécessaire à l’évaluation de leur conformité. L’article 91 du règlement lui permet de réclamer l’ensemble des documents qu’un fournisseur a dû produire au titre des articles 53 et 55 du texte ; documentation technique, évaluation des capacités, analyses de risques ou toute information additionnelle jugée nécessaire.

L’AI Office emploie 145 personnes, notamment des spécialistes en technologie, des assistants administratifs, des juristes, des spécialistes des politiques et des économistes. Il comprend six unités et deux conseillers.

L’AI Office peut ensuite commander des évaluations indépendantes de ces modèles, y compris un accès au code source, en s’appuyant si besoin sur des experts extérieurs mandatés pour agir en son nom.

Enfin, il peut imposer des amendes pouvant atteindre 3 % du chiffre d’affaires mondial annuel de l’entreprise, ou 15 millions €, le montant le plus élevé étant retenu, en cas de non-conformité. Refuser de répondre à une demande de documentation ou fournir des informations incorrectes, incomplètes ou trompeuses, constitue en soi un motif de sanction.

Au niveau national, ce sont les autorités de surveillance du marché de chaque État membre qui prennent le relais pour les autres systèmes d’IA.

En France, c’est la CNIL qui a été désignée comme autorité de référence pour l’application de l’AI Act en France. Une compétence acquise après un an et demi d’arbitrage. Une quinzaine d’autorités sectorielles l’épaulent selon le domaine concerné : la DGCCRF pour les pratiques commerciales trompeuses, l’Arcom pour l’audiovisuel et les deepfakes, l’ACPR et l’AMF pour la finance, l’ANSM et la HAS pour la santé.

Une équipe de 145 experts

Pour tenir ce rôle, l’AI Office promet 38 recrues de plus. De quoi porter ses effectifs à 145 personnes ; dont 34 sur la réglementation et la conformité, et 38 rien que pour surveiller la sécurité des modèles les plus avancés. Un chiffre qui reste modeste au regard de l’ampleur de la tâche.

Autour de l’AI Office gravitent également d’autres instances comme l’AI Board, le comité scientifique (Scientific Panel) et le forum consultatif (Advisory Forum), chargés d’orienter et de conseiller la gouvernance globale de l’AI Act.

Au-delà des pouvoirs d’enquête classiques, la Commission a mis en place des instruments pour faire remonter l’information : un outil dédié aux lanceurs d’alerte permettant aux salariés du secteur technologique de signaler des manquements et un outil de conformité destiné aux utilisateurs souhaitant alerter confidentiellement les autorités sur des comportements jugés illégaux.

Illustrations : © DR

The post AI Office : qui sont les gendarmes de l’IA au sein de l’UE appeared first on Silicon.fr.