AI法案应该成为数据保护官(DPO)的事务吗?

L’AI Act doit-il être l’affaire des DPO ?

Silicon.fr by Clément Bohic 2026-07-07 14:28 Original
摘要
法国数据保护官(DPO)群体对AI法案的职责归属存在分歧,法国国家信息自由委员会(CNIL)的调查显示,55%的受访者已将AI法案纳入职责范围,71%希望承担此责,但CNIL指出法规未明确要求DPO主导合规工作。主要挑战包括识别AI系统风险等级,仅6%的机构做好了充分准备,而DPO们认为这既让角色更具战略性,也导致工作量和复杂性显著增加。

数据保护官(DPO)群体对《人工智能法案》(AI Act)合规工作的归属存在明显分歧:部分人视其为职责的“自然延伸”,另一些人则认为这超出了自身范畴。法国国家信息与自由委员会(CNIL)主导的最新行业观察(基于2390名DPO的反馈)显示,55%的受访者已将AI Act纳入职责范围,71%希望自身职能涵盖该法规。

但AI Act并未明确提及DPO角色。CNIL早在2025年11月调查启动时便强调,尽管DPO必须参与AI所涉数据处理,却不自动意味着应主导AI Act合规,因为法案要求的能力“未必是DPO传统技能”。不过,鉴于AI Act与GDPR在风险为本、问责原则、文档透明等维度的相似性,CNIL也呼吁“明智地调动”DPO的GDPR专长。

当前DPO面临的首要挑战来自GDPR本身的工作量,尤其是在AI系统场景下:57%的受访者认为最大难题是保障数据最小化,其他高占比挑战包括数据全生命周期管理(54%)、算法决策的透明度与可解释性(53%)、数据及模型安全(51%)、目的限制原则(47%)、数据主体权利(46%)以及数据保护影响评估(AIPD,45%)。AI Act合规则带来了额外难题:识别AI系统风险等级(62%)、从供应商处获取并整理文档(53%)、协调AIPD与基本权利影响评估(AIPF,41%)、检测与纠正偏见(40%)、确保预测/决策及生成数据的可靠性(39%),以及保证系统可解释性(38%)。

从机构准备度看,在已使用或计划使用AI系统的组织中,仅6%表示已为AI Act落地做好充分准备,25%正处于准备阶段(如在进行分析),28%认识到重要性却未启动具体行动,27%自认了解甚少或不知情,另有10%认为不适用(未使用高风险AI)。约19%已制定正式的AI战略或政策,46%正在拟定中(千人以上企业达50%,50人以下机构为36%)。

在治理参与方面,若组织已设或正在筹备AI治理架构,DPO在39%的案例中为主要负责人之一(IT/技术主管占44%)。当存在AI伦理委员会等类似机构时(仅20%的受访组织),DPO有66%会定期参与会议。从项目全流程看,42%的DPO表示深度介入AI项目各阶段,具体分布为:创意/初始设计阶段24%,模型开发/训练阶段9%,测试验证阶段14%,生产部署前26%,运营期18%。

DPO普遍认为,伴随AI项目使自身角色更趋战略化(27%),但同时也更复杂、技术性更强(58%);虽有37%视之为发展机遇,仍有33%明确指出这意味着工作量显著增加。截至调查时,仅15%的DPO接受过AI专项培训,三分之二表示缺乏合适的工具或方法来评估AI Act合规性。其优先培训需求聚焦于AI Act与GDPR的衔接,以及AI特定风险评估的方法论。

Summary
A CNIL survey of 2,390 DPOs reveals 55% already oversee AI Act compliance and 71% want it within their remit, though the regulation doesn’t mandate their role. Only 6% of organizations are well-prepared, with key challenges including risk-level identification and documentation, while DPOs see the AI Act as a strategic opportunity but also a significant workload increase requiring new skills and tools.

Data protection officers in France are divided over whether the EU’s AI Act should fall within their scope. A survey of 2,390 DPOs—1,896 internal, 234 shared, and 260 external—shows 55% already have AI Act compliance as part of their responsibilities, and 71% want their role to encompass it. The CNIL, France’s data protection authority, sees no obvious answer. While it has reminded organisations of the obligation to involve DPOs in AI-related data processing, it stresses that the AI Act does not mention the role and demands skills “not necessarily those expected of a DPO,” though it recommends “judicious mobilisation” of GDPR expertise given overlapping risk-based approaches, accountability, documentation, and transparency requirements.

For AI systems, the main GDPR challenges reported are data minimisation (57% of respondents), managing the data lifecycle (54%), algorithmic transparency and explainability (53%), and securing data and models (51%). The AI Act adds distinct hurdles: identifying system risk levels tops the list (62%), followed by obtaining documentation from providers (53%), aligning data protection impact assessments with fundamental rights impact assessments (41%), and detecting or correcting biases (40%). Ensuring reliability of AI outputs and explainability remain pressing concerns.

Preparedness is thin. Only 6% of organisations using or planning to use AI are well-prepared for the AI Act, while 25% are in preparation (conducting impact analyses), 28% are aware but have taken no action, and 27% are poorly informed. Formal AI strategies exist in just 19% of organisations; 46% are drafting one, more commonly in structures with over 1,000 employees (50%) than in those with fewer than 50 (36%). Where strategies are in place or being developed, DPOs lead governance in 39% of cases—slightly behind CIOs/CTOs (44%)—and 66% regularly sit on ethics or AI committees, though such bodies exist in only 20% of organisations.

DPOs are involved across the full AI project lifecycle in 42% of cases, with peak engagement just before deployment (26%) and at the ideation stage (24%). Most (58%) say this makes their role more complex and technical; 27% see it as more strategic. It is viewed as an opportunity for professional growth by 37%, but a clear workload increase by 33%. Skills gaps are stark: only 15% have undergone specific AI training, and two-thirds lack tools to assess AI Act compliance. Priority training needs are the interplay with GDPR and AI-specific risk assessment methodologies.

The study, conducted by Afpa for the CNIL, the Ministry of Labour, and the AFCDP, captures a profession at an inflection point, with expanding expectations that outpace clarity and resources. Except where noted, all figures relate to organisations that use AI.

Résumé
Selon une enquête de la CNIL, 55 % des délégués à la protection des données (DPO) ont déjà l’AI Act dans leur périmètre et 71 % souhaitent l’y inclure, même si le règlement ne les mentionne pas. Peu d’organisations sont préparées (6 %) et les principaux défis identifiés sont l’évaluation du niveau de risque des systèmes d’IA (62 %) et l’articulation avec le RGPD, ce qui alourdit la charge de travail des DPO tout en rendant leur rôle plus stratégique. La CNIL préconise une mobilisation de leur expertise mais souligne un besoin de formation, seuls 15 % ayant suivi un cursus spécifique à l’IA.

Chez les DPO, il y a ceux qui perçoivent la conformité à l’AI Act comme un « prolongement naturel » de leurs missions. Et ceux qui estiment qu’elle ne relève pas de leur périmètre.

De ces deux orientations, aucune « n’apparaît s’imposer avec la force de l’évidence », pour reprendre les propos de la CNIL. La dernière vague de l’observatoire du métier des DPO* en témoigne… dans une certaine mesure. Ils sont 2390 à avoir répondu à l’enquête (1896 internes, 234 mutualisés, 260 externes). 55 % ont déjà l’AI Act dans leur périmètre de responsabilité et 71 % souhaitent que leur fonction l’englobe.

Le DPO, pas mentionné dans l’AI Act

En novembre 2025, au lancement de l’enquête, la CNIL avait rappelé l’obligation d’impliquer les DPO sur les traitements de données mis en œuvre par l’IA. Cela ne suppose toutefois pas forcément d’en faire les chefs de file sur la conformité à l’AI Act, avait-elle précisé. D’autant que le règlement ne mentionne pas explicitement les DPO.

La Commission avait ajouté que l’application de l’AI Act nécessiterait la mobilisation de compétences qui « ne sont pas nécessairement celles attendues du DPO ». Elle avait néanmoins appelé à une « mobilisation judicieuse » de leur expertise RGPD, vu les similarités entre les deux règlements (approche par les risques, principe de responsabilité, exigence de documentation et de transparence, etc.).

Principal défi : identifier le niveau de risque

Un élément ne plaide pas en faveur de la prise en charge de l’AI Act par les DPO : la charge de travail que représente déjà le RGPD. Y compris appliqué aux systèmes d’IA. Principaux défis en la matière :

Garantir la minimisation des données (57 % des DPO ont sélectionné cette option)

Gérer le cycle de vie des données (54 %)

Assurer la transparence et l’explicabilité des décisions algorithmiques (53 %)

Sécuriser les données et les modèles d’IA (51 %)

Respecter le principe de la limitation des finalités (47 %)

Gérer les droits des personnes concernées (46 %)

Réaliser les études d’impact sur la protection des données personnelles (AIPD ; 45 %)

L’AI Act engendre d’autres défis :

Identifier le niveau de risque des systèmes d’IA (62 %)

Documenter et obtenir de la documentation auprès des prestataires (53 %)

Assurer l’articulation entre AIPD et AIPF (analyses d’impact sur la protection des droits fondamentaux ; 41 %)

Détecter, prévenir et corriger les biais (40 %)

Assurer la fiabilité des prédictions/décisions et des données produites (39 %)

Assurer l’explicabilité des systèmes d’IA (38 %)

Peu de politiques IA formalisées jusque-là

Selon les DPO, parmi les structures qui utilisent des systèmes d’IA ou qui le prévoient, 6 % sont bien préparées à l’application de l’AI Act. Elles sont 25 % en phase de préparation (analyse des impacts en cours). 28 % sont « conscientes des enjeux » mais n’ont pas lancé d’actions concrètes. 27 % se disent peu ou pas informées. 10 % se déclarent non concernées (pas d’utilisation d’IA à risque).

Environ une sur cinq (19 %) a une stratégie ou une politique formelle pour l’IA. 46 % en ont une en cours de préparation (50 % dans les structures de plus de 1000 salariés ; 36 % dans celles de moins de 50).

Lorsqu’une stratégie existe ou est en préparation, les DPO font partie des principaux responsables de la gouvernance dans 39 % des cas (44 % pour les DSI/CTO). Ils sont plus nombreux (66 %) à participer régulièrement aux comités d’éthique – ou autres organes similaires dédiés à l’IA -… lorsque ces derniers existent (20 % des cas).

Une opportunité d’évolution, mais une nette charge de travail

42 % des DPO se disent impliqués tout au long des projets d’IA. Détail phase par phase :

24 % sur l’idéation/conception initiale

9 % sur le développement/entraînement des modèles

14 % dans les tests/validations

26 % avant le déploiement en production

18 % pendant l’exploitation

Les DPO estiment que l’accompagnement de ces projets rend leur rôle plus stratégique (27 %), mais aussi plus complexe et technique (58 %). Si c’est une opportunité d’évolution (37 %), c’est aussi une nette augmentation de la charge de travail (33 %).

Au moment de répondre à l’enquête (novembre 2025), peu avaient suivi une formation spécifique à l’IA (15 %). Les deux tiers disaient manquer d’outils ou de méthodes adaptés pour évaluer la conformité à l’AI Act. Les priorités de formation vont à l’articulation avec le RGPD et aux méthodologies d’évaluation des risques spécifiques à l’IA.

À consulter en complément :

Comment interpréter les obligations de transparence de l’AI Act

La CNIL joue les généalogistes des modèles d’IA

REGALIA, une synthèse des enjeux de régulation des algorithmes

Le projet PANAME teste sa bibliothèque d’audit de confidentialité des LLM

L’omnibus numérique fait tiquer les CNIL européennes

Face aux saisines, une société ne peut invoquer les droits RGPD de ses salariés

* Étude de l’Agence nationale pour la formation professionnelle des adultes (Afpa), pour la CNIL, le ministère du Travail et l’Association française des correspondants à la protection des données (AFCDP). Sauf si précisé, les taux annoncés sont rapportés aux structures qui utilisent de l’IA.

Illustration générée par IA

The post L’AI Act doit-il être l’affaire des DPO ? appeared first on Silicon.fr.

AI Insight
Core Point

法国数据保护官(DPO)群体是否应负责《AI法案》合规存在分歧,但71%的DPO希望将其纳入职责,显示出数据保护与AI治理职能的加速融合趋势。

Key Players
  • CNIL — 法国数据保护监管机构,负责GDPR与AI法案相关指引,位于巴黎。
  • Afpa — 法国成人职业培训国家机构,主导本次DPO职业观察调查。
  • AFCDP — 法国数据保护官协会,联合发布调查,代表DPO职业社群。
Industry Impact
  • ICT: 高 — 企业需整合GDPR与AI法案合规体系,DPO角色向AI风险治理扩展将重塑IT治理结构。
  • Computing/AI: 高 — 直接影响AI系统开发、部署与风险评估方法,尤其对透明度、可解释性、偏差纠正提出明确要求。
Tracking

强烈追踪 — 《AI法案》合规责任归属将决定企业数据与AI治理架构,调查显示仅6%企业就绪,技能缺口与工具缺失问题突出,将引发大量咨询与培训需求。

Related Companies
neutral
CNIL
mature
neutral
neutral
neutral
Categories
人工智能 软件 网络安全
AI Processing
2026-07-07 17:03
deepseek / deepseek-v4-pro