Première bougie soufflée pour le Conseil national de l’IA et du numérique (CIANum).
Le 23 juillet 2025, le Gouvernement avait installé cette nouvelle incarnation du Conseil national du numérique (CNNum). Depuis, elle a produit, entre autres, deux rapports, respectivement au sujet de la souveraineté numérique et de l’IA dans le système éducatif. Elle a aussi publié 5 notes.
Ne dites pas « agents IA », mais « IA agentique »
La première de ces notes, datée de février 2026, traite de l’IA agentique.
Le CIANum suggère de privilégier ce terme à celui d’« agents IA ». Cela évite, estime-t-il, de réduire la discussion à une opposition binaire entre automatisation et contrôle humain.
La note distingue 5 degrés d’autonomie des IA agentiques :
Automatisation simple fondée sur la reproduction de règles
Agents capables d’extraire des données ou d’analyser des documents
Flux de travail agentiques (enchaînement d’étapes dans des processus alternant automatisation de tâches et validation humaine)
Flux d’agents semi-autonomes (sensibles au contexte et capables de préparer puis de prendre des décisions)
Agents entièrement autonomes
Le CIANum synthétise quelques avancées technologiques, de l’allongement des fenêtres de contexte aux méthodes de post-entraînement. Il revient sur les limites techniques (effets de cascade, dérive d’orchestration, désalignement sémantique, sécurité des données, etc.) et les enjeux éthiques, sociétaux et juridiques (responsabilités, biais algorithmiques, transparence et intelligibilité des IA…).
Une partie de la note est consacrée au remplacement du travail humain. Le CIANum y constate notamment la lenteur de pénétration de l’IA dans les entreprises lorsque la part des tâches automatisées correspond à moins de 20 % des tâches d’un métier.
Une réaction au lancement de Claude Mythos…
En avril avait suivi une note sur le sujet IA & cybersécurité. Anthropic venait de lancer Claude Mythos, alors ouvert à une quarantaine d’organisations quasi exclusivement américaines.
Projectant un accroissement des corrections de vulnérabilités logicielles, le CIANum s’était inquiété de la potentielle incapacité des SI à suivre le rythme de patching. Il avait aussi appelé à se méfier de la tendance des fournisseurs à vanter la « dangerosité » de leurs modèles si ces derniers venaientà tomber entre de mauvaises mains. Une « manière habile » de susciter l’intérêt du public… et des investisseurs, estimait-il. Et de faire référence, en particulier, au « sommet sur la moralité de l’IA » qu’Anthropic avait organisé avec une quinzaine de membres du clergé catholique.
La note insistait aussi, entre autres, sur le besoin de renforcer les capacités d’évaluation des modèles. Elle soulignait la forte asymétrie d’informations dont la France souffrait par rapport aux écosystèmes britannique, américain et chinois.
… puis à la suspension de l’accès
En juin 2026, une autre note était intervenue après la suspension – unilatérale et sans préavis – de l’accès à Fable 5 et Mythos 5 pour les non-Américains.
Le CIANum y avait perçu une « étape supplémentaire, significative et inédite » vers la généralisation pratique du risque du « kill switch », dans le prolongement de la stratégie de « containment » jusque-là incarnée principalement par les restrictions à l’exportation de puces NVIDIA.
La menace sur l’autonomie numérique européenne est devenue une réalité tangible, avait résumé le CIANum, invitant chacun à « faire et maintenir à jour son analyse de risque ». En écho à sa note précédente, il avait rappelé la grammaire du risque catastrophique voire existentiel dont les GAFAM usent pour justifier l’idée que seule une poignée d’acteurs devraient disposer des technologies les plus avancées.
Dans ce contexte, le CIANum avait appelé à une accélération sur le chantier de la préférence européenne dans la commande publique. Ainsi que sur les mesures de market shaping (portabilité, interopérabilité, incitations fiscales ou réglementaires…).
Un point sur les frictions entre RGPD et IA agentique
La dernière note en date (juillet) aborde l’application du RGPD à l’IA agentique.
Cette dernière, de par son fonctionnement, met sous tension plusieurs principes qu’établit le règlement. Parmi eux :
Finalité (les capacités généralistes des systèmes d’IA agentique peuvent compliquer l’identification des traitements)
Licéité (l’autonomie de ces systèmes peut compliquer l’établissement d’un lien entre la base juridique initialement choisie et les opérations réalisées ultérieurement)
Minimisation (avec la mobilisation de grandes quantités de données et leur partage entre agents, la nécessité des traitements n’est pas toujours évidente à démontrer)
Exactitude (la nature probabiliste des modèles implique un risque d’erreur qui peut se propager)
Transparence (sorties difficiles à expliquer)
Limitation de la durée de conservation (tensions avec la conservation de jeux de données pour l’entraînement et l’amélioration des modèles)
Des difficultés se posent en conséquence sur l’exercice effectif des droits des personnes concernées (accès, rectification, effacement, opposition, limitation du traitement). L’IA agentique amplifie le problème en raison de la multiplication des flux et des espaces de mémoire, dont la synchronisation peut par ailleurs compromettre l’exactitude des données traitées.
Une invitation à mieux cloisonner les systèmes agentiques
Le CIANum pointe aussi la difficulté à apprécier le degré réel de supervision humaine dans le processus décisionnel de ces systèmes. Or, toute personne, en vertu du RGPD, a le droit de ne pas faire l’objet de décisions individuelles automatisées.
L’opacité complique aussi l’attribution des responsabilités. En la matière, l’AI Act n’impose pas de régime exprès. Mais, à travers son approche distinguant les acteurs de la chaîne de valeur, il en instaure une forme.
La circulation continue des données plus globalement des points de faiblesse allant du risque de fuite et de manipulation des données à leur réutilisation non maîtrisée.
La Commission européenne et le CEPD (Contrôleur européen de la protection des données) préparent pour cette année des lignes directrices sur l’articulation RGPD / AI Act.
Du côté du CIANum, on invite à préciser l’encadrement des décisions automatisées et à envisager des mesures de détection/filtrage des usages non prévus ou détournés. On appelle aussi à cloisonner la mémoire des systèmes (à chaque agent la sienne, sans accès automatique aux données des autres agents). Et à limiter leur taille, par exemple en faisant expirer les informations au bout d’un certain temps ou en les remplaçant régulièrement par de plus récentes. La mémoire pourrait même être cloisonnée par traitement afin de limiter le stockage excessif de données.
Protection des mineurs : le ciblage de plates-formes spécifiques déplaît au CIANum
Au milieu de ces notes consacrées à l’IA, le CIANum en publié une dédiée à la protection des mineurs en ligne. C’était en mars 2026. En toile de fond, la proposition de loi ayant pour principal effet d’interdire les réseaux sociaux au moins de 15 ans. L’Assemblée nationale venait de l’adopter en première lecture.
L’Australie avait été le premier pays à voter une telle interdiction, avec une limite à 16 ans. Entrée en vigueur en décembre 2025, elle vise Facebook, Instagram, Kick, Reddit, Snapchat, Threads, TikTok, Twitch, X et YouTube.
Le CIANum adhère peu à cette approche ciblée sur des plates-formes spécifiques. Il redoute un report sur des plates-formes plus obscures. Et de donner l’exemple de Roblox, non assujetti à la loi, mais sur lequel existeraient des dizaines de groupes de plus de 100 000 membres s’échangeant des contenus pédocriminels et sollicitant des actes sexuels auprès des mineurs.
En mars, l’Australie a fait évoluer son approche, par l’intermédiaire de codes de sécurité en ligne. Ils visent des contenus (violence à fort impact, pornographie, promotion du suicide…) et s’appliquent à un large éventail de services (chatbots, magasins d’applications, jeux en ligne, moteurs de recherche…). Objectif : que les enfants vivent des expériences en ligne adaptées à leur âge.
La France a une approche plus restrictive. Sa loi ne vise en l’occurrence que les « services de réseaux sociaux en ligne fournis par une plate-forme en ligne ». Le CIANum regrette qu’elle se prive ainsi de contrôler d’autres plates-formes dont certains contenus peuvent être nocifs. A fortiori à l’heure où « les usages évoluent et se déplacent ».
Contrôle de l’âge : des perspectives autour du portefeuille numérique européen
Pour le contrôle de l’âge, la Commission européenne distingue trois méthodes : l’autodéclaration, l’estimation (par reconnaissance faciale ou croisement de données d’usage, notamment) et la communication de preuves (identifiants physiques ou sources d’identification vérifiées).
L’Australie n’a pas imposé aux plates-formes des méthodes spécifiques. Elle a toutefois exprimé des préoccupations, en particulier à l’égard de Snapchat, qui ne vérifierait pas que la reconnaissance faciale se fait sur des images réelles.
En France, la loi SREN (mai 2024) laisse également le choix aux services qui diffusent des contenus pornographiques. Ils doivent néanmoins respectent les exigences techniques du référentiel associé (publié en octobre 2024).
Allemagne, Danemark, Espagne et Italie ont mis en place des obligations similaires. Les lignes directrices de la Commission européenne complétant le DSA sécurisent la démarche. Des réflexions sont portées autour du portefeuille numérique européen, chaque État membre devant en proposer au moins un au plus tard pour 2026. Une expérience a été lancée dans 5 États membres – dont la France – sur la vérification de l’âge pour l’accès aux réseaux sociaux.
Le CIANum, pas enthousiasmé par les plages horaires de déconnexion
La mise en place d’une règle unique peut interroger, explique le CIANum : les besoins de protection varient en fonction de l’âge et du degré de maturité. Certaines plates-formes profitent de ce débat pour plaider un contrôle au niveau de l’appareil, lors de la création d’un compte sur un magasin d’applications ou via l’OS. Pour le CIANum, cette option est trop extensive au regard du faible nombre de services concernés in fine. Elle pousserait de plus les développeurs des services en question à se soustraire à leurs obligations. Et serait peu compatible avec les outils numériques partagés, par exemple au sein d’un foyer.
Quant à l’idée d’imposer des plages horaires de déconnexion, le CIANum rétorque que le temps passé en ligne ne dit rien des pratiques et des contenus visionnés. Il rappelle que la Corée du Sud avait mis cette technique en œuvre entre 2011 et 2021. Elle l’avait levée en raison de son périmètre trop étroit (jeux en ligne).
L’idée d’un droit global au paramétrage des interfaces
Le CIANum a une autre crainte : que les mesures ciblées sur les mineurs « débrident » les espaces numériques pour les autres utilisateurs. Il en appelle ainsi à un consacrer un droit global au paramétrage des interfaces. Cela passerait par des options de filtrage renforcé. Y compris via des algorithmes conçus par des tiers, parallèlement à des services externes de modération contrôlés et labellisés.
Le DSA impose la fourniture d’informations sur les outils de modération et les principaux paramètres des algorithmes de recommandation. Mais, d’après le CIANum, cela produit des rapports techniques peu lisibles par le grand public ; et qui ne permettent pas de bien saisir les logiques économiques et attentionnelles qui structurent les systèmes.
Le CIANum relance également l’idée de repenser la dichotomie hébergeur/éditeur. Au titre de la directive e-commerce, les réseaux sociaux bénéficient d’un régime allégé : ils ne sont responsables des contenus que leurs utilisateurs publient sauf s’ils en ont eu connaissance effective ou qu’ils n’ont pas agi promptement pour les retirer. Dès 2014, le Conseil d’État avait recommandé de dépasser cette dualité pour consacrer un statut spécifique. Le DSA ne va pas jusque-là, mais distingue, au sein des hébergeurs, les plates-formes en ligne. Et leur impose un régime plus exigeant. La révision du règlement en 2027 pourrait constituer un moment opportun pour passer à une logique de responsabilité, affirme le CIANum.
Souveraineté numérique : gare à la compétition entre territoires
Le rapport sur la souveraineté numérique est paru en mai. Le CIANum y constate un « décalage persistant » entre le discours et la pratique de l’État, dont les services « continuent [en majorité] à recourir massivement aux solutions propriétaires étrangères ».
Au niveau interministériel, la DINUM manque de moyens et de pouvoir contraignant pour imposer une approche unifiée. Le travail en silos se retrouve au niveau des entreprises publiques et des collectivités territoriales. D’autant plus que, d’après le CIANum, l’État a instauré une compétition entre territoires (notamment pour accéder à des financements publics), conduisant chacun à se spécialiser sur un volet numérique.
Des initiatives montrent néanmoins une volonté croissante de coordination avec le privé, reconnaît le CIANum. Il mentionne FranceConnect et ProConnect, « modèles de réussite en matière de gouvernance et de coopération public-privé ». Il évoque aussi la participation de la DINUM à l’initiative Open Interop, que porte le comité stratégique de filière « logiciels et solutions numériques de confiance ».
Inscrire les financements publics dans la durée
Reste que le financement public des communs numériques et du logiciel libre est insuffisant. Y compris au niveau européen, faute de critères adaptés à leur modèle collaboratif.
Autre remarque : les financements ne s’inscrivent pas toujours assez dans la durée. Le CIANum donne l’exemple du programme investissements d’avenir (PIA), qui a financé de nombreux projets sur 18 à 36 mois. D’autres initiatives ont abouti à un « saupoudrage inefficace », à l’image d’ALT-EDIC et du consortium LLM4EU (40 M€ répartis entre 70 acteurs).
Le sous-financement tient peut-être en partie à la confusion entre libre et gratuit. Celle-ci engendre plus globalement des attentes jugées irréalistes en matière de niveau de service.
Une « Fabrique des communs numériques » pour gouverner la demande
Pour concrétiser une gouvernance de la demande, le CIANum souhaite la création d’une « Fabrique des communs numériques ». Elle pourrait notamment associer l’État, la Caisse des dépôts, les associations de collectivités, les DSI des grandes entreprises et les représentants de fournisseurs de solutions et des communautés de mainteneurs.
L’Ariane (Autorité du numérique et de l’IA) assurerait la mise en œuvre de cette structure qui :
Consoliderait les diagnostics de dépendances
Élaborerait une cartographie nationale de l’existant, dans la lignée du Socle interministériel de logiciels libres
Attribuerait un label à des solutions sur étagère répondant à des critères de gouvernance ouverte, d’interopérabilité et de pérennité
Déclencherait des financements ciblés (via ses partenaires, via des appels à communs ou via un fonds propre dédié aux communs numériques)
Contribuerait à la gouvernance active de communautés open source
Rendrait visibles les structures juridiques adaptées aux communs numériques
SCOP, SIEG, SCIC… Des véhicules juridiques mobilisables pour les communs numériques
Parmi les véhicules mobilisables :
SCOP (sociétés coopératives et participatives)
Elles ont l’avantage de favoriser un attachement durable aux valeurs initiales du projet, qui ne dépend pas du choix d’un actionnaire majoritaire.
SCIC (sociétés coopératives d’intérêt collectif)
Gouvernance multipartite, avec possibilité d’intégrer des acteurs publics et privés en maintenant une finalité de « lucrativité limitée ».
SIEG (services d’intérêt économique général)
Permet de financer durablement la maintenance de communs numériques reconnus comme relevant de l’intérêt général, sans les procédures lourdes des marchés publics classiques.
AAC (appels à communs)
Identification de défis d’intérêt général et financement d’un consortium qui s’engage à contribuer à un commun partager.
Fabriques de communs
Incubateurs sans structure juridique qui lancent des « appels à idées » et sélectionnent des projets faisant alors l’objet d’un appel à intrapreneurs et à partenaires.
Le CIANum suggère aussi d’étudier la transposition en droit français du modèle des fiducies d’utilité sociale. Développées au Québec, elles permettent à des organisations de partager leurs données dans un environnement de confiance avec gouvernance collective.
Au niveau européen, un levier pourrait consister à élargir le mandat du consortium DC-EDIC, avec des missions sur le modèle de celles que la Fabrique des communs numériques endosserait en France.
Au sein de l’Éducation nationale, les usages innovants de l’IA restent dans l’ombre
Le rapport sur l’IA dans le système éducatif a été publié en juin.
Le CIANum y souligne les démarches de la France. Dont un cadre d’usage sur l’IA en éducation « parmi les plus complets à l’échelle internationale en termes d’appréhension de ce que sont les modèles de langage, leurs effets et leur encadrement juridique ». Le « dernier kilomètre » reste toutefois à accomplir. Témoin le nombre d’enseignants formés, « particulièrement faible » comparativement aux autres pays européens. Faute de cadre clair, ceux qui innovent le font dans l’ombre : leurs usages restent peu documentés.
Les outils basés sur l’IA peuvent permettre une personnalisation des parcours et une meilleure inclusion des élèves. Ils peuvent aussi fournir un moyen d’aborder des enjeux sociétaux. Le CIANum en veut pour preuve le programme Internet Sans Crainte. Il organise, de la quatrième au lycée, des « IAckathons » où les élèves imaginent des solutions concrètes intégrant l’IA pour répondre à des défis contemporains.
Sur la personnalisation des parcours, le CIANum cite la plate-forme Lailo, destinée aux enseignants de CP, CE1 et CE2. Elle aide à différencier l’apprentissage de la lecture en fonction de l’avancement de chaque élève.
Face au risque de « démission cognitive », soutenir les designs « socratiques »
Revers de la médaille : les outils à base d’IA posent le risque d’une « démission cognitive ». Sur ce point, le CIANum se réfère notamment à une étude MIT Media Lab à base d’électroencéphalogrammes. Elle a montré que les participants utilisant un LLM pour réviser retenaient nettement moins bien que ceux ayant recours à d’autres méthodes. De là, un appel à privilégier un design « socratique », qui exerce l’esprit critique. Exemple : l’application Khanmigo (non distribuée en France). Elle ne donne jamais la réponse directement, mais guide l’élève par des questions successives. La CIANum suggère de lancer un appel d’offres afin de sélectionner une app de ce type pour le collège et une pour le lycée d’ici à fin 2026.
Autre risque : l’isolation des élèves. On touche ici, en particulier, au biais dit « sycophantique ». Ou comment l’IA dit à l’utilisateur ce qu’il a envie d’entendre. À ce sujet, le CIANum mobilise les constatations d’Oxford et de Stanford : exposés à une IA complaisante, les humains perdent progressivement leur préférence du contact humain pour le soutien émotionnel et l’estime de soi.
Dans le même ordre d’idée, l’ultra-individualisation peut conduire à ne plus soucier du fonctionnement des autres. Un enfant pourrait ne plus avoir la « patience sociale » requise pour tenir compte des conséquences de l’état émotionnel et cognitif de ses interlocuteurs.
Des épreuves orales aux projets collaboratifs, repenser les modalités d’évaluation
Le CIANum avertit : l’accessibilité d’outils comme ChatGPT crée une illusion de simplicité, alors que ces technologies ne sont pas conçues pour un usage éducatif. Il y a aussi illusion de gratuité, alors qu’il est probable que le coût des modèles de langage de qualité croîtra avec les années.
La diffusion de l’IA impose également de repenser les modèles d’évaluation. Entre autres en l’axant davantage sur les processus que sur le résultat, tout en donnant de l’importance à la vérification par oral et aux projets collaboratifs.
La CIANum incite plus généralement à ménager des « temps sans IA » pour garantir la consolidation des savoirs fondamentaux acquis. « Un élève qui sait être fort sans l’IA et qui sait aussi à quel moment et selon quel protocole l’utilisaer sera le mieux préparé à la société qui se dessine », affirme-t-il.
Passer du « référent numérique » au « référent IA »… quitte à changer le titulaire
Opérationnaliser ce principe d’éducation dépendra de la capacité des enseignants à adapter l’usage de l’IA en fonction des objectifs pédagogiques. D’où la recommandation d’établir un programme massif de formation continue. Une évolution immédiate consisterait à généraliser un module dans la LPE (licence Professorat des écoles) et le M2E (master Enseignement et éducation). Sur la partie en ligne, le CIANum préconise de capitaliser sur des ressources comme la MOOC « IA pour et par les enseignants », qu’Inria a conçu. Il suggère aussi de nommer, dans chaque établissement du secondaire, 1 ou 2 enseignants « référents IA ». Y compris en réinterrogeant la fonction de référent numérique, quitte à en changer le titulaire.
Concernant les élèves, le Premier ministre a promis qu’à partir de la rentrée 2027, ils auraient, en classe de seconde, une heure par semaine d’enseignement à l’IA. Le CIANum demande à aller plus loin, pour inclure un programme structuré d’éducation au numérique, à l’IA, aux médias et à l’information, comme il en existe un pour l’éducation à la vie affective, relationnelle et sexuelle. Il conseille aussi de former jusqu’aux médecins scolaires, sur les enjeux de santé mentale et les risques cognitifs. Et d’organiser, à partir de la rentrée 2027, des ateliers sous leur responsabilité.
Illustration générée par IA
The post En un an, qu’a produit le Conseil de l’IA et du numérique ? appeared first on Silicon.fr.
