One year after the government installed the Conseil national de l’IA et du numérique (CIANum) on 23 July 2025 as the new version of the former CNNum, the body has published two reports and five notes, covering digital sovereignty, AI in education, cybersecurity, online child protection and the legal tensions created by agentic AI.

Its first note, released in February 2026, argues for using the term “IA agentique” rather than “agents IA,” to avoid framing the debate as a simplistic choice between automation and human control. The CIANum sets out five levels of autonomy: simple rule-based automation; agents that extract data or analyse documents; agentic workflows combining automated steps and human validation; semi-autonomous agent flows that can prepare and make decisions; and fully autonomous agents. It also reviews technical progress such as longer context windows and post-training methods, while warning about cascading effects, orchestration drift, semantic misalignment, data security and broader ethical, social and legal issues including liability, bias, transparency and intelligibility. It notes that AI adoption in companies remains slow when automated tasks account for less than 20% of a job.

In April, a note on AI and cybersecurity followed Anthropic’s launch of Claude Mythos, then available to around 40 mostly US organisations. The CIANum warned that the expected rise in software vulnerability fixes could outpace IT systems’ patching capacity. It also criticised vendors’ habit of emphasising how “dangerous” their models could be in the wrong hands, calling it a clever way to attract public and investor attention, and referred in particular to Anthropic’s “summit on the morality of AI” with about 15 Catholic clergy members. The note stressed the need to strengthen model evaluation capabilities and highlighted France’s information asymmetry versus the UK, US and China.

A June 2026 note came after the unilateral, no-notice suspension of access to Fable 5 and Mythos 5 for non-Americans. The CIANum saw this as a “significant and unprecedented further step” toward the practical generalisation of “kill switch” risk, extending the containment logic previously associated mainly with NVIDIA chip export restrictions. It said European digital autonomy had become a tangible reality and urged organisations to keep risk analyses up to date. It also called for faster action on European preference in public procurement and on market-shaping tools such as portability, interoperability and fiscal or regulatory incentives.

The latest note, in July, examines how the GDPR applies to agentic AI. It says these systems strain several core principles: purpose limitation, because general-purpose capabilities make it harder to identify processing; lawfulness, because autonomy complicates the link between the original legal basis and later operations; data minimisation, given the volume of data and sharing between agents; accuracy, because probabilistic models can propagate errors; transparency, because outputs are hard to explain; and storage limitation, due to tensions with retaining datasets for training and improvement. These issues also make it harder for individuals to exercise rights of access, rectification, erasure, objection and restriction. The CIANum warns that synchronising multiple memory spaces can itself undermine data accuracy, and that opacity complicates attribution of responsibility. It notes that the AI Act does not impose an explicit liability regime, though its value-chain approach creates a de facto one. It urges clearer rules on automated decisions, detection and filtering of unintended or diverted uses, and tighter compartmentalisation of agent memory, with each agent having its own memory and no automatic access to others’, plus limits on memory size and retention.

In March 2026, the CIANum also published a note on protecting minors online, against the backdrop of a French bill adopted in first reading by the National Assembly that would ban social networks for under-15s. It is sceptical of platform-specific bans, fearing migration to less visible services. It cites Roblox as an example: not covered by the law, yet allegedly hosting dozens of groups with more than 100,000 members exchanging child sexual abuse material and soliciting sexual acts from minors. The CIANum contrasts France’s narrow approach with Australia’s broader online safety codes, introduced in March and aimed at harmful content such as high-impact violence, pornography and suicide promotion across chatbots, app stores, online games and search engines. France’s law, by contrast, targets only “online social networking services provided by an online platform,” which the CIANum says leaves out other harmful environments.

On age verification, the Commission distinguishes self-declaration, estimation and proof-based methods. Australia left platforms free to choose, though it raised concerns about Snapchat’s facial recognition checks. France’s SREN law of May 2024 similarly leaves pornographic services free to choose, provided they meet the technical requirements of the October 2024 reference framework. Germany, Denmark, Spain and Italy have adopted similar obligations, while the Commission’s DSA guidance and work on the European Digital Identity Wallet are helping to secure the approach. A pilot involving five member states, including France, is testing age verification for social network access. The CIANum is unconvinced by device-level controls or fixed disconnection windows, arguing that screen time says little about content or behaviour and that such measures are too broad, could encourage circumvention and are poorly suited to shared devices. It instead calls for a general right to interface configuration, stronger filtering options, third-party moderation tools and a rethink of the host/publisher divide. It says the DSA’s transparency rules still produce technical reports that are hard for the public to read, and suggests the 2027 review of the regulation could be the right moment to move toward a true liability logic.

The May report on digital sovereignty says there is still a persistent gap between the state’s rhetoric and practice, with public services continuing to rely heavily on foreign proprietary solutions. The DINUM lacks the resources and binding authority to impose a unified approach, while silos persist across public enterprises and local authorities. The CIANum also criticises the state for fostering competition between territories for public funding, pushing each to specialise in a digital niche. It does, however, point to FranceConnect, ProConnect and DINUM’s participation in Open Interop as successful examples of public-private cooperation. It says funding for digital commons and open source remains insufficient, including at EU level, because collaborative models are poorly recognised. Funding is also too short-term: the PIA financed many projects for 18 to 36 months, while initiatives such as ALT-EDIC and LLM4EU spread €40 million across 70 actors. The CIANum argues that confusion between “free” and “gratis” fuels unrealistic expectations about service levels.

To govern demand more effectively, it proposes a “Fabrique des communs numériques,” bringing together the state, Caisse des dépôts, local authority associations, major corporate CIOs, solution providers and open-source maintainers. Run by the Ariane authority for digital and AI, it would map dependencies, build a national inventory aligned with the interministerial open-source baseline, label ready-made solutions meeting criteria for open governance, interoperability and durability, trigger targeted funding, support open-source communities and make suitable legal structures more visible. It lists SCOPs, SCICs, SIEGs, “appels à communs” and non-legal “fabriques de communs” as possible vehicles, and suggests studying Quebec’s social trust model. At EU level, it sees potential in expanding the DC-EDIC mandate.

The June report on AI in education says France already has one of the world’s most complete frameworks for understanding language models, their effects and legal oversight, but the “last mile” remains. Teacher training is still very limited compared with other European countries, and in the absence of a clear framework, innovative uses remain largely undocumented. The CIANum sees clear benefits in personalising learning and improving inclusion, citing Internet Sans Crainte’s “IAckathons” for students from lower secondary to high school and the Lailo platform for differentiating reading instruction in primary school.

But it warns of cognitive offloading. Referring to a MIT Media Lab EEG study, it says participants using an LLM to revise retained significantly less than those using other methods. It therefore favours “Socratic” designs that prompt critical thinking, such as Khanmigo, which never gives the answer directly but guides students through questions. It suggests a tender for one app for middle school and one for high school by end-2026. It also warns of social isolation and the “sycophantic” bias of AI systems that tell users what they want to hear; Oxford and Stanford findings suggest people exposed to flattering AI gradually prefer it over human emotional support and self-esteem. Over-individualisation, it says, may erode children’s “social patience” toward others’ emotional and cognitive states.

The CIANum says ChatGPT-like tools create an illusion of simplicity and free access, even though they are not designed for education and high-quality language models are likely to become more expensive. It calls for assessment methods to shift toward process rather than just outcomes, with more oral checks and collaborative projects, and for “AI-free” periods to consolidate core knowledge. Students who can perform without AI and know when and how to use it will be best prepared for the emerging society, it argues.

For teachers, it recommends a major continuing-training effort, including a module in the LPE and M2E, and making use of Inria’s “IA pour et par les enseignants” MOOC. It also wants one or two “AI referents” in every secondary school, potentially replacing the current digital referent role. For students, it notes the Prime Minister’s promise of one weekly hour of AI teaching in grade 10 from the 2027 school year, but says this should be expanded into a structured curriculum covering digital literacy, AI, media and information, similar to the existing programme on affective, relational and sexual education. It also wants school doctors trained on mental health and cognitive risks, with workshops under their responsibility from the 2027 school year.

Première bougie soufflée pour le Conseil national de l’IA et du numérique (CIANum).

Le 23 juillet 2025, le Gouvernement avait installé cette nouvelle incarnation du Conseil national du numérique (CNNum). Depuis, elle a produit, entre autres, deux rapports, respectivement au sujet de la souveraineté numérique et de l’IA dans le système éducatif. Elle a aussi publié 5 notes.

Ne dites pas « agents IA », mais « IA agentique »

La première de ces notes, datée de février 2026, traite de l’IA agentique.

Le CIANum suggère de privilégier ce terme à celui d’« agents IA ». Cela évite, estime-t-il, de réduire la discussion à une opposition binaire entre automatisation et contrôle humain.

La note distingue 5 degrés d’autonomie des IA agentiques :

Automatisation simple fondée sur la reproduction de règles

Agents capables d’extraire des données ou d’analyser des documents

Flux de travail agentiques (enchaînement d’étapes dans des processus alternant automatisation de tâches et validation humaine)

Flux d’agents semi-autonomes (sensibles au contexte et capables de préparer puis de prendre des décisions)

Agents entièrement autonomes

Le CIANum synthétise quelques avancées technologiques, de l’allongement des fenêtres de contexte aux méthodes de post-entraînement. Il revient sur les limites techniques (effets de cascade, dérive d’orchestration, désalignement sémantique, sécurité des données, etc.) et les enjeux éthiques, sociétaux et juridiques (responsabilités, biais algorithmiques, transparence et intelligibilité des IA…).

Une partie de la note est consacrée au remplacement du travail humain. Le CIANum y constate notamment la lenteur de pénétration de l’IA dans les entreprises lorsque la part des tâches automatisées correspond à moins de 20 % des tâches d’un métier.

Une réaction au lancement de Claude Mythos…

En avril avait suivi une note sur le sujet IA & cybersécurité. Anthropic venait de lancer Claude Mythos, alors ouvert à une quarantaine d’organisations quasi exclusivement américaines.

Projectant un accroissement des corrections de vulnérabilités logicielles, le CIANum s’était inquiété de la potentielle incapacité des SI à suivre le rythme de patching. Il avait aussi appelé à se méfier de la tendance des fournisseurs à vanter la « dangerosité » de leurs modèles si ces derniers venaientà tomber entre de mauvaises mains. Une « manière habile » de susciter l’intérêt du public… et des investisseurs, estimait-il. Et de faire référence, en particulier, au « sommet sur la moralité de l’IA » qu’Anthropic avait organisé avec une quinzaine de membres du clergé catholique.

La note insistait aussi, entre autres, sur le besoin de renforcer les capacités d’évaluation des modèles. Elle soulignait la forte asymétrie d’informations dont la France souffrait par rapport aux écosystèmes britannique, américain et chinois.

… puis à la suspension de l’accès

En juin 2026, une autre note était intervenue après la suspension – unilatérale et sans préavis – de l’accès à Fable 5 et Mythos 5 pour les non-Américains.

Le CIANum y avait perçu une « étape supplémentaire, significative et inédite » vers la généralisation pratique du risque du « kill switch », dans le prolongement de la stratégie de « containment » jusque-là incarnée principalement par les restrictions à l’exportation de puces NVIDIA.

La menace sur l’autonomie numérique européenne est devenue une réalité tangible, avait résumé le CIANum, invitant chacun à « faire et maintenir à jour son analyse de risque ». En écho à sa note précédente, il avait rappelé la grammaire du risque catastrophique voire existentiel dont les GAFAM usent pour justifier l’idée que seule une poignée d’acteurs devraient disposer des technologies les plus avancées.

Dans ce contexte, le CIANum avait appelé à une accélération sur le chantier de la préférence européenne dans la commande publique. Ainsi que sur les mesures de market shaping (portabilité, interopérabilité, incitations fiscales ou réglementaires…).

Un point sur les frictions entre RGPD et IA agentique

La dernière note en date (juillet) aborde l’application du RGPD à l’IA agentique.

Cette dernière, de par son fonctionnement, met sous tension plusieurs principes qu’établit le règlement. Parmi eux :

Finalité (les capacités généralistes des systèmes d’IA agentique peuvent compliquer l’identification des traitements)

Licéité (l’autonomie de ces systèmes peut compliquer l’établissement d’un lien entre la base juridique initialement choisie et les opérations réalisées ultérieurement)

Minimisation (avec la mobilisation de grandes quantités de données et leur partage entre agents, la nécessité des traitements n’est pas toujours évidente à démontrer)

Exactitude (la nature probabiliste des modèles implique un risque d’erreur qui peut se propager)

Transparence (sorties difficiles à expliquer)

Limitation de la durée de conservation (tensions avec la conservation de jeux de données pour l’entraînement et l’amélioration des modèles)

Des difficultés se posent en conséquence sur l’exercice effectif des droits des personnes concernées (accès, rectification, effacement, opposition, limitation du traitement). L’IA agentique amplifie le problème en raison de la multiplication des flux et des espaces de mémoire, dont la synchronisation peut par ailleurs compromettre l’exactitude des données traitées.

Une invitation à mieux cloisonner les systèmes agentiques

Le CIANum pointe aussi la difficulté à apprécier le degré réel de supervision humaine dans le processus décisionnel de ces systèmes. Or, toute personne, en vertu du RGPD, a le droit de ne pas faire l’objet de décisions individuelles automatisées.

L’opacité complique aussi l’attribution des responsabilités. En la matière, l’AI Act n’impose pas de régime exprès. Mais, à travers son approche distinguant les acteurs de la chaîne de valeur, il en instaure une forme.

La circulation continue des données plus globalement des points de faiblesse allant du risque de fuite et de manipulation des données à leur réutilisation non maîtrisée.

La Commission européenne et le CEPD (Contrôleur européen de la protection des données) préparent pour cette année des lignes directrices sur l’articulation RGPD / AI Act.

Du côté du CIANum, on invite à préciser l’encadrement des décisions automatisées et à envisager des mesures de détection/filtrage des usages non prévus ou détournés. On appelle aussi à cloisonner la mémoire des systèmes (à chaque agent la sienne, sans accès automatique aux données des autres agents). Et à limiter leur taille, par exemple en faisant expirer les informations au bout d’un certain temps ou en les remplaçant régulièrement par de plus récentes. La mémoire pourrait même être cloisonnée par traitement afin de limiter le stockage excessif de données.

Protection des mineurs : le ciblage de plates-formes spécifiques déplaît au CIANum

Au milieu de ces notes consacrées à l’IA, le CIANum en publié une dédiée à la protection des mineurs en ligne. C’était en mars 2026. En toile de fond, la proposition de loi ayant pour principal effet d’interdire les réseaux sociaux au moins de 15 ans. L’Assemblée nationale venait de l’adopter en première lecture.

L’Australie avait été le premier pays à voter une telle interdiction, avec une limite à 16 ans. Entrée en vigueur en décembre 2025, elle vise Facebook, Instagram, Kick, Reddit, Snapchat, Threads, TikTok, Twitch, X et YouTube.

Le CIANum adhère peu à cette approche ciblée sur des plates-formes spécifiques. Il redoute un report sur des plates-formes plus obscures. Et de donner l’exemple de Roblox, non assujetti à la loi, mais sur lequel existeraient des dizaines de groupes de plus de 100 000 membres s’échangeant des contenus pédocriminels et sollicitant des actes sexuels auprès des mineurs.

En mars, l’Australie a fait évoluer son approche, par l’intermédiaire de codes de sécurité en ligne. Ils visent des contenus (violence à fort impact, pornographie, promotion du suicide…) et s’appliquent à un large éventail de services (chatbots, magasins d’applications, jeux en ligne, moteurs de recherche…). Objectif : que les enfants vivent des expériences en ligne adaptées à leur âge.

La France a une approche plus restrictive. Sa loi ne vise en l’occurrence que les « services de réseaux sociaux en ligne fournis par une plate-forme en ligne ». Le CIANum regrette qu’elle se prive ainsi de contrôler d’autres plates-formes dont certains contenus peuvent être nocifs. A fortiori à l’heure où « les usages évoluent et se déplacent ».

Contrôle de l’âge : des perspectives autour du portefeuille numérique européen

Pour le contrôle de l’âge, la Commission européenne distingue trois méthodes : l’autodéclaration, l’estimation (par reconnaissance faciale ou croisement de données d’usage, notamment) et la communication de preuves (identifiants physiques ou sources d’identification vérifiées).

L’Australie n’a pas imposé aux plates-formes des méthodes spécifiques. Elle a toutefois exprimé des préoccupations, en particulier à l’égard de Snapchat, qui ne vérifierait pas que la reconnaissance faciale se fait sur des images réelles.

En France, la loi SREN (mai 2024) laisse également le choix aux services qui diffusent des contenus pornographiques. Ils doivent néanmoins respectent les exigences techniques du référentiel associé (publié en octobre 2024).

Allemagne, Danemark, Espagne et Italie ont mis en place des obligations similaires. Les lignes directrices de la Commission européenne complétant le DSA sécurisent la démarche. Des réflexions sont portées autour du portefeuille numérique européen, chaque État membre devant en proposer au moins un au plus tard pour 2026. Une expérience a été lancée dans 5 États membres – dont la France – sur la vérification de l’âge pour l’accès aux réseaux sociaux.

Le CIANum, pas enthousiasmé par les plages horaires de déconnexion

La mise en place d’une règle unique peut interroger, explique le CIANum : les besoins de protection varient en fonction de l’âge et du degré de maturité. Certaines plates-formes profitent de ce débat pour plaider un contrôle au niveau de l’appareil, lors de la création d’un compte sur un magasin d’applications ou via l’OS. Pour le CIANum, cette option est trop extensive au regard du faible nombre de services concernés in fine. Elle pousserait de plus les développeurs des services en question à se soustraire à leurs obligations. Et serait peu compatible avec les outils numériques partagés, par exemple au sein d’un foyer.

Quant à l’idée d’imposer des plages horaires de déconnexion, le CIANum rétorque que le temps passé en ligne ne dit rien des pratiques et des contenus visionnés. Il rappelle que la Corée du Sud avait mis cette technique en œuvre entre 2011 et 2021. Elle l’avait levée en raison de son périmètre trop étroit (jeux en ligne).

L’idée d’un droit global au paramétrage des interfaces

Le CIANum a une autre crainte : que les mesures ciblées sur les mineurs « débrident » les espaces numériques pour les autres utilisateurs. Il en appelle ainsi à un consacrer un droit global au paramétrage des interfaces. Cela passerait par des options de filtrage renforcé. Y compris via des algorithmes conçus par des tiers, parallèlement à des services externes de modération contrôlés et labellisés.

Le DSA impose la fourniture d’informations sur les outils de modération et les principaux paramètres des algorithmes de recommandation. Mais, d’après le CIANum, cela produit des rapports techniques peu lisibles par le grand public ; et qui ne permettent pas de bien saisir les logiques économiques et attentionnelles qui structurent les systèmes.

Le CIANum relance également l’idée de repenser la dichotomie hébergeur/éditeur. Au titre de la directive e-commerce, les réseaux sociaux bénéficient d’un régime allégé : ils ne sont responsables des contenus que leurs utilisateurs publient sauf s’ils en ont eu connaissance effective ou qu’ils n’ont pas agi promptement pour les retirer. Dès 2014, le Conseil d’État avait recommandé de dépasser cette dualité pour consacrer un statut spécifique. Le DSA ne va pas jusque-là, mais distingue, au sein des hébergeurs, les plates-formes en ligne. Et leur impose un régime plus exigeant. La révision du règlement en 2027 pourrait constituer un moment opportun pour passer à une logique de responsabilité, affirme le CIANum.

Souveraineté numérique : gare à la compétition entre territoires

Le rapport sur la souveraineté numérique est paru en mai. Le CIANum y constate un « décalage persistant » entre le discours et la pratique de l’État, dont les services « continuent [en majorité] à recourir massivement aux solutions propriétaires étrangères ».

Au niveau interministériel, la DINUM manque de moyens et de pouvoir contraignant pour imposer une approche unifiée. Le travail en silos se retrouve au niveau des entreprises publiques et des collectivités territoriales. D’autant plus que, d’après le CIANum, l’État a instauré une compétition entre territoires (notamment pour accéder à des financements publics), conduisant chacun à se spécialiser sur un volet numérique.

Des initiatives montrent néanmoins une volonté croissante de coordination avec le privé, reconnaît le CIANum. Il mentionne FranceConnect et ProConnect, « modèles de réussite en matière de gouvernance et de coopération public-privé ». Il évoque aussi la participation de la DINUM à l’initiative Open Interop, que porte le comité stratégique de filière « logiciels et solutions numériques de confiance ».

Inscrire les financements publics dans la durée

Reste que le financement public des communs numériques et du logiciel libre est insuffisant. Y compris au niveau européen, faute de critères adaptés à leur modèle collaboratif.

Autre remarque : les financements ne s’inscrivent pas toujours assez dans la durée. Le CIANum donne l’exemple du programme investissements d’avenir (PIA), qui a financé de nombreux projets sur 18 à 36 mois. D’autres initiatives ont abouti à un « saupoudrage inefficace », à l’image d’ALT-EDIC et du consortium LLM4EU (40 M€ répartis entre 70 acteurs).

Le sous-financement tient peut-être en partie à la confusion entre libre et gratuit. Celle-ci engendre plus globalement des attentes jugées irréalistes en matière de niveau de service.

Une « Fabrique des communs numériques » pour gouverner la demande

Pour concrétiser une gouvernance de la demande, le CIANum souhaite la création d’une « Fabrique des communs numériques ». Elle pourrait notamment associer l’État, la Caisse des dépôts, les associations de collectivités, les DSI des grandes entreprises et les représentants de fournisseurs de solutions et des communautés de mainteneurs.

L’Ariane (Autorité du numérique et de l’IA) assurerait la mise en œuvre de cette structure qui :

Consoliderait les diagnostics de dépendances

Élaborerait une cartographie nationale de l’existant, dans la lignée du Socle interministériel de logiciels libres

Attribuerait un label à des solutions sur étagère répondant à des critères de gouvernance ouverte, d’interopérabilité et de pérennité

Déclencherait des financements ciblés (via ses partenaires, via des appels à communs ou via un fonds propre dédié aux communs numériques)

Contribuerait à la gouvernance active de communautés open source

Rendrait visibles les structures juridiques adaptées aux communs numériques

SCOP, SIEG, SCIC… Des véhicules juridiques mobilisables pour les communs numériques

Parmi les véhicules mobilisables :

SCOP (sociétés coopératives et participatives)

Elles ont l’avantage de favoriser un attachement durable aux valeurs initiales du projet, qui ne dépend pas du choix d’un actionnaire majoritaire.

SCIC (sociétés coopératives d’intérêt collectif)

Gouvernance multipartite, avec possibilité d’intégrer des acteurs publics et privés en maintenant une finalité de « lucrativité limitée ».

SIEG (services d’intérêt économique général)

Permet de financer durablement la maintenance de communs numériques reconnus comme relevant de l’intérêt général, sans les procédures lourdes des marchés publics classiques.

AAC (appels à communs)

Identification de défis d’intérêt général et financement d’un consortium qui s’engage à contribuer à un commun partager.

Fabriques de communs

Incubateurs sans structure juridique qui lancent des « appels à idées » et sélectionnent des projets faisant alors l’objet d’un appel à intrapreneurs et à partenaires.

Le CIANum suggère aussi d’étudier la transposition en droit français du modèle des fiducies d’utilité sociale. Développées au Québec, elles permettent à des organisations de partager leurs données dans un environnement de confiance avec gouvernance collective.

Au niveau européen, un levier pourrait consister à élargir le mandat du consortium DC-EDIC, avec des missions sur le modèle de celles que la Fabrique des communs numériques endosserait en France.

Au sein de l’Éducation nationale, les usages innovants de l’IA restent dans l’ombre

Le rapport sur l’IA dans le système éducatif a été publié en juin.

Le CIANum y souligne les démarches de la France. Dont un cadre d’usage sur l’IA en éducation « parmi les plus complets à l’échelle internationale en termes d’appréhension de ce que sont les modèles de langage, leurs effets et leur encadrement juridique ». Le « dernier kilomètre » reste toutefois à accomplir. Témoin le nombre d’enseignants formés, « particulièrement faible » comparativement aux autres pays européens. Faute de cadre clair, ceux qui innovent le font dans l’ombre : leurs usages restent peu documentés.

Les outils basés sur l’IA peuvent permettre une personnalisation des parcours et une meilleure inclusion des élèves. Ils peuvent aussi fournir un moyen d’aborder des enjeux sociétaux. Le CIANum en veut pour preuve le programme Internet Sans Crainte. Il organise, de la quatrième au lycée, des « IAckathons » où les élèves imaginent des solutions concrètes intégrant l’IA pour répondre à des défis contemporains.

Sur la personnalisation des parcours, le CIANum cite la plate-forme Lailo, destinée aux enseignants de CP, CE1 et CE2. Elle aide à différencier l’apprentissage de la lecture en fonction de l’avancement de chaque élève.

Face au risque de « démission cognitive », soutenir les designs « socratiques »

Revers de la médaille : les outils à base d’IA posent le risque d’une « démission cognitive ». Sur ce point, le CIANum se réfère notamment à une étude MIT Media Lab à base d’électroencéphalogrammes. Elle a montré que les participants utilisant un LLM pour réviser retenaient nettement moins bien que ceux ayant recours à d’autres méthodes. De là, un appel à privilégier un design « socratique », qui exerce l’esprit critique. Exemple : l’application Khanmigo (non distribuée en France). Elle ne donne jamais la réponse directement, mais guide l’élève par des questions successives. La CIANum suggère de lancer un appel d’offres afin de sélectionner une app de ce type pour le collège et une pour le lycée d’ici à fin 2026.

Autre risque : l’isolation des élèves. On touche ici, en particulier, au biais dit « sycophantique ». Ou comment l’IA dit à l’utilisateur ce qu’il a envie d’entendre. À ce sujet, le CIANum mobilise les constatations d’Oxford et de Stanford : exposés à une IA complaisante, les humains perdent progressivement leur préférence du contact humain pour le soutien émotionnel et l’estime de soi.

Dans le même ordre d’idée, l’ultra-individualisation peut conduire à ne plus soucier du fonctionnement des autres. Un enfant pourrait ne plus avoir la « patience sociale » requise pour tenir compte des conséquences de l’état émotionnel et cognitif de ses interlocuteurs.

Des épreuves orales aux projets collaboratifs, repenser les modalités d’évaluation

Le CIANum avertit : l’accessibilité d’outils comme ChatGPT crée une illusion de simplicité, alors que ces technologies ne sont pas conçues pour un usage éducatif. Il y a aussi illusion de gratuité, alors qu’il est probable que le coût des modèles de langage de qualité croîtra avec les années.

La diffusion de l’IA impose également de repenser les modèles d’évaluation. Entre autres en l’axant davantage sur les processus que sur le résultat, tout en donnant de l’importance à la vérification par oral et aux projets collaboratifs.

La CIANum incite plus généralement à ménager des « temps sans IA » pour garantir la consolidation des savoirs fondamentaux acquis. « Un élève qui sait être fort sans l’IA et qui sait aussi à quel moment et selon quel protocole l’utilisaer sera le mieux préparé à la société qui se dessine », affirme-t-il.

Passer du « référent numérique » au « référent IA »… quitte à changer le titulaire

Opérationnaliser ce principe d’éducation dépendra de la capacité des enseignants à adapter l’usage de l’IA en fonction des objectifs pédagogiques. D’où la recommandation d’établir un programme massif de formation continue. Une évolution immédiate consisterait à généraliser un module dans la LPE (licence Professorat des écoles) et le M2E (master Enseignement et éducation). Sur la partie en ligne, le CIANum préconise de capitaliser sur des ressources comme la MOOC « IA pour et par les enseignants », qu’Inria a conçu. Il suggère aussi de nommer, dans chaque établissement du secondaire, 1 ou 2 enseignants « référents IA ». Y compris en réinterrogeant la fonction de référent numérique, quitte à en changer le titulaire.

Concernant les élèves, le Premier ministre a promis qu’à partir de la rentrée 2027, ils auraient, en classe de seconde, une heure par semaine d’enseignement à l’IA. Le CIANum demande à aller plus loin, pour inclure un programme structuré d’éducation au numérique, à l’IA, aux médias et à l’information, comme il en existe un pour l’éducation à la vie affective, relationnelle et sexuelle. Il conseille aussi de former jusqu’aux médecins scolaires, sur les enjeux de santé mentale et les risques cognitifs. Et d’organiser, à partir de la rentrée 2027, des ateliers sous leur responsabilité.

Illustration générée par IA

The post En un an, qu’a produit le Conseil de l’IA et du numérique ? appeared first on Silicon.fr.