La commission d’experts « IA générative et vulnérabilités » a remis le 10 novembre 2026 à l’Élysée son rapport, intitulé « Protéger sans empêcher : les vulnérabilités à l’ère de l’IA générative », qui formule 18 recommandations, dont neuf jugées prioritaires, pour protéger les utilisateurs de chatbots, de compagnons IA et de jouets dotés d’IA. Le texte complet est publié en PDF par l’Élysée.
Qui l’a écrit et pourquoi
La commission a été mise en place au sein du Conseil de l’IA et du numérique, saisi en février par la ministre Anne Le Hénanff, rappelle Next. Elle réunit neuf experts, pilotés par la chercheuse en IA Serena Villata et les psychiatres Raphaël Gaillard et Amine Benyamina, et a mené 55 auditions, selon la présentation de l’Élysée.
Les trois risques mis en avant
- La « dette cognitive » : le rapport s’appuie sur des travaux du MIT selon lesquels l’usage de chatbots pour écrire réduirait certaines facultés cognitives, jusqu’à 55 % selon la présentation de l’Élysée.
- L’attachement émotionnel : flagornerie et anthropomorphisme des IA renforcent la dépendance ; 92 % des adolescents français disent passer plus de temps qu’ils ne le voudraient sur des applications d’IA.
- Les violences numériques : hypertrucages sexuels non consentis et contenus pédocriminels générés par IA. Next relève qu’en 2025, l’équivalent d’un élève par classe déclarait avoir été victime de deepfakes à caractère sexuel.
Les mesures qui toucheraient directement le public
- Interdire les techniques de conception des IA conversationnelles qui exploitent les vulnérabilités des utilisateurs pour créer de la dépendance (recommandation n° 1).
- Imposer un niveau élevé de sécurité aux IA accessibles aux mineurs (n° 2), avec des évaluations avant et après la mise sur le marché (n° 3 et 4).
- Interdire la publicité déguisée et toute monétisation exploitant les vulnérabilités des consommateurs (n° 8).
- Soumettre les jouets dotés d’IA générative à une autorisation préalable de mise sur le marché, avec des âges minimums (n° 11).
- Un programme d’éducation à l’IA dès le primaire (n° 12) et, en classe, des modèles adaptés aux mineurs (n° 13).
- Un code de bonne conduite sur l’usage de l’IA en période électorale (n° 15), alors que la présidentielle approche.
Ce que ce rapport n’est pas
Il s’agit de recommandations : aucune n’est applicable en l’état. Plusieurs relèvent du droit européen (règlement sur l’IA, protection des consommateurs) et devraient passer par Bruxelles ou par une loi. Le sujet rejoint celui des mécanismes addictifs des plateformes, sur lequel une résolution concernant les mineurs a été débattue cette semaine (notre article).
Ce qu’Ouelen a vérifié
- Les 18 recommandations et leur intitulé : sommaire du rapport publié par l’Élysée (PDF).
- Les chiffres (33 millions d’utilisateurs en France, 92 % des adolescents, 55 %) : présentation officielle de l’Élysée, qui les attribue à des études citées dans le rapport.
- Non annoncé : un calendrier de mise en œuvre par le gouvernement.
Sources : Élysée, rapport (PDF), Next.
Photo d’illustration : Leynadmar / Wikimedia Commons, licence CC BY-SA 4.0.
