Aller au contenu
Annuaire
Rubriques
Technologie

Rapport « IA générative et vulnérabilités » : ce qu’il exige des éditeurs de chatbots

L’essentiel

Remis à l'Élysée, le rapport « Protéger sans empêcher » veut encadrer flagornerie et anthropomorphisme des IA. Les 18 mesures et leur portée.

À retenir

Remis à l'Élysée, le rapport « Protéger sans empêcher » veut encadrer flagornerie et anthropomorphisme des IA. Les 18 mesures et leur portée.

Le rapport « Protéger sans empêcher », remis le 10 novembre 2026 à Emmanuel Macron, demande d’encadrer dès la conception la flagornerie et l’anthropomorphisme des assistants d’IA générative, qu’il décrit comme des choix de conception destinés à renforcer l’engagement des utilisateurs. Rédigé par la commission « IA générative et vulnérabilités » du Conseil de l’IA et du numérique (CIANum), il formule 18 recommandations. Plusieurs visent directement les éditeurs de chatbots grand public et doivent nourrir la position française sur les prochains textes européens.

Un rapport commandé sur les risques des usages grand public

La ministre chargée de l’IA, Anne Le Hénanff, avait saisi le CIANum en février pour mesurer les effets de ces outils sur la société, en particulier chez les jeunes, rappelle Localtis, le média de la Banque des Territoires. Neuf experts indépendants y ont travaillé, sous la conduite de la chercheuse en IA Serena Villata et de deux psychiatres, Amine Benyamina et Raphaël Gaillard, détaille Santé Mentale. Le document de 193 pages, intitulé en entier « Protéger sans empêcher : nos vulnérabilités à l’ère de l’IA générative » et mis en ligne par l’Élysée, s’appuie sur 55 auditions (soignants, chercheurs, entreprises du numérique, associations de protection de l’enfance) et sur une revue de la littérature scientifique récente.

Le point de départ est l’ampleur des usages. D’après la dépêche de l’AFP reprise par Vidal, plus d’un Français sur deux a adopté l’IA générative, et près de sept jeunes de 15 à 24 ans sur dix s’en servent régulièrement. Localtis souligne la fracture générationnelle : 85 % des 18-24 ans s’en servent, contre environ 15 % des plus de 70 ans.

Trois risques : dette cognitive, dépendance affective, violences amplifiées

Les auteurs distinguent trois familles de dangers pour l’individu. La première est une forme de dette cognitive : à force de confier au chatbot le raisonnement, la décision ou l’esprit critique, l’utilisateur perd l’habitude de les exercer. « Le premier enjeu est l’affaiblissement cognitif », a résumé Raphaël Gaillard auprès de l’AFP. La deuxième tient à l’attachement émotionnel, nourri par l’anthropomorphisme et la flagornerie, que le rapport range parmi les puissants leviers d’engagement. La troisième concerne la montée des violences numériques, notamment les hypertrucages.

Le rapport s’appuie sur plusieurs travaux cités par Localtis : des chercheurs de Stanford ont constaté que les modèles approuvent l’opinion de leur interlocuteur 51 % plus souvent qu’un humain, et une étude d’Oxford a montré que des modèles réglés pour paraître « chaleureux » perdent 30 % de précision. Le CIANum reconnaît que ces recherches sont en partie exploratoires, mais estime qu’il serait imprudent d’attendre des preuves complètes pour agir.

Ce que le rapport demande aux éditeurs

Le passage le plus sensible pour l’industrie porte sur le modèle économique. Selon Localtis, le rapport relève qu’aucune entreprise d’IA générative n’a encore trouvé de modèle rentable durable, ce qui accroît la tentation d’exploiter les conversations, les émotions et la personnalisation poussée. Les auteurs mettent en garde contre une « économie de la cognition » jugée plus intrusive que l’économie de l’attention des réseaux sociaux. Ils rappellent aussi qu’un modèle peut déduire des informations sensibles jamais confiées, comme l’état de santé, les opinions ou la situation financière.

Parmi les mesures qui concernent directement les concepteurs de services :

  • interdire les techniques qui exploitent les fragilités des utilisateurs pour créer une dépendance, et limiter strictement la flatterie et l’apparence humaine des assistants ;
  • bannir la publicité déguisée dans les réponses des IA ;
  • intégrer la protection des mineurs dès la conception ;
  • faire évaluer les chatbots destinés au grand public avant comme après leur commercialisation, en s’appuyant sur un réseau interdisciplinaire d’évaluateurs ;
  • ouvrir aux autorités habilitées et aux chercheurs l’accès aux données d’entraînement, d’usage et de monétisation.

Santé Mentale précise que l’évaluation préalable viserait les systèmes destinés au grand public, et non les outils professionnels : une distinction importante pour les entreprises qui déploient des assistants en interne.

École, élections, services publics : les autres chantiers

Le texte propose aussi une vaste politique d’éducation à l’IA dès le primaire, en n’admettant en classe que des outils labellisés, qui amènent l’élève à chercher par lui-même au moyen de questions au lieu de lui fournir la solution. Il préconise aussi de subordonner la vente des jouets dotés d’une IA générative à une autorisation délivrée en amont, avec des seuils d’âge restrictifs. Il recommande de renforcer l’Institut national pour l’évaluation et la sécurité de l’IA (Inesia), de confier au SGDSN l’élaboration d’un protocole de crise face aux menaces informationnelles amplifiées par l’IA et de durcir les sanctions contre la création d’hypertrucages sexuels non consentis. Un code de bonne conduite volontaire est suggéré pour l’usage de ces outils pendant la présidentielle de 2027.

Côté administration, les experts veulent que l’accès aux services publics reste possible par plusieurs canaux, avec une voie humaine garantie pour les recours, et que les agents et travailleurs sociaux soient formés. Localtis rappelle qu’environ 13 millions de Français sont touchés par l’illectronisme.

Quelle portée ?

Le rapport n’a pas de valeur contraignante. Sa portée dépendra de deux leviers. Au niveau national, certaines mesures, comme le protocole de crise ou le volet éducatif, relèvent directement du gouvernement. Au niveau européen, le document doit nourrir la position française sur le futur Digital Fairness Act, sur le projet d’EU Kids Act et sur la révision du règlement sur l’IA. Les interdictions visant les éditeurs ne pourront guère être imposées qu’à cette échelle, les grands acteurs du secteur opérant sur l’ensemble du marché unique.

Questions fréquentes

Qui a rédigé ce rapport ?

La commission « IA générative et vulnérabilités » du Conseil de l’IA et du numérique, composée de neuf experts et pilotée par Serena Villata, Amine Benyamina et Raphaël Gaillard. Il a été transmis au chef de l’État le 10 novembre 2026.

Le rapport veut-il interdire les chatbots aux mineurs ?

Non : aucune de ses 18 recommandations ne prévoit d’interdiction générale. Il réclame une protection renforcée des jeunes dès la conception des services, une éducation à l’IA dès le primaire et un contrôle préalable des jouets dotés d’une IA générative.

Les entreprises qui utilisent l’IA en interne sont-elles concernées ?

Assez peu à ce stade : l’évaluation obligatoire proposée vise les IA conversationnelles grand public. Les éditeurs de ces services, en revanche, sont directement visés par les recommandations sur la flagornerie, l’anthropomorphisme et la publicité.

Sources

Sur votre appareil

Comprendre cet article

L’analyse utilise l’intelligence locale du navigateur lorsqu’elle existe, sinon un résumé extractif. Le texte n’est envoyé à aucun service extérieur.

Facebook X LinkedIn

Ensuite A lire aussi

Gratuit, sans spam, désinscription en un clic.