El informe «Protéger sans empêcher» (Proteger sin impedir), entregado el 10 de noviembre de 2026 a Emmanuel Macron, pide regular desde la fase de diseño la adulación y el antropomorfismo de los asistentes de IA generativa, que describe como decisiones de diseño destinadas a reforzar la implicación de los usuarios. Redactado por la comisión «IA générative et vulnérabilités» (IA generativa y vulnerabilidades) del Conseil de l’IA et du numérique (Consejo de la IA y lo Digital de Francia, CIANum), formula 18 recomendaciones. Varias se dirigen directamente a los editores de chatbots para el gran público y deben alimentar la posición francesa sobre los próximos textos europeos.
Un informe encargado sobre los riesgos de los usos del gran público
La ministra encargada de la IA, Anne Le Hénanff, había encomendado al CIANum en febrero medir los efectos de estas herramientas en la sociedad, en particular entre los jóvenes, recuerda Localtis, el medio de la Banque des Territoires. Nueve expertos independientes trabajaron en él, bajo la dirección de la investigadora en IA Serena Villata y de dos psiquiatras, Amine Benyamina y Raphaël Gaillard, detalla Santé Mentale. El documento de 193 páginas, cuyo título completo es «Protéger sans empêcher : nos vulnérabilités à l’ère de l’IA générative» (Proteger sin impedir: nuestras vulnerabilidades en la era de la IA generativa) y que el Elíseo ha publicado en línea, se basa en 55 audiencias (profesionales sanitarios, investigadores, empresas digitales, asociaciones de protección de la infancia) y en una revisión de la literatura científica reciente.
El punto de partida es la magnitud de los usos. Según el despacho de la AFP recogido por Vidal, más de uno de cada dos franceses ha adoptado la IA generativa, y casi siete de cada diez jóvenes de 15 a 24 años la utilizan con regularidad. Localtis subraya la brecha generacional: el 85 % de los jóvenes de 18 a 24 años la utiliza, frente a alrededor del 15 % de los mayores de 70.
Tres riesgos: deuda cognitiva, dependencia afectiva, violencias amplificadas
Los autores distinguen tres familias de peligros para el individuo. La primera es una forma de deuda cognitiva: a fuerza de confiar al chatbot el razonamiento, la decisión o el espíritu crítico, el usuario pierde la costumbre de ejercerlos. «El primer reto es el debilitamiento cognitivo», resumió Raphaël Gaillard a la AFP. La segunda tiene que ver con el apego emocional, alimentado por el antropomorfismo y la adulación, que el informe sitúa entre las potentes palancas de implicación. La tercera se refiere al aumento de la violencia digital, en particular las ultrafalsificaciones.
El informe se apoya en varios trabajos citados por Localtis: investigadores de Stanford constataron que los modelos aprueban la opinión de su interlocutor un 51 % más a menudo que un ser humano, y un estudio de Oxford demostró que unos modelos ajustados para parecer «cálidos» pierden un 30 % de precisión. El CIANum reconoce que estas investigaciones son en parte exploratorias, pero considera que sería imprudente esperar pruebas completas para actuar.
Lo que el informe pide a los editores
El pasaje más sensible para la industria se refiere al modelo económico. Según Localtis, el informe señala que ninguna empresa de IA generativa ha encontrado todavía un modelo rentable duradero, lo que aumenta la tentación de explotar las conversaciones, las emociones y la personalización avanzada. Los autores advierten contra una «economía de la cognición» que consideran más intrusiva que la economía de la atención de las redes sociales. Recuerdan también que un modelo puede deducir informaciones sensibles nunca confiadas, como el estado de salud, las opiniones o la situación financiera.
Entre las medidas que afectan directamente a los diseñadores de servicios:
- prohibir las técnicas que explotan las fragilidades de los usuarios para crear dependencia, y limitar estrictamente la adulación y la apariencia humana de los asistentes;
- prohibir la publicidad encubierta en las respuestas de las IA;
- integrar la protección de los menores desde la fase de diseño;
- someter a evaluación los chatbots destinados al gran público tanto antes como después de su comercialización, apoyándose en una red interdisciplinaria de evaluadores;
- abrir a las autoridades habilitadas y a los investigadores el acceso a los datos de entrenamiento, de uso y de monetización.
Santé Mentale precisa que la evaluación previa se aplicaría a los sistemas destinados al gran público, y no a las herramientas profesionales: una distinción importante para las empresas que despliegan asistentes de uso interno.
Escuela, elecciones, servicios públicos: los demás frentes
El texto propone también una amplia política de educación en IA desde la primaria, admitiendo en clase solo herramientas certificadas, que lleven al alumno a buscar por sí mismo mediante preguntas en lugar de darle la solución. Recomienda asimismo supeditar la venta de juguetes dotados de IA generativa a una autorización concedida previamente, con umbrales de edad restrictivos. Aconseja reforzar el Instituto Nacional para la Evaluación y la Seguridad de la IA (Inesia), encargar a la SGDSN (Secretaría General de Defensa y Seguridad Nacional de Francia) la elaboración de un protocolo de crisis frente a las amenazas informativas amplificadas por la IA y endurecer las sanciones contra la creación de ultrafalsificaciones sexuales no consentidas. Se sugiere un código de buena conducta voluntario para el uso de estas herramientas durante las elecciones presidenciales de 2027.
En cuanto a la Administración, los expertos quieren que el acceso a los servicios públicos siga siendo posible por varios canales, con una vía humana garantizada para los recursos, y que se forme a los funcionarios y a los trabajadores sociales. Localtis recuerda que unos 13 millones de franceses sufren analfabetismo digital.
¿Qué alcance?
El informe no tiene carácter vinculante. Su alcance dependerá de dos palancas. En el ámbito nacional, algunas medidas, como el protocolo de crisis o el apartado educativo, dependen directamente del Gobierno. En el ámbito europeo, el documento debe alimentar la posición francesa sobre la futura Digital Fairness Act, sobre el proyecto de EU Kids Act y sobre la revisión del reglamento de IA. Las prohibiciones dirigidas a los editores difícilmente podrán imponerse salvo a esa escala, ya que los grandes actores del sector operan en todo el mercado único.
Preguntas frecuentes
¿Quién redactó este informe?
La comisión «IA générative et vulnérabilités» (IA generativa y vulnerabilidades) del Conseil de l’IA et du numérique, compuesta por nueve expertos y dirigida por Serena Villata, Amine Benyamina y Raphaël Gaillard. Se entregó al jefe del Estado el 10 de noviembre de 2026.
¿Quiere el informe prohibir los chatbots a los menores?
No: ninguna de sus 18 recomendaciones prevé una prohibición general. Reclama una protección reforzada de los jóvenes desde el diseño de los servicios, una educación en IA desde la primaria y un control previo de los juguetes dotados de IA generativa.
¿Afecta a las empresas que utilizan la IA de forma interna?
Poco por ahora: la evaluación obligatoria propuesta se dirige a las IA conversacionales para el gran público. En cambio, los editores de estos servicios son el objetivo directo de las recomendaciones sobre la adulación, el antropomorfismo y la publicidad.
Fuentes
- Protéger sans empêcher : nos vulnérabilités à l'ère de l'IA générative (rapport de la Commission « IA générative et vulnérabilités ») — Élysée / Conseil de l'IA et du numérique, 2026-11-10
- IA générative : des experts pointent le risque de dépendance et d'affaiblissement cognitif des jeunes — Vidal (despacho de AFP), 2026-11-17
- Le CIANum s'alarme de la flagornerie et autres travers des IA génératives — Localtis (Banque des Territoires), 2026-11-13
- Remise du rapport « IA générative et vulnérabilités » — Santé Mentale, 2026-11-12