IA et jeunesse : des géants du secteur signent une charte non contraignante de protection des mineurs

Mardi, au moment même où s'ouvrait le Forum de Paris pour la paix, un texte a été rendu public : une charte qui cherche à fixer de bonnes pratiques pour les intelligences artificielles utilisées par les plus jeunes. Elle promet de garantir aux enfants « un niveau élevé de sûreté » et de concevoir des outils adaptés à leur stade de développement cognitif. Elle n'a aucune force contraignante.

Le document est soutenu notamment par deux géants américains du secteur, OpenAI et Anthropic. Il a été publié dans le sillage d'un rapport remis le même jour au président Emmanuel Macron par une commission de neuf experts. Ceux-ci avaient procédé à 55 auditions de professionnels de santé, de chercheurs, d'entreprises et d'associations de protection de l'enfance. L'exécutif leur avait demandé d'examiner les risques et les vulnérabilités liés aux usages grand public de ces outils, en particulier pour la santé mentale des jeunes.

Les chiffres du rapport donnent la mesure de l'enjeu. Popularisée par des agents conversationnels comme ChatGPT d'OpenAI, Gemini de Google ou Claude d'Anthropic, l'IA générative est utilisée par plus de la moitié des Français, ce qui place la France au cinquième rang mondial. Près de 70 % des 15-24 ans y ont recours régulièrement.

La charte reprend plusieurs propositions de la commission. La plus nette : interdire à ces outils de créer des contenus à caractère sexuel non consentis et pédocriminels. Dans le texte, consulté par l'AFP, les signataires s'engagent aussi à assurer un niveau élevé de sûreté, de protection de la vie privée et de sécurité, dès la conception et par défaut, avec des solutions adaptées aux différents âges de l'enfance. Un programme de recherche doit en outre être mis sur pied pour renforcer les connaissances indépendantes sur les risques et les possibilités de l'IA pour les jeunes utilisateurs. Sur X, Emmanuel Macron a estimé que la charte « marque une étape concrète » et que la technologie ne doit pas se développer aux dépens des enfants.

Le président s'est montré plus sévère lors de son intervention au Forum. Une proportion considérable d'enfants et d'adolescents construisent leur vie affective et leur représentation du monde en échangeant avec des agents qui ressemblent à une personnalité humaine, et auxquels ils livrent tout, « bien souvent pour le pire », a-t-il déploré. On leur a mis ces outils entre les mains sans vérifier s'ils leur étaient bénéfiques, alors que les jouets traditionnels sont soumis à des règles « absolument colossales ».

Le rapport insiste sur un risque d'« affaiblissement cognitif ». Selon Raphaël Gaillard, professeur de psychiatrie et coprésident de la commission, l'outil est attractif et l'on y délègue des compétences, comme la réflexion, la prise de décision ou l'esprit critique. Or, dit-il, ce qu'on délègue, on ne l'acquiert pas : le problème touche les jeunes, mais aussi tout le monde. Les experts alertent également sur la désinformation, ces dispositifs devenant des sources d'information dont la qualité n'est pas garantie, avec à la clé un possible « affaiblissement démocratique ».

Un autre danger est la dépendance émotionnelle, nourrie par l'anthropomorphisation, ces IA se présentant comme des interlocuteurs humains, et par la flagornerie, qui consiste à valider ou flatter l'utilisateur, parfois au détriment de la vérité. Raphaël Gaillard décrit un registre de relations émotionnelles pouvant se substituer à l'interaction humaine, avec un système disponible en permanence dont la seule intention est de garder l'utilisateur en ligne.

Le texte restant non contraignant, son efficacité dépendra de la façon dont les signataires l'appliqueront, et des résultats du programme de recherche indépendant qu'il prévoit.