L'IA nous rend-elle dépendants et moins intelligents ? 🎤 Serena Villata (CNRS)
Jerome Colombain
L'intelligence artificielle générative présente des risques encore largement sous-estimés pour les enfants et les adolescents. Dans un rapport remis au président de la République, une commission préconise de renforcer les garde-fous, d'évaluer les modèles avant leur commercialisation et de responsabiliser davantage leurs fournisseurs.
🎤 INTERVIEW : Serena Villata – Directrice de recherche CNRS en intelligence artificielle, rapporteure et co-présidente de la commission sur les risques de l'IA générativeLes compagnons IA sont toujours d'accord avec nous et sont toujours en soutien de nos actions.Le problème principal concerne la dépendance émotionnelle envers l'IA.Il est nécessaire d'établir des contraintes dès la conception des modèles.On ne veut ni freiner l'adoption de ces IA génératives, ni la bloquer complètement pour les mineurs.=================================
L'INTERVIEWQuels sont les principaux risques de l'intelligence artificielle générative pour les enfants et les adolescents ?Nous identifions plusieurs types de risques. Le premier concerne la délégation de nos fonctions cognitives essentielles à la machine : réfléchir, nous exprimer et prendre des décisions. Les jeunes accèdent désormais à l'information différemment, en interrogeant directement des IA conversationnelles plutôt qu'en passant par les moteurs de recherche.
Un autre risque majeur est la dépendance émotionnelle. Avec les IA compagnons, les utilisateurs peuvent projeter des qualités humaines sur ces outils. On parle d'anthropomorphisation. Ces compagnons sont souvent dans la flagornerie : ils sont toujours d'accord avec nous et soutiennent nos actions. Il faut également prendre en compte l'accélération des violences en ligne, notamment avec la multiplication des deepfakes.
Les protections mises en place par les fournisseurs d'IA sont-elles suffisantes ?Non, elles ne le sont pas. Les garde-fous mis en place par les fournisseurs sont évidemment bienvenus, mais ils permettent surtout d'éviter certaines dérives lorsque les demandes sont très explicites.
En revanche, les risques restent importants lorsque les conversations deviennent implicites, longues et s'étendent dans le temps. C'est particulièrement préoccupant lorsqu'un utilisateur se confie à son assistant conversationnel.
Nous préconisons donc d'imposer des contraintes dès la conception des modèles, afin d'empêcher les mécanismes qui favorisent l'anthropomorphisation et exploitent les vulnérabilités, notamment celles des mineurs. Nous souhaitons également conditionner l'entrée sur le marché et le maintien sur le marché des modèles grand public à une évaluation précommerciale contraignante, puis mettre en place un contrôle continu de leurs effets.
Faut-il aller jusqu'à interdire l'IA aux mineurs ?Ce n'est absolument pas notre objectif. Le titre de notre rapport résume bien notre approche : protéger sans empêcher. Nous ne voulons ni freiner l'adoption des IA génératives, ni les interdire complètement aux mineurs.
En revanche, les risques sont avérés et peuvent être très graves, notamment en matière de santé mentale. Il faut donc protéger les enfants de la meilleure façon possible.
Cela passe aussi par l'éducation et la formation de tous les publics, y compris les parents, pour leur permettre de mieux accompagner les enfants. Mais il ne faut pas déplacer la responsabilité des fournisseurs vers les parents. Les acteurs qui développent ces modèles doivent également assumer davantage de responsabilités.
L'utilisation quotidienne de l'IA risque-t-elle de diminuer nos capacités de réflexion ?C'est un risque réel. Nous parlons de dette cognitive : lorsque nous confions progressivement nos capacités de réflexion aux agents conversationnels, nous risquons de perdre l'envie de raisonner, d'apprendre et de lire. Cela concerne tout le monde, pas uniquement les jeunes.
Bien sûr, déléguer certaines tâches fastidieuses à la technologie est parfaitement acceptable. C'est le principe même de l'automatisation. Mais l'impact est différent lorsque nous déléguons des fonctions essentielles comme notre capacité à raisonner et à apprendre.
L'intelligence artificielle générative présente des risques encore largement sous-estimés pour les enfants et les adolescents. Dans un rapport remis au président de la République, une commission préconise de renforcer les garde-fous, d'évaluer les modèles avant leur commercialisation et de responsabiliser davantage leurs fournisseurs.
🎤 INTERVIEW : Serena Villata – Directrice de recherche CNRS en intelligence artificielle, rapporteure et co-présidente de la commission sur les risques de l'IA générativeLes compagnons IA sont toujours d'accord avec nous et sont toujours en soutien de nos actions.Le problème principal concerne la dépendance émotionnelle envers l'IA.Il est nécessaire d'établir des contraintes dès la conception des modèles.On ne veut ni freiner l'adoption de ces IA génératives, ni la bloquer complètement pour les mineurs.=================================
L'INTERVIEWQuels sont les principaux risques de l'intelligence artificielle générative pour les enfants et les adolescents ?Nous identifions plusieurs types de risques. Le premier concerne la délégation de nos fonctions cognitives essentielles à la machine : réfléchir, nous exprimer et prendre des décisions. Les jeunes accèdent désormais à l'information différemment, en interrogeant directement des IA conversationnelles plutôt qu'en passant par les moteurs de recherche.
Un autre risque majeur est la dépendance émotionnelle. Avec les IA compagnons, les utilisateurs peuvent projeter des qualités humaines sur ces outils. On parle d'anthropomorphisation. Ces compagnons sont souvent dans la flagornerie : ils sont toujours d'accord avec nous et soutiennent nos actions. Il faut également prendre en compte l'accélération des violences en ligne, notamment avec la multiplication des deepfakes.
Les protections mises en place par les fournisseurs d'IA sont-elles suffisantes ?Non, elles ne le sont pas. Les garde-fous mis en place par les fournisseurs sont évidemment bienvenus, mais ils permettent surtout d'éviter certaines dérives lorsque les demandes sont très explicites.
En revanche, les risques restent importants lorsque les conversations deviennent implicites, longues et s'étendent dans le temps. C'est particulièrement préoccupant lorsqu'un utilisateur se confie à son assistant conversationnel.
Nous préconisons donc d'imposer des contraintes dès la conception des modèles, afin d'empêcher les mécanismes qui favorisent l'anthropomorphisation et exploitent les vulnérabilités, notamment celles des mineurs. Nous souhaitons également conditionner l'entrée sur le marché et le maintien sur le marché des modèles grand public à une évaluation précommerciale contraignante, puis mettre en place un contrôle continu de leurs effets.
Faut-il aller jusqu'à interdire l'IA aux mineurs ?Ce n'est absolument pas notre objectif. Le titre de notre rapport résume bien notre approche : protéger sans empêcher. Nous ne voulons ni freiner l'adoption des IA génératives, ni les interdire complètement aux mineurs.
En revanche, les risques sont avérés et peuvent être très graves, notamment en matière de santé mentale. Il faut donc protéger les enfants de la meilleure façon possible.
Cela passe aussi par l'éducation et la formation de tous les publics, y compris les parents, pour leur permettre de mieux accompagner les enfants. Mais il ne faut pas déplacer la responsabilité des fournisseurs vers les parents. Les acteurs qui développent ces modèles doivent également assumer davantage de responsabilités.
L'utilisation quotidienne de l'IA risque-t-elle de diminuer nos capacités de réflexion ?C'est un risque réel. Nous parlons de dette cognitive : lorsque nous confions progressivement nos capacités de réflexion aux agents conversationnels, nous risquons de perdre l'envie de raisonner, d'apprendre et de lire. Cela concerne tout le monde, pas uniquement les jeunes.
Bien sûr, déléguer certaines tâches fastidieuses à la technologie est parfaitement acceptable. C'est le principe même de l'automatisation. Mais l'impact est différent lorsque nous déléguons des fonctions essentielles comme notre capacité à raisonner et à apprendre.
