Il faut faire en sorte que l’IA générative ne nous rende pas “bêtes et grégaires”
L’intelligence artificielle nous permet de déléguer à la machine un nombre considérable de tâches traditionnellement exécutées par notre cerveau. Des chercheurs, professeurs, psychiatres et neurologues mettent en garde contre l’émergence d’une véritable « dette cognitive » dans un rapport comprenant 18 propositions, remis au chef de l’État le mardi 10 novembre. En résumé, la réflexion et la recherche sont moins fréquentes. Les spécialistes expriment des inquiétudes quant à la possibilité que les entreprises d’intelligence artificielle exploitent notre dépendance cognitive afin d’en générer des profits.
Un autre risque réside dans les dimensions émotionnelle et personnelle, lorsque l’intelligence artificielle générative est perçue comme un interlocuteur ou un confident, et qu’elle recourt à la flatterie afin d’instaurer un climat de confiance avec l’utilisateur. Les jeunes présentent une vulnérabilité particulière, ce qui justifie la recommandation de former de manière intensive les élèves aux pratiques de l’intelligence artificielle dès l’école primaire, afin de les sensibiliser tant aux usages qu’aux risques associés. « Le cerveau de l’adolescent continue de se développer jusqu’à environ 25 ans, comme cela est désormais reconnu », souligne Marie-Rose Moro, pédopsychiatre et psychanalyste. L’environnement exerce constamment une influence sur le cerveau des enfants, et l’intelligence artificielle constitue un facteur prépondérant de cet environnement contemporain. Ainsi, certaines zones seront davantage stimulées, tandis que d’autres le seront dans une moindre mesure.
A lire aussi >> La mère d’élèves soupçonnée d’avoir agressé dans une école de Nice est mise en examen et placée en détention provisoire
Les jeunes constituent un sujet d’intérêt majeur dans le rapport, étant donné que neuf adolescents sur dix admettent consacrer une durée excessive à l’utilisation d’applications d’intelligence artificielle générative. Cependant, ils ne sont pas les seuls concernés. L’intelligence artificielle a intégré nos vies à une vitesse remarquable. Actuellement, environ 35 millions de Français recourent à l’intelligence artificielle. « C’est nous qui avons pris la décision de développer l’intelligence artificielle. » « Elle appartient à présent à la sphère des adultes et des enfants », observe la pédopsychiatre et psychanalyste.
Le rapport souligne également une intensification des violences numériques, incluant des contenus pédocriminels, des incitations à l’automutilation ainsi que des régimes alimentaires nocifs. Le texte préconise un renforcement de la régulation des outils, l’établissement d’un cadre d’utilisation et de surveillance des systèmes d’intelligence artificielle générative, ainsi qu’une évaluation de leurs risques avant leur mise sur le marché.
Au-delà de la dimension individuelle, l’intelligence artificielle constitue également une menace pour la démocratie à l’échelle sociétale. Ce risque concerne en particulier la gestion de l’information. Les modèles d’intelligence artificielle sont désormais largement utilisés en tant que moteurs de recherche, souvent sans qu’une vérification préalable ne soit effectuée. Cela se produit dans 30 % des situations. Cependant, il convient de noter que les réponses ne sont pas systématiquement correctes et varient en fonction de la formulation de la question ainsi que de l’algorithme d’entraînement de la machine. « Ce qui m’interpelle particulièrement, souligne Marie-Rose Moro, c’est cette impression d’immédiateté : je formule une question et il est impératif d’obtenir une réponse instantanément. » Cela signifie que l’élément essentiel réside dans la réponse elle-même, plutôt que dans le processus, le raisonnement ou même l’effort requis pour, par exemple, acquérir une maîtrise d’un sujet. Il s’agit d’une forme de récompense accordée à l’impulsivité.
Le risque peut également s’appliquer aux élections, notamment à l’approche de l’élection présidentielle. Au cours des dernières élections municipales, près d’un électeur sur cinq a utilisé l’intelligence artificielle pour déterminer son choix de candidat. Le rapport recommande donc l’établissement d’un code de bonne conduite concernant l’utilisation de l’intelligence artificielle générative durant les périodes électorales, afin d’éviter toute tromperie ou manipulation des électeurs.
L’objectif de ce rapport n’est donc pas de ralentir le développement de l’intelligence artificielle, mais plutôt d’en anticiper les dérives. L’un des présidents de la commission résume ainsi : « Il est impératif de ne pas manquer le tournant de l’intelligence artificielle, tout en veillant à éviter de se heurter à des obstacles. »
(Article reformulé à l’aide de l’IA)
