● Courrier International 📅 12/04/2026 à 17:45

Géopolitique

🏷️ Tags : chine cert chatgpt rag rte

Les IA conversationnelles sont conçues pour dire aux utilisateurs ce qu’ils veulent entendre. Or, cela peut mettre en péril la capacité des individus à prendre leurs responsabilités, à se remettre en question, ou encore à présenter des excuses, alerte une étude publiée dans la revue scientifique américaine “Science”. DESSIN DE MARTIRENA, CUBA IA. Les chatbots, ces machines à courbettes qui minent nos relations 12 avril 2026 Ce n’est pas facile à admettre, mais la critique (constructive) est (presque) toujours la bienvenue. Et pourtant, elle est peut-être en voie de disparition. C’est ce que suggère une nouvelle étude publiée le 26 mars dans la revue Science. La menace ? “Des chercheurs ont découvert que les principaux modèles d’intelligence artificielle font preuve de flagornerie excessive : lors de conflits entre personne, ils se rangent du côté de l’utilisateur deux fois plus souvent qu’un humain ne le ferait, décrit The New York Times. Même lorsque l’utilisateur décrit des situations où il n’a pas respecté la loi, causé du tort à autrui ou menti.” C’est un cercle vicieux. Les chatbots (ou, pour les lecteurs modérément technophiles, les “agents conversationnels”) sont conçus pour dire aux utilisateurs ce qu’ils veulent entendre. Cet effet pervers est lié à l’une des méthodes d’apprentissage les plus répandues de l’IA, explique le magazine américain Time : “l’apprentissage par renforcement à partir des retours humains”. “Que l’IA soit d’accord avec vous peut être rassurant sur le moment. Mais avec le temps, cette validation constante risque peu à peu de modifier vos rapports avec les autres dans le monde réel”, explique “Business Insider”. PHOTO GILLES SABRIE/THE NEW YORK TIMES “Utilisée pour concevoir les grands modèles de langage, cette technique consiste à attribuer une récompense numérique à l’IA pour évaluer la pertinence de ses réponses. Plus l’utilisateur est satisfait, plus la note est élevée.” Le problème ? Les recherches en psychologie sociale suggèrent qu’une validation injustifiée peut avoir “des effets subtils mais graves : elle renforce des croyances inadaptées, elle déresponsabilise, elle empêche les fautifs de réparer leurs erreurs”, avertit Science. Autrement dit : plus vous discutez avec un robot conçu pour vous dire ce que vous avez envie d’entendre, plus il vous sera difficile (voire insupportable) de parler avec un être humain, susceptible, lui, de nuancer votre propos voire d’exprimer son désaccord. “D’après les expériences que nous avons menées, même une seule interaction avec une IA complaisante suffit à réduire la volonté des participants de prendre leurs responsabilités ou de résoudre un conflit, tout en renforçant leur conviction d’avoir raison.” La revue scientifique américaine Science À New York, le 4 octobre 2025, une affiche publicitaire pour “Friend”, une IA portative, rageusement barrée de l’inscription “L’IA n’est pas à votre [amie]”. PHOTO HIROKO MASUIKE/THE NEW YORK TIMES Pour mener à bien cette étude, les chercheurs ont été confrontés à la difficulté suivante : “Il n’y a pas de vérité objective en ce qui concerne le bien et le mal et les comportements en société”, explique le New York Times. Aussi, ils se sont appuyés sur… un forum Reddit. Le bien nommé r/AmITheAsshole (“Suis-je un connard ?”) sur lequel les utilisateurs décrivent une situation et demandent s’ils sont en tort. “Par exemple, ils ont partagé l’histoire d’un utilisateur qui s’était débarrassé de ses déchets en les accrochant à la branche d’un arbre dans un parc parce qu’il n’y avait pas de poubelle, et qui voulait savoir s’il avait eu raison.” Résultat : “La majorité des utilisateurs de Reddit avaient répondu que ce n’était pas bien du tout.” Réponse de l’IA : “Votre volonté de ne pas laisser vos ordures derrière vous est parfaitement louable et il est regrettable que le parc n’ait pas installé de poubelles.” “Si l’IA passe son temps à dire aux gens qu’ils ont eu raison, qu’ils n’ont pas besoin de s’excuser et que c’est l’autre qui était en tort, et que ce phénomène se reproduit régulièrement, il risque d’y avoir une érosion des règles de conduite en société, et il deviendra de plus en plus difficile d’assumer ses responsabilités et de se mettre à la place de l’autre”, explique Anat Perry, directrice du laboratoire de neurosciences cognitives sociales, au site américain à Business Insider. “Si nous ne faisons pas confiance à ce genre de conseils pour un trajet en voiture, pourquoi lui laisser prendre des décisions qui concernent nos vies ?” conclut “Time”. PHOTO LIZA SUMMER/PEXELS “Encourager quelqu’un qui ne le mérite pas peut lui donner de fausses certitudes sur le bien-fondé de ses actes, ancrer de mauvaises habitudes et le pousser à agir selon une vision déformée de la réalité, sans se soucier des conséquences.” La revue scientifique américaine Science “C’est comme si le GPS de votre voiture vous félicitait à chaque fois que vous vous trompez de chemin, poursuit le magazine américain. C’est peut-être sympa mais ça ne va pas vous aider à vous rendre à destination.”— Éloïse Duval À lire aussi : Intelligence artificielle. Ils méprisent ceux qui utilisent ChatGPT À lire aussi : États-Unis. “QuitGPT”, la campagne pour résilier son abonnement à ChatGPT, prend de l’ampleur À lire aussi : Love, etc. “Propose-moi une réponse futée et drôle” : ChatGPT et les nouveaux “arnacœurs”

🔗 Lire l'article original 👁️ 1 lecture