● BFM Tech 📅 07/05/2026 à 20:00

Géopolitique

🏷️ Tags : chine cert chatgpt openai rag réseau rte rust surveillance

L'application ChatGPT (photo d'illustration) - Photo par MATTHIAS BALK / DPA / DPA PICTURE-ALLIANCE VIA AFPOpenAI lance une option "contact de confiance" dans ChatGPT permettant d’alerter un proche lorsqu’un utilisateur présente des signaux de détresse, notamment en cas d’idées d’automutilation ou de suicide détectées par les systèmes.Les chatbots d’intelligence artificielle sont progressivement devenus, pour certains utilisateurs, une forme de "membre de la famille"... numérique. Selon une récente étude européenne du Groupe VYV et de la CNIL, ces outils ne servent plus seulement à s’informer ou apprendre: ils deviennent aussi des espaces de confiance pour évoquer l’anxiété ou des difficultés personnelles, parfois sans que les jeunes comprennent réellement leur fonctionnement. Une évolution qui inquiète de plus en plus les familles.Parmi ces outils, ChatGPT figure parmi les plus utilisés. OpenAI déploie désormais une nouvelle fonctionnalité optionnelle de sécurité, baptisée "Trusted Contact". La start-up avait dévoilé son intention de présenter un tel outil en mars dernier.Il permet aux utilisateurs majeurs de désigner une personne de confiance (proche, famille ou aidant) susceptible d’être alertée si des signaux de détresse liés à des idées d’automutilation ou de suicide sont détectés par les systèmes de surveillance intégrés au chatbot.Un système avec des spécialistesCe dispositif s’ajoute aux outils déjà existants, comme les mécanismes d’alerte pour adolescents et les lignes d’assistance intégrées. OpenAI précise toutefois que cette fonctionnalité ne remplace ni un accompagnement médical ni les services d’urgence, mais vise à encourager un contact humain en situation de crise. "ChatGPT continuera d’encourager les utilisateurs à contacter les lignes d’aide en cas de crise ou les services d’urgence lorsque cela est approprié", indique l’entreprise.La société affirme enfin avoir conçu ce système avec des spécialistes de la santé mentale. "Nous avons développé la fonctionnalité avec des cliniciens, des chercheurs et des organisations spécialisées dans la prévention du suicide", précise OpenAI, en s’appuyant notamment sur son réseau international de médecins et un conseil d’experts dédié au bien-être et à l’IA."Trusted Contact" en quelques étapesLes utilisateurs peuvent ajouter, via les paramètres de ChatGPT, un adulte (18 ans minimum, ou 19 ans en Corée du Sud) comme "contact de confiance".Le contact reçoit une invitation expliquant son rôle et doit l’accepter sous une semaine, sans quoi l’utilisateur peut en choisir un autre.En cas de signaux de détresse détectés par les systèmes automatisés, ChatGPT avertit l’utilisateur et l’encourage à contacter sa personne de confiance.Une équipe spécialisée évalue ensuite la situation; si le risque est jugé élevé, une notification est envoyée au contact par e-mail, SMS ou via l’application.Cette alerte reste volontairement concise, sans détails de conversation, et inclut des conseils pour engager le dialogue; le dispositif peut être modifié ou désactivé à tout moment par l’utilisateur ou le contact.Ces dernières semaines, plusieurs sociétés, qui fournissent des chatbots d’intelligence artificielle, ont également cherché à rassurer les parents et les proches des utilisateurs. C’est notamment le cas de Character.AI, qui permet de dialoguer avec des chatbots inspirés de célébrités. Face aux controverses, l’entreprise a introduit des outils de contrôle parental donnant accès au temps d’utilisation et aux types de bots avec lesquels les enfants interagissent. Comme le rapporte The Verge, cette fonctionnalité, longtemps attendue, avait été promise dès 2024 par la start-up.Les plus lusSuspect arrêté, enquête pour "assassinat"... Ce que l'on sait sur la mort d'une collégienne de 14 ans tuée à l'arme blanche dans l'Aisne"En désaccord avec Gabriel Attal sur l'essentiel": pourquoi Élisabeth Borne a claqué la porte de la direction de RenaissanceHantavirus: que sait-on des huit cas recensés, suspects comme confirmés?"C’est une aberration": un violoniste dénonce les compagnies aériennes qui obligent les musiciens à monter à bord avec leurs instruments mais sans leurs étuis qui doivent aller en soute"Il faudrait un exploit pour arrêter cette machine de guerre construite par Luis Enrique": la presse internationale admirative après Bayern-PSG

🔗 Lire l'article original 👁️ 3 lectures