● BFM Tech 📅 13/05/2026 à 16:27

Intelligence Artificielle

🏷️ Tags : chatgpt chatgpt health openai rag rte

La plainte affirme que l’intelligence artificielle a joué un rôle direct dans le décès de Sam Nelson, 19 ans, en alimentant progressivement une relation de confiance avec l’adolescent et en lui fournissant des conseils de consommation de substances illicites.Les dossiers s’accumulent pour OpenAI. La famille d’un étudiant de 19 ans mort d’une overdose a engagé des poursuites contre l’entreprise de Sam Altman, rapporte Futurism. Elle accuse l’entreprise d’avoir contribué à son décès en fournissant, via ChatGPT, des recommandations liées à la consommation de drogues. La plainte, déposée ce matin en Californie, vise le géant de l’intelligence artificielle pour négligence et défaut de sécurité de son produit.Sam Nelson, étudiant à l’Université de Californie à Merced, a commencé à utiliser ChatGPT pendant sa dernière année de lycée, notamment pour ses devoirs et le dépannage informatique. Mais au fur et à mesure, les discussions dévient et Sam Nelson commence à questionner l’IA sur la consommation de substances illicites… jusqu’à en faire un interlocuteur régulier sur ces sujets.Un processus insidieuxLes avocats de la famille décrivent un processus insidieux. ChatGPT aurait cherché à tisser une relation de confiance avec l'étudiant. Le chatbot aurait progressivement adopté un ton plus personnalisé, allant jusqu’à proposer des conseils de consommation, des suggestions de mélanges et des recommandations destinées à "optimiser" les effets recherchés.Selon la plainte, il aurait également intégré des éléments de conversation jugés anodins, comme des emojis ou des suggestions de playlists musicales. Finalement, le chatbot commence à "proposer des quantités et des combinaisons de plus en plus dangereuses de médicaments".Dans la nuit du 31 mai 2025, après avoir consommé de l’alcool et une forte dose de kratom, Sam Nelson interroge le système sur la prise de Xanax pour atténuer des nausées. Le chatbot aurait alors reconnu que le mélange des substances pouvait être risqué… sans toutefois en signaler la dangerosité potentiellement mortelle, selon la plainte. Il aurait même suggéré la possibilité d’ajouter du Benadryl. Finalement, il recommande à l’étudiant de s’isoler dans un environnement calme, sans l’orienter vers une prise en charge médicale.L’adolescent est décédé d’une overdose après avoir consommé le mélange de substances. Il a été retrouvé le lendemain par sa mère, Leila Turner-Scott."Si ChatGPT avait été une personne, il serait derrière les barreaux aujourd’hui", rappelle-t-elle. "Sam a fait confiance à ChatGPT", poursuit la mère, estimant que le système avait ignoré le "risque croissant" auquel il était confronté et n’avait pas encouragé son fils à demander de l’aide.Pour les avocats de la famille, le problème dépasse le seul cas individuel. Ils accusent OpenAI d’avoir mis sur le marché un outil qui, dans les faits, peut être utilisé comme un conseil médical de substitution, sans les garanties associées à ce type d’usage. La plainte vise également le programme ChatGPT Health, lancé par l’entreprise, que les plaignants jugent insuffisamment fiable pour gérer des situations sensibles.Un modèle d'IA abandonné"ChatGPT a recommandé une combinaison dangereuse de drogues sans offrir même l'avertissement le plus élémentaire que le mélange pourrait être fatal", alerte Matthew Bergman du Social Media Victims Law Center. "Si un médecin agréé avait fait la même chose, les conséquences en vertu de la loi seraient graves." Les conseils juridiques de la famille dénoncent notamment une logique industrielle défaillante. Selon eux, l’entreprise aurait déployé un outil d’intelligence artificielle à grande échelle sans garde-fous suffisants ni transparence adéquate sur ses limites dans les situations sensibles.On n'arrête pas le progrès : Santé, doit-on se méfier de "docteur ChatGPT" ? - 03/03 4:21"OpenAI a déployé un produit d'IA défectueux directement auprès des consommateurs du monde entier en sachant qu'il était utilisé comme un système de triage médical de facto, mais notamment, sans garde-fous de sécurité raisonnables, des tests de sécurité robustes ou de transparence avec le public", rappelle le directeur du projet Tech Justice Law Meetali Jain, un avocat de la famille, dans un communiqué.De son côté, OpenAI conteste toute responsabilité directe. La start-up souligne que les interactions évoquées concernaient une version antérieure du modèle, GPT-4o, désormais remplacée. L’entreprise affirme que ChatGPT n’est pas conçu pour remplacer un avis médical et indique avoir renforcé ses systèmes de sécurité afin de mieux détecter les situations de détresse et orienter les utilisateurs vers des ressources adaptées. Les garanties de ChatGPT aujourd'hui sont conçues pour "identifier la détresse, traiter en toute sécurité les demandes nuisibles et guider les utilisateurs vers une aide réelle”, précise l’entreprise au New York Times. "Ce travail est en cours, et nous continuons à l'améliorer en étroite consultation avec les cliniciens."Pourtant, OpenAI reconnaissait en janvier que les usages liés à la santé constituent l’un des cas les plus fréquents de recours à son outil, utilisé chaque semaine "par des centaines de millions de personnes" pour des questions de bien-être et de symptômes. Depuis 2024, l’entreprise de Sam Altman est visée aux États-Unis par une série de plaintes similaires. Dans ces dossiers, les plaignants reprochent au chatbot d’avoir répondu à des questions portant sur des méthodes de suicide, des mélanges de drogues ou des dosages, sans interrompre clairement la conversation ni orienter systématiquement vers des services d’urgence.Les plus lusDonald Trump publie un dessin montrant le Venezuela comme "51e Etat" américain"Plus de 34 euros net supplémentaires par mois": le ministre du Travail Jean-Pierre Farandou annonce que le SMIC va augmenter de 2,4% à partir du 1er juinPrésidentielle 2027: Marine Le Pen affirme qu'elle "sera candidate" en cas de condamnation à une peine avec sursis"Les Français peuvent voyager comme ils le souhaitent": malgré les craintes de propagation de l'hantavirus, le ministre des Transports exclut (pour le moment) toute restriction ainsi que le port du masque obligatoire16 ans après Knysna, on tient peut-être enfin le nom de la taupe (mais il n'est même pas au courant)

🔗 Lire l'article original 👁️ 0 lecture