● Silicon.fr Télécom 📅 07/04/2026 à 16:14

Cybersécurité 👤 Philippe Leroy

🏷️ Tags : cert chatgpt gemini rag rte

Google, s’apprête à introduire de nouvelles fonctionnalités de soutien en santé mentale au sein de son chatbot Gemini. Selon un billet de blog publié ce mardi, on apprend que Gemini intégrera désormais une interface capable de rediriger automatiquement les utilisateurs vers une ligne d’assistance lorsque la conversation laisse entrevoir « une crise potentielle liée au suicide ou à l’automutilation ». Google annonce également l’ajout d’un module « une aide est disponible » lors des échanges portant sur la santé mentale, ainsi que des ajustements de conception destinés à décourager les comportements d’automutilation. Contexte judiciaire En mars dernier, la famille d’un homme de 36 ans décédé en Floride a attaqué Google en justice, affirmant que son utilisation de Gemini avait abouti à « une descente de quatre jours dans des missions violentes et un suicide assisté par le chatbot ». À l’époque, Google avait indiqué que le chatbot avait orienté l’homme vers une ligne de crise à plusieurs reprises, tout en promettant de renforcer les garde-fous du service. Un phénomène qui inquiète au-delà de Google L’essor des chatbots comme Gemini et ChatGPT a conduit certains utilisateurs à développer des relations obsessionnelles avec ces agents conversationnels, contribuant selon certaines allégations à des délires et, dans des cas extrêmes, à des meurtres suivis de suicides. Lire aussi : Google lance Gemini Enterprise Plusieurs familles ont intenté des actions en justice contre des développeurs d’IA de premier plan. Le Congrès américain s’est lui aussi penché sur les risques potentiels que ces chatbots représentent pour les enfants et les adolescents. Lutter contre le renforcement de fausses croyances D’autres incidents ont impliqué des chatbots qui auraient poussé leurs utilisateurs à agir sur la base de croyances manifestement erronées. Dans son billet de blog de mardi, Google indique avoir entraîné Gemini à « ne pas acquiescer ni renforcer de fausses croyances, et à distinguer avec douceur l’expérience subjective du fait objectif ». L’entreprise n’a toutefois pas fourni de détails supplémentaires sur ce processus. Un investissement de 30 millions $ Par le passé, Google a déjà procédé à des ajustements similaires sur ses services populaires après avoir été soumis à un examen critique, notamment en intégrant des informations provenant d’institutions de santé et de professionnels à son moteur de recherche et à YouTube. Cette fois, la firme va plus loin : elle annonce un don de 30 millions $ à des services mondiaux de soutien en situation de crise, sur une période de trois ans.

🔗 Lire l'article original 👁️ 0 lecture