● Next INpact Télécom 📅 03/04/2026 à 09:20

Géopolitique 👤 Mathilde Saliou

🏷️ Tags : chine chatgpt deepfake grok rag rte

Clare McGlynn : « l’IA aggrave les violences de genre appuyées sur les technologies » Ouvrir le débat Mathilde Saliou Le 03 avril à 09h20 Professeure de droit, spécialiste des violences de genre, Clare McGlynn a étudié la manière dont les robots conversationnels renforcent diverses problématiques de violence contre les filles et les femmes. Auprès de Next, elle appelle à ouvrir le débat. Une erreur ? « Ce que l’on constate est tout à fait similaire à n’importe quel épisode précédent de développement rapide de technologie, où les dommages que l’on voit émerger le plus tôt sont des violences contre les filles et les femmes. » Ces mots, ce sont ceux de Maeve Walsh, directrice de l’Online Safety Act Network. Aux côtés de multiples autres expertes du monde du numérique comme de celui de l’accueil et de l’écoute des victimes de violences sexistes et sexuelles au Royaume-Uni, Maeve Walsh a été interrogée par la professeure de droit et spécialiste des violences de genre à l’université de Durham (Royaume-Uni) Clare McGlynn et son équipe. En 132 pages, cette dernière dresse une description précise de la manière dont les systèmes d’IA générative accessibles au grand public et les modèles d’IA compagnon influent voire renforcent diverses problématiques de violence de genre à composante numérique. >> Qu’est-ce qui vous a poussée à lancer ce projet de recherche ? Dans son ouvrage The New Age of Sexism (Simon and Schuster, mai 2025), l’écrivaine Laura Bates passe un chapitre à évoquer la question des robots conversationnels. Quand je l’ai lu l’an dernier, j’ai tout de suite pensé : ça va devenir un problème, il faut qu’on l’étudie. Nous sommes au début d’une nouvelle ère, les robots conversationnels mainstream ont des millions d’utilisateurs [900 millions d’utilisateurs actifs par semaine pour ChatGPT, de 18 à 30 millions d’utilisateurs par mois selon les estimations pour Claude, ndlr], les compagnons IA sont aussi de plus en plus utilisés [Replika AI compterait plus de 40 millions d’utilisateurs, Character AI plus de 20 millions d’utilisateurs actifs mensuels, ndlr]. Or, après enquête, nous avons bien trouvé quelques travaux ici et là, sur la manière dont ces machines renforcent les enjeux de stalking, notamment. Mais rien ne rassemblait toutes les manières qu’ont les chatbots d’agir sur les enjeux de violences contre les femmes et les filles. Le but de ce rapport consiste surtout à sensibiliser, à faire émerger le sujet. Les risques en termes de violences de genre ont augmenté à mesure que les robots conversationnels s’amélioraient. Ça s’est vu avec la disponibilité de Grok sur X, par exemple, qui permet de fournir des données problématiques à des stalkers, ou encore dans le cas de la vague de deepfakes pornographiques. L’enjeu le plus « neuf » : les conduites problématiques « générées automatiquement » >> Vous classifiez les risques des robots conversationnels en trois catégories. Pouvez-vous nous les détailler ? Soutenez un journalisme indépendant, libre de ton, sans pub et sans reproche. Accédez en illimité aux articles Profitez d'un média expert et unique Intégrez la communauté et prenez part aux débats Partagez des articles premium à vos contacts Abonnez-vous La suite de cet article est réservée à nos abonnés Soutenez un journalisme indépendant, expert et sans pub. Abonnez-vous sur next.ink/subs Sala2 Premium À l'instant Message 1 Signaler Bloquer cet utilisateur Pensée pour les streameuses, actrices et autres femmes ayant une image publique qui sont déjà victimes de deepfake/de montage sur des forums horribles. Si ça continue à être un non-sujet, le pas vers des deepfakes "interactifs" va être vite franchis. Signaler un commentaire Voulez-vous vraiment signaler ce commentaire ? Non Oui L'enjeu le plus « neuf » : les conduites problématiques « générées automatiquement » « Pouvoir interagir avec des filles et des femmes générées par IA, c'est une nouvelle étape. » « Comment encadrer des machines qui recrachent des stéréotypes sur le viol ? » Commentaires 1

🔗 Lire l'article original 👁️ 0 lecture