Deepfakes sexuels : Cloudflare, Google et Namecheap accusés de ne pas agir suffisamment À grand pouvoir, grandes responsabilités Illustration : Flock Martin Clavey Le 02 octobre à 11h47 Depuis quelques années, la création et diffusion de deepfakes pornographiques ont explosé sur Internet. Trois chercheurs pointent la responsabilité des fournisseurs de services comme Cloudflare, Namecheap et Google dans la diffusion de ces images violentes qui poussent souvent les victimes-survivantes dans une rupture sociale. Une erreur ?
En mai 2025, MrDeepfakes, l’un des sites les plus courus pour produire ce type de contenu, a fermé en annonçant qu’« un prestataire de services essentiel a mis fin définitivement à ses prestations. La perte de données a rendu impossible la poursuite de l’activité ». Les chercheuses et chercheurs Sarah Morgan, Sophie J.
Nightingale et Hany Farid pointent, dans une étude, la responsabilité des fournisseurs de services : « une poignée des plus grandes entreprises Internet mondiales fournissent l’infrastructure de base (hébergement web, réseau de diffusion de contenu, etc.) » des sites de deepfakes, montrent-ils en citant notamment Cloudflare, Namecheap et Google. Société Photos intimes, deepnudes : 13 femmes en colère s’organisent Société Jeudi 28 mars 2024 à 17h17 28/03/2024 17h17 11 Même si SpaceXAI est allègrement l’une des entreprises qui a généré et hébergé le plus de contenus de deepfakes à caractères sexistes et sexuels ces derniers temps, d’autres sites ont prospéré sur ce phénomène violent. SpaceXAI accusé d’avoir utilisé des photos pédocriminelles pour entrainer Grok Grok aurait généré 7 000 deepfakes pédocriminels d’une mineure pour son beau-père Cloudflare, Google et d’autres géants du numérique supportent les infrastructures de ces sites Comme l’expliquent les trois chercheurs dans leur article publié dans la revue Journal of Online Trust and Safety, la détection des deepfakes a progressé de 500 000 images en 2023 à 8 millions en 2025.
Ces chiffres sont des estimations des deepfakes en général, mais une étude montre que la plupart sont générées pour cibler les femmes dans l’intention de produire des images sexualisantes sans consentement. Dans leur étude, ils se sont intéressés « au rôle que joue l’infrastructure technologique générale — souvent invisible — dans la création et la diffusion » de ces deepfakes en analysant pendant un mois et demi 88 sites hébergeant des deepfakes de célébrités trouvés via des recherches par mots-clés et par des alertes Google, dont 38 uniquement dédiés aux deepfakes à caractères sexistes et sexuels. En analysant ces sites, ils se sont rendu compte que la plupart (80) étaient des sites de vidéos pour adultes, cinq étaient des forums pour adultes.
Enfin, pour les trois autres, l’un était un forum généraliste avec un fil de discussion spécifique sur le sujet, un autre était « une plateforme de créateurs accessible par abonnement contenant du contenu pour adultes » et le dernier était un site de partage de fichiers basé sur le cloud. Concernant les fournisseurs de services de ces sites, « cinq acteurs se sont imposés comme des fournisseurs d’infrastructure dominants : Cloudflare, Google, Namecheap, WordPress et Protonmail », écrivent-ils. Ainsi « Cloudflare a fourni la majeure partie des services, se classant en tête dans quatre des neuf composantes d’infrastructure : l’hébergement de sites web (64/105), le CDN (68/122), le DNS (67/87) et les outils d’analyse (56/144).
Google occupait une position dominante dans la fourniture de certificats SSL (61/88) et d’espaces publicitaires (40/92). Namecheap, WordPress et ProtonMail étaient les principaux fournisseurs de services d’enregistrement de noms de domaine (27/88), de systèmes de gestion de contenu (49/58) et de services de messagerie (7/34) », expliquent-ils. Le constat était peu ou prou le même concernant la sous-partie des sites dédiés uniquement à ce genre de contenu.
Des chiffres impressionnants, mais qu’il convient de remettre en perspective : Cloudflare et Google sont omniprésents sur Internet, sur de nombreuses couches du réseau, notamment l’hébergement, le CDN, le DNS… Namecheap est connu pour pratiquer des tarifs peu chers par rapport à la concurrence, et attire donc facilement les personnes peu scrupuleuses souhaitant prendre un nom de domaine. WordPress est librement téléchargeable, il est impossible de bloquer la création de site avec ce CMS.
« Pas à un simple problème de création ou de modération » « La prolifération de ces deepfakes à caractères sexistes et sexuels ne se résume pas à un simple problème de création ou de modération de contenu pour les producteurs et les plateformes d’hébergement ; il s’agit également d’un problème d’infrastructure engendré par les services — souvent cachés — qui permettent la création et la diffusion », concluent-ils. Allant à rebrousse-poil de la neutralité des infrastructures, ces chercheurs estiment « que tous les fournisseurs d’infrastructures devraient bloquer de manière permanente les sites qui hébergent exclusivement ou principalement du contenu relevant [de ce genre de contenu]. Une interdiction permanente ne devrait bien sûr pas être prise à la légère et devrait être réservée aux seuls acteurs les plus répréhensibles ».
Ils s’appuient aussi sur l’exemple de la décision de Cloudflare prise en 2017 de fermer le compte du site néonazi The Daily Stormer pour montrer que ce genre d’infrastructure a la possibilité de mettre en œuvre ce genre de décision. « Nos conditions générales d’utilisation nous réservent le droit de résilier le compte des utilisateurs de notre réseau, à notre entière discrétion », écrivait à l’époque Matthew Prince, le CEO de Cloudflare. Il a ensuite expliqué à ses équipes regretter cette décision : « Je me suis réveillé de mauvaise humeur et j’ai décidé que quelqu’un ne devrait pas avoir accès à Internet […] Personne ne devrait avoir ce pouvoir », a-t-il expliqué dans une lettre envoyée aux employés.
Depuis, on sent que le sujet est sensible pour Cloudflare, comme en témoigne la position de l’entreprise face à 8chan, après les tueries à El Paso et Dayton aux États-Unis en 2019 : « Nous tolérons à contrecœur les contenus que nous trouvons répréhensibles. Mais nous rejetons les plateformes qui ont démontré qu’elles inspiraient directement des événements tragiques et qu’elles étaient, par nature, sans foi ni loi. 8chan a franchi cette ligne.
Il ne leur sera donc plus permis d’utiliser nos services ». Il y a également eu le cas Kiwi Farms, un forum connu pour organiser des campagnes de harcèlement. Une « décision extraordinaire de notre part », explique Matthew Prince.
Il ajoute même que c’est « une décision dangereuse avec laquelle nous ne sommes pas à l’aise ». Elle avait été prise car il y avait « une urgence sans précédent et une menace immédiate pour la vie humaine ». Droit Terrorgram, la fabrique de terroristes d’extrême-droite, à coups de mèmes et de shitposts Droit Mercredi 24 avril 2024 à 16h57 24/04/2024 16h57 15 Bloquer de manière permanente un site ou un compte n’a rien de compliqué, et bien sûr les géants du Net le font.
Ce qui est par contre plus compliqué, c’est d’empêcher une personne malintentionnée de recréer un compte, avec une autre adresse. Comme souvent sur Internet en pareille situation, on retombe sur le jeu du chat et de la souris, version 2.0. La solution pourrait être davantage du côté de la justice qui peut, elle, condamner directement les personnes responsables.
Mais les auteurs cachent au maximum leur identité et les différentes juridictions mondiales n’aident pas. Cet article est en accès libre, mais il est le produit d'une rédaction qui ne travaille que pour ses lecteurs, sur un média sans pub et sans tracker. Soutenez le journalisme tech de qualité en vous abonnant.
Accédez en illimité aux articles d'un média expert Profitez d'au moins 1 To de stockage pour vos sauvegardes Intégrez la communauté et prenez part aux débats Partagez des articles premium à vos contacts Abonnez-vous Signaler un commentaire Voulez-vous vraiment signaler ce commentaire ? Non Oui