● BFM Tech 📅 09/04/2026 à 12:30

Cybersécurité

🏷️ Tags : cert gemini openai rag réseau rte

Afin de mieux répondre aux autorités cherchant à limiter l'exposition des enfants aux contenus problématiques en ligne, OpenAI dévoile plusieurs de ses engagements en la matière.Avec plus de 8.000 signalements de contenus pédocriminels et d'abus sexuels sur les enfants générés par IA au premier semestre 2025, selon l'Internet Watch Foundation, les acteurs du secteur sont aujourd'hui en première ligne. Afin de répondre à cette problématique, OpenAI a dévoilé son livre blanc - une série d'engagements et de règles - visant à faciliter la détection de ces contenus et à mener une enquête plus approfondie pour les signaler plus facilement.En augmentation de 14% par rapport à 2024, les signalements de ces contenus montrent que les pédocriminels utilisent désormais les outils d'intelligence artificielle afin de générer de fausses images explicites d'enfants. Ils les utiliseront ensuite pour générer des messages pour mieux manipuler leurs victimes ou en extorquer d'autres.Tuer les abus avant qu'ils ne surviennentLa parution du livre blanc d'OpenAI s'inscrit dans un monde où de plus en plus de pays commencent à réclamer une meilleure régulation de l'IA générative sur les contenus illégaux.Pour établir ses règles, OpenAI s'est associé, explique-t-elle, avec le National Center for Missing & Exploited Children et l'Alliance des procureurs généraux, dont Jeff Jackson et Derek Brown, deux procureurs connus pour leur travail sur plusieurs affaires impliquant des réseaux pédocriminels."La menace évolue constamment, et les solutions statiques sont insuffisantes. Mettre en place une architecture de prévention en amont est l'investissement le plus important que l'industrie puisse faire dans la sécurité des enfants," assurent-t-ils.L'entreprise dirigée par Sam Altman explique d'abord que le premier objectif est de "mettre à jour la législation" afin qu'elle prenne en compte, au niveau fédéral, les images abusives générées par IA. Le deuxième objectif de son effort place également OpenAI au coeur d'un effort nécessaire. La start-up veut contribuer à affiner ses mécanismes de signalement auprès des autorités. Ce deuxième point mène tout droit à un troisième, qui consistera à intégrer de nouveaux filtres et garde-fous directement dans les différents modèles d'IA générative.Détecter les contenus illégaux plus tôtGrâce à ces filtres, la startup espère pouvoir détecter bien plus tôt - par exemple dès le prompt original - ces contenus, tout en récupérant des informations exploitables pour être utiles à l'enquête."En interrompant plutôt les tentatives d'exploitation, en améliorant les signaux envoyés aux autorités et en renforçant la responsabilité de l'ensemble de l'écosystème, ce cadre vise à prévenir les dommages avant qu'ils ne surviennent," estime OpenAI.Plusieurs procès en cours, portés par des associations d'aide aux victimes, ont révélé des affaires sordides. Outre les abus sur mineurs, les chatbots sont pointés du doigt pour leur capacité à créer un "ami" virtuel qui pourrait se substituer à un adulte ou un spécialiste. Un point qui a d'ailleurs été abordé tout récemment par Google qui s'est engagé à ce que son IA, Gemini, ne "prétende pas être humain" et ne cherche pas à "simuler l'intimité".Des suicides ont ainsi été recencés après que des adolescents ont discuté avec une IA générative, et plusieurs autres se sont retrouvés dans des situations accidentogènes graves, expliquent les organismes Social media Victims Law Center et Tech Justice Law Project, qui ont déposé sept plaintes en Californie contre OpenAI.Ces derniers mois, OpenAI a refondu une partie de ses fonctionnalités pour inclure des barrières à la saisie de certains prompts. Il est ainsi bien plus difficile d'accéder à des contenus dangereux ou qui faciliteraient certains pratiques comme l'automutilation.Les plus lusLa campagne de déclaration des revenus 2025 ouvre ce jeudi: voici les dates à respecter selon votre départementCes "violations sapent l'esprit du processus de paix": la trêve au Moyen-Orient fragilisée par les frappes israéliennes au Liban"Ça pourrait être bien parti pour que ce soit moi": Thomas Pesquet parmi les favoris pour marcher sur la LuneQui est Maria-Carolina de Bourbon des Deux-Siciles, qui apparaît en une de Paris Match avec Jordan Bardella?PSG-Liverpool: la qualification déjà dans la poche? Ce que disent les statistiques avant le quart de finale retour

🔗 Lire l'article original 👁️ 0 lecture