● Silicon.fr Télécom 📅 12/05/2026 à 12:22

Géopolitique 👤 Clément Bohic

🏷️ Tags : chine llm cert deepfake pto rag réseau rte

Une image d’un sphinx volant au-dessus de la tour Eiffel n’est pas un deepfake. La Commission européenne a intégré cet exemple – relatif à la créature mythique de l’Antiquité ; pas au papillon – dans des lignes directrices. Soumises à consultation publique, elles devront accompagner la mise en œuvre de l’article 50 de l’AI Act. Celui-ci impose des obligations de transparence au sujet de certains systèmes d’IA et contenus de synthèse. Il s’appliquera au 2 août 2026, avec une période de grâce jusqu’au 2 décembre. Systèmes interagissant directement avec des personnes Le premier paragraphe de l’article 50 s’applique aux systèmes d’IA destinés à interagir directement avec des personnes physiques. Lire aussi : L'IA industrielle finalement (quasi) exemptée d'AI Act Les fournisseurs de ces systèmes doivent les concevoir de sorte que les personnes concernées sont informées de la nature de l’interaction. L’AI Act introduit deux exceptions. D’une part, s’il est évident pour la personne qu’elle a affaire à une IA. De l’autre, si la loi autorise l’utilisation du système pour prévenir, détecter ou sanctionner des infractions pénales. Dans ses lignes directrices, la Commission européenne exclut du champ de l’article les cas où une personne est exposée à des outputs sans interaction directe. Elle donne l’exemple de la communication avec un agent de service client qui s’aiderait d’une IA. Et y ajoute, entre autres, les algos de recommandation, les antispams et la traduction/transcription automatique. Bruxelles aborde aussi le cas des agents IA. Et appelle à une forme de principe de précaution : les fournisseurs n’étant pas toujours en mesure de déterminer de façon fiable si un agent interagira avec une personne physique, ils lui demanderont de se présenter comme tel si cette interaction est « probable » (« likely »). Information multimodale recommandée L’AI Act n’impose pas de technique pour communiquer l’information. Il faut néanmoins qu’elle soit claire et distinguable. Et qu’elle apparaisse au plus tard au moment de la première interaction. La Commission européenne conseille de la rendre multimodale, notamment dans une logique d’accessibilité. Elle précise que les techniques suivantes, employées seules, sont insuffisantes : Divulgation dans des conditions d’utilisation ou dans de la documentation Filigranes non perceptibles par l’humain Signaux ambigus telles des références génériques à un « assistant » Descriptions qui n’évoquent que des technologies sous-jacentes (« Ce système utilise des LLM ») sans parler de la fonction du système ou de ses implications pour l’utilisateur L’exception pour « évidence » doit s’appuyer sur la notion de « consommateur moyen », explique la Commission européenne. Des éléments y contribuent, comme l’utilisation d’un « ton robotique » ou d’une photo de profil représentant un bot. Sont hors champ les systèmes d'IA destinés à des publics professionnels. Par exemple, un assistant de code pour les développeurs ou un système ciblant exclusivement des personnels de santé pour le diagnostic médical. Les interactions avec les PNJ (personnages non jouables) dans les jeux vidéo le sont aussi. Systèmes générant et manipulant des contenus de synthèse Le deuxième paragraphe de l'article 50 concerne la génération et la manipulation de contenus de synthèse. Les fournisseurs des modèles impliqués doivent marquer les outputs dans un format lisible par la machine. Et faire en sorte qu'ils soient identifiables comme ayant été générés ou manipulés par une IA. Au-delà de l'exception pour le pénal, il y en a une pour les IA qui remplissent une « fonction d'assistance pour la mise en forme standard ». Et une autre pour les cas où l'IA ne modifie pas de manière substantielle les données d'entrée ou leur sémantique. Lire aussi : AI Act : un report à 2027 voire 2028 se dessine La Commission européenne précise que ces obligations s'appliquent aussi aux contenus non exclusivement générés ou manipulés par des IA. Elles englobent par ailleurs les jumeaux numériques, sauf s'ils relèvent d'applications industrielles. L'AI Act ne concerne en revanche pas les systèmes qui ne font que reproduire du contenu existant ou qui en permettent l'agencement (playlists musicales, par exemple). Ces obligations visent à éviter les tromperies et les manipulations, et par là même la défiance envers l'information, rappelle Bruxelles. De là, il faut considérer comme hors champ les contenus non liés à cet objectif et non perceptibles ou pas censés être interprétés. Par exemple le code source. Ou les outputs utilisés en boucle fermée dans des environnements industriels ou de développement produit (on nous mentionne la production de films). Marquage/détection : deux techniques valent mieux qu'une, mais... Concernant les techniques de marquage, le considérant 133 de l'AI Act en liste quelques-unes : filigranes, identification de métadonnées, empreintes digitales, méthodes cryptographiques indiquant la provenance... En l'état, aucune technique de marquage et de détection ne satisfait à un niveau suffisant les 4 critères que sont l'efficacité, la fiabilité, la robustesse et l'interopérabilité, déclare la Commission européenne. Elle appelle donc à les combiner. Non sans reconnaître qu'une technique seule peut de même parfois suffire, lorsqu'il existe un risque limité de tromperie, de manipulation ou de défiance envers l'information. Exemple : un système d'IA embarqué dans un produit physique générant des outputs en environnement « fermé et techniquement contrôlé », sans que ces outputs quittent le produit. Cela peut correspondre à la description d'une IA embarquée dans un GPS. Les applications industrielles, non concernées si... Les applications industrielles ou B2B peuvent aussi échapper aussi aux obligations de transparence, selon Bruxelles. À deux conditions. D'un côté, que les outputs soient strictement techniques (designs d'ingénierie, workflows de production, journaux de maintenance prédictive...). De l'autre, qu'ils soient destinés à n'être vus que par un nombre défini et limité de personnes physiques chez le fournisseur/déployeur. Pour ce qui est de l'assistance à la mise en forme standard, les lignes directrices la définissent comme la préparation d'un contenu pour la publication ou la distribution. Quant à l'absence d'altération substantielle des inputs ou de leur sémantique, la correction grammaticale en relève. La conversion de format aussi, comme la réduction de bruit, la mise à l'échelle, la rotation ou la suppression des yeux rouges. Pas d'exception, en revanche, pour la traduction ou le résumé. Ni pour, entre autres : Effacement ou obscurcissement d'un arrière-plan Pixellisation ou floutage d'un visage Modification d'une silhouette ou d'une couleur de peau Ajustements « extrêmes » de colorimétrie, luminosité ou contraste (rendre bleu un ciel gris, par exemple) Colorisation d'images en noir et blanc Création d'images ou de clips vidéo composites Systèmes de reconnaissance des émotions ou de catégorisation biométrique Le troisième paragraphe de l'article 50 concerne les systèmes de reconnaissance des émotions ou de catégorisation biométrique. Il impose à leurs déployeurs d'informer les personnes physiques exposées. Avec, là encore, une exception pour le pénal. Sur ce point, la Commission européenne apporte peu de précisions. Elles concernent essentiellement la forme que doit prendre l'information des personnes. Elle dépendra notamment du contexte de déploiement (monde de jeu virtuel, magasin physique, gare ferroviaire...). Ainsi que des publics touchés et de l'éventuelle existence d'une relation avec eux (canal de communication, par exemple). Systèmes générant des deepfakes Le quatrième paragraphe de l'article 50 englobe la génération et la manipulation de deux types de contenus. D'une part, les deepfakes. De l'autre, les textes publiés dans le but « d'informer le public sur des sujets d'intérêt public ». Concernant les deepfakes, les déployeurs doivent clairement en indiquer la nature. Hormis l'exception pour le pénal, l'AI Act en fait une pour les contenus qui « font partie d'une œuvre ou d'un programme manifestement artistique, créatif, satirique, fictif ou analogue ». Dans ces cas-là, la divulgation pourra se faire d'une manière qui n'entrave pas l'affichage ou la jouissance de l'œuvre. Les textes sont soumis à la même obligation de transparence sauf s'ils ont fait l'objet d'un processus d'examen humain ou de contrôle éditorial, et qu'une personne physique ou morale assume la responsabilité éditoriale de la publication. Considérer le public... et le contexte Bruxelles estime qu'on ne doit pas considérer comme deepfake tout ce qui n'est pas réaliste : dragon, éléphant qui conduit une voiture... et donc sphinx volant au-dessus de la tour Eiffel, par exemple. En gros, tout ce qui « défie les lois de la nature ou dépeint des formes de vie non communément acceptées en biologie ». Il faut là aussi prendre en compte le public potentiel... sauf que la notion de « consommateur moyen » ne marche pas. Il faut également apprécier le contexte. L'édition de l'arrière-plan sur une photo dans un journal a probablement un impact plus négatif sur la perception d'authenticité de l'information qu'il n'en a sur la perception d'authenticité d'un produit dans le cadre d'une publicité. Les lignes directrices donnent quelques exemples de contenus à caractère artistique, créatif, satirique, fictif ou analogue : Artistique/fictif : dans un film, effets spéciaux consistant à rajeunir des acteurs ou à ressusciter des personnes décédées Artistique/créatif : musique dans un style ressemblant à celui d'un artiste existant Satirique/fictif : image d'un homme politique dépeint dans un contexte clairement destiné à critiquer ses décisions Analogue/fictif : dans un jeu vidéo, simulation de personnes ou de lieux existants Est « analogue » un contenu qui partagent des traits fondamentaux avec les 4 catégories d'œuvres en question, mais qui ne s'y apparente pas exactement, par exemple parce qu'il a un objectif secondaire informationnel ou commercial. Une vidéo publicitaire mettant en scène des consommateurs créés par une IA n'entre pas dans le champ des « œuvres ». Même chose pour une image d'une célébrité s'impliquant dans des activités, si elle n'a pas de caractère clairement fictif, satirique ou analogue. L'intérêt public, du « local » à l'international Pour les textes, la notion d'intérêt public peut se mesurer dès le niveau « local » (par opposition à « national », « européen » et « international »). La Commission européenne fournit une liste de sujets considérés comme d'intérêt public : Administration et services publics Droits fondamentaux Santé publique Protection de l'environnement Protection du consommateur Tout développement économique, politique, scientifique ou culturel ayant des implications publiques potentiellement importantes La notion d'examen humain s'entend avec la compétence et le jugement professionnel sur le sujet concerné. La publication d'un deepfake par un particulier peut relever d'une activité professionnelle L'AI Act ne s'applique pas aux personnes physiques qui utilisent des systèmes d'IA dans le cadre d'une activité « strictement personnelle à caractère non professionnel ». La Commission européenne estime que la publication d'un deepfake ne relève pas d'une activité non professionnelle dès lors qu'elle est susceptible d'avoir un impact sur le discours autour de sujets d'intérêt public. Exemple : un individu qui crée et partage publiquement sur les réseaux sociaux un deepfake du maire de sa ville pour critiquer des décisions qu'il a prises ou soutenues. L'AI Act ne s'applique pas non plus aux systèmes ou modèles d'IA « spécifiquement développés et mis ens ervice uniquement à des fins de recherche et développement scientifiques ». Bruxelles donne l'exemple d'un système d'IA interactif que des chercheurs veulent tester en mode vocal auprès de personnes physiques pour voir si elles sont capables de le distinguer d'un humain. Un tel système est hors du champ de l'AI Act tant qu'on ne le met pas en service hors du contexte de recherche. Illustration générée par iA

🔗 Lire l'article original 👁️ 0 lecture