AI Act, article 50 : quelles obligations pour les contenus générés par IA ?

1. Article 50 de l’AI Act : qui est concerné et par quelles obligations ?

Depuis le 2 août 2026, les obligations de transparence prévues par l’article 50 de l’AI Act sont applicables.
Leur objectif : permettre aux citoyens de savoir lorsqu’ils interagissent avec certains systèmes d’intelligence artificielle ou lorsqu’ils sont exposés à certains contenus générés ou manipulés par IA.

Pour comprendre le texte, il faut d’abord distinguer deux acteurs :

1. Les fournisseurs de systèmes d’IA : ceux qui développent ou font développer un système d’intelligence artificielle, puis le mettent sur le marché ou en service sous leur propre nom ou leur propre marque.
Exemples : OpenAI (ChatGPT), Anthropic (Claude), Google (Gemini), etc.

2. Les déployeurs : les entreprises, organisations, administrations ou professionnels qui utilisent un système d’IA sous leur autorité dans le cadre de leur activité.

Leurs obligations ne sont pas les mêmes.

Une distinction essentielle apparaît donc : l’information visible donnée au public et le marquage technique d’un contenu ne sont pas la même chose. Et c’est là que les choses deviennent intéressantes.

2. Contenus générés par IA : quand faut-il les signaler ?

L’article 50 prévoit notamment des obligations concernant les contenus générés ou manipulés par une intelligence artificielle :

• les images
• les vidéos
• les contenus audio
• les textes.

Ces contenus doivent pouvoir être identifiés comme générés ou manipulés par IA grâce à un marquage lisible par machine.

Cependant, cela ne signifie pas que la mention « Créé avec une IA » doit être visible par le public sur tous ces contenus.
Cette obligation concerne certaines situations particulières, notamment les hypertrucages ou deepfakes et certains textes portant sur des questions d’intérêt public.

Prenons deux situations très concrètes.

Exemple 1 — Quand l’IA devient un outil de création publicitaire

En juin 2024, Toys »R »Us marque une étape clé dans l’histoire des médias et de l’IA publicitaire avec The Origin of Toys »R »Us.
Alors que d’autres marques avaient déjà utilisé l’IA pour écrire des scripts, ce projet s’impose comme le premier spot publicitaire entièrement généré visuellement par l’intelligence artificielle, réalisé avec Sora, le modèle de génération vidéo d’OpenAI.
Le projet a néanmoins mobilisé une équipe humaine pour sa conception et sa postproduction.

Conçu avec l’agence Native Foreign, le film met en scène une version fictive du jeune Charles Lazarus, fondateur de Toys »R »Us, imaginant ce qui deviendra l’univers de la marque et sa célèbre mascotte Geoffrey la girafe. En voici l’extrait vidéo :

Un an et demi plus tard, en décembre 2025, McDonald’s Pays-Bas utilise à son tour l’IA générative pour sa campagne de Noël It’s the Most Terrible Time of the Year. La publicité suscite de nombreuses critiques et sera finalement retirée.

Ces deux campagnes ayant été créées avant le 2 août 2026, elles n’ont pas à être étiquetées rétroactivement au titre de l’article 50.

Pour une campagne créée aujourd’hui, les contenus générés ou manipulés par IA doivent pouvoir être identifiés grâce à un marquage technique lisible par machine, assurant ainsi leur traçabilité.

Mais ce marquage technique ne signifie pas que tout contenu généré par IA doit porter une mention visible destinée au public.
Pour les images, contenus audio ou vidéos, cette obligation d’information concerne notamment les hypertrucages (deepfakes), c’est-à-dire des contenus représentant de manière réaliste des personnes, objets, lieux ou événements existants et pouvant être perçus à tort comme authentiques.

Autrement dit : information visible du public et marquage technique sont deux obligations différentes.

Exemple 2 — Une entreprise utilise l’IA pour détourer une photo

Prenons maintenant une situation beaucoup plus banale.

Une entreprise dispose de la photographie réelle d’un produit. Son graphiste utilise une fonctionnalité d’IA, par exemple dans Gemini ou un autre outil, pour détourer le produit, supprimer son arrière-plan ou effectuer une retouche standard qui ne modifie ni la substance ni le sens de l’image.

L’article 50 prévoit une exception à l’obligation de marquage lorsque le système réalise essentiellement une fonction d’assistance pour une modification standard ou lorsqu’il ne modifie pas substantiellement les données fournies ou leur sens.

Dans cette situation, le simple recours à une fonctionnalité d’IA ne déclenche donc pas nécessairement le marquage prévu pour les contenus générés ou substantiellement manipulés.

Utiliser l’IA ne signifie pas automatiquement devoir signaler chacune de ses interventions.

Entre détourer une photographie existante et fabriquer une scène réaliste qui n’a jamais existé, l’enjeu de transparence n’est évidemment pas le même.

3. Hypertrucages ou deepfakes : une obligation de transparence renforcée

L’article 50 impose une transparence renforcée pour les hypertrucages, plus connus sous le nom de deepfakes.

L’AI Act définit l’hypertrucage comme un contenu image, audio ou vidéo généré ou manipulé par IA, ressemblant à des personnes, objets, lieux, entités ou événements existants et susceptible d’apparaître faussement authentique ou véridique.

Exemple 3 — Une fausse vidéo d’un dirigeant

Imaginons qu’une entreprise génère une vidéo réaliste dans laquelle son dirigeant présente un nouveau produit.
Son visage est reproduit. Sa voix également. Pourtant, il n’a jamais été filmé et n’a jamais prononcé ces phrases.

Si le contenu répond à la définition de l’hypertrucage ou deepfake :

1. il doit bénéficier d’un marquage technique lisible par machine permettant d’identifier son caractère artificiel ou manipulé et
2. son caractère généré ou manipulé par IA doit être signalé au public de manière claire et reconnaissable.

En matière d’hypertrucage ou de deepfake, l’article 50 permet ainsi au spectateur de savoir qu’il ne regarde pas une scène authentique, avec un enjeu central : préserver la confiance informationnelle.

Comment YouTube signale déjà les contenus générés par IA ?

Depuis mai 2026, YouTube rend plus visibles ses labels AI appliqués aux contenus photoréalistes générés ou significativement modifiés par IA. Pour les vidéos longues, le label apparaît sous le lecteur ; pour les Shorts, directement sur la vidéo.

Cette initiative illustre concrètement la différence entre un marquage technique destiné aux machines et une information clairement visible par le public.

Ce type de dispositif permet de rendre l’utilisation de l’IA visible pour l’utilisateur.

Exemple de signalement d’un contenu généré ou significativement modifié par IA sur YouTube. Source : YouTube, 2026.

4. Textes d’intérêt public : une transparence obligatoire « sans contrôle humain »

Les textes générés ou manipulés par IA sont concernés par l’obligation de transparence lorsqu’ils sont publiés dans le but d’informer le public sur une question d’intérêt public, par exemple sur un sujet politique, économique, social, sanitaire ou environnemental.

Exemple 4 — Un discours politique rédigé avec une IA

Imaginons qu’un responsable politique utilise une IA pour rédiger un texte destiné à informer le public sur une réforme.

S’il est publié dans le but d’informer le public sur une question d’intérêt public, son caractère généré ou manipulé par IA doit en principe être signalé.

Cependant, si le texte a fait l’objet d’un processus de contrôle humain ou éditorial et qu’une personne physique ou morale assume la responsabilité éditoriale de sa publication alors cette obligation ne s’applique.

Pour les textes d’intérêt public, ce qui compte donc, c’est leur objectif, le contrôle humain et la responsabilité éditoriale.

5. Ce que l’article 50 ne couvre pas : les usages personnels et non professionnels de l’IA

Les obligations de transparence imposées aux déployeurs par l’article 50 de l’AI Act ne s’appliquent pas aux personnes utilisant un système d’IA dans le cadre d’une activité personnelle à caractère non professionnel, par exemple à des fins récréatives ou de divertissement.

Ainsi, une personne agissant dans un cadre strictement personnel peut créer un deepfake et le diffuser sur les réseaux sociaux sans avoir à signaler que ce contenu a été créé ou manipulé par IA.

Cela ne signifie pas que tout est permis. En France, un deepfake portant atteinte au droit à l’image, à la vie privée ou à la réputation d’une personne peut être sanctionné, selon les circonstances.

Exemple 5 — Un deepfake de Zendaya pour se divertir

Un particulier crée, pour se divertir, une vidéo générée par IA dans laquelle Zendaya semble prononcer des paroles qu’elle n’a jamais tenues, puis la publie sur son compte personnel.

Cet usage strictement personnel et non professionnel n’est pas soumis aux obligations imposées aux déployeurs par l’AI Act mais cela ne signifie pas que sa diffusion échappe au droit français.

L’article 226-8 du Code pénal sanctionne notamment la diffusion, sans le consentement de la personne concernée, d’un contenu visuel ou sonore généré par un traitement algorithmique représentant son image ou ses paroles, lorsqu’il n’est pas évident qu’il s’agit d’un contenu artificiel ou que cela n’est pas expressément indiqué. La peine encourue est de 1 an d’emprisonnement et 15 000 € d’amende, portée à 2 ans d’emprisonnement et 45 000 € d’amende lorsque la diffusion est réalisée en ligne.

Exemple 6 — Un avatar fictif avec une IA pour communiquer sur les réseaux sociaux

Un homme crée avec une IA l’avatar réaliste d’une femme qui n’existe pas et l’utilise à la place de son propre visage pour publier, à titre personnel, des vidéos sur les réseaux sociaux.

Contrairement au cas de Zendaya, l’avatar ne reproduit pas ici l’image d’une personne existante. Il ne constitue donc pas, pour cette seule raison, un deepfake au sens de l’AI Act : son utilisation n’impose pas la mention « créé ou généré par IA » au titre de cette obligation.

Cet exemple montre ainsi qu’un contenu réaliste généré par IA n’est pas nécessairement un deepfake, ni soumis à une obligation d’information visible du public au titre de l’article 50.

Ces deux exemples illustrent une distinction essentielle : être hors du champ des obligations de transparence de l’AI Act ne signifie pas être hors du droit. D’autres règles peuvent s’appliquer selon le contenu créé, les personnes représentées et les conditions de sa diffusion.