Les médias synthétiques dans le paysage numérique PDF Free Download
1 / 45/45
100%
Les médias
synthétiques dans le
paysage numérique
Un document par le Forum canadien
des organismes de réglementation numérique
Bureau de la concurrence Canada
Commissariat à la protection de la vie privée du Canada
Commission du droit d’auteur du Canada
Conseil de la radiodiffusion et des télécommunications canadiennes
Forum canadien des organismes de réglementation numérique :
Les médias synthétiques dans le paysage numérique.
Also available in English under the title : Canadian Digital Regulators Forum:
Synthetic media in the digital landscape
Pour obtenir plus de renseignements, veuillez communiquer avec :
Commissariat à la protection de la vie privée du Canada
30, rue Victoria
Gatineau (Québec) K1A 1H3
© Sa Majesté le Roi du chef du Canada pour le Commissariat à la protection de la vie privée du Canada, 2025
Numéro de catalogue : IP54-119/2025F-PDF
ISBN : 978-0-660-78344-4
2
Forum canadien des organismes de
réglementation numérique : Les médias
synthétiques dans le paysage numérique
Table des matières
Préambule ................................................................................................................................... 3
Profils des membres participants ................................................................................................. 3
Résumé ....................................................................................................................................... 4
Objectif .................................................................................................................................... 4
Introduction ................................................................................................................................. 6
Qu’est-ce qu’un média synthétique?......................................................................................... 6
Les médias synthétiques et la Commission du droit d’auteur ...................................................... 10
Considérations ....................................................................................................................... 12
Observations finales ............................................................................................................... 16
Les médias synthétiques et le Conseil de la radiodiffusion et des télécommunications canadiennes
................................................................................................................................................. 16
Considérations ....................................................................................................................... 17
Observations finales ............................................................................................................... 22
Les médias synthétiques et le Bureau de la concurrence ............................................................. 23
Considérations ....................................................................................................................... 23
Observations finales ............................................................................................................... 29
Les médias synthétiques et le Commissariat à la protection de la vie privée du Canada ............... 29
Façon dont la loi fédérale sur la protection des renseignements personnels visant les
organisations s’applique aux médias synthétiques .................................................................. 30
Considérations ....................................................................................................................... 30
Observations finales ............................................................................................................... 37
Les médias synthétiques et la Loi canadienne anti-pourriel ......................................................... 39
Messages électroniques commerciaux (relèvent du CRTC) ...................................................... 39
Pratiques commerciales trompeuses (relèvent du Bureau de la concurrence) .......................... 41
Conclusion et principaux points à retenir .................................................................................... 43
3
Préambule
Le Forum canadien des organismes de réglementation numérique (le Forum) est un partenariat
entre le Conseil de la radiodiusion et des télécommunications canadiennes (CRTC), le Bureau de
la concurrence, le Commissariat à la protection de la vie privée du Canada et la Commission du
droit d’auteur du Canada (les membres). Le Forum a été créé en juin 2023 dans le but de faciliter
l’échange d’information et la collaboration dans des domaines qui concernent les marchés
numériques.
Pendant son année inaugurale, le Forum a cherché à renforcer les relations et la collaboration entre
ses membres ainsi qu’à créer des liens internationaux, notamment en se joignant au réseau
international de coopération en matière de réglementation numérique (International Network for
Digital Regulation Cooperation) (en anglais seulement). Les membres du Forum ont également
amélioré leurs capacités internes et leurs connaissances en matière d’intelligence artificielle (IA)
en collaborant avec des universitaires et des experts de l’industrie.
Pendant la deuxième année du Forum, les membres se sont penchés principalement sur l’IA
générative et les médias synthétiques (contenu artificiel généré par l’IA ou d’autres technologies
automatisées), des sujets qui se retrouvent au centre des discussions et des débats dans divers
secteurs et industries.
Profils des membres participants
À propos de la Commission du droit d’auteur
La Commission du droit d’auteur du Canada est un tribunal administratif indépendant et un
organisme de réglementation économique qui octroie des licences et établit des tarifs justes et
équitables à payer pour l’utilisation d’œuvres protégées. La Commission joue un rôle essentiel sur
le marché du droit d’auteur en trouvant un équilibre entre la rémunération des titulaires de droits et
l’accessibilité des œuvres pour les utilisateurs et en préservant l’intérêt public et la compétitivité
du marché.
Pour s’acquitter de son mandat, la Commission doit agir équitablement, fonder ses travaux sur de
solides principes juridiques et économiques et faire preuve d’une connaissance approfondie des
technologies et des modèles d’aaires en constante évolution.
En tant que tribunal indépendant, la Commission fait rapport de ses activités administratives au
Parlement par l’entremise du ministre de l’Innovation, des Sciences et de l’Industrie.
À propos du Conseil de la radiodiusion et des télécommunications
canadiennes
Le Conseil de la radiodiusion et des télécommunications canadiennes (CRTC) est un tribunal
quasi judiciaire indépendant qui réglemente le secteur canadien des communications dans
l’intérêt public. Il tient des consultations publiques sur des questions de télécommunications et de
radiodiusion et prend des décisions fondées sur le dossier public. Le CRTC a un large éventail de
4
responsabilités, notamment celles établies dans la Loi sur les télécommunications, la Loi sur la
radiodiusion, la Loi sur les nouvelles en ligne, ainsi que la Loi canadienne anti-pourriel (LCAP).
Le CRTC est composé de neuf membres, dont une présidente, une vice-présidente de la
radiodiusion et un vice-président des télécommunications, ainsi que six conseillères et
conseillers régionaux répartis dans tout le pays. Chacune de ces personnes est une experte dans
son domaine et apporte une perspective unique au travail du CRTC. Ces personnes sont soutenues
par une équipe de fonctionnaires professionnels.
À propos du Bureau de la concurrence
Dirigé par le commissaire de la concurrence, le Bureau de la concurrence est un organisme
indépendant d’application de la loi qui protège la concurrence et en fait la promotion au bénéfice
des consommateurs et des entreprises du Canada. Le Bureau de la concurrence est notamment
responsable de l’exécution et de l’application de la Loi sur la concurrence. La Loi sur la
concurrence contient des dispositions pénales et civiles visant à prévenir l’utilisation de pratiques
anticoncurrentielles sur le marché.
La concurrence favorise la baisse des prix et l’innovation tout en alimentant la croissance
économique. Consultez la page du Bureau de la concurrence sur l’importance de la concurrence.
À propos du Commissariat à la protection de la vie privée du Canada
Le Commissaire à la protection de la vie privée du Canada est un agent du Parlement qui a pour
mission de protéger et de promouvoir le droit à la vie privée. Le Commissariat à la protection de la
vie privée du Canada (le Commissariat) veille au respect de la Loi sur la protection des
renseignements personnels, laquelle porte sur les pratiques de traitement des renseignements
personnels utilisées par les ministères et organismes fédéraux, et de la Loi sur la protection des
renseignements personnels et les documents électroniques, la loi fédérale sur la protection des
renseignements personnels dans le secteur privé au Canada.
Le Commissariat a pour mission de protéger et de promouvoir le droit des individus à la vie privée.
Le Commissaire à la protection de la vie privée du Canada est indépendant du gouvernement et il
relève directement du Parlement.
Résumé
Objectif
Le Forum reconnaît que les médias synthétiques ont des répercussions importantes sur les
Canadiennes et les Canadiens et sur les entreprises qui exercent leurs activités au Canada. Les
membres analysent dans le présent rapport les avantages et les inconvénients des médias
synthétiques en fonction du mandat de chaque média (production de contenu, concurrence,
protection de la vie privée et droit d’auteur).
L’objectif du rapport est de présenter au grand public l’opinion des quatre membres du Forum
concernant les médias synthétiques. Le rapport ne constitue pas une position de principe du
Forum ou de ses membres. Ses principaux objectifs sont plutôt les suivants :
5
• informer la population canadienne des diverses utilisations de l’IA générative et des médias
synthétiques;
• donner un aperçu des avantages et des risques que les utilisations pourraient présenter,
selon les membres du Forum;
• fournir des considérations clés pour la technologie au fil de son évolution.
Possibilités et risques
Les membres du Forum soulignent que la technologie des médias synthétiques deviendra plus
sophistiquée et plus accessible, et son utilisation accrue comprend des avantages et des risques.
Voici quelques-unes des possibilités qu’elle présente pour les Canadiennes et les Canadiens :
• Créativité et innovation accrues : Les systèmes d’IA générative ont démocratisé la production
de créations artistiques en permettant aux utilisateurs de générer du contenu synthétique.
• Avantages économiques : Les médias synthétiques peuvent réduire les coûts et le temps de
production, permettant aux entreprises de réaecter des ressources à d’autres domaines et
d’améliorer leur eicacité.
• Amélioration de la concurrence : Dans certaines industries, les médias synthétiques peuvent
renforcer la capacité des petites entreprises à faire concurrence aux grandes entreprises.
• Accessibilité : Les médias synthétiques peuvent rendre du contenu et des services plus
accessibles de diverses façons.
Cependant, leur utilisation répandue et leur rainement pourraient faire en sorte que les médias
synthétiques présentent des risques importants. Par exemple :
• Pratiques trompeuses : Les médias synthétiques pourraient être utilisés pour créer de la
mésinformation et de la désinformation convaincantes aux fins de marketing ou de
journalisme, entre autres, en vue d’induire la population en erreur.
• Violation du droit d’auteur : L’utilisation de matériel protégé par le droit d’auteur pour créer
des médias synthétiques peut susciter une incertitude juridique, car il faut encore définir les
limites de l’utilisation équitable, de la violation du droit d’auteur et des exigences quant à
l’obtention d’une autorisation, tant au Canada qu’à l’étranger.
• Conséquences sur l’économie et l’emploi : Les médias synthétiques et les systèmes d’IA
générative pourraient entraîner des suppressions d’emplois dans certains secteurs de
l’économie ou un transfert des revenus des secteurs artistiques ou créatifs vers le secteur des
technologies.
• Répercussions sur la réputation et la protection de la vie privée : Les médias synthétiques
peuvent violer le droit à la vie privée lorsque les données saisies dans les systèmes d’IA
générative contiennent des renseignements personnels ou lorsque le contenu généré par les
systèmes comporte des renseignements sur une personne. Cela risque de nuire à la réputation
de celle-ci, à sa qualité de vie ou à sa capacité de garder le contrôle sur ses propres
renseignements personnels.
6
Introduction
Les Canadiennes et les Canadiens doivent composer avec un monde numérique qui évolue à un
rythme exponentiel. C’est certainement le cas des médias synthétiques, dont l’utilisation est de
plus en plus répandue. La population canadienne voit souvent des exemples de médias
synthétiques, qu’il s’agisse d’une chanson mettant en vedette deux artistes canadiens populaires
(en anglais seulement) créée à l’aide d’une technologie de génération de voix par l’IA ou d’une
fausse vidéo du premier ministre (en anglais seulement) semblant promouvoir une fraude
financière. On peut s’inquiéter du fait que cette technologie ait récemment été utilisée au Canada
pour créer un site Web controversé (en anglais seulement) proposant des images pornographiques
de personnes réelles générées par l’IA sans leur consentement.
La production et la diusion de médias synthétiques ont fait l’objet de nombreux débats,
notamment en raison de préoccupations quant à l’éthique et à la protection de la vie privée, de leur
utilisation potentiellement inappropriée et de la possibilité que les médias transforment des
domaines comme la culture, la communication, l’éducation et les aaires.
Qu’est-ce qu’un média synthétique?
Les médias synthétiques désignent les images, les vidéos, le texte et les enregistrements audio
générés artificiellement. Règle générale, les médias synthétiques désignent le contenu généré à
l’aide de technologies d’IA. Cependant, le terme est également utilisé dans les cas où du contenu a
été généré à l’aide de simples outils automatisés. Le présent rapport porte sur les répercussions de
l’utilisation de médias synthétiques générés par l’IA.
L’IA générative a rendu possibles la production et la diusion de médias synthétiques à plus grande
échelle. Les outils ChatGPT d’Open AI et Llama de Meta, aussi désignés par le terme « grand
modèle de langage1 » (GML), sont des exemples de modèles d’IA générative qui ont contribué à
populariser cette technologie. Au Canada, la popularité de l’IA générative est à la hausse : une
analyse de marché de l’OTM 18+, dont le rapport a été publié en octobre 2024, a révélé qu’environ
22 % des internautes canadiens avaient utilisé des outils d’IA générative au cours du dernier mois.
Il existe de nombreux types de médias synthétiques, l’un des exemples les plus marquants étant
l’hypertrucage. Ce dernier désigne les images, les enregistrements audio et les vidéos modifiés
numériquement ou générés par l’IA pour représenter des personnes ou des choses réelles ou
fictives.
Réglementation et initiatives internationales
En 2024, le Forum économique mondial a publié son rapport sur les risques mondiaux (en anglais
seulement), airmant que la mésinformation et la désinformation générées par l’IA représentaient
le deuxième risque le plus susceptible de causer une crise mondiale, derrière les phénomènes
météorologiques extrêmes. Cependant, les gouvernements et les entreprises privées continuent
1 Le grands modèles de langage comme des réseaux de neurones
7
d’investir dans l’IA, notamment compte tenu des avantages possibles de la technologie pour
l’économie et la qualité de vie de la population. Pour atténuer les répercussions négatives
potentielles de la technologie et en exploiter les avantages, diverses juridictions du monde entier
ont entamé des démarches importantes pour réglementer l’IA.
Parmi les démarches les plus notables, mentionnons la mise en œuvre de la loi sur l’IA de l’Union
européenne (UE). Cette loi réglemente l’IA en exigeant l’analyse et la classification des systèmes
d’IA en fonction de leur niveau de risque et établit des exigences et des obligations qui varient selon
le risque attribué à l’IA en question. En outre, cette loi interdit des systèmes d’IA particuliers qui
sont susceptibles de présenter des risques jugés comme inacceptables (par exemple, les
systèmes qui accordent une cote sociale et les systèmes de manipulation). D’autres systèmes d’IA
sont désignés comme présentant des risques élevés, limités ou faibles.
Au titre de cette loi, les systèmes d’IA à haut risque (comme ceux utilisés pour établir le profil de
personnes dans des domaines tels que l’éducation, l’emploi et l’application de la loi) sont
assujettis à des obligations plus strictes et plus vastes, notamment les obligations de mettre au
point des systèmes de gestion des risques, d’assurer une surveillance humaine et d’adopter des
pratiques explicites liées à la gouvernance des données.
Bien que les systèmes d’IA générative ne soient pas considérés au départ comme présentant un
risque élevé, ils doivent satisfaire à des obligations en matière de transparence et respecter la loi
sur le droit d’auteur, qui exigent notamment que le contenu généré par l’IA en porte la mention et
que les systèmes soient conçus de manière à ce qu’ils ne puissent pas générer du contenu illégal.
La loi précise aussi que les développeurs d’IA doivent obtenir l’autorisation s’ils souhaitent utiliser
des œuvres protégées par le droit d’auteur pour développer et entraîner des systèmes d’IA et d’IA
générative ainsi que publier des résumés des données protégées par le droit d’auteur qu’ils
utilisent pour entraîner les systèmes.
Les organismes de réglementation et les législateurs des États-Unis et du Royaume-Uni ont publié
des directives et des règlements propres aux médias synthétiques. Aux États-Unis, les organismes
de réglementation des États ont élaboré des lois visant à réduire l’utilisation inappropriée des
médias synthétiques à des fins telles que la fraude (en anglais seulement), la manipulation des
élections (en anglais seulement) et la création non consensuelle de contenu explicite (en anglais
seulement). En septembre 2024, le gouvernement de la Californie a adopté une loi (en anglais
seulement) propre à l’industrie des médias. La loi protège les portraits numériques des artistes et
exige d’obtenir le consentement éclairé des travailleurs pour utiliser leur voix, leur image ou leur
portrait.
Au Royaume-Uni, l’organisme de réglementation des communications, Ofcom, a publié un avis sur
les médias synthétiques (en anglais seulement) destiné au secteur de la radiodiusion, dans
lequel il décrit les diicultés possibles liées à l’utilisation de l’IA générative et de contenu
synthétique. De plus, le forum de coopération en matière de réglementation numérique (Digital
Regulation Cooperation Forum) du Royaume-Uni a publié un rapport intitulé « The Future of
Synthetic Media: A Summary of Stakeholder Views on the Future Development of Synthetic Media
and its Implications for DRCF Regulators » (en anglais seulement), en novembre 2024.
8
Contexte et environnement canadiens
Au cours des dernières années, le gouvernement du Canada a mis en œuvre des initiatives liées à
l’IA, et de nombreux ministères et organismes ont adopté des lignes directrices et des règlements
pour exiger le développement responsable de l’IA. À titre d’exemples, mentionnons la Directive sur
la prise de décisions automatisée du Secrétariat du Conseil du Trésor du Canada, le Guide sur
l’utilisation de l’intelligence artificielle générative du gouvernement du Canada et la Stratégie en
matière d’intelligence artificielle pour la fonction publique fédérale 2025-2027.
De plus, le Code de conduite volontaire visant un développement et une gestion responsables des
systèmes d’IA générative avancés de 2023 a fourni aux entreprises un ensemble de lignes
directrices qu’elles peuvent mettre en œuvre immédiatement. Il encourage les entreprises qui
développent ou gèrent des systèmes d’IA générative à s’eorcer d’atteindre divers résultats positifs,
dont la responsabilité, la sécurité, la justice, l’équité et la transparence.
En 2022-2023, les organisations de recherche et de développement de l’IA au Canada ont obtenu
des investissements d’une valeur totale de plus de 2,57 milliards de dollars canadiens. Combinés à
un environnement solide et concurrentiel, les investissements ont contribué à ce que le Canada se
classe au quatrième rang mondial pour le nombre de sociétés d’IA générative par habitant.
En février 2025, le Canada a signé la Déclaration sur l’intelligence artificielle durable et inclusive
pour la population et la planète lors du Sommet pour l’action sur l’IA, qui a eu lieu à Paris. Le
Sommet a été l’occasion pour les juridictions de réairmer leur engagement à favoriser l’innovation
et à encourager le déploiement de technologies d’IA ouvertes à tous, inclusives, transparentes,
éthiques, sûres, sécuritaires et dignes de confiance.
Présentation des sections des membres du Forum
Dans sa section, la Commission du droit d’auteur aborde des questions concernant la protection
du droit d’auteur dans un monde où la fréquence de la création et de la diusion de contenu d’IA
générative augmente de façon exponentielle. Parmi les enjeux importants, mentionnons
l’attribution du droit d’auteur et la rémunération des créateurs de médias synthétiques, surtout
dans un contexte d’exploration de données par les GML. Le cadre juridique varie d’une juridiction à
l’autre et sera très probablement clarifié par les tribunaux avant que des modifications législatives
ne soient apportées, car des problèmes commencent à se présenter entre les utilisateurs et les
titulaires de droits d’auteur.
La Commission rend des décisions sur des aaires qui relèvent de sa compétence, lesquelles
concernent habituellement une entreprise utilisant des œuvres protégées par le droit d’auteur ou
une activité nécessitant l’utilisation de telles œuvres. Par conséquent, la Commission pourrait
enquêter sur des aaires liées à des médias synthétiques, ce qui aurait une incidence sur ses
instances d’homologation de tarifs et sur les licences octroyées lorsque les auteurs sont
introuvables.
La section du CRTC porte sur l’incidence croissante de l’IA générative et des médias synthétiques
sur les secteurs des communications et de la radiodiusion au Canada. Le CRTC présente les
avantages potentiels et les risques de ces technologies ainsi que l’incidence possible sur les
9
Canadiennes et les Canadiens, y compris les travailleurs créatifs et les journalistes. De plus, il
examine des considérations liées à son mandat et à ses activités, notamment l’incidence des
médias synthétiques sur la définition du contenu canadien et la prestation de services accessibles.
Dans sa section, le Bureau de la concurrence reconnaît que les médias synthétiques peuvent être
utiles, mais il décrit également la façon dont ils peuvent être utilisés pour rendre les pratiques
commerciales trompeuses plus convaincantes. À l’aide d’exemples hypothétiques, il explique
brièvement comment les médias synthétiques, surtout l’hypertrucage, peuvent être utilisés de
manière inappropriée pour induire en erreur et tromper le public. De telles utilisations pourraient
soulever des préoccupations liées aux pratiques commerciales trompeuses et aux dispositions de
la Loi sur la concurrence relatives à la LCAP.
Cette section contient également un aperçu de trois considérations fondées sur la recherche et
relatives à l’ajout d’étiquettes aux médias synthétiques. Les considérations sont une stratégie qui
pourrait aider les Canadiennes et les Canadiens à distinguer le contenu synthétique du contenu
non synthétique, leur permettant ainsi de prendre des décisions éclairées.
Dans sa section, le Commissariat aborde les deux principales façons dont les considérations
relatives à la protection de la vie privée s’appliquent aux médias synthétiques : (i) en tant que
renseignements saisis dans les systèmes pour améliorer la prise de décisions par algorithmiques
et (ii) en tant qu’extrants d’un système de médias synthétiques, où il y a un risque d’atteinte au droit
à la vie privée.
Le Commissariat aborde les questions pertinentes à poser pour déterminer si la loi fédérale sur la
protection des renseignements personnels s’applique aux systèmes de médias synthétiques.
Enfin, il présente des facteurs importants à prendre en considération lorsqu’il s’agit de trouver des
moyens de protéger le droit à la vie privée lors du développement et de l’utilisation de systèmes de
médias synthétiques.
Termes clés – Définitions du Centre canadien pour la cybersécurité (sauf indication contraire)
Le traitement du langage naturel est une méthode servant à traduire entre les langages
informatiques et les langues humaines. Il s’agit d’une méthode visant à permettre à un ordinateur
de lire et de comprendre une ligne de texte sans lui fournir un indice ou un calcul quelconque.
Autrement dit, le traitement du langage naturel automatise le processus de traduction entre les
ordinateurs et les humains.
Les grands modèles de langage (GML) sont des réseaux de neurones artificiels que l’on entraîne
au moyen de jeux de données linguistiques très volumineux en faisant appel à un apprentissage
autosupervisé ou semi-supervisé. Par le passé, les GML généraient le texte en prédisant le mot
suivant, mais ils peuvent maintenant utiliser les phrases entières fournies par les utilisatrices et
utilisateurs dans des requêtes ou générer des documents entiers sur un sujet donné.
L’entraînement basé sur des jeux de données exceptionnellement grands permet au modèle
d’apprendre une structure linguistique sophistiquée, mais aussi les biais ou les inexactitudes que
l’on trouve dans ces données.
L’apprentissage automatique est un domaine de recherche axé sur les méthodes qui permet aux
machines d’apprendre comment eectuer une tâche à partir des données fournies sans que l’on
10
ait à programmer explicitement une solution étape par étape. Comme les modèles d’apprentissage
automatique peuvent souvent eectuer certaines tâches aussi bien, voire mieux qu’un être
humain, on considère l’apprentissage automatique comme étant une sous-discipline de la
recherche sur l’IA.
L’hypertrucage désigne les images, les enregistrements audio et les vidéos modifiés
numériquement ou générés par l’IA pour représenter des personnes ou des choses réelles ou
fictives. Il est un sous-ensemble de la catégorie générale des « médias synthétiques » ou du
« contenu synthétique », qui comprend le texte généré par l’IA2.
L’usurpation de voix est un processus qui utilise des ensembles de données tirés de la voix d’une
personne pour entraîner les systèmes d’IA à copier le style oratoire, le genre, l’âge et l’accent de la
personne. Les systèmes d’IA peuvent ensuite produire des enregistrements vocaux identiques à la
voix de la personne3.
Les systèmes de notation sociale sont des systèmes d’IA qui évaluent des personnes physiques,
ou des groupes de personnes physiques, en fonction de divers points de données liés à leur
comportement social dans diérents contextes ou encore de renseignements personnels ou de
caractéristiques de leur personnalité connus, déduits ou prédits pendant un certain temps. La cote
sociale attribuée par les systèmes peut entraîner un traitement préjudiciable ou défavorable4.
Les médias synthétiques et la Commission du droit
d’auteur
Pour être admissible à la protection par le droit d’auteur, une œuvre doit répondre à certains
critères, dont l’originalité. Les tribunaux ont établi que seules les œuvres originales sont
protégées par le droit d’auteur. Une œuvre originale doit être le résultat de l’exercice du talent et
du jugement de l’auteur à un degré suisant.
Le droit d’auteur ne protège pas les idées, le nom, l’image ou les caractéristiques d’une
personne. Dans le cas de l’hypertrucage, la copie du portrait d’une personne ne constitue pas
une violation du droit d’auteur.
2 à l 3 de la loi sur lIA de lUnion
deep fake dans la loi) comme «
ou manipulé par l
une personne loi sur lIA de l
13 ); et lcom du Royaume-
généré ou manipulé à laide de lchose com du
Royaume-Uni [ –
)
3 Papercup What is Voice Cloning? -is--cloning
31 de la loi sur
nion européenne.
11
Par exemple, le droit d’auteur protégerait une émission de télévision comme « Degrassi », mais ne
protégerait pas, par exemple, le concept d’une émission de télévision pour adolescents se
déroulant dans une école secondaire.
Il existe cependant une zone grise lorsqu’une œuvre est produite dans le style d’une autre. Par
exemple, la production d’une chanson dans le style d’un artiste donné pourrait constituer une
violation du droit d’auteur s’il est déterminé qu’on a utilisé une partie importante d’une chanson
réelle déjà protégée par le droit d’auteur. La décision finale serait prise par les tribunaux en
fonction des faits propres à l’aaire.
La Loi sur le droit d’auteur protège la propriété intellectuelle des artistes et veille à ce qu’ils
puissent contrôler leurs œuvres et en tirer profit. Elle favorise l’intérêt public en encourageant
l’innovation et la créativité et fait en sorte que les titulaires de droits d’auteur reçoivent une
rémunération pour leurs œuvres tout en assurant l’accès à celles-ci. Il peut s’agir d’œuvres
littéraires, musicales, artistiques et cinématographiques, de logiciels et d’autres formes
d’expression créative.
La production d’œuvres créatives par des machines ne date pas d’hier5. Cependant, l’évolution de
l’IA, et surtout de l’IA générative, est en partie attribuable à la disponibilité de grandes quantités de
contenu numérique lisible par machine, notamment des quantités potentiellement importantes de
contenu protégé par le droit d’auteur. Les médias synthétiques risquent de changer radicalement
l’ensemble du paysage créatif en accélérant la création et la diusion de contenu, ce qui
augmentera considérablement le volume de contenu disponible.
Aux fins de la présente section, les médias synthétiques désignent tout contenu créé, entièrement
ou partiellement, par des systèmes automatisés grâce à la production, à la manipulation et à la
modification de données ou de médias (y compris l’utilisation de l’IA). Il peut s’agir de texte,
d’images, de vidéos et d’enregistrements audio (« œuvres » ou « œuvres protégées par le droit
d’auteur »).
L’utilisation de contenu protégé par le droit d’auteur sans autorisation est vouée à prendre de
nouvelles formes à mesure que de nouveaux modèles d’aaires axés sur l’IA émergeront. On
envisage de mettre au point des systèmes de suivi et de consignation de l’utilisation de contenu
protégé par le droit d’auteur pour créer des médias synthétiques, mais il est peu probable qu’ils
soient normalisés, du moins pendant un certain temps et à l’échelle mondiale. L’incertitude
juridique quant à l’utilisation de données et de renseignements pour alimenter l’IA générative
augmente les risques liés à ces pratiques et modèles d’aaires émergents, et les mesures
d’atténuation des risques varieront d’une entreprise à une autre.
À l’heure actuelle, ces questions juridiques et stratégiques commencent à être mises à l’essai ou
clarifiées. Dans un contexte où le marché cherche à suivre l’évolution des technologies
émergentes, l’incertitude du marché et les diérences entre la réglementation nationale et
5
années
12
mondiale risquent de nuire à la fois aux créateurs et aux utilisateurs de contenu protégé par le droit
d’auteur.
En tant que tribunal administratif et organisme de réglementation économique, la Commission du
droit d’auteur n’est pas responsable d’établir l’orientation législative ou stratégique liée au droit
d’auteur. Ces fonctions relèvent plutôt de la compétence des ministres de l’Industrie et de
l’Identité et de la Culture canadiennes. Cela dit, la Commission risque de devoir très bientôt traiter
de questions relatives aux médias synthétiques, comme elle a dû le faire lorsqu’elle a commencé à
recevoir les premières propositions de tarifs liés aux activités sur Internet au milieu des
années 1990. Ces dernières ont été déposées bien avant le passage généralisé à la production et à
la consommation de médias numériques et l’adoption de tous les changements législatifs faisant
partie intégrante du paysage actuel.
Selon la Loi sur le droit d’auteur, le mandat de la Commission du droit d’auteur est d’homologuer
les tarifs d’utilisation du contenu créatif protégé par le droit d’auteur lorsque les droits sont gérés
par des sociétés de gestion. La Commission règle les cas particuliers lorsque les parties ne
s’entendent pas et octroie des licences pour l’utilisation du contenu lorsque les titulaires de droits
sont introuvables.
Ces fonctions sont essentielles pour faciliter les activités du marché, modérer l’équilibre du
pouvoir sur le marché et protéger l’intérêt public. En plus de toucher diverses entreprises et
industries, les décisions de la Commission ont des répercussions sur des secteurs touchant le
quotidien de l’ensemble des Canadiennes et des Canadiens, notamment l’écoute de musique en
ligne, les bibliothèques, les restaurants, les cours de conditionnement physique, les avions et les
hôtels.
Bien que les décisions de la Commission ne s’appliquent qu’aux activités qui ont lieu au Canada,
les redevances générées par les tarifs sont perçues par les sociétés de gestion canadiennes et
transmises aux homologues des sociétés dans d’autres pays, et vice versa. Un certain nombre
d’entreprises mondiales, dont Pandora Music, Apple et Amazon, participent régulièrement aux
instances de la Commission. Les prochains paragraphes décrivent quelques-unes des façons dont
les médias synthétiques pourraient influer sur les activités de la Commission.
Considérations
Répercussions sur les instances de la Commission
Les décisions de la Commission concernent habituellement une entreprise utilisant des œuvres
protégées par le droit d’auteur ou une activité nécessitant l’utilisation de telles œuvres. La
Commission prévoit commencer à traiter des questions relatives aux médias synthétiques l’année
prochaine ou l’année suivante. L’IA et les médias synthétiques pourraient influer sur les instances
de la Commission de diérentes façons, notamment :
• Nouveaux tarifs : Des sociétés de gestion pourraient déposer un ou plusieurs nouveaux
projets de tarifs afin de demander un paiement pour l’utilisation de contenu protégé par le
droit d’auteur dans l’entraînement d’algorithmes d’IA. Par exemple, a-t-on copié les œuvres
pour entraîner l’IA? Les copies ont-elles été conservées et, le cas échéant, pendant
13
combien de temps? Dans un tel cas, les questions seraient examinées dans le cadre d’une
instance, selon la pratique habituelle de la Commission, ce qui permettrait aux créateurs et
aux utilisateurs de présenter leur point de vue.
• Considérations relatives au répertoire : Les sociétés de gestion gèrent les droits de leurs
membres concernant un droit protégé précis. Les questions d’utilisation d’un répertoire
sont souvent déposées par des utilisateurs qui cherchent à connaître les personnes et
organisations représentées par une société et la quantité d’œuvres de leur répertoire qui
sont utilisées dans le cadre de leurs activités. On pourrait s’interroger sur le contenu auquel
s’appliquent les tarifs en place, notamment le contenu généré par l’IA, ce qui pourrait faire
ressortir des facteurs supplémentaires comme l’identité de l’auteur (humain et machine ou
machine seulement) et la possibilité que les œuvres soient protégées par le droit d’auteur
ou qu’elles puissent violer le droit d’auteur d’autres œuvres.
• Titulaires introuvables : Pour l’instant, il n’est pas clair si l’IA générative et les médias
synthétiques auront une incidence sur les demandes de licences déposées auprès de la
Commission lorsque le titulaire du droit d’auteur est introuvable. Le nombre de demandes
pourrait augmenter, tout particulièrement en raison du volume accru de contenu disponible
dans l’ensemble du paysage numérique. Quoi qu’il en soit, certaines questions,
notamment la question de la titularité des œuvres, auraient également une incidence sur
l’examen des demandes.
Dans tous ces exemples, la Commission risque de devoir traiter des questions nouvelles et
fortement contestées dans le cadre d’instances multipartites exigeant de nombreux éléments de
preuve. Il est également probable que ces éléments de preuve soient diiciles à obtenir, puisque
les exigences et les pratiques en matière de transparence et de production de rapports varient. Si
c’est le cas, comment prévoit-on faire le suivi des données sur la création et l’utilisation de l’IA et
produire des rapports à ce sujet? Les défis actuels liés au repérage des données utilisées pour
entraîner les algorithmes d’IA pourraient être transposés aux instances de la Commission.
Incertitude juridique et économique
En tant que tribunal administratif et organisme de réglementation économique, la Commission du
droit d’auteur contribue à préciser le cadre juridique du marché créatif en interprétant la Loi sur le
droit d’auteur dans un contexte commercial.
En tant que tribunal de première instance, la Commission est régulièrement appelée à appliquer le
cadre juridique à de nouvelles activités et à des technologies émergentes. C’est d’ailleurs ce qu’elle
a fait lorsqu’on a commencé à utiliser Internet et que les premiers projets de tarifs pour la
distribution et la reproduction en ligne d’œuvres protégées par le droit d’auteur ont été déposés.
Dans les cas où la Commission doit prendre des décisions avant l’établissement d’une orientation
des politiques ou l’adoption de changements législatifs, les décisions peuvent avoir des
répercussions sur le paysage juridique et stratégique. Elles ont également incité certains à
rechercher une certitude juridique au moyen d’appels devant la Cour d’appel fédérale et la Cour
suprême du Canada.
14
L’incertitude juridique quant aux médias synthétiques constitue un défi de plus en plus important
pour les entreprises des titulaires de droits d’auteur, surtout dans un contexte commercial. Dans
cette optique, le gouvernement du Canada a mené une consultation sur le droit d’auteur et l’IA
générative, entre 2023 et 2024. La consultation a permis de cerner quelques enjeux clés,
notamment :
• Déterminer si et comment le contenu protégé par le droit d’auteur est utilisé de manière
légitime pour entraîner l’IA générative;
• Déterminer si et dans quelle mesure les médias synthétiques sont protégés par le droit
d’auteur à l’échelle locale et internationale et peuvent être monétisés en conséquence;
• Déterminer si et comment le cadre actuel de violation et de responsabilité convient à
l’environnement de l’IA.
En plus de l’incertitude juridique, les ambiguïtés pratiques sont également une préoccupation
croissante au sein du marché national et international en ce qui concerne la transparence du suivi
de la création, l’utilisation de contenu et l’octroi de licences dans un contexte d’IA. Au cours de la
consultation, les intervenants ont mentionné quelques enjeux, notamment :
• Fouille de textes et de données (FTD) : La FTD est une étape essentielle du processus
d’entraînement des systèmes d’IA qui consiste à reproduire et à analyser de grandes
quantités de données et de renseignements pour déceler des tendances et faire des
prédictions. À l’heure actuelle, la jurisprudence canadienne ne précise pas si les activités
de FTD exigent l’autorisation des titulaires de droits d’auteur. Les utilisateurs recherchent,
dans la Loi sur le droit d’auteur, une exception qui appuierait le développement
d’entreprises du domaine de l’IA. De nombreux intervenants s’intéressent également à
l’imposition d’exigences de transparence, notamment la communication et la tenue de
registres, pour surveiller la manière dont les systèmes d’IA générative utilisent le contenu
protégé par le droit d’auteur.
• Titularité et propriété des médias synthétiques : Tel qu’il est mentionné précédemment,
la jurisprudence canadienne actuelle laisse entendre que la titularité et, par conséquent, la
protection du droit d’auteur peuvent être attribuées uniquement à une personne physique
qui exerce son talent et son jugement dans la création d’une œuvre. Dans l’ensemble, les
intervenants consultés se sont opposés à l’idée d’étendre la protection du droit d’auteur
aux médias synthétiques n’ayant pas fait l’objet d’une contribution humaine suisante,
mais sont favorables à l’utilisation d’outils d’IA par les artistes pour créer leurs œuvres.
• Violation et responsabilité : À l’heure actuelle, la Commission sait qu’au moins un tribunal
canadien a été appelé à examiner les cas de violation du droit d’auteur par du contenu
généré par l’IA. Il n’est pas clair si les critères et les recours juridiques actuels sont
suisants. On ne sait pas non plus qui serait tenu responsable en cas de violation (c’est-à-
dire les développeurs, les propriétaires ou les utilisateurs des systèmes d’IA).
Tous ces enjeux influent sur les instances de la Commission du droit d’auteur, et toute autre
décision connexe d’un tribunal serait probablement prise en considération dans les instances
futures.
15
Enjeux internationaux en matière de droit d’auteur et de médias
synthétiques
Les médias synthétiques, le droit d’auteur et l’IA ont en soi une portée internationale, tout comme
les enjeux numériques. De multiples juridictions et organismes internationaux se forgent une
opinion sur ces sujets et sur les mesures d’adaptation qu’ils requièrent, le cas échéant. Certains,
dont le Canada, ont adopté des codes de conduite volontaires ou des cadres éthiques en matière
d’IA, qui comportent des principes pouvant toucher les industries fondées sur le droit d’auteur. Les
divergences entre les lois nationales des pays étrangers et du Canada risquent d’aecter la
protection et le traitement des droits d’auteur des œuvres étrangères au Canada (et des œuvres
canadiennes à l’étranger) ainsi que l’élaboration de modèles d’aaires au sein des marchés
canadiens et internationaux.
• En adoptant la loi européenne sur l’IA, l’UE a été la première à mettre en œuvre des
exigences juridiques liées à l’IA. En ce qui concerne le droit d’auteur, la loi précise que les
développeurs d’IA doivent obtenir une autorisation s’ils souhaitent utiliser des œuvres
protégées par le droit d’auteur pour développer et entraîner des systèmes d’IA et d’IA
générative.
• Un projet de loi visant à aider les titulaires de droits à repérer les œuvres utilisées pour
entraîner l’IA a été présenté au Congrès américain à la fin de 2024 (S.5379 - TRAIN Act [en
anglais seulement]), ce qui laisse entendre qu’on envisage d’adopter un nouveau cadre
juridique. Il est à noter que l’avenir du projet de loi est incertain à la suite des élections
américaines de 2024.
Il est probable que l’évolution des questions juridiques dans l’UE et aux États-Unis aura une
incidence sur les pratiques dans le monde entier. Il est aussi probable que le cadre juridique lié aux
médias synthétiques sera orienté par les décisions judiciaires, car les parties soumettront leurs
questions aux tribunaux au lieu d’attendre l’adoption de changements législatifs.
Alors que les litiges concernant l’IA et le droit d’auteur sont de plus en plus fréquents, une première
aaire canadienne a été portée devant la Cour suprême de la Colombie-Britannique par l’Institut
canadien d’information juridique (CanLII) au sujet de l’utilisation de renseignements en bloc par un
robot conversationnel alimenté par l’IA. Il pourrait s’agir de la première aaire à mettre en évidence
la possibilité que le moissonnage par l’IA constitue une violation du droit d’auteur au Canada.
L’aaire pourrait évoluer parallèlement au litige opposant The New York Times et OpenAI
(ChatGPT)6.
Pour le moment, on ne sait pas dans quelle mesure les traités internationaux actuels sur le droit
d’auteur et les accords commerciaux dont le Canada est signataire sont adaptés à l’IA et aux
médias synthétiques. Au sein de l’Organisation mondiale de la propriété intellectuelle, il a été
proposé d’étudier le droit d’auteur dans l’environnement numérique quelques fois depuis 2015, et
les propositions ont donné lieu à un certain nombre d’études et de rapports.
6 The New York Times Company v. Microso Corporao--–
16
En 2024, on a proposé à plusieurs reprises d’étudier plus précisément l’IA, les défis réglementaires
connexes et les pratiques du marché ainsi que d’organiser des séances d’information à ce sujet.
Cela dit, il faut parfois plus de temps pour modifier des traités internationaux ou en créer de
nouveaux que pour adopter des lois nationales.
L’évolution du paysage technologique risque de faire ressortir d’autres enjeux comme la titularité
des œuvres. La Convention de Berne, dont le Canada et 180 autres pays sont signataires, précise
que la protection du droit d’auteur doit être attribuée à l’auteur d’une œuvre dès la création de
celle-ci, sans qu’il doive l’enregistrer7.
À mesure que cette question prendra une toute nouvelle dimension avec l’essor des médias
synthétiques, divers pays pourraient commencer à réévaluer les coûts et les avantages d’exiger
l’enregistrement. Pour rester gérables, les enjeux devront faire l’objet d’un accord international.
Sinon, ils risquent de donner lieu à un système complexe et ingérable où la protection varie d’un
pays à l’autre. Un tel scénario nuirait à la fois aux créateurs et aux utilisateurs de contenu protégé
par le droit d’auteur.
Observations finales
La création et la diusion de contenu généré par l’IA posent de nombreux défis quant à la
protection du droit d’auteur. Les médias synthétiques ont déjà influé sur la façon dont le contenu
est créé et diusé en ligne et, comme c’est souvent le cas pour les technologies révolutionnaires,
les cadres stratégiques et juridiques n’ont pas encore été adaptés aux défis que ces médias
posent.
La Commission du droit d’auteur occupe une position intéressante au sein de l’écosystème du
droit d’auteur, car son rôle est à la fois celui d’un arbitre juridique et d’un organisme de
réglementation économique. En tant que tribunal de première instance, elle est à l’avant-garde de
l’évolution des questions juridiques qui s’appliquent à l’utilisation d’œuvres protégées par le droit
d’auteur lorsque de nouveaux enjeux touchent les sociétés de gestion (qui représentent les
titulaires de droits d’auteur) et les utilisateurs. Bien que sa compétence dépende des dossiers dont
elle est saisie et de l’application du cadre juridique existant, il est probable que la Commission
jouera un rôle dans cette nouvelle ère de création, de reproduction et de diusion dans un avenir
proche.
Les médias synthétiques et le Conseil de la radiodiusion
et des télécommunications canadiennes
Au cours des dernières années, l’utilisation de l’IA générative et des médias synthétiques a connu
une croissance fulgurante dans plusieurs industries partout dans le monde, y compris dans divers
domaines du secteur des communications. Le CRTC est un tribunal quasi judiciaire indépendant
qui réglemente le secteur canadien des communications. Bien que le CRTC ne réglemente pas les
«
septembre
17
systèmes d’IA et d’IA générative, leur utilisation possible dans le secteur des communications
pourrait avoir des répercussions sur les services et les industries qu’il réglemente. Le CRTC doit
donc se tenir informé des avancées liées à l’IA générative et aux médias synthétiques. L’utilisation
de l’IA générative et des médias synthétiques dans le secteur des communications doit
impérativement être conforme aux valeurs canadiennes.
Dans la présente section, le CRTC examine les répercussions de l’IA générative et des médias
synthétiques sur l’industrie de la radiodiusion ainsi que sur les communications non sollicitées. Il
présente un aperçu des principaux enjeux et des développements récents, ainsi que des avantages
possibles de l’IA générative et des médias synthétiques et des risques qu’ils présentent, d’après ce
que le CRTC a observé jusqu’à présent.
Considérations
Répercussions sur l’industrie de la radiodiusion
Le CRTC modernise le cadre réglementaire canadien en matière de radiodiusion afin de veiller à
ce que la population canadienne ait accès à du contenu canadien et autochtone sur diérentes
plateformes. Dans ce contexte, les principaux enjeux et questions pour le CRTC concernant l’IA
générative et les médias synthétiques sont les suivants :
• Répercussions sur les secteurs de la radiodiusion audiovisuelle et audio;
• Répercussions sur la création de contenu canadien;
• Répercussions sur la création et la disponibilité des nouvelles.
En tant que tribunal administratif quasi judiciaire, le CRTC prend des décisions fondées sur le
dossier public. Les consultations publiques et les audiences du CRTC lui permettent de recueillir
des points de vue diversifiés. Ceux-ci proviennent notamment de particuliers, de représentants des
Premières Nations, des Inuits et des Métis, de groupes d’intérêt public et de l’industrie. Le CRTC
recueille actuellement les commentaires du public sur l’IA générative et les médias synthétiques
dans le cadre de diverses consultations et audiences, dans le but de contribuer à la modernisation
du cadre réglementaire canadien en matière de radiodiusion, notamment en ce qui concerne :
• Avis de consultation de radiodiusion CRTC 2024-288 – La voie à suivre – Définir « émission
canadienne » et soutenir la création et la distribution d’une programmation canadienne
dans le secteur audiovisuel (Avis de consultation 2024-288);
• Avis de consultation de radiodiusion CRTC 2025-52 – La voie à suivre – Soutenir le contenu
audio canadien et autochtone (Avis de consultation 2025-52).
Dans le cadre de ces consultations, le CRTC pose des questions exploratoires afin de déterminer si
le contenu généré par l’IA peut être considéré comme du contenu canadien, et d’évaluer les
répercussions potentielles de l’IA générative sur la production de contenu, ainsi que sur la
découvrabilité et la promotion du contenu canadien.
18
Répercussions sur les secteurs de la radiodiusion audiovisuelle et
audio
Les créateurs canadiens, comme les acteurs, les musiciens, les écrivains et les producteurs,
créent une grande variété de programmes qui reflètent les attitudes, les opinions, les idées, les
valeurs et la créativité artistique de la population canadienne. Les histoires qu’ils créent tiennent
compte des besoins et des intérêts des Canadiennes et des Canadiens et leur fournissent des
renseignements sur des questions d’actualité importantes. Elles font également écho aux diverses
voix des communautés autochtones, des groupes en quête d’équité et des communautés
francophones, ce qui contribue à enrichir le système de radiodiusion canadien et l’économie en
général.
Grâce à l’avènement de l’IA générative et des médias synthétiques, les créateurs canadiens ont à
leur disposition de nouveaux outils pour produire du contenu audiovisuel et audio. Par exemple, l’IA
générative et les médias synthétiques peuvent être utilisés pour créer des eets spéciaux, rédiger
des parties d’un scénario de film, concevoir une aiche de film réaliste en quelques secondes ou
produire des répliques numériques.
Certains intervenants des secteurs de la radiodiusion audiovisuelle et audio accueillent
favorablement l’IA générative et les médias synthétiques, les avantages étant bien connus des
travailleurs créatifs et des entreprises de divertissement. Dans son mémoire de 2023 au Parlement,
l’Alliance des artistes canadiens du cinéma, de la télévision et de la radio (ACTRA) a reconnu que
l’IA générative pourrait être utilisée en complément du travail des créateurs et permettre de réduire
les coûts liés au processus d’audition, au doublage et au sous-titrage, à la transformation
numérique et à la capture de mouvement.
Par exemple, la publicité des fêtes de 2024 de Coca-Cola (en anglais seulement) a été créée en
utilisant cinq services d’IA générative diérents pour produire 110 versions de la publicité en
quelques jours et à moindre coût.
L’IA générative et les médias synthétiques pourraient aider les entreprises à accroître leur eicacité
ou à respecter les lois et règlements. Par exemple, dans le cadre de la mise en œuvre de la Loi sur
la radiodiusion modifiée, le CRTC a tenu une instance publique pour déterminer comment faire en
sorte que les émissions sur les plateformes de diusion continue soient exemptes d’obstacles
pour les Canadiennes et les Canadiens qui utilisent le sous-titrage codé.
Dans le dossier de l’instance, certaines entreprises de médias ont déclaré avoir recours à la
reconnaissance vocale automatisée pour sous-titrer plus de contenu à moindre coût. De même,
l’utilisation de l’IA générative et des médias synthétiques dans l’industrie du doublage permet aux
cinéastes de doubler leur contenu et d’adapter le visuel à la langue de doublage en postproduction
(en anglais seulement).
De tels systèmes pourraient avoir des répercussions au Canada, en raison de la diversité
linguistique. Par exemple, dans le cadre du processus d’élaboration conjointe de la Politique de
radiodiusion autochtone, les peuples autochtones du Canada ont indiqué au CRTC que plus de
contenu audio et audiovisuel pourrait être disponible dans les langues autochtones grâce au
doublage ou au sous-titrage. Toutefois, la traduction peut être coûteuse et, dans certains cas, les
19
locuteurs d’origine sont peu nombreux ou diicilement accessibles. L’IA générative et les médias
synthétiques pourraient combler les lacunes et ainsi rendre le contenu accessible aux
communautés autochtones.
Parallèlement, le recours à l’IA générative et aux médias synthétiques pour le sous-titrage et le
doublage pourrait poser des défis liés à l’emploi. Les pertes d’emplois dans les industries créatives
sont préoccupantes non seulement pour l’économie, mais aussi pour l’écosystème de la
radiodiusion, car les créateurs canadiens contribuent au dynamisme et à la diversité culturels du
Canada. Certaines organisations ont souligné que ces technologies menacent le gagne-pain des
750 artistes québécois qui ont participé au doublage en français de 501 productions
cinématographiques et télévisuelles en 2023-2024. Des 8 450 membres actifs de l’Union des
artistes du Québec, 44 % orent également des services de narration, de vidéodescription et de
doublage. Tous ces secteurs pourraient être touchés par ces technologies.
Les scénaristes canadiens ont pris des mesures pour défendre leurs droits liés à l’utilisation de
documents protégés par le droit d’auteur sans leur consentement explicite pour entraîner des
systèmes d’IA, inspirés par les protections que les créateurs américains ont obtenues après la
grève de la Writers Guild of America (en anglais seulement). En mai 2024, la Writer’s Guild of
Canada (WGC) a conclu une entente de trois ans (en anglais seulement) avec l’Association
canadienne des producteurs médiatiques (ACPM), qui exige que les producteurs informent les
scénaristes lorsqu’ils leur fournissent du contenu généré par l’IA. Cette entente interdit également
la réduction des crédits ou de la rémunération convenus des scénaristes.
Certaines associations professionnelles (en anglais seulement) ont indiqué que l’IA générative
représente une menace générationnelle pour le gagne-pain de leurs membres et qu’elle a déjà eu
une incidence sur les industries culturelles. De plus, les artistes veulent pouvoir donner ou refuser
leur consentement, recevoir une rémunération et contrôler la façon dont les modèles d’IA utilisent
leur nom, leur image et leur ressemblance. La plus récente convention de production
indépendante (en anglais seulement) conclue entre l’ACTRA, l’ACPM et l’Association québécoise
de la production médiatique (AQPM) comprend désormais des règles protégeant les artistes contre
l’utilisation ou la création, sans leur consentement explicite, de matériel généré par l’IA, de
répliques numériques et de modifications numériques.
Répercussions sur la création de contenu canadien
La Loi sur la diusion continue en ligne a reçu la sanction royale en avril 2023 et est devenue la
première révision majeure de la Loi sur la radiodiusion depuis 1991. Le CRTC est responsable de
la mise en œuvre de la Loi sur la radiodiusion modernisée et, au cours des 24 premiers mois
suivant son entrée en vigueur, il a tenu 13 consultations publiques et rendu 4 décisions. Les
services de diusion continue oerts au Canada sont maintenant expressément visés par le cadre
national de radiodiusion, notamment pour veiller à ce qu’ils contribuent à la création et à la
diusion de contenu canadien.
20
En novembre 2024, le CRTC a publié l’Avis de consultation de radiodiusion CRTC 2024-288 pour
moderniser la définition actuelle d’« émission canadienne » dans l’écosystème audiovisuel8 et a
demandé aux intervenants consultés de répondre aux questions suivantes :
• Le matériel généré par l’IA peut-il être considéré comme du contenu canadien?
• Quelle pourrait être l’incidence de l’IA sur la préproduction et la postproduction?
• Quelle pourrait être l’incidence de l’utilisation de l’IA sur la disponibilité du contenu
canadien?
Le CRTC est l’un des organismes responsables de certifier le contenu canadien. Le Bureau de
certification des produits audiovisuels canadiens, Téléfilm Canada et le Fonds des médias du
Canada peuvent également certifier du contenu canadien faisant l’objet d’une demande de
financement ou de crédit d’impôt, mais chaque organisme utilise des critères diérents.
La certification des œuvres cinématographiques et télévisuelles canadiennes par le CRTC est
importante, puisqu’elle est liée au financement du contenu canadien au moyen de mécanismes
comme les dépenses en émissions canadiennes9 et les fonds de production indépendants
certifiés.
Certaines associations professionnelles examinent actuellement la possibilité que les programmes
qui utilisent l’IA générative et les médias synthétiques soient considérés comme du « contenu
canadien » et, par conséquent, soient admissibles à recevoir du financement public. Par exemple,
la WGC a intégré des mesures de protection dans ses contrats de production (en anglais
seulement) avec l’ACPM pour que le contenu généré par l’IA fourni par les producteurs aux
scénaristes ou aux lecteurs-analystes de scénarios n’ait pas de répercussions sur les droits de
rémunération et de crédit de ces derniers.
L’IA générative et les médias synthétiques peuvent également avoir une incidence sur les exigences
relatives au contenu canadien imposées aux stations de radio canadiennes ainsi qu’aux stations de
télévision canadiennes. Les stations de radio de campus, par exemple, doivent respecter des
exigences précises pour conserver leurs licences de radiodiusion. Elles doivent notamment
consacrer au moins 15 % de leur programmation à des nouvelles ou à des créations orales
produites localement.
Dans un communiqué de presse publié en 2023, l’Association nationale des radios étudiantes et
communautaires (ANREC) a reconnu que certaines petites stations aux capacités limitées
pourraient utiliser l’IA générative et les voix synthétiques pour créer des bulletins d’information
locaux ou des bulletins météo horaires. Selon l’ANREC, « [l]’utilisation de contenu d’IA dans les
programmes de création orale est [...] le domaine où elle sera la première remarquée dans [son]
secteur ».
système de points
9 dans le système de
21
Bien qu’il n’y ait pas de règlements sur l’utilisation de médias synthétiques dans le domaine de la
radio, car la technologie est nouvelle et en constante évolution, l’ANREC a informé ses membres
que l’IA pouvait montrer de la partialité et produire des nouvelles fausses ou trompeuses. Dans son
avis de consultation 2025-52, le CRTC traite de l’utilisation et des répercussions possibles de l’IA
dans le secteur audio en vue de moderniser ses politiques réglementant la radiodiusion et la
diusion audio en continu au Canada.
Répercussions sur la création et la disponibilité des nouvelles
Le CRTC ne joue pas de rôle direct dans la production de contenu des nouvelles ou dans le
domaine du journalisme. Son rôle dans le secteur des nouvelles consiste avant tout à veiller à ce
que les Canadiennes et les Canadiens aient accès à des émissions de nouvelles et d’aaires
publiques de grande qualité. Les services de nouvelles sont considérés comme des émissions
d’importance exceptionnelle et le CRTC peut exiger la distribution obligatoire des émissions de
nouvelles. Le CRTC veille également à ce que certains radiodiuseurs produisent et diusent des
nouvelles au moyen de diverses mesures incitatives et que d’autres aident à couvrir les coûts de
production des nouvelles. De plus, le CRTC participe à la mise en œuvre de certaines parties de la
Loi sur les nouvelles en ligne, qui vise à garantir que les grandes plateformes en ligne rendant
disponible du contenu canadien rémunèrent équitablement les organismes de presse canadiens.
Bien qu’elle n’ait pas d’incidence directe sur le mandat du CRTC, l’IA complexifie davantage la
relation parfois tendue entre les organismes de presse et les plateformes en ligne. Par exemple,
une coalition d’éditeurs de presse canadiens a récemment intenté une poursuite contre OpenAI (en
anglais seulement), airmant qu’elle utilise du contenu protégé par le droit d’auteur des médias
canadiens et prive ainsi les journalistes de revenus importants alors que l’industrie canadienne de
l’information connaît des diicultés financières.
Les salles de rédaction canadiennes ont également commencé à utiliser l’IA générative et les
médias synthétiques pour réduire leurs coûts opérationnels. Dans une enquête de KPMG sur
l’utilisation de l’IA menée en octobre 2024 auprès de plus de 800 organismes de presse canadiens,
61 % des répondants ont déclaré avoir mis en œuvre l’IA générative, et 89 % ont indiqué que la
technologie était extrêmement importante ou très importante pour leur avantage concurrentiel.
Les journalistes, les rédacteurs et les directeurs de la rédaction utilisent l’IA générative et les
médias synthétiques pour produire des articles plus rapidement ou pour déléguer certaines tâches
de routine (par exemple, transcrire et résumer les réunions du conseil municipal) afin qu’ils
puissent se concentrer sur le journalisme d’enquête.
Les outils d’IA générative peuvent également servir à produire des nouvelles qui semblent
légitimes, mais qui ne le sont pas. Ils peuvent rapidement générer des médias synthétiques très
convaincants qui pourraient tromper les Canadiennes et les Canadiens. Le Global Journalism
Innovation Lab a interrogé 1 042 répondants canadiens (en anglais seulement) et a découvert que
70 % d’entre eux étaient préoccupés par la présence d’inexactitudes dans les articles de presse
attribuable à l’IA, tandis que 78 % ont exprimé des inquiétudes quant à la possibilité que l’IA soit
utilisée pour diuser de la mésinformation et de la désinformation.
22
La population canadienne accorde une importance particulière aux outils qui limitent la
propagation de la mésinformation ou de la désinformation, comme les médias synthétiques. Dans
une étude menée par la Fondation pour le journalisme canadien (en anglais seulement) en 2023, la
moitié des Canadiens interrogés ont indiqué qu’ils n’avaient pas confiance en leur capacité à faire
la distinction entre le contenu généré par l’IA et le contenu créé par l’humain. D’ailleurs, 85 % des
personnes interrogées dans le sondage du Global Journalism Innovation Lab (en anglais
seulement) ont airmé que les salles de rédaction devraient faire preuve de transparence quant à
leur utilisation de l’IA, et les trois quarts souhaitaient que le contenu généré par l’IA en porte la
mention.
Observations finales
Dans sa section, le CRTC a abordé l’intersection entre son mandat, l’utilisation des médias
synthétiques et certains des aspects positifs et négatifs potentiels de l’IA dans les secteurs de la
radiodiusion audiovisuelle et audio. L’IA peut aider les créateurs et permettre de réduire les coûts
opérationnels. Cependant, elle peut également avoir des répercussions négatives.
Des mesures de surveillance supplémentaires seront nécessaires pour comprendre les
désavantages potentiels liés à l’IA générative et aux médias synthétiques, comme l’utilisation de
l’IA sans faire preuve de transparence envers le public.
Les organismes de réglementation numérique du monde entier peuvent contribuer de manière
significative à la définition d’une utilisation eicace et responsable de l’IA générative et des médias
synthétiques. Par exemple, les organismes de réglementation numérique peuvent collaborer avec
le public, les intervenants de l’industrie et d’autres organisations gouvernementales et les
consulter pour mettre en commun leurs connaissances et harmoniser leurs principes, notamment
en matière de responsabilité, de transparence et d’accessibilité.
Le rythme d’évolution de l’IA étant rapide, il pourrait être nécessaire d’adopter des approches
réglementaires souples. Dans certaines juridictions comme l’UE, des intervenants de l’industrie
ont demandé l’élaboration de lignes directrices et de principes (en anglais seulement) pour orienter
l’utilisation de l’IA dans les industries créatives.
Compte tenu de la portée mondiale des technologies d’IA, il demeurera important que les
organismes de réglementation coopèrent en mettant en commun leurs connaissances et en
recourant à d’autres formes de collaboration afin que des politiques numériques proactives et
souples puissent être élaborées. Il peut s’agir d’une coopération entre des organismes d’un même
pays, comme dans le cadre du Forum canadien des organismes de réglementation numérique, ou
de diérents pays, et les organismes peuvent échanger des renseignements, découvrir diverses
initiatives et mettre en commun des pratiques exemplaires. Bien qu’elles soient encore
émergentes, les technologies d’IA responsables de la production et de la diusion de médias
synthétiques devraient poser des défis aux industries canadiennes des télécommunications et de
la radiodiusion et, par conséquent, au CRTC, mais leur orir également des possibilités. Il est
essentiel que l’utilisation de l’IA générative et des médias synthétiques dans les industries des
communications soit conforme aux valeurs canadiennes, et le CRTC aura un rôle à jouer à cet
égard.
23
Les médias synthétiques et le Bureau de la concurrence
Cette section explique comment le recours à l’hypertrucage peut violer les dispositions de la Loi
sur la concurrence relatives aux pratiques commerciales trompeuses.
La Loi sur la concurrence prévoit qu’il est illégal pour quiconque de donner au public des
indications fausses ou trompeuses sur un point important pour promouvoir un produit, un service
ou des intérêts commerciaux quelconques. Cela s’explique par le fait que de telles pratiques
peuvent nuire aux consommateurs, aux entreprises et à la concurrence, et avoir une incidence
négative sur l’économie.
Les dispositions s’appliquent à ce qui suit :
• publicités imprimées ou électroniques;
• indications données par écrit et de vive voix;
• images;
• promotions audiovisuelles.
Elles s’appliquent également quel que soit le support utilisé pour faire la promotion.
Pour que les consommateurs puissent prendre des décisions éclairées, tous les supports
publicitaires doivent contenir des renseignements véridiques et exacts.
À titre indicateur, le tableau ci-dessous contient une description de certaines dispositions relatives
aux pratiques commerciales trompeuses et des exemples d’utilisations de l’hypertrucage qui
peuvent soulever un problème au titre de chacune des dispositions. Il convient de noter qu’aucun
tribunal judiciaire ou administratif n’a statué que les exemples cités étaient contraires à la Loi sur la
concurrence.
Considérations
L’hypertrucage et les dispositions de la Loi sur la concurrence
relatives aux pratiques commerciales trompeuses
Disposition de la Loi
sur la concurrence
Description de la disposition et exemples
Article 52 [disposition
pénale] et
alinéa
74.01(1)a)
[disposition civile]
Indications fausses ou trompeuses
Il est illégal de donner des indications fausses ou trompeuses sur un
point important pour promouvoir un produit, un
service ou des intérêts
commerciaux quelconques.
Grâce à l’IA, les acteurs malveillants peuvent adopter des pratiques
commerciales encore plus trompeuses. Par exemple, la technologie
permet de donner des indications fausses ou trompeuses convaincantes
24
plus facilement qu’auparavant ou d’organiser des fraudes à une échelle
beaucoup plus grande et à très faible coût. Consultez la page du Bureau
de la concurrence pour
connaître les arnaques et les pratiques
commerciales trompeuses courantes et savoir comment les éviter
.
Exemple
: L’hypertrucage peut faire en sorte que des commentaires et
des recommandations
qui sont faux puissent sembler authentiques.Par
exemple, une entreprise peut utiliser l’hypertrucage pour créer de
fausses vidéos promotionnelles de célébrités ou de personnalités
publiques bien connues sans leur autorisation où elles recommandent
ou évaluent un produit.
Alinéa 74.01(1)b)
[disposition civile]
Déclarations visant le rendement d’un produit qui ne se fondent pas
sur une épreuve suisante et appropriée
Une entreprise qui fait une déclaration visant le rendement, l’eicacité ou
la durée utile d’un produit ou d’un service doit être en mesure de prouver
que sa déclaration est fondée sur une épreuve suisante et appropriée.
Les déclarations potentiellement non fondées visant le rendement d’un
produit ou d’un service, y compris celles relatives aux fonctionnalités
d’IA, peuvent avoir des eets néfastes. Elles peuvent notamment faire en
sorte que des concurrents honnêtes perde
nt des clients et que les
consommateurs ne disposent pas des renseignements dont ils ont
besoin pour prendre des décisions d’achat éclairées.
Exemple
: L’hypertrucage peut servir à créer de faux témoignages de
personnes connues et de confiance pour rendre plus convaincantes des
déclarations non fondées. Entre autres, une entreprise peut créer des
vidéos trompeuses où une célébrité
fait faussement la promotion d’un
système d’investissement et fait une déclaration non fondée visant le
rendement du système (par exemple, «
Vous pouvez obtenir un
rendement de 300
% en 30 jours »).
Article 52.1
[
disposition pénale]
Télémarketing trompeur
La pratique de télémarketing est subordonnée à la divulgation de certains
renseignements au début de chaque communication. Tout manquement
à cette obligation constitue une infraction
criminelle. Il est également
illégal de communiquer ou de permettre que soient communiquées des
indications fausses ou trompeuses pour promouvoir un produit, un
service ou des intérêts commerciaux quelconques de vive voix par
téléphone ou par tout moyen de
télécommunication, y compris les
messages enregistrés et les appels automatisés. Un appel automatisé
est un appel téléphonique eectué par composition automatique, qui
transmet un message préenregistré.
25
Exemple : L’hypertrucage des voix peut améliorer l’eicacité du
télémarketing trompeur et le rendre plus diicile à détecter. Dans les cas
de télémarketing trompeur, les acteurs malveillants prétendent souvent
être des représentants d’une certaine entreprise. L
es outils d’IA peuvent
leur permettre de créer de faux enregistrements vocaux très réalistes ou
d’usurper l’identité de dirigeants de l’entreprise, d’employés ou de
personnes
-ressources externes de confiance pendant les appels.
G
râce à des appels automatisés alimentés par l’IA, les acteurs
malveillants peuvent
également se faire passer pour des banques, des
organismes gouvernementaux et des entreprises de services publics et
demander aux consommateurs de fournir des renseignements
personnels. Ils peuvent également prétendre appeler au sujet
d’autorisations d’achat pour de
s commandes que les personnes ciblées
ont soi
-disant passées.
Utiliser les sciences de comportements pour comprendre les défis
et les limites des étiquettes pour les médias synthétiques
Dans la section ci-dessous, le Bureau de la concurrence ne cherche ni à appuyer
l’utilisation des étiquettes comme stratégie d’atténuation des risques des médias
synthétiques ni à s’y opposer.
Contexte
Pour qu’un marché soit concurrentiel, les consommateurs doivent être en mesure de prendre des
décisions éclairées. Par conséquent, il y a lieu de s’inquiéter du fait que les consommateurs ont de
plus en plus de mal à distinguer le contenu synthétique du contenu non synthétique10. Alors que le
milieu universitaire, les experts de l’industrie et les gouvernements de nombreux pays examinent
diérentes solutions au problème, l’une des plus envisagées est l’étiquetage. Cette pratique
consiste à ajouter des étiquettes informatives au contenu synthétique (y compris l’hypertrucage)
que les consommateurs peuvent voir ou entendre11.
«
»
anglais seulement)
Mai
« »
11 -
AI-
26
La recherche a révélé de nombreuses nuances quant à l’eicacité des étiquettes. Certaines
étiquettes se sont avérées eicaces pour réduire le nombre de personnes qui sont flouées par du
contenu faux ou trompeur et qui le partagent en ligne12. De plus, certaines études indiquent que les
étiquettes sont plus avantageuses que les campagnes de sensibilisation générales. En eet, ces
dernières ne renforcent pas la capacité des consommateurs à reconnaître le contenu synthétique
et tendent plutôt à les rendre sceptiques à l’égard de tous les médias, y compris les médias non
synthétiques13.
Cependant, de nombreux facteurs peuvent influer sur l’eicacité d’une étiquette, et même les
étiquettes bien conçues peuvent parfois avoir une incidence limitée comparativement à d’autres
types d’interventions. Voir l’article Labeling AI-Generated Content : Promises, Perils, and Future
Directions (en anglais seulement).
De plus, les étiquettes peuvent même avoir des conséquences négatives et imprévues. Par
exemple, elles peuvent faire augmenter de manière inappropriée la confiance des consommateurs
à l’égard du contenu sans étiquette ou encore ne pas communiquer les bons renseignements aux
consommateurs. La prochaine section décrit les conséquences plus en détail.
Compte tenu de ces enjeux, il est important de faire ressortir les avantages et les inconvénients
lorsqu’on envisage d’utiliser des étiquettes pour les médias synthétiques. La recherche scientifique
peut mettre en lumière les défis et les limites de l’utilisation des étiquettes comme stratégie
d’atténuation des eets néfastes potentiels des médias synthétiques et de l’hypertrucage. La
section ci-dessous contient un aperçu, préparé par l’Unité des perspectives comportementales du
Bureau de la concurrence, de trois considérations fondées sur la recherche et relatives à l’ajout
d’étiquettes aux médias synthétiques.
Trois considérations relatives à l’utilisation des étiquettes
Les trois considérations suivantes14 permettent d’illustrer certains des défis liés à l’ajout
d’étiquettes aux médias synthétiques et les limites potentiellement inévitables quant à leur
eicacité.
seulement)
«
» Current Opinion in Psychology« Fact-
- »
-
13 Labeling AI-
and Future
27
1. Interprétation de la formulation d’une étiquette par les consommateurs : Selon la
formulation et la conception de l’étiquette, celle-ci peut communiquer ou non les
renseignements prévus. Par exemple, une étiquette peut être destinée à confirmer la
véracité d’un média ou à communiquer son origine (synthétique ou non). Des recherches en
sciences de comportements ont été menées pour examiner comment les diérentes
formulations des étiquettes permettent de communiquer ces messages sur les médias
synthétiques.
Une étude a révélé que les consommateurs avaient plus tendance à comprendre la
signification d’une étiquette indiquant clairement que le contenu a été généré par l’IA
(« Généré par l’IA ») que des étiquettes descriptives (« Synthétique », « Hypertrucage »,
etc.)15. Cependant, les consommateurs ne réalisent pas que l’étiquette « Généré par l’IA »
peut désigner du contenu trompeur. Cette étiquette suscite donc moins de scepticisme
que les étiquettes « Synthétique » ou « Hypertrucage »16. Selon une autre étude, les
messages générés par l’IA qui portent clairement la mention « Généré par l’IA » peuvent être
tout aussi convaincants que les messages sans étiquette, ce qui démontre encore une fois
qu’une étiquette peut communiquer l’origine d’un élément de contenu sans susciter de
scepticisme17.
Comme la façon dont les consommateurs interprètent les étiquettes et réagissent à celles-
ci peut varier, les recherches disponibles suggèrent de faire preuve de prudence lorsqu’il
s’agit de déterminer l’objectif des étiquettes pour les médias synthétiques. La réalisation
d’essais adéquats peut aider à garantir que les étiquettes communiquent les
renseignements prévus.
2. Conséquences de l’étiquetage pour le contenu sans étiquette : Si l’étiquetage des
médias synthétiques devient plus fréquent, les consommateurs pourraient supposer que le
contenu sans étiquette n’est pas synthétique18. Par conséquent, l’étiquetage des médias
synthétiques pourrait avoir l’eet imprévu d’accroître la confiance des consommateurs à
l’égard du contenu sans étiquette, faisant augmenter les cas où des consommateurs sont
floués par du contenu synthétique sans étiquette, faux ou trompeur.
Cependant, une étude sur la mésinformation a révélé que l’utilisation d’étiquettes pour le
contenu vrai et faux peut aider à atténuer les risques que les consommateurs aient plus
15
AI?
16 Ibid.
Collins et The Implied Truth Effect: Aaching Warnings to a Subset
of Fake News Headlines Increases Perceived Accuracy of Headlines Without Warnings (en anglais seulement)
–
28
confiance à l’égard du contenu sans étiquette19. Ces éléments de preuve peuvent étayer la
théorie de certains experts du domaine de l’IA selon laquelle, à l’ère des médias
synthétiques prolifiques, l’utilisation d’étiquettes pour indiquer que du contenu non
synthétique a fait l’objet de vérifications pourrait être utile aux consommateurs20.
3. Incidence d’une exposition répétée : Le fait de voir régulièrement le même contenu en
ligne peut réduire l’eicacité des étiquettes connexes. Ainsi, malgré la présence
d’étiquettes d’avertissement, les consommateurs sont plus susceptibles d’être floués par
du faux contenu après l’avoir vu à maintes reprises. Par exemple, une exposition répétée à
des médias synthétiques qui en portent la mention peut faire en sorte que les médias
deviennent plus crédibles ou qu’ils soient perçus comme réels.
Une étude a permis de constater un eet similaire : les personnes ayant vu à maintes
reprises le même contenu faux et trompeur devenaient plus persuadées de sa véracité,
malgré ses étiquettes d’avertissement21.
Un autre défi est que les consommateurs tendent à oublier la source du contenu pourvu
d’une étiquette22. Selon des études, plus la proportion de médias synthétiques augmente,
plus les consommateurs risquent de croire à tort que du contenu synthétique est non
synthétique23.
Ces études suggèrent que d’autres stratégies visant à limiter l’exposition à un même
élément de contenu pourraient contribuer à assurer l’eicacité des étiquettes. Un exemple
de telle stratégie est le déclassement (qui réduit la fréquence à laquelle certains types de
contenu apparaissent dans un fil d’actualité ou dans les résultats de recherche).
19 Ibid.
20 31
cbc
« »
,
-
-
seulement)« » –;
« -
matching account »
29
Observations finales
Selon notre examen des recherches menées à leur sujet, les étiquettes pourraient être une bonne
stratégie d’atténuation des risques des médias synthétiques. Cependant, leur eicacité dépend de
la manière dont elles sont mises en œuvre24. Dans certains cas, les étiquettes peuvent poser de
nouveaux défis ou avoir des conséquences imprévues. Enfin, les étiquettes pour les médias
synthétiques posent d’autres défis pratiques, notamment le non-respect des directives et
l’utilisation frauduleuse pour délibérément induire en erreur ou tromper.
Bref, les recherches suggèrent que les étiquettes ne sont pas une solution parfaite et que leur mise
en œuvre s’accompagnerait de nombreuses diicultés. Néanmoins, dans certains cas, les
étiquettes pourraient être un outil pour atténuer les risques que les médias synthétiques trompent
les consommateurs ou nuisent à la concurrence.
Les médias synthétiques et le Commissariat à la
protection de la vie privée du Canada
En cette ère numérique en pleine évolution, les technologies émergentes ont soulevé
d’importantes questions et ont eu de grandes répercussions sur le plan de la protection de la vie
privée. Qu’il soit question de l’hypertrucage, de la technologie d’usurpation de voix ou du contenu
généré par des GML, le phénomène des médias synthétiques ne fait pas exception25. La protection
de la vie privée est d’autant plus importante compte tenu de la quantité de renseignements qui
sont nécessaires pour, entre autres, entraîner les algorithmes de médias synthétiques à faire ce qui
suit :
• générer des images fidèles ou convaincantes;
• imiter avec précision le timbre de voix et les inflexions d’une personne en fonction d’un
court échantillon de référence;
• rédiger du texte dans le style d’un auteur ou d’un penseur connu.
Le développement et l’utilisation de cette technologie peuvent avoir une incidence sur le droit à la
vie privée et soulèvent plusieurs questions importantes relatives à la protection de la vie privée.
«
» Current Opinion in Psychology
Labeling AI-
seulement)
30
Façon dont la loi fédérale sur la protection des renseignements
personnels visant les organisations s’applique aux médias
synthétiques
Du point de vue de la protection de la vie privée, l’une des principales questions à trancher est celle
de savoir comment la loi canadienne sur la protection des renseignements personnels s’applique
aux médias synthétiques. La Loi sur la protection des renseignements personnels et les documents
électroniques (LPRPDE), la loi fédérale sur la protection des renseignements personnels dans le
secteur privé au Canada, établit les règles qui régissent la collecte, l’utilisation et la
communication de renseignements personnels par les organisations de l’ensemble du Canada
dans le cadre d’une activité commerciale. Plus particulièrement, l’Alberta, la Colombie-Britannique
et le Québec ont adopté leurs propres lois sur la protection des renseignements personnels dans le
secteur privé. Celles-ci sont réputées essentiellement similaires à la LPRPDE. Les organisations
qui exercent des activités uniquement dans l’une de ces provinces seraient donc généralement
assujetties à la loi de la province plutôt qu’à la LPRPDE. La LPRPDE ne s’applique qu’aux
organisations du secteur privé et ne s’applique pas aux individus agissant à des fins personnelles et
non commerciales.
De nombreuses organisations de médias synthétiques sont assujetties à la LPRPDE, car elles
recueillent, utilisent et communiquent des renseignements personnels dans le cadre d’activités
commerciales. Pour de plus amples renseignements, voir le Bulletin d’interprétation : Activité
commerciale du Commissariat. Par exemple, le créateur d’un système de médias synthétiques qui
vend à un tiers, ou un tiers qui saisit des renseignements personnels dans un système de médias
synthétiques pour fournir un service à ses clients, seraient probablement tous deux assujettis à la
LPRPDE.
Dans la présente section, le Commissariat examine les médias synthétiques sous l’angle de la
LPRPDE et traite les renseignements saisis dans les systèmes et le contenu que les systèmes
génèrent. Comme l’application de la LPRPDE dépend du contexte, les exemples ont un caractère
indicatif et ne sont pas fondés sur un contexte ou un ensemble de faits en particulier.
Considérations
Renseignements saisis dans les systèmes de médias synthétiques
Définition de renseignements personnels
Les médias synthétiques sont habituellement générés à l’aide de systèmes algorithmiques, qui
utilisent de très grands ensembles de données pour créer des imitations réalistes (c’est-à-dire une
image ou une voix) ou pour générer du nouveau contenu.
Du point de vue de la protection de la vie privée, ce processus soulève plusieurs considérations. La
première étant d’évaluer la possibilité que les ensembles de données utilisés pour entraîner les
systèmes de médias synthétiques contiennent des renseignements personnels. Bien que les
systèmes ne soient pas tous entraînés à l’aide de renseignements personnels, certains types de
31
médias synthétiques, notamment les hypertrucages, utilisent souvent de tels renseignements pour
reproduire des images le plus fidèlement possible.
Dans le contexte de l’hypertrucage, les données saisies dans un système de médias synthétiques
pour générer des images similaires fidèles dans un contexte diérent seraient probablement
considérées comme personnelles, car les images en question devraient nécessairement être assez
similaires pour que l’on puisse identifier une personne. De plus, ce serait probablement le cas des
systèmes d’usurpation de voix, qui utilisent des ensembles de données provenant d’extraits de la
voix originale d’un individu donné pour entraîner les systèmes d’IA à copier la façon de s’exprimer
de la personne de même que son genre, son âge et son accent26. Ces systèmes deviennent tout
particulièrement problématiques lorsque des escrocs et des cybercriminels les utilisent pour
convaincre les gens de leur envoyer de l’argent ou de leur fournir des renseignements personnels27.
La LPRPDE précise qu’un renseignement personnel est un renseignement « concernant » un
individu identifiable. Le terme englobe notamment les photos d’un individu, ses antécédents
professionnels, son numéro de permis de conduire et même son ADN. En ce sens, le terme
« concernant » signifie non seulement que le renseignement en question porte sur un individu, mais
aussi qu’il le touche ou qu’il peut y être associé. De plus, les renseignements concernent un
« individu identifiable » lorsqu’il y a de fortes possibilités que l’individu puisse être identifié par
l’utilisation de ces renseignements, seuls ou en combinaison avec des renseignements d’autres
sources28.
En ce qui concerne l’usurpation de voix, le Commissariat a indiqué, dans son orientation sur les
renseignements personnels, que les empreintes vocales29 constituent des renseignements
biométriques qui sont considérés comme personnels, voire, dans bien des cas, sensibles. Pour de
plus amples renseignements, consultez le Bulletin d’interprétation : Renseignements
personnels du Commissariat. En ce sens, il existe de nombreux scénarios où les renseignements
saisis dans un système de médias synthétiques sont considérés comme personnels au titre des
lois sur la protection des renseignements personnels.
Renseignements sensibles
Une autre considération importante est celle d’établir si les renseignements personnels saisis dans
un système de médias synthétiques sont sensibles. Bien que les organisations puissent saisir
elles-mêmes des renseignements sensibles dans les systèmes, il existe aussi un risque que les
développeurs utilisent de très grands ensembles de données pouvant contenir des renseignements
sensibles pour entraîner leurs modèles. Cette pratique est susceptible d’entraîner des risques
d’atteinte à la vie privée.
Approaches to Address AI-
anglais seulement),
Gordon c. Canada (Santé)
Wansink c. Telus Communicaons Inc.
» Les empreintes
-
32
Aux termes de la LPRPDE, tout renseignement personnel peut devenir sensible suivant le contexte.
Cela dit, le Commissariat a constaté que certaines catégories de renseignements personnels
seront généralement considérées comme sensibles en raison des risques particuliers que leur
collecte, leur utilisation ou leur communication posent pour les individus concernés.
Le Commissariat a établi que les renseignements qui « seront généralement considérés comme
sensibles et [qui] doivent faire l’objet d’une meilleure protection [comprennent] les renseignements
sur la santé, les finances, les origines ethniques et raciales, les opinions politiques, la vie sexuelle
ou l’orientation sexuelle et les croyances religieuses ou philosophiques, ainsi que les données
génétiques et biométriques ». Pour de plus amples renseignements, consultez le Bulletin
d’interprétation : Renseignements sensibles du Commissariat.
Les renseignements des enfants sont généralement considérés comme sensibles, et il est plus
probable que leur communication aura des répercussions négatives importantes. Pour de plus
amples renseignements, voir les Principes pour des technologies de l’IA générative responsables,
dignes de confiance et respectueuses de la vie privée du Commissariat.
Pour ce qui est des exigences de la LPRPDE, le niveau de sensibilité des renseignements permet
notamment d’établir si un consentement explicite est requis pour la collecte, l’utilisation ou la
communication des renseignements personnels, de déterminer le niveau des mesures de sécurité
nécessaire pour protéger ces renseignements et d’évaluer si une atteinte présente un risque réel de
préjudice grave. Par conséquent, les développeurs et les exploitants des systèmes de médias
synthétiques doivent connaître le niveau de sensibilité des renseignements qui y sont saisis.
Consentement
Dans la plupart des cas, la LPRPDE s’applique aux organisations qui recueillent ou utilisent des
renseignements personnels pour entraîner ou utiliser des technologies de génération de médias
synthétiques. Les organisations doivent donc comprendre quelles sont leurs obligations prévues
par la LPRPDE avant de concevoir et de mettre en œuvre des systèmes de médias synthétiques,
ce qui inclut généralement l’obtention d’un consentement valide et éclairé avant de recueillir et
d’utiliser des renseignements personnels.
Le consentement valable est un élément essentiel des lois canadiennes sur la protection des
renseignements personnels dans le secteur privé. Au titre de la LPRPDE, les organisations sont
généralement tenues d’obtenir un consentement éclairé pour la collecte, l’utilisation et la
communication de renseignements personnels. Pour que le consentement soit éclairé, les
individus doivent comprendre ce à quoi ils consentent (c’est-à-dire la nature et les fins de la
collecte, de l’utilisation ou de la communication des renseignements personnels, de même que le
risque de préjudice ou les conséquences qui en découlent). Selon les circonstances, il peut y avoir
des exceptions limitées au consentement ou d’autres motifs juridiques qui s’appliquent à la
collecte, à l’utilisation ou à la communication des renseignements.
La forme que prend le consentement peut varier selon les circonstances et la nature des
renseignements. Comme il est mentionné précédemment, la sensibilité des renseignements saisis
33
dans un système est un facteur servant à déterminer la forme que prendra le consentement30 que
l’on cherche à obtenir31. Dans le cas des renseignements sensibles, il est généralement nécessaire
que l’individu concerné accorde son consentement explicite. Dans une situation où des
renseignements personnels sensibles sont saisis dans un système de médias synthétiques aux fins
de création ou de génération d’images, de vidéos ou de textes, il peut être nécessaire d’obtenir le
consentement de l’individu qu’ils concernent ou à qui ils appartiennent.
Renseignements personnels auxquels le public a accès
On croit souvent à tort que les renseignements personnels disponibles sur Internet peuvent être
recueillis librement par les organisations, puis saisis dans les systèmes de médias synthétiques,
notamment pour entraîner leurs algorithmes. Ce n’est pas parce que des renseignements
personnels sont accessibles en ligne qu’ils sont considérés comme des renseignements
« auxquels le public a accès » sous le régime des lois canadiennes sur la protection des
renseignements personnels32. L’un des règlements de la LPRPDE fournit une définition précise de
l’expression « renseignements auxquels le public a accès »33.
Comme il incombe à la personne ou à l’organisation qui recueille les renseignements de
déterminer si un consentement est nécessaire, elle doit savoir si les renseignements personnels
qui sont saisis dans un système de médias synthétiques ont été extraits du Web. De plus, elle est
tenue d’obtenir le consentement adéquat et éclairé des individus concernés dans les cas où un tel
consentement est nécessaire.
Les exploitants de sites Web qui hébergent des renseignements personnels ont également
l’obligation, sous le régime des lois sur la protection des renseignements personnels, de protéger
les renseignements personnels contenus sur leurs plateformes contre l’extraction non autorisée de
données. De plus, les incidents liés à l’extraction de données dans le cadre desquels des
renseignements personnels sont recueillis peuvent constituer une atteinte à la sécurité des
données qui doit être signalée aux détenteurs des données. Pour de plus amples renseignements,
voir la Déclaration commune sur l’extraction de données et la protection des renseignements
personnels du Commissariat.
Loi sur la protecon des renseignements personnels et les documents électroniques , ch. 5.
troisième principe
31 Ibidtroisième principe
Commissaria
concernant les renseignements
“”
33 Le Règlement précisant les renseignements auxquels le public a accès -
34
Responsabilité
Les médias synthétiques soulèvent d’importantes questions quant à la responsabilité des
organisations. Le principe de la responsabilité est un principe central et fondamental de la
LPRPDE, qui est lié à l’ensemble des autres principes et obligations et qui les sous-tend.
Aux termes de la LPRPDE, « une organisation est responsable des renseignements personnels en
sa possession ou sous sa garde, y compris des renseignements confiés à une tierce partie aux fins
de traitement »34. Au titre du principe de responsabilité de la LPRPDE, les organisations doivent
veiller à mettre en œuvre des politiques et des pratiques pour, entre autres, assurer la protection
des renseignements personnels, recevoir les plaintes et les demandes de renseignements et y
donner suite, et rédiger des documents explicatifs concernant ces politiques et pratiques.
Les organisations devraient reconnaître qu’elles sont responsables de la conformité aux lois sur la
protection des renseignements personnels et être en mesure de démontrer cette conformité. Le
Commissariat recommande aux organisations de mettre en place un programme de gestion de la
protection de la vie privée pour les aider à cerner leurs obligations en matière de protection des
renseignements personnels et les risques connexes, ainsi qu’à en tenir compte comme il se doit
avant d’orir de nouveaux produits et services. Il peut être diicile de déterminer sur qui repose la
responsabilité dans le contexte des systèmes de médias synthétiques, et des évaluations au cas
par cas seront nécessaires.
Transparence
La transparence est particulièrement importante lorsqu’on utilise des systèmes de médias
synthétiques. Autrement, les individus risquent d’avoir du mal à savoir si leurs renseignements
personnels sont utilisés et, le cas échéant, à comprendre l’utilisation qui en est faite. Les systèmes
comme les GML peuvent produire des réponses diérentes à la même requête, et les réponses
peuvent varier en fonction de la formulation d’une requête. La façon dont un système génère du
contenu peut ne pas être visible ni rendue publique et peut constituer une sorte de « boîte noire »35.
Un tel manque de transparence peut faire en sorte qu’il soit très diicile de déterminer si le
système a utilisé des renseignements personnels pour générer sa réponse. De plus, il peut arriver
que des individus fournissent leurs renseignements personnels pour utiliser un service sans savoir
que leurs renseignements pourraient être utilisés plus tard pour entraîner un algorithme ou un
modèle servant à générer du contenu.
La LPRPDE établit que les organisations doivent faire en sorte que des renseignements précis sur
leurs politiques et leurs pratiques concernant la gestion des renseignements personnels soient
facilement accessibles à toute personne36. Par conséquent, leurs pratiques doivent être claires et
faciles à comprendre pour la moyenne des gens. Dans le cas des systèmes de médias
synthétiques, une organisation pourrait indiquer les renseignements personnels qu’elle recueille,
Loi sur la protecon des renseignements personnels et les documents électroniques
premier principe
35 der
36 Loi sur la protecon des renseignements personnels et les documents électroniques
principe
35
les fins de la collecte et de l’utilisation des renseignements (c’est-à-dire entraîner un modèle), la
façon dont les individus concernés peuvent avoir accès à leurs renseignements personnels ou
porter plainte à l’organisation, ainsi que les renseignements personnels que l’organisation
communique à d’autres entités et la raison pour laquelle ils sont communiqués.
Contenu généré par un système de médias synthétiques
En plus des problèmes liés aux renseignements qui y sont saisis, les systèmes de médias
synthétiques posent d’autres problèmes en matière de protection de la vie privée. La production de
contenu par ces systèmes (par exemple, des images, des vidéos, du texte et des enregistrements
audio) peut également être visée par les lois canadiennes sur la protection des renseignements
personnels. Les considérations relatives à la protection de la vie privée qui s’appliquent à ce
contenu sont liées à celles qui s’appliquent aux renseignements saisis dans les systèmes, mais
demeurent distinctes.
Définition des renseignements personnels
D’abord, les organisations doivent déterminer si le contenu généré concerne un individu
identifiable ou s’il est lié à ce dernier. Conformément aux lois canadiennes sur la protection des
renseignements personnels, on entend par renseignement personnel tout renseignement factuel
ou subjectif, consigné ou non, concernant un individu identifiable.37 Par exemple, si une
organisation utilise un système de médias synthétiques pour générer une fausse image d’un
individu donné, l’image en question serait probablement considérée comme un renseignement
personnel de l’individu réel, même si l’image montre techniquement un individu qui lui ressemble
beaucoup.
L’objectif global de la technologie utilisée aux fins d’hypertrucage audio et vidéo est de créer du
contenu similaire aux données saisies dans les systèmes. Si les renseignements utilisés pour
entraîner les systèmes ou inclus dans les requêtes sont des renseignements personnels, il est
probable que les images, les vidéos ou les enregistrements audio générés seront également
considérés comme des renseignements qui concernent un individu identifiable.
Ensuite, il peut aussi être important de tenir compte du type de média synthétique généré. Comme
les GML peuvent être utilisés pour accomplir de nombreuses tâches, telles que produire du texte et
du contenu, détecter de la fraude, servir d’assistants virtuels, fournir des services de traduction,
résumer des textes et bien plus, le contenu qu’ils génèrent est très varié.
Même si un GML a été entraîné à l’aide de renseignements personnels, ses résultats ne seront pas
forcément considérés comme des renseignements personnels. Il y a certainement des situations
où le contenu généré par un GML ne concernerait pas un individu identifiable. Par conséquent, il
faut déterminer au cas par cas si le résultat d’un GML contient ou constitue des renseignements
personnels ou si on pourrait l’utiliser pour retracer des renseignements personnels.
36
Fins acceptables
Si le résultat est considéré comme un renseignement personnel, de nombreuses autres questions
se présentent. Par exemple, quelles sont les répercussions sur la vie privée dans les cas où des
renseignements sont présentés comme se rapportant à un individu identifiable, mais sont en
réalité faux ou inexacts?
D’une part, il peut arriver que la présence de renseignements faux ou inexacts concernant un
individu identifiable dans du contenu ne contrevienne pas aux lois sur la protection des
renseignements personnels. Par exemple, les technologies qui produisent des médias
synthétiques peuvent servir à faire une caricature d’une célébrité ou d’une personnalité publique.
La LPRPDE pourrait ne pas s’appliquer à une telle utilisation si l’organisation a recueilli, utilisé ou
communiqué les renseignements personnels à des fins journalistiques, artistiques ou littéraires.
D’autre part, il y a des risques réels que les résultats d’un système de médias synthétiques puissent
eux-mêmes contrevenir aux lois sur la protection des renseignements personnels, notamment si
leur contenu est délibérément trompeur et destiné à induire en erreur38. Le paragraphe 5(3) de la
LPRPDE indique que les organisations ne peuvent recueillir, utiliser ou communiquer des
renseignements personnels qu’à des fins qu’une personne raisonnable estimerait acceptables
dans les circonstances. Si un produit de média synthétique trompeur est généré à l’aide de
renseignements personnels, il est probable qu’une personne raisonnable considérerait que les
renseignements ont été utilisés de manière inappropriée. Ainsi, leur utilisation constituerait une
violation de la LPRPDE. Une telle utilisation pourrait entraîner bon nombre de préjudices,
notamment des répercussions négatives sur la réputation, la qualité de vie ou la capacité de
l’individu concerné à contrôler ses renseignements personnels.
Dans ses orientations, le Commissariat a présenté certaines fins qui sont généralement
considérées comme inappropriées. Par exemple, il n’est pas approprié de recueillir, d’utiliser ou de
communiquer des renseignements personnels à des fins qui causent ou sont susceptibles de
causer un préjudice grave à un individu.
Le terme « préjudice grave » signifie notamment la lésion corporelle, l’humiliation, le dommage à la
réputation ou aux relations et la perte de possibilités d’emploi39. Lorsqu’il s’agit d’évaluer les fins
d’une organisation en application du paragraphe 5(3), il faut tenir compte des principes de
nécessité et de proportionnalité, et ainsi évaluer le besoin légitime des fins et si la perte de la vie
privée est proportionnelle aux avantages, entre autres.
Dans cette optique, les développeurs et les utilisateurs de systèmes de médias synthétiques
doivent connaître les fins auxquelles ils recueillent, utilisent et communiquent des renseignements
personnels lorsque les systèmes génèrent du contenu synthétique. Ils doivent également
»)
de personnes
39
inacceptables du traitement des données
37
déterminer s’il s’agit de fins qu’une personne raisonnable estimerait acceptables, comme l’exige la
LPRPDE.
Exactitude et droit d’accès et de correction
Le sixième principe (article 4.6 de l’annexe 1) de la LPRPDE porte que les renseignements
personnels « doivent être aussi exacts, complets et à jour que l’exigent les fins auxquelles ils sont
destinés40 ». Cela peut poser des problèmes dans le cas des hypertrucages, qui sont des vidéos ou
des images servant à communiquer des renseignements erronés ou trompeurs au sujet d’un
individu. Ce genre de contenu pourrait non seulement nuire à la réputation en ligne d’une
personne, mais aussi causer d’autres préjudices liés à la désinformation, notamment des
répercussions sur les finances, la santé et la sécurité publique41, et faire en sorte que des individus
prennent des décisions fondées sur des renseignements erronés ou trompeurs.
En vertu de la LPRPDE, les individus peuvent également accéder à leurs renseignements
personnels, en contester l’exactitude et y faire apporter des corrections. Le neuvième principe
(article 4.9 de l’annexe 1) établit que si elle le demande, une personne doit être informée de
l’existence de renseignements personnels qui la concernent, de l’usage qui en est fait et du fait
qu’ils ont été communiqués à des tiers, et on doit lui permettre de les consulter42.
Bien qu’il y existe certaines exceptions à l’exigence en matière d’accès, les organisations sont
censées être en mesure de permettre à un individu de consulter ses renseignements personnels et
d’y apporter les corrections nécessaires si ce dernier démontre qu’ils sont inexacts ou incomplets.
Pour ce qui est des systèmes de médias synthétiques, le principe peut s’appliquer au créateur d’un
système ou à une organisation qui utilise un modèle particulier. Dans tous les cas, il peut être
diicile de récupérer des renseignements personnels générés ou utilisés par les systèmes, car le
contenu peut être généré à partir de réponses basées sur l’apprentissage automatique plutôt que
[traduction] « récupéré à partir d’une base de données »43. Il pourrait être nécessaire d’examiner un
ensemble de données d’entraînement pour voir s’il contient des renseignements personnels ou
encore de saisir une requête précise dans un modèle d’IA comme un GML44.
Observations finales
Comme il est mentionné précédemment, diérents facteurs doivent être pris en compte lors de la
création, du développement et de l’utilisation d’un système de médias synthétiques. Bien que la
technologie continue de s’adapter et d’évoluer, les obligations prévues par la LPRPDE demeurent
quant à elles constantes et neutres sur le plan technologique. Dans la présente section, le
Commissariat a décrit les domaines où il faut concilier la protection de la vie privée et l’utilisation
Loi sur la protecon des renseignements personnels et les documents électroniques.
sixième principe
Loi sur la protecon des renseignements personnels et les documents électroniques.
principe
–
paper
Ibid
38
des médias synthétiques, ainsi que la façon dont la loi fédérale sur la protection des
renseignements personnels dans le secteur privé au Canada peut s’appliquer. Voici quelques
considérations pertinentes quant à la protection du droit à la vie privée dans le contexte des
médias synthétiques :
• Les systèmes de médias synthétiques utilisent les renseignements qui y sont saisis et
produisent des résultats qui peuvent constituer des renseignements personnels. Dans ces
cas, il est probable que les lois sur la protection des renseignements personnels
s’appliquent.
• Toute collecte, utilisation ou communication de renseignements personnels liée à un
système de médias synthétiques ne devrait se faire qu’à des fins qu’une personne
raisonnable considérerait comme acceptables dans les circonstances. Par exemple, la
production d’une vidéo ou d’une image qui causera – ou est susceptible de causer – un
préjudice grave à un individu constitue une fin inappropriée.
• Les organisations doivent éviter de développer ou d’utiliser des outils de médias
synthétiques à des fins qui sont reconnues comme des « zones interdites », notamment la
collecte, l’utilisation ou la communication de renseignements personnels d’une manière
qui serait autrement illégale. Par exemple, le fait de recueillir ou d’utiliser des
renseignements personnels d’un individu sans son consentement pour produire des
images où il figure nu ou se livre à une activité sexuelle explicite est considéré comme une
zone interdite.
• Les organisations doivent élaborer un programme de gestion de la protection de la vie
privée pour leur permettre de cerner leurs obligations en matière de protection des
renseignements personnels et les risques connexes ainsi qu’à en tenir compte comme il
se doit avant d’orir de nouveaux produits et service ou de mettre en œuvre un système de
médias synthétiques.
• Les développeurs et les exploitants des systèmes de médias synthétiques doivent
connaître le niveau de sensibilité des renseignements qui y sont saisis pour veiller à
obtenir le consentement approprié et à adopter les mesures de sécurité adéquates pour
protéger les renseignements. Lorsqu’une organisation obtient le consentement d’un
individu pour utiliser ses renseignements personnels, le consentement doit être valide et
éclairé. Les mesures de sécurité doivent être proportionnelles au niveau de sensibilité des
renseignements.
• Le fait que les renseignements personnels sont accessibles en ligne ne signifie pas qu’ils
peuvent être recueillis ou utilisés par une organisation. Bien souvent, les renseignements
personnels qui sont considérés comme des renseignements « auxquels le public a accès »
sont tout de même protégés par les lois canadiennes sur la protection des renseignements
personnels.
• Les organisations doivent faire preuve de transparence lorsqu’elles développent ou
utilisent des médias synthétiques. Elles doivent informer les individus des renseignements
personnels sur lesquels porte la collecte ainsi que du moyen, du moment et de la raison
39
pour laquelle ils sont recueillis, utilisés ou communiqués à toute étape du cycle de vie du
système de médias synthétiques (y compris le développement, l’entraînement et
l’exploitation du système).
• Les renseignements personnels doivent être aussi exacts, complets et à jour que l’exigent
les fins auxquelles ils sont destinés, que ce soit pour l’entraînement de modèles de
médias synthétiques ou la saisie dans les modèles.
• En général, les individus ont le droit d’accéder à leurs renseignements personnels et d’en
contester l’exactitude et l’intégralité. Les organisations doivent mettre en place des
processus leur permettant de traiter les demandes d’accès aux renseignements et de
vérifier l’exactitude des renseignements.
Les médias synthétiques et la Loi canadienne anti-pourriel
La Loi canadienne anti-pourriel (LCAP) vise à renforcer la confiance des entreprises et des
consommateurs à l’égard de l’économie numérique en les protégeant contre les utilisations
inappropriées de la technologie, notamment les pratiques commerciales trompeuses, les pourriels
et les autres menaces électroniques.
Le CRTC, le Bureau de la concurrence et le Commissariat sont responsables de promouvoir la
conformité à la LCAP au sein d’un cadre réglementaire civil.
Messages électroniques commerciaux (relèvent du CRTC)
La LCAP interdit à toute personne d’envoyer des messages électroniques commerciaux (MEC) sans
consentement. Selon la définition de la LCAP, le terme « personne » comprend les personnes
physiques, les organisations et les représentants légaux.
Les MEC, y compris les courriels, les messages textes et les messages sur les médias sociaux,
encouragent la participation à des activités commerciales. Ces activités comprennent, sans
toutefois s’y limiter, l’achat, la vente et la promotion de biens ou de services et l’ore de possibilités
d’investissement. La LCAP ne s’applique pas aux messages à caractère politique, aux sondages ou
aux MEC envoyés par des amis ou des membres de la famille.
Les MEC doivent comporter des renseignements sur l’expéditeur et fournir au destinataire un
moyen de se désabonner pour ne plus recevoir de messages. Pour en savoir plus sur l’application
et les exigences de la LCAP, consultez la Foire aux questions concernant la LCAP.
Bien que les MEC soient souvent envoyés par des entreprises réelles, ils peuvent également
prendre la forme d’escroqueries ou de menaces électroniques trompeuses. Les expéditeurs de ces
types de messages peuvent présenter de fausses ores, usurper l’identité d’entreprises légitimes
(par exemple, des banques, des entités gouvernementales) ou inciter les destinataires à récupérer
de l’argent ou à eectuer un paiement en cliquant sur un lien. Une fois que les destinataires
cliquent sur un lien trompeur, celui-ci peut modifier les données de transmission ou faire en sorte
qu’un logiciel soit installé sur leur ordinateur sans leur consentement, et ces pratiques sont
interdites par la LCAP. Il est important de souligner que la LCAP est un cadre réglementaire civil et
40
que la conséquence néfaste de ces activités frauduleuses (par exemple, le vol de renseignements
personnels et financiers) est assujettie à des lois criminelles et non appliquées par le CRTC.
En cas de non-respect de la LCAP, des lettres d’avertissement peuvent être envoyées, des
engagements (c’est-à-dire un accord qui définit les obligations de conformité) peuvent être conclus
ou des procès-verbaux de violation, généralement accompagnés de sanctions administratives
pécuniaires (SAP), peuvent être envoyés. Le montant maximal d’une SAP, par violation, est de
1 million de dollars pour un particulier et de 10 millions pour une entreprise.
Quel est le lien entre les MEC et les médias synthétiques?
Les technologies qui génèrent des médias synthétiques permettent à ceux qui envoient des MEC
de faire ce qu’ils ont toujours fait, sauf qu’elles leur permettent de le faire plus rapidement, à des
volumes plus élevés et avec moins d’eorts.
Par exemple, une caractéristique commune de l’IA générative est la production de texte, lequel
peut ensuite être inséré dans des courriels, des messages textes ou d’autres types de messages
envoyés à des fins commerciales. Selon les circonstances, les MEC doivent être envoyés avec le
consentement du destinataire, comporter des renseignements sur l’identité de l’expéditeur et orir
un mécanisme d’exclusion. Qu’ils aient été rédigés par un humain ou à l’aide de l’IA générative, les
MEC doivent respecter ces exigences.
Le Centre de notification des pourriels45, où les Canadiennes et les Canadiens peuvent signaler les
incidents liés à la réception de MEC sans leur consentement, a reçu des plaintes concernant des
messages textes et des courriels potentiellement générés par l’IA. Cependant, il n’est pas toujours
possible de déterminer si un message a été rédigé à l’aide de l’IA générative ou par un humain.
Certains éléments peuvent aider à repérer un courriel ou un message texte généré par l’IA. Par
exemple, comparativement aux messages précédents ou à d’autres types de messages, il contient
peu de fautes d’orthographe ou de grammaire, est relativement long et utilise un langage plus
sophistiqué46.
Les services légitimes ont mis en place des politiques qui interdisent l’utilisation inappropriée de
leurs technologies. Cependant, leurs mesures de protection peuvent être contournées à l’aide de
requêtes créatives ou de plateformes tierces créées à des fins malveillantes. L’IA générative
malveillante n’ore aucune protection de sécurité et a été utilisée pour générer automatiquement
des courriels d’hameçonnage convaincants.
Grâce aux services alimentés par l’IA, les entreprises peuvent automatiser la génération de
courriels et de messages textes ainsi qu’envoyer des MEC. De tels services peuvent aussi servir à
automatiser les robots conversationnels de marketing, à alimenter les robots conversationnels
semi-autonomes et à créer de faux comptes de médias sociaux pouvant publier automatiquement
à
; et Voici 9
e – Pensez cybersécurité.
41
du contenu et envoyer des MEC privés. Si les personnes derrière ces comptes électroniques sont
impliquées dans l’envoi de MEC sans consentement, elles peuvent enfreindre la LCAP.
Pratiques commerciales trompeuses (relèvent du Bureau de la
concurrence)
La Loi sur la concurrence contient des dispositions civiles (article 74.011) et pénales (article 52.01)
qui portent sur les indications fausses ou trompeuses et les pratiques commerciales trompeuses
sur le marché électronique. Au titre de ces dispositions, il est illégal de promouvoir un produit ou
des intérêts commerciaux en envoyant des indications fausses ou trompeuses dans :
• les renseignements sur l’expéditeur;
• l’objet d’un message électronique;
• un localisateur comme l’adresse d’un site Web (hyperlien).
De plus, les éléments importants des dispositions sont les mêmes, mais la disposition pénale
précise que les indications ne peuvent être données « sciemment ou sans se soucier des
conséquences ».
Application des articles 52.01 et 74.011 aux médias synthétiques
Les acteurs malveillants peuvent envoyer des messages électroniques contenant des
hypertrucages pour promouvoir leurs stratagèmes. Comme la technologie d’IA générative permet
de composer un message sophistiqué et convaincant généré par l’IA et de répondre spontanément
aux messages reçus, les escroqueries qui utilisent les courriels ou d’autres messages
électroniques peuvent être particulièrement crédibles et eicaces. Par exemple, les messages
électroniques (entre autres les courriels et les messages privés) servant à faire la promotion d’une
occasion d’emploi ou d’investissement peuvent notamment contenir :
• le logo d’une entreprise bien connue créé par hypertrucage sans son autorisation;
• une vidéo d’une personnalité publique créée par hypertrucage sans son autorisation, dans
laquelle la personnalité semble promouvoir l’occasion;
• des messages textes convaincants qui semblent réels.
Pour profiter de l’occasion, les consommateurs sont toutefois tenus de payer des frais ou de fournir
des renseignements personnels.
Quel est le lien entre la collecte et l’utilisation non autorisées de
renseignements personnels et les médias synthétiques? (relèvent
du Commissariat)
Dans le cadre des modifications apportées à la LPRPDE par la LCAP, le Commissariat cherche à
appliquer les dispositions relatives à la collecte et à l’utilisation non autorisées des
renseignements personnels et à mener des enquêtes sur les cas de non-respect. Le Commissariat
se concentre sur deux types d’infractions :
42
• la collecte d’adresses électroniques (par exemple, liées à des comptes de courriel, des
comptes de messages textes et des comptes de messagerie instantanée sur les médias
sociaux), où des listes d’adresses électroniques sont compilées par divers mécanismes,
dont des programmes informatiques qui fouillent de façon automatique Internet pour y
trouver des adresses;
• la collecte de renseignements personnels en accédant aux systèmes informatiques
d’autres personnes de manière illicite, principalement au moyen de logiciels malveillants
ou espions.
La collecte d’adresses est le fait de compiler ou de générer automatiquement par diverses
techniques des listes d’adresses électroniques pour faciliter l’envoi de courriels de masse. Elle
peut être eectuée par les polluposteurs ou par d’autres entités (comme des collecteurs
d’adresses électroniques), qui vendent ensuite les listes d’adresses.
La collecte de renseignements personnels par un accès illicite aux systèmes informatiques de tiers
désigne l’utilisation de logiciels malveillants ou espions qui sont téléchargés et installés à distance,
à l’insu de l’utilisateur, pour recueillir des renseignements personnels.
Comme il a été mentionné précédemment, l’installation de programmes informatiques sans
consentement est interdite par la LCAP. Entre autres, de tels programmes peuvent recueillir
secrètement les identifiants des utilisateurs, leurs renseignements financiers ou des
renseignements sur leur navigation Web et leurs activités informatiques (grâce à l’enregistrement
de la frappe) ou extraire des adresses électroniques des carnets d’adresses ou des listes de
contacts de messagerie instantanée des utilisateurs. Pour en savoir plus, consultez la page Web du
Commissariat sur ses responsabilités en vertu de la LCAP.
L’IA générative qui utilise des données synthétiques peut être exploitée par les polluposteurs,
commerciaux ou malveillants, souhaitant recueillir des adresses électroniques de manière plus
eicace et plus rentable. Il pourrait être plus facile pour les nouveaux polluposteurs de commencer
à recueillir des adresses et pour les polluposteurs actifs d’accroître leurs activités.
L’utilisation de médias synthétiques pour créer et diuser des communications électroniques
commerciales ou malveillantes plus convaincantes fera inévitablement augmenter le taux de
participation aux campagnes de pourriels ciblées. L’augmentation pourrait être attribuable à :
• un nombre plus élevé de clics sur les liens vers des applications malveillantes;
• de faux sites Web dont l’apparence professionnelle est trompeuse;
• des interactions avec des robots conversationnels qui semblent être des humains.
Les polluposteurs cherchant à recueillir et à utiliser des renseignements personnels à des fins
commerciales ou malveillantes pourraient donc avoir plus de succès qu’auparavant, car les outils
qui n’utilisent pas l’IA peuvent être moins performants que ceux qui l’utilisent.
En 2023-2024, après la publication de la Déclaration commune sur l’extraction de données et la
protection des renseignements personnels, le Commissariat et 11 autres autorités internationales
de protection des données ont collaboré avec certaines entreprises mondiales de médias sociaux.
Le Commissariat et ses homologues ont rappelé aux entreprises qu’elles se doivent de protéger les
43
renseignements personnels des utilisateurs contre les accès et l’extraction de données non
autorisés.
Les entreprises ont indiqué que les extracteurs utilisaient l’IA pour extraire des données plus
eicacement, notamment à l’aide des robots « intelligents » pouvant simuler l’activité d’un
utilisateur réel. Cependant, sur une note positive, les entreprises ont expliqué qu’elles utilisaient
l’IA pour mieux détecter les extractions non autorisées et protéger leurs plateformes et leurs
utilisateurs contre celles-ci, soulignant que les outils d’IA novateurs peuvent aussi faire partie de la
solution. Pour de plus amples renseignements, voir la Déclaration commune finale sur l’extraction
de données et la protection des renseignements personnels.
Conclusion et principaux points à retenir
Les technologies émergentes liées à l’IA, notamment l’IA générative, sont un domaine d’intérêt tant
pour les consommateurs que pour les entreprises et les autorités gouvernementales. Bien que la
popularité croissante et l’évolution de l’IA générative apportent divers avantages, elles présentent
également des risques. Ce rapport a décrit certaines des répercussions possibles des médias
synthétiques.
Les médias synthétiques pourraient révolutionner l’économie canadienne en favorisant la création
de contenu novateur, ce qui améliorerait l’expérience des clients et l’eicacité opérationnelle. De
nombreux secteurs de l’économie canadienne peuvent bénéficier de l’IA générative, qui permet de
produire facilement et rapidement des médias synthétiques à moindre coût. Par exemple, les
industries créatives pourraient réduire les coûts et le temps de production en déléguant à l’IA
certaines tâches, notamment la rédaction de scénarios, le doublage et la création d’eets
spéciaux. Les médias synthétiques peuvent également améliorer l’accessibilité du contenu et des
services de médias de diverses façons.
Cependant, le contenu synthétique pourrait compromettre la vie privée et la sécurité des
Canadiennes et des Canadiens ainsi que leur confiance à l’égard des institutions publiques et des
nouvelles. Les médias synthétiques peuvent être utilisés de manière inappropriée pour améliorer
l’eicacité de pratiques commerciales trompeuses. Parmi les autres problèmes potentiels liés à
l’IA, mentionnons la collecte et l’utilisation de renseignements personnels sans consentement
pour entraîner des algorithmes ou générer du contenu, les risques pour la réputation des
personnes et la diusion de mésinformation et de désinformation. Les incertitudes juridiques
quant au droit d’auteur et à la titularité ainsi que les conséquences économiques de la suppression
d’emplois constituent d’autres risques.
Principaux points à retenir
Tout au long du présent rapport, les membres ont souligné les avantages et les risques qui peuvent
être liés aux développements récents dans le monde de l’IA générative et des médias synthétiques
et ont résumé les répercussions possibles. Trois thèmes récurrents sont ressortis :
• Honnêteté et transparence : Les entreprises qui créent ou utilisent des médias
synthétiques doivent faire preuve d’honnêteté et de transparence envers les utilisateurs et
44
les consommateurs, car il se peut que les Canadiennes et les Canadiens veuillent savoir si
l’IA générative a été utilisée pour développer ou orir un produit ou un service ou encore
pour en faire la promotion. La transparence peut également aider la population à
déterminer si une organisation utilise du matériel protégé par le droit d’auteur.
• Importance de rester informé : La collaboration continue entre les membres permettrait
de suivre l’évolution des médias synthétiques et de leur incidence sur divers secteurs de
l’économie canadienne. La collaboration avec des experts, des intervenants de l’industrie,
des consommateurs et d’autres organismes gouvernementaux peut aider à renforcer la
capacité nationale et à trouver des solutions à certains défis.
• Collaboration et coordination internationales : Compte tenu de la portée mondiale de
l’IA générative et des médias synthétiques, la collaboration internationale est essentielle
pour que les décideurs politiques soient tenus au courant des derniers développements
liés à ces technologies émergentes et puissent coordonner leurs eorts. En ce sens, le
Forum canadien des organismes de réglementation numérique pourra bénéficier du fait
qu’il est membre du réseau international de coopération en matière de réglementation
numérique (International Network for Digital Regulation Cooperation) (en anglais
seulement) pour collaborer étroitement avec ses homologues.
Bien que les médias synthétiques puissent profiter à la population canadienne, il est probable
qu’ils nécessiteront une surveillance adéquate pour qu’ils présentent plus d’avantages et moins de
risques. En favorisant la transparence ainsi que la coopération nationale et internationale, les
membres pourront collectivement s’orienter dans le paysage numérique en constante évolution
pour répondre aux intérêts des Canadiennes et des Canadiens.
