Sommaire

Les menaces pour la sécurité et la démocratie qui sont associées à la désinformation sont jugées importantes et d’actualité, voire permanentes. Nés des progrès de l’intelligence artificielle (IA), les hypertrucages sont considérés comme une version moderne de la désinformation qui pose de nouvelles difficultés aux gouvernements, aux personnes et aux sociétés. Protéger l’intégrité de l’écosystème informationnel est primordial pour la démocratie, mais aussi pour l’ensemble de la société.

Progrès technologiques et applications utiles à la société

Le terme « hypertrucages » (traduction de l’anglais « deepfake », un mot-valise formé des équivalents de « apprentissage profond » et de « faux ») est maintenant utilisé plus largement pour désigner tout contenu mettant en scène des personnes qui a été produit ou modifié au moyen d’algorithmes d’apprentissage profond. La manipulation de vidéos, d’images, d’enregistrements sonores ou vocaux et la création de textes à l’aide de techniques d’IA générative ont rapidement évolué pour gagner en accessibilité et donner des résultats de plus en plus réalistes. À bien des égards, ces progrès ouvrent des possibilités excitantes : 

• Les avancées de l’IA générative ont été considérablement favorisées par la disponibilité de grands modèles linguistiques et de création d’images. Elles visaient à augmenter la puissance, les capacités et l’accessibilité de ces modèles et à donner aux utilisateurs davantage de contrôle sur le style et le contenu des productions grâce à des invites textuelles détaillées. 
• Les hypertrucages peuvent servir à créer des contenus divertissants, comme des remplacements de visages réalistes ou le doublage de films, d’émissions de télévision ou de jeux vidéo, ce qui ouvre de nouvelles perspectives créatives et permet de donner vie à des personnages de fiction. Ils peuvent aussi servir à réaliser des effets spéciaux et à restaurer des œuvres, par exemple pour recréer ou améliorer des scènes qu’il serait difficile ou coûteux de tourner. Ainsi, ils peuvent être utilisés pour vieillir ou rajeunir des acteurs ou pour ramener à la vie des artistes décédés, le temps d’un film ou d’une publicité. 
• À titre d’outils de marketing et d’enseignement (dans le cadre de séances de formation et de simulations), les hypertrucages peuvent mettre en scène des situations réalistes dans des domaines comme la médecine, l’entraînement militaire ou l’intervention en cas d’urgence : les professionnels peuvent ainsi mettre leurs compétences à l’épreuve dans un environnement sûr et contrôlé. 

Menaces pour la société et pour la sécurité

Plus la capacité de synthétiser des contenus gagne en accessibilité et en précision, plus la probabilité de détournement augmente. L’une des grandes préoccupations associées aux hypertrucages est la possibilité de répandre de la désinformation et de manipuler le débat politique, ce qui est facteur de confusion, de méfiance et d’instabilité sociale dans les sociétés démocratiques. 

• Les hypertrucages posent des questions sérieuses de respect de la vie privée, car ils peuvent être utilisés pour créer des contenus sexuels non consensuels grâce au collage d’un visage sur des vidéos osées. C’est une atteinte à la vie privée et à la réputation de la cible, qui peut aussi souffrir de détresse émotionnelle. De plus, les hypertrucages font naître de nombreux problèmes juridiques et éthiques. Ils peuvent violer le principe de propriété intellectuelle et les lois sur la vie privée. 
• En outre, les hypertrucages peuvent ébranler la confiance dans les contenus visuels. Plus la technologie se complexifie, plus il devient difficile de distinguer le contenu original du contenu manipulé, ce qui rend difficile de se fier à des preuves audiovisuelles et exacerbe le problème de la désinformation.
• Parce qu’ils sont faciles d’accès, les hypertrucages peuvent avoir des répercussions négatives sur le plan social, notamment par la cyberintimidation, le harcèlement et d’éventuels troubles sociaux. Ils peuvent être instrumentalisés pour exploiter ou manipuler des personnes, donc entraîner des atteintes à la réputation des victimes, des blessures psychologiques ou des divisions sociales. 

Il est plus probable que les hypertrucages fassent évoluer des activités liées à la menace pour la sécurité plutôt qu’ils en engendrent de nouvelles, mais il importe de comprendre les risques qui y sont associés et d’élaborer des solutions technologiques fiables, des lignes directrices sur le plan éthique et des mécanismes juridiques pour remédier aux problèmes qu’ils posent et en atténuer les conséquences.

• Utilisée de tout temps par des acteurs étatiques et non étatiques, la désinformation discrédite les institutions démocratiques et minimise leur rôle, amplifie les théories du complot et la radicalisation, et attise la méfiance envers les autorités. Les hypertrucages en accélèrent la propagation et en augmentent l’efficacité, tout en facilitant le ciblage du personnel gouvernemental et militaire, l’hameçonnage, la fraude psychologique et la reproduction de données biométriques. 
• Les hypertrucages peuvent servir à générer du bruit pour inonder un espace dans lequel des renseignements sont collectés, ce qui a pour effet de distraire des renseignements véridiques. En outre, des conversations, des vidéos et des textes factices peuvent déformer la perception des sources humaines. Le fait que l’on compte aujourd’hui davantage sur les renseignements fondés sur des sources ouvertes (OSINT) renforce le poids des informations « hypertruquées » dans l’écosystème informationnel. 
• Les hypertrucages peuvent aussi servir à empoisonner les données utilisées pour entraîner des systèmes d’apprentissage profond, afin de polluer délibérément ces derniers au moyen d’information dommageable. Par exemple, les algorithmes visant à détecter les cyberattaques pourraient être mis en échec par l’injection de données empoisonnées dans les grands ensembles de données employés pour les entraîner.
• Du point de vue de la sécurité publique, les hypertrucages peuvent servir à commettre des fraudes, à exercer des formes de coercition et d’extorsion, à créer de fausses preuves d’actes criminels, à se faire passer pour quelqu’un d’autre en vue de mener des activités illégales ou à imputer de telles activités à tort à des tiers.

Perspectives

Les hypertrucages sont conçus pour la tromperie et le cerveau humain n’est pas toujours capable de repérer les produits de technologies complexes. Bien que les géants technologiques aient commencé à signaler le contenu « hypertruqué » comme étant de la désinformation, les systèmes de détection qui font appel à la fois à des êtres humains et à des modèles de prédiction sont plus performants. Les gouvernements ont un rôle à jouer pour favoriser les utilisations des technologies d’hypertrucage qui profitent à la population et à la démocratie et qui les protègent, et les citoyennes et les citoyens ont la possibilité de se prémunir contre les hypertrucages et d’en préserver leur communauté. 

• Les hypertrucages bousculent la législation en vigueur, notamment dans les domaines de la diffamation, de la propriété intellectuelle et du droit à la vie privée. À l’heure actuelle, les médias sociaux sont peu imputables à titre de diffuseurs de contenu résultant d’hypertrucages. Il faut prioriser l’adaptation et la mise à jour des lois, car celles-ci doivent tenir compte des problèmes posés par les hypertrucages et clarifier les questions relatives à l’obligation de rendre des comptes, à la responsabilité et aux droits des personnes visées par la manipulation de ces technologies.
• Il est important que les politiques favorisent la recherche-développement visant à élaborer des technologies capables de détecter les hypertrucages et de les contrer. Il est primordial pour les autorités de resserrer leur collaboration avec les experts compétents, afin d’établir des normes et des lignes directrices sur l’utilisation responsable de la technologie d’hypertrucage, et de trouver l’équilibre entre innovation propice aux avancées technologiques et réglementation nécessaire face aux risques. 
• L’authentification des contenus est une approche prometteuse : au lieu d’essayer de détecter le contenu généré par l’IA, elle consiste à incorporer l’authentification de ce dernier dans l’infrastructure même d’Internet grâce à un marqueur cryptographique incrusté dans l’ADN de chaque élément. 
• Les normes et le discours sociétaux sur les hypertrucages devraient instaurer un climat dans lequel les gens sont non seulement sceptiques face à ce qu’ils voient, mais encouragés à remettre en question les informations provenant de leurs pairs. L’éducation numérique, surtout si elle est destinée aux leaders de la pensée et aux influenceurs, aide à sensibiliser aux risques et renforce la confiance dans les médias.

Il ne fait aucun doute que la technologie d’hypertrucage continuera d’évoluer rapidement pour produire des contenus de plus en plus réalistes, de façon de plus en plus efficace et de plus en plus économique. Le fait d’envisager les hypertrucages dans leur globalité permet d’adopter des approches complètes, en vue d’optimiser les avantages de ces nouvelles technologies tout en atténuant les risques pour la sécurité nationale et individuelle qui y sont associés, sans compromettre le droit à la vie privée, ni la confiance du public dans les médias et dans les sources d’information.