Réaction humaine à la désinformation et aux hypertrucages

Comme ils sont réalistes et semblent « criants de vérité », les hypertrucages sont exceptionnellement efficaces pour mettre en scène des personnes et des faits créés de toutes pièces. Les gens qui les relaient ne le font pas nécessairement parce qu’ils les croient vrais, mais pour consolider leur identité et leur statut social. Les hypertrucages changent rarement les opinions, mais peuvent entraîner une radicalisation par le chaos et la confusion qu’ils sèment. Le présent article passe en revue les incidences des hypertrucages dans les sphères sociale et privée, et propose des interventions qui pourraient permettre d’atténuer ces effets délétères^{Note de bas de page 61}. 

Un hypertrucage est une supercherie ou la falsification ultraréaliste d’un contenu numérique (image, vidéo ou enregistrement sonore) créée au moyen de réseaux de neurones faisant appel à des modèles d’apprentissage automatique nommés « réseaux antagonistes génératifs » (GAN). Les hypertrucages sont employés dans une grande variété de contextes, des arts au divertissement, en passant par la publicité et l’enseignement. Leur utilisation la plus fréquente est toutefois la pornographie : en date d’octobre 2019, 96 % des hypertrucages sur Internet étaient pornographiques^{Note de bas de page 62}. Cependant, c’est leur contribution avérée et potentielle à l’épidémie de fausses nouvelles qui retient l’attention des universitaires et des médias, même s’ils font aussi peser un certain nombre de menaces sur la société^{Note de bas de page 63}. Les images et les vidéos ont du poids, car elles paraissent représenter la vie réelle directement. De nombreux hypertrucages qui mettent en scène des personnalités politiques faisant des déclarations contraires à leurs prises de position officielles sont apparus, comme celui qui a été téléversé par piratage sur un site de nouvelles ukrainien, où l’on voyait le président de l’Ukraine, Volodymyr Zelensky, ordonner à ses soldats de déposer les armes^{Note de bas de page 64}  ou cet autre de Barack Obama proférant des insultes sur Donald Trump^{Note de bas de page 65}. Si ces tromperies devenaient virales, elles pourraient avoir un effet irréversible sur les affaires mondiales. 

Les êtres humains traitent les données visuelles naturellement, donc de façon très fluide^{Note de bas de page 66}, et les gens croient ce qu’ils voient^{Note de bas de page 67}. En outre, les images détaillées qui caractérisent les hypertrucages pourraient favoriser la proximité psychologique. Toute mésinformation concrète (y compris toute désinformation) prédispose ses destinataires à penser que les événements décrits sont plus proches et plus probables qu’ils ne le sont réellement, ce qui exacerbe le sentiment de menace^{Note de bas de page 68} et la probabilité que les nouvelles sur cette menace soient relayées^{Note de bas de page 69}. 

Quelle est l’efficacité des hypertrucages?

Les études sur la capacité des gens à distinguer les hypertrucages des images authentiques ne sont pas unanimes. Certaines concluent que les hypertrucages ne parviennent pas mieux que les sources traditionnelles de fausses nouvelles, comme les textes et les enregistrements audio, à générer de faux souvenirs, car ils ne sont pas plus crédibles ou plus puissants^{Note de bas de page 70},^{Note de bas de page 71}. Cependant, même si ces études sont récentes, la technologie évolue si vite qu’elles ne portent pas sur les dernières techniques de création d’images à l’aide de l’intelligence artificielle (IA) disponible en ligne. Pire, certaines ne sont fondées que sur une seule vidéo^{Note de bas de page 72}.

Selon Lago et coll. (2022), les plus récentes images créées par l’IA sont perçues comme véritables^{Note de bas de page 73}. En effet, les participants à cette étude ont trouvé les visages artificiels générés par les GAN de pointe plus vrais que des images authentiques, ce qui souligne le potentiel qu’ont les hypertrucages de simuler le réel et d’éviter l’écueil du sentiment étrange et perturbant qui naît quand des robots humanoïdes et des images créées par ordinateur sont trop proches de la réalité (l’effet « vallée de l’improbable ») ^{Note de bas de page 74}. De plus, d’après Köbis et coll. (2021), les personnes ne sont pas capables de détecter les hypertrucages avec exactitude, et ni la sensibilisation, ni les incitatifs financiers n’améliorent leurs résultats à cet égard^{Note de bas de page 75}. Une étude encore plus récente a conclu que les vidéos « hypertruquées » étaient à la fois plus crédibles que les supercheries sous forme d’images et de textes et qu’il y avait plus de probabilités que les personnes interagissent avec^{Note de bas de page 76}. L’évolution rapide des GAN rendra bientôt les hypertrucages impossibles à distinguer des contenus authentiques, si ce n’est pas déjà fait.

L’exactitude importe-t-elle?

La véracité de l’information n’est pas un facteur prépondérant quand il s’agit de diffuser du contenu en ligne^{Note de bas de page 77}. Même quand ils et elles les repèrent, les internautes peuvent relayer des hypertrucages dans leur cercle social. En effet, l’étude Vosoughi et coll. (2018) a découvert que les fausses nouvelles se propageaient plus vite et plus loin en ligne que les informations factuelles^{Note de bas de page 78}.

Leur usage le plus commun donne un indice sur la raison pour laquelle les personnes propagent et regardent des hypertrucages : le terme « deepfake » (l’équivalent anglais d’hypertrucage) a été inventé sur un forum Reddit créé pour diffuser des vidéos pornographiques tournées par des actrices dont les visages ont été remplacés artificiellement par ceux d’autres femmes, pour la plupart des célébrités^{Note de bas de page 79}. Il est peu probable que les consommateurs d’hypertrucages pornographiques soient trompés par ces images, étant donné qu’ils les visionnent sur des sites ou sous des titres comportant généralement la mention « fake » (faux). Il n’y a aucune prétention à la vérité. Ainsi, le fait de savoir qu’une vidéo est fausse n’empêche pas les amateurs d’hypertrucages pornographiques de trouver la satisfaction qu’ils recherchent — il y contribue même peut-être. Ce constat pourrait s’appliquer à beaucoup d’hypertrucages politiques. D’autres usages des hypertrucages ne dépendent pas non plus de leur véracité : c’est le cas de ceux qui ont des visées artistiques ou éducatives. 

La plupart des hypertrucages véhiculés sur les médias sociaux le sont pour les mêmes raisons que les fausses nouvelles, à savoir générer des clics. Pour y parvenir, les fausses nouvelles misent sur deux caractéristiques qui suscitent l’attention : la nouveauté et la négativité^{Note de bas de page 80}. La diffusion de faits inédits a une valeur sociale, car elle donne à croire que celui ou celle qui le fait à des informations exclusives^{Note de bas de page 81}. Par ailleurs, l’attrait qu’exercent les mauvaises nouvelles est bien établi. Les gens prêtent davantage l’oreille aux pertes potentielles qu’aux gains^{Note de bas de page 82}. Une certaine noblesse est associée à la communication d’informations négatives : l’émetteur met en garde ses relations contre une menace. Ainsi, les professionnels de la santé sont plus enclins à propager les fausses rumeurs visant à éviter des effets indésirables (p. ex. une cause de cancer) que celles censées avoir un effet favorable (p. ex. guérir le cancer)^{Note de bas de page 83},^{Note de bas de page 84}.

Les gens échangent des nouvelles avec leur communauté idéologique parce que cela répond à une motivation profondément humaine consistant à renforcer ses liens sociaux^{Note de bas de page 85}. Cela confirme aussi l’identité d’une personne comme membre d’un groupe idéologique^{Note de bas de page 86}. La défense de l’identité prend donc le pas sur la vérification de l’exactitude^{Note de bas de page 87}. En effet, l’identité d’un individu (p. ex. sa nationalité, sa religion, sa race ou son parti politique) joue sur ce qu’elle croit vrai^{Note de bas de page 88}. Cependant, parce que les gens vivent de plus en plus dans des bulles d’information, les croyances partisanes conduisent généralement davantage à fermer les yeux sur des vérités dérangeantes qu’à croire en des contre-vérités. Par conséquent, les personnes peuvent voir et relayer une vidéo « hypertruquée » conforme à leurs convictions sans jamais avoir de raison de croire qu’il s’agit d’un hypertrucage. À titre d’exemple, une étude consistant à montrer de fausses photographies à des sujets a révélé que les personnes d’orientation conservatrice étaient plus susceptibles de se « souvenir » de la poignée de main entre Barack Obama et le président de l’Iran et les personnes d’obédience libérale, des vacances de George W. Bush avec une célébrité pendant l’ouragan Katrina (aucun de ces événements n’a eu lieu)^{Note de bas de page 89}. Il a été démontré que les hypertrucages radicalisent un auditoire contre l’opposition^{Note de bas de page 90}. Par conséquent, comme les informations de toute autre source, il est plus probable que les hypertrucages durcissent des opinions existantes plutôt qu’ils les changent.

L’âge augmente la probabilité d’être trompé par les hypertrucages et l’idéologie politique influence la façon dont les nouvelles « hypertruquées » sont perçues^{Note de bas de page 91}. Si les républicains et les démocrates aux États-Unis ont la même propension à diffuser des fausses nouvelles^{Note de bas de page 92}, les conservateurs les moins scrupuleux (c’est-à-dire celles et ceux qui ont le moins tendance à respecter les normes sociales en matière de contrôle des pulsions) ont plus de chances de propager de la mésinformation, car ils souhaitent le chaos^{Note de bas de page 93}. 

Conséquences

Les hypertrucages génèrent des risques pour les sociétés, les entreprises et les consommateurs. L’étude de Caldwell et coll. (2020) classe les supercheries audio et vidéo comme la plus importante menace posée par l’usage de l’intelligence artificielle à des fins criminelles et terroristes^{Note de bas de page 94} Europol (2022) a signalé que les hypertrucages pouvaient être utilisés pour harceler et humilier les gens en ligne, pratiquer l’extorsion et la fraude, falsifier des identités en ligne et tromper les mécanismes d’identification des clients, exploiter sexuellement des enfants en ligne, contrefaire ou manipuler les éléments de preuve électroniques dans le cadre d’enquêtes criminelles et perturber les marchés financiers^{Note de bas de page 95}. 

Les hypertrucages menacent aussi les structures de gouvernance. L’incertitude qu’ils provoquent permet aux gens de vivre dans leur propre réalité subjective, ce qui accentue les clivages sociaux et entrave la bonne marche de la démocratie^{Note de bas de page 96}. Ce phénomène est particulièrement dangereux en période électorale, où des puissances nationales et étrangères essaieront probablement de manipuler l’issue du scrutin^{Note de bas de page 97}. Les parties rivales peuvent être tentées de soumettre l’électorat à des documents « hypertruqués » longtemps avant un vote pour les prédisposer à avoir certaines opinions ultérieurement^{Note de bas de page 98}.

Pour les entreprises, les menaces sont notamment les faux commentaires sur leurs articles, la diffamation et le sabotage, et les atteintes à l’image, à la réputation et à la crédibilité^{Note de bas de page 99}. Par exemple, en 2019, des criminels ont réussi à se faire passer pour le directeur de la société mère d’une compagnie grâce à un logiciel d’imitation de la voix. Trompant ainsi le président-directeur général d’une entreprise britannique d’énergie, ils l’ont convaincu de leur transférer un montant de 243 000 $ US.  

Outre ce « hameçonnage par hypertrucage », l’intelligence artificielle rendra certaines technologies obsolètes. Les menaces pour les consommateurs comprennent de nouvelles possibilités de chantage, d’intimidation, de sabotage, de harcèlement, de diffamation, de pornographie vengeresse et de vol d’identité.

Le caractère personnalisé des hypertrucages pornographiques ajoute à la détresse des victimes et à la menace qui pèse sur elles^{Note de bas de page 100}. La plupart de ces hypertrucages présentent des célébrités, à qui leur réputation peut éviter dans une certaine mesure d’être vues comme les véritables actrices dans ces vidéos. Ces personnalités ont aussi des tribunes pour s’exprimer publiquement et les moyens juridiques et financiers de contester la véracité de ces vidéos. En revanche, le commun des mortels ne jouit même pas de ces minces protections^{Note de bas de page 101}. 

Même si les citoyens ne croient pas la mésinformation qui leur est présentée ou ne se préoccupent pas de la vérité, les hypertrucages peuvent aggraver l’incertitude qui entoure l’information et amoindrir la confiance dans les médias^{Note de bas de page 102}. Aux États-Unis, les fausses nouvelles ont conduit 50 % des républicains et 38 % des démocrates à réduire leur consommation de nouvelles^{Note de bas de page 103}. Comme l’a montré la COVID-19, la population peut prêter le flanc à la mésinformation en période de crise, à cause du climat de complot et d’incertitude qui règne alors^{Note de bas de page 104}. Les hypertrucages exacerbent ce problème. 

Le recours aux hypertrucages contre des personnalités publiques génère ce qu’on appelle « le dividende du menteur » : les personnes qui font face à des accusations peuvent soutenir que les preuves factuelles contre elles sont des hypertrucages^{Note de bas de page 105}. L’omniprésence des hypertrucages peut donc prédisposer les gens à douter de l’authenticité de toute information. Ainsi, pour discréditer les preuves d’une incartade sexuelle, le ministre malaisien des Affaires économiques a prétendu qu’il s’agissait d’un hypertrucage, sans que rien n’étaye son affirmation^{Note de bas de page 106}. Plus récemment, les avocats d’Elon Musk ont utilisé le même procédé pour contrer des poursuites^{Note de bas de page 107}. 

Les hypertrucages ont beaucoup d’avantages potentiels. Ils sont à l’origine de nouvelles formes d’art intrigantes, font d’excellents outils pédagogiques et sont une source de plaisir et d’amusement sans conséquence. Ils peuvent aussi offrir des occasions d’affaires^{Note de bas de page 108}. Le métavers de Facebook sera en grande partie composé d’objets « hypertruqués ». Les hypertrucages permettent des campagnes de marketing d’un genre nouveau (notamment grâce à l’élimination de la barrière de la langue), le recours à des ambassadeurs et ambassadrices de marque virtuels (Lil Miquela est une influenceuse factice qui a plus de trois millions d’abonnés) et tout un éventail d’innovations techniques. Ainsi, il existe aujourd’hui trois présentateurs ou présentatrices de nouvelles virtuels créés à partir de véritables êtres humains. Les hypertrucages peuvent aussi servir à améliorer la mémoire, par exemple en faisant paraître vivante une personne décédée. 

Entre de mauvaises mains, les hypertrucages sont toutefois une forme nouvelle de virus social. Comme pour tous les virus, il est difficile d’en prédire l’évolution et les répercussions. La plus importante menace qu’ils présentent pour la société est leur capacité à orienter le débat public. Lorsque la désinformation pèse sur ce dernier, sa dangerosité est à la mesure de l’altération de la compréhension et de la mémoire collective qu’elle entraîne. La présence croissante des hypertrucages pourrait aussi amener les gens à douter d’une grande partie de ce qu’ils voient. 

Solutions

Les hypertrucages sont conçus pour nous tromper : l’esprit humain n’est pas prêt à repérer constamment et avec exactitude les produits de technologies complexes. Certains géants des technologies ont commencé à signaler certains contenus comme relevant de la désinformation, mais ce n’est pas la panacée. Les fausses nouvelles sont moins relayées quand elles sont accompagnées d’avertissements^{Note de bas de page 109}. Cependant, il n’est pas évident que ces derniers empêchent d’y croire^{Note de bas de page 110}. En effet, le fait d’avoir été exposé à de la mésinformation renforce l’impression que les fausses nouvelles sont vraies, ce qui pourrait annihiler le poids de ces avertissements. Par ailleurs, les systèmes de détection réunissant êtres humains et modèles prédictifs sont plus efficaces que ceux qui reposent sur les personnes d’une part et sur les méthodes automatiques d’autre part^{Note de bas de page 111}.

Afin d’atténuer le problème, il est notamment possible d’afficher des avertissements en amont, pour que les gens sachent que l’information qu’ils sont sur le point de consulter pourrait être fausse. Ces avertissements doivent être précis, car les mises en garde générales sur l’éventuelle présence de mésinformation sont inefficaces^{Note de bas de page 112}. En outre, ils doivent être accompagnés d’un récit causal, qui explique à la fois les faits et l’objet de la désinformation. Les sociétés peuvent éduquer leurs clients à leurs produits, à leurs marques et à leurs services pour les aider à reconnaître les sources d’information crédibles qu’elles cautionnent^{Note de bas de page 113}. 

D’un point de vue juridique, la responsabilité des distributeurs est peu engagée en cas de circulation d’hypertrucages sur les médias sociaux^{Note de bas de page 114}. Aux États-Unis, le débat juridique est centré sur l’article 230 du Communications Decency Act [loi sur la décence dans les communications], qui évite aux entreprises d’être tenues comptables du contenu véhiculé sur leurs systèmes^{Note de bas de page 115}. L’appareil judiciaire pourrait préciser la responsabilité civile des personnes et des organisations qui créent et qui diffusent des hypertrucages, tout en améliorant la protection juridique accordée aux victimes de diffamation.

Individuellement, nous avons peu d’outils pour empêcher les attaques faisant appel à des hypertrucages. Quand ces derniers menacent des réputations, les personnes visées peuvent enregistrer leurs activités pour pouvoir davantage nier les actions décrites dans ces productions, mais cela pose des problèmes de confidentialité^{Note de bas de page 116}. Collectivement, des méthodes de diffusion des faits peuvent contribuer à protéger les communautés, mais elles doivent s’appuyer sur une compréhension approfondie de l’écosystème informationnel dans lequel baigne le public en question et des moyens d’y évoluer. 

Une personne est plus facilement convaincue et corrigée par quelqu’un qu’elle connaît. Par conséquent, il faut amener les normes et le discours sociétaux sur les hypertrucages à changer pour instaurer un climat dans lequel les gens sont non seulement sceptiques face à ce qu’ils voient, mais sont encouragés à remettre en question les informations provenant de leurs pairs.

Pour modifier les normes en vigueur dans une société, il faut miser sur les leaders de la pensée et sur les gens qui jouent un rôle central sur les réseaux sociaux. Les ressources éducatives, comme la formation en informatique, constituent des outils utiles, en particulier lorsqu’elles sont offertes aux personnes d’influence. Il a été constaté que des vidéos expliquant des hypertrucages à caractère politique avaient réduit l’incertitude et, ce faisant, rehaussé la confiance dans les nouvelles diffusées par les médias^{Note de bas de page 117}, mais l’évolution des normes ne peut être le fruit que d’une action collective.