Extraire du sens des contenus artificiels : le renseignement à l’ère des hypertrucages

Il est bien établi que les vidéos « hypertruquées » auront probablement un effet négatif sur notre environnement informationnel. Cependant, l’impact des hypertrucages sur les services de renseignement et les organismes chargés de protéger la sécurité nationale est moins étudié, notamment pour ce qui est du contexte de la menace dans lequel ceux-ci opèrent, des méthodes de collecte de renseignements, de l’utilisation de procédés automatisés de détection de la menace, de la réception des produits de renseignement et des dilemmes éthiques. 

Même si les hypertrucages sont impressionnants sur le plan technologique, il y a plus de chances qu’ils fassent évoluer les menaces pour la sécurité nationale et le renseignement plutôt qu’ils en engendrent de nouvelles. En revanche, les dilemmes éthiques qu’ils suscitent risquent d’engendrer un ensemble de difficultés plus graves et nécessiteront un excellent jugement pour faire tout un éventail de choix difficiles.

Évolution des menaces

En règle générale, la littérature sur les hypertrucages met l’accent sur les menaces pour les sociétés démocratiques qui y sont associées. Il importe de souligner que la plupart de ces menaces ne seront probablement pas inédites : il s’agira de progrès et du renforcement des activités liées à la menace que les services de renseignement et de sécurité nationale gèrent déjà. Cela comprend la désinformation, le ciblage du personnel gouvernemental et militaire par des forces adverses, l’hameçonnage et la fraude psychologique, ainsi que l’imitation des données biométriques. 

Désinformation

Dans le présent chapitre, la désinformation est définie comme suit : « toute fausse information visant à manipuler des personnes, des organisations et des pays, à leur causer des préjudices ou à les orienter dans la mauvaise direction ». Dans le même ordre d’idées, la malinformation est de l’information dérivée de la vérité, mais souvent exagérée de façon trompeuse, ce qui peut avoir des effets néfastes^{Note de bas de page 127}. La malinformation découle habituellement d’informations volées ou piratées, dont une partie peut être altérée pour donner de la crédibilité à un récit faussé sur lequel un adversaire souhaite insister, puis publiée sur Internet afin d’y être distribuée.

Les environnements médiatiques en ligne actuels regorgent de désinformation et de malinformation, qui servent un certain nombre d’objectifs. Du point de vue de la sécurité nationale, cela implique globalement des activités d’ingérence étrangère et de radicalisation. Il est bien établi que des États comme la Russie, la Chine et l’Iran mènent des campagnes de désinformation et de malinformation au service de leurs objectifs politiques. De la même façon, les groupes extrémistes violents répandent des discours sur l’effondrement de la société, la corruption des institutions, les théories du complot et la nécessité de commettre des actes violents et révolutionnaires pour redonner à l’humanité le statut qui lui revient (cela peut toutefois aussi se faire par l’ironie et des mèmes)^{Note de bas de page 128}. Même si leurs objectifs politiques diffèrent, il importe de noter que ces deux groupes sont souvent unis dans leur volonté de discréditer les institutions démocratiques et d’en minimiser le rôle, d’amplifier les théories conspirationnistes et d’attiser la méfiance envers ce qu’ils considèrent en général comme « le système ». 

Pour ces acteurs, les hypertrucages présentent l’avantage d’abaisser le coût des campagnes de désinformation. Auparavant, il fallait du temps, des efforts et des compétences pour produire des supercheries et de fausses informations. Aujourd’hui, grâce aux hypertrucages, on peut générer sans délai des documents utilisables rapidement et diffusables dans le monde entier encore plus vite. En fonction du degré d’accessibilité et de propagation des outils servant à créer des hypertrucages, ces derniers pourraient aussi permettre de prendre part à des guerres d’information, ce qui rendrait plus trouble un environnement informationnel déjà complexe. 

Ciblage du personnel gouvernemental et militaire

Des acteurs adverses emploieront probablement des hypertrucages pour s’attaquer à du personnel gouvernemental, militaire et chargé de la sécurité nationale, habituellement en vue d’en faire des cibles ou de perturber leur travail. 

Déjà, des campagnes de désinformation ont lieu aux endroits où sont postés des contingents occidentaux, afin d’attiser la méfiance et de dégrader les relations avec les populations. Par exemple, quand des unités canadiennes ont été déployées en Lettonie dans le cadre de la présence avancée rehaussée de l’Organisation du Traité de l’Atlantique Nord (OTAN), une opération de désinformation et de malinformation les ciblant a commencé^{Note de bas de page 129}. Ces tentatives de semer la défiance n’ont pas cessé depuis 2017^{Note de bas de page 130}. Des hypertrucages pourraient être utilisés dans le cadre de ces campagnes. Par ailleurs, les familles des militaires pourraient être prises pour cible par des hypertrucages concernant leurs proches en mission à l’étranger, l’objectif étant de causer de la détresse et d’infliger des blessures mentales. 

Fraude psychologique

Les menaces liées à l’hameçonnage et à la fraude psychologique constituent une troisième source de préoccupation. La fraude psychologique est la manipulation des utilisateurs légitimes d’un outil visant à obtenir des informations confidentielles. En général, les auteurs utilisent le téléphone ou Internet pour se faire passer pour une personne ayant autorité sur leur victime, pour une collègue, pour un membre de la famille, voire pour du personnel de soutien technique, afin de l’amener à révéler des informations sensibles. Cela comprend aussi l’hameçonnage qui consiste, pour un acteur malveillant, à mystifier une victime ou à lui envoyer un courriel imitant une marque habituellement bien connue pour la convaincre de fournir des informations confidentielles^{Note de bas de page 131}. 

Les hypertrucages, qui permettent de reproduire le visage, l’image et la voix des personnes, pourraient servir à tromper les gens de façon plus poussée. Cela fera certainement les choux gras des criminels, mais les services de renseignement adverses pourraient aussi les employer pour s’attaquer à des personnalités politiques, à des agents de renseignement et à d’autres détenteurs d’information classifiée, afin de gagner leur confiance en vue d’accéder à des données sensibles. De plus, lors d’un conflit, des hypertrucages peuvent être utilisés comme ruses de guerre : des enregistrements vidéo ou sonores falsifiés pourraient être utilisés pour envoyer de faux ordres aux soldats, ou encore de fausses informations visant à perturber les opérations militaires.

Piratage des données biométriques

Outre la fraude sociale visant à obtenir des informations sensibles ou classifiées, des adversaires pourraient employer les hypertrucages pour imiter des données biométriques, afin d’avoir accès directement à ces informations. La recherche indique que les hypertrucages pourraient déjà avoir la capacité de tromper les lecteurs biométriques, comme les systèmes de reconnaissance faciale^{Note de bas de page 132}. Étant donné qu’un nombre croissant d’applications collectent et utilisent les données biométriques, il est probable qu’un grand nombre d’institutions détenant ces données puissent les vendre ou être victimes de piratages^{Note de bas de page 133}. En outre, ces données pourraient servir à créer des hypertrucages encore plus réalistes. 

Collecte de renseignements

Afin de faire face aux menaces actuelles et à leur évolution, ainsi qu’aux futures, les services de renseignement et ceux qui sont chargés de la sécurité nationale doivent collecter les renseignements nécessaires à l’accomplissement de leur mandat. Malheureusement, il est probable que les hypertrucages affecteront ce travail au moins de deux façons : en générant du bruit et en affectant la fiabilité des informations de sources ouvertes. 

Génération de bruit

Les États adverses peuvent recourir aux hypertrucages pour perturber la collecte de renseignements, y compris électromagnétiques, si des hypertrucages envahissent un espace informationnel, créant ainsi beaucoup de bruit ou de distractions. Les hypertrucages pourraient également être utilisés tactiquement contre une initiative précise, ou soupçonnée, de collecte. 

Des hypertrucages pourraient aussi déformer la perception des sources humaines en leur faisant croire à la réalité d’une conversation, d’une vidéo ou d’un texte synthétiques. Ces sources pourraient ensuite transmettre cette information à des agents de renseignement en toute bonne foi. L’incapacité d’une telle source à faire la distinguer le vrai du faux pourrait affecter la collecte et l’analyse des renseignements. 

Informations de sources ouvertes

Un deuxième problème concerne l’utilisation des informations de sources ouvertes par des organismes gouvernementaux et non gouvernementaux. L’invasion de l’Ukraine par la Russie en 2022 est le dernier événement mondial en date à avoir démontré l’importance et la valeur de l’OSINT et de son analyse^{Note de bas de page 134}. Du moissonnage sur les médias sociaux à l’analyse d’images satellite publiques, les techniques d’OSINT servent à découvrir les mouvements de troupes, à localiser les fortifications défensives, à évaluer le moral des combattants, à confirmer des attaques ou des frappes militaires et les pertes qu’elles ont causées et à enquêter sur des crimes de guerre. Bien que leur qualité soit variable, les services de sécurité nationale tout comme les journalistes et les organisations humanitaires ont développé leurs propres méthodes ou trouvé des sources fiables pour alimenter leurs investigations. Par conséquent, les informations de sources ouvertes sont une cible de choix pour les hypertrucages. Les acteurs adverses qui souhaitent diviser les alliés, affaiblir leur détermination, nier des crimes de guerre ou falsifier des informations emploieront probablement des hypertrucages contre les producteurs d’OSINT. Cela pourrait amener ces derniers à élaborer des reportages ou des rapports inexacts, et ces inexactitudes pourraient ensuite être utilisées pour discréditer leur travail. Dans le meilleur des cas, les hypertrucages risquent de compliquer considérablement la tâche déjà prenante de vérification des OSINT. 

Automatisation des procédés

Les hypertrucages pourraient également avoir un impact sur les procédés automatisés destinés à déjouer les activités adverses. L’empoisonnement des données consiste à contaminer intentionnellement les données amassées pour entraîner les systèmes d’apprentissage automatique au moyen d’informations pernicieuses^{Note de bas de page 135}. Les algorithmes servant à détecter les cyberattaques ou les campagnes de désinformation ou de malinformation pourraient aussi être mis en échec par l’injection de données empoisonnées dans les grands ensembles d’information qui servent à les entraîner. De plus, des chercheurs ont découvert que les systèmes conçus pour repérer les hypertrucages sont vulnérables à l’empoisonnement des données, ce qui les rend moins efficaces^{Note de bas de page 136}. 

Réception des informations 

Comme indiqué ci-dessus, une préoccupation majeure associée aux hypertrucages est le rôle que ces derniers pourraient jouer dans la détérioration d’un environnement informationnel déjà mal en point. De ce fait, alors qu’ils évoluent dans un espace où la vérité est de plus en plus contestée, les représentants du gouvernement, ainsi que les cadres de l’appareil du renseignement et de la sécurité nationale et leurs analystes, devraient s’attendre à ce que la population, voire certaines personnalités politiques, aient du mal à accepter leurs conclusions. 

Il est sain que la population se pose des questions sur les évaluations de renseignement ou les interroge. Cependant, si ces doutes reposent sur des accusations ou sur des soupçons découlant de théories du complot, de mésinformation, de désinformation ou de malinformation plutôt que sur l’intérêt pour la bonne gouvernance, cela placera les organismes de l’appareil du renseignement et de la sécurité nationale dans une posture très délicate. L’acceptation sociale dont ces organismes ont besoin pour faire leur travail sera notamment compromise si des pans importants de la population refusent d’entrée de jeu les résultats de leurs enquêtes, ou en fait fi parce qu’ils considèrent trop difficile de distinguer la vérité. Ce souci pourrait être exacerbé chez les organismes et les services qui ont des problèmes de transparence depuis longtemps.

Pour compliquer davantage ces considérations, les mises en garde au sujet des hypertrucages pourraient au contraire aggraver le problème dans certains environnements informationnels. Deux chercheurs, M. Chesney et Mme Citron, avancent que les efforts visant prévenir la population des effets pervers des hypertrucages pourraient avoir la conséquence inverse, ce qu’ils appellent « le dividende du menteur ». Ainsi, les personnes, les sociétés et les gouvernements accusés d’actes répréhensibles pourront prétendre que les éléments de preuve à charge (en particulier les images, les sons ou les vidéos) sont des hypertrucages, afin d’échapper à leurs responsabilités^{Note de bas de page 137}. 

Questions éthiques associées aux hypertrucages

Compte tenu de ce qui précède, les chercheurs et les universitaires, particulièrement celles et ceux qui ont un point de vue scientifique, juridique ou technique, s’efforcent de trouver des solutions techniques et réglementaires. Peu d’articles ont étudié les dilemmes éthiques posés par les hypertrucages, en particulier pour les organismes et les services gouvernementaux. Le présent chapitre traitera brièvement de trois de ces dilemmes : l’utilisation des hypertrucages et le respect des normes démocratiques; les dilemmes propres au secteur privé; le risque d’exagération du problème.

Les démocraties doivent-elles utiliser des hypertrucages?

La première difficulté est que, si les techniques d’hypertrucages sont à la fois efficaces et économiques, les pays démocratiques seront tentés de les utiliser dans le cadre de leurs opérations de défense, de sécurité et de renseignement. D’un côté, ces États pourraient vouloir utiliser ces techniques parce qu’elles ne coûtent pas cher et sont plus faciles d’emploi que d’autres formes de collecte de renseignement ou d’activités clandestines, plus dangereuses.

Les services souhaitant utiliser les hypertrucages peuvent arguer que les ruses de guerre existent depuis des siècles. En outre, un objectif clé des opérations d’information actuelles est la diffusion de propagande visant à obtenir un avantage concurrentiel sur un opposant^{Note de bas de page 138}. Cela comprend des tentatives de susciter un sentiment d’impuissance chez l’armée ou la population d’un État adverse, pour qu’elles abandonnent toute velléité de combat^{Note de bas de page 139}. Par conséquent, il ne serait pas surprenant que des États fabriquent des hypertrucages dans le cadre de ces campagnes, afin d’atteindre leurs buts rapidement, facilement et avec le moins de sang versé possible. De la même façon, de nombreux services de renseignement mènent des opérations perturbatrices visant à éviter que des activités malveillantes se produisent sur leur territoire de compétence ou contre leurs intérêts. Les hypertrucages, notamment des bandes sonores ou des vidéos frauduleuses, pourraient être utilisés pour égarer ou tromper des adversaires. 

Il y a toutefois un inconvénient majeur à le faire. Il est attendu que les États autoritaires se livrent activement à de la propagande et il est très probable qu’ils se tournent vers les hypertrucages pour atteindre leurs objectifs politiques. Cependant, comme les États démocratiques sont fondés sur l’état de droit (même s’il est imparfaitement appliqué), la désinformation ne leur apportera pas forcément les mêmes avantages (il n’est pas non plus évident qu’ils soient très bons dans la conduite d’opérations d’information^{Note de bas de page 140}). Si l’on apprend ou si l’on croit que les démocraties, leur armée ou leurs services de renseignement emploient activement des hypertrucages, le dividende du menteur sera certainement utilisé dans des cas qui importeront ultérieurement, en particulier si l’Occident essaie de convaincre des auditoires nouveaux ou sceptiques. 

En outre, étant donné que la désinformation est largement reconnue comme un problème touchant les États démocratiques, il est discutable d’utiliser les hypertrucages pour en générer davantage. Après tout, les services de renseignement occidentaux semblent avoir eu plus de chance avec le désamorçage de la désinformation pendant l’invasion de l’Ukraine par la Russie en 2022 qu’avec la création d’un autre tissu de mensonges^{Note de bas de page 141}.

Dilemmes pour le secteur privé

La deuxième catégorie de problèmes éthiques concerne le rôle du secteur privé dans la création et la détection des hypertrucages. L’intelligence artificielle et les outils d’hypertrucage pourraient permettre à un grand nombre d’acteurs indépendants et d’intermédiaires de mener des campagnes de désinformation, mais il est possible que les véritables bénéficiaires de ces campagnes seront un petit nombre d’importantes sociétés technologiques dont la valeur nette est considérable. Ces sociétés ont les moyens d’amasser de grands ensembles de données, de les exploiter et de les traiter pour alimenter des systèmes d’apprentissage automatique qui peuvent servir à la fois à créer et à détecter les hypertrucages. Il faudra apporter un soin et une réflexion particuliers pour déterminer les modalités de collaboration des États avec ces sociétés et d’utilisation de leurs produits. De nombreux ensembles de données destinés à l’apprentissage automatique comprennent des images obtenues par des moyens discutables^{Note de bas de page 142}. En outre, la façon dont les biais intégrés à l’IA peuvent exacerber le racisme systémique a suscité des préoccupations et des chercheurs ont montré que les images « hypertruquées » pouvaient aviver les préjugés raciaux propres aux interfaces de programmation de reconnaissance faciale sur le Web^{Note de bas de page 143}. Les algorithmes d’hypertrucages pourraient véhiculer des préjugés raciaux et autres qui en affecteront l’efficacité.

Les lois et la réglementation sur le respect de la vie privée fourniront des indications sur ce que les États démocratiques seront autorisés à faire. Les États devront toutefois faire preuve de finesse pour déterminer le type d’entreprises avec lesquelles collaborer, la façon d’évaluer les pratiques de ces dernières et les modalités de gestion des questions de responsabilité. 

La menace est-elle exagérée?

Enfin, pour tous les enjeux abordés dans ce chapitre, il y a aussi un risque d’exagération. La désinformation est un problème grave, et même les hypertrucages rudimentaires peuvent y contribuer. Cependant, de nombreuses affirmations sur les perturbations que pourrait créer la propagande reposant sur l’IA sont pure spéculation et n’ont pas été prouvées^{Note de bas de page 144}. L’IA engendrera des difficultés, mais le bruit qui l’entoure à l’heure actuelle n’est pas la réalité. Les hypertrucages sont vraiment impressionnants, mais cela ne rend pas forcément leur utilisation pratique. Par exemple, une vidéo « hypertruquée » d’un dirigeant mondial déclarant une guerre peut être vite vérifiée et démentie par un simple examen des événements sur le terrain.

En outre, il n’est pas encore évident actuellement que la propagande faisant appel aux hypertrucages sera plus efficace pour véhiculer des opinions que la diffusion d’images et de mèmes rudimentaires, qui sont déjà relayés largement et rapidement. Des études ont montré que les fausses nouvelles se répandent non pas parce qu’elles sont logiques ou réalistes, mais parce qu’elles font vibrer une corde sensible chez la personne qui les republie^{Note de bas de page 145}. En ce sens, les États devraient se préoccuper davantage de certains propos, plutôt que de l’apparence des contenus qui les servent. Ils doivent prendre les hypertrucages au sérieux, mais globalement, ces productions vont faire évoluer le contexte actuel de la menace, pas le bouleverser. Une réaction excessive aux hypertrucages pourrait donc affecter l’analyse de la menace et les politiques d’intervention.

Conclusion

Dans ce chapitre, il a été question de certaines des difficultés et des occasions que les services chargés de la sécurité nationale et les services de renseignement rencontreront ces prochaines années. Cependant, bien que la technologie soit impressionnante, les hypertrucages ont plus de chances de faire évoluer les activités liées à la menace existantes que d’en créer de nouvelles. S’il y a un avantage aux hypertrucages, c’est que la plupart des États démocratiques ne partent pas de zéro, mais disposent déjà de politiques et de procédures leur permettant de les gérer (même si celles-ci devront aussi évoluer). Par exemple, lors de la collecte de supports numériques, il importera de créer des chaînes de responsabilité, afin d’en favoriser la protection et la vérification futures, notamment au cours de procédures visant à faire appliquer la loi.

Bon nombre des problèmes liés aux hypertrucages les plus difficiles ne seront pas réglés par des outils technologiques ou juridiques, mais par des pratiques éthiques, qui nécessiteront du discernement. Cela passe par une réflexion sur les modalités de collaboration des États avec le secteur privé, en particulier avec les sociétés qui contrôlent déjà d’importants services technologiques, et sur ce que cela implique en matière de surveillance et d’examen. De plus, s’il y a beaucoup de bonnes raisons pour les États démocratiques d’envisager d’utiliser les hypertrucages dans le cadre de leurs propres opérations de sécurité nationale et de renseignement, cette approche pourrait présenter davantage d’inconvénients que d’avantages.