Résumé de la réunion du Groupe consultatif sur la transparence de la sécurité nationale (GCT-SN) - 23 février 2022

Par vidéoconférence

Membres présents :

• Lesley Soper (pour Dominic Rochon)
• Thomas Juneau
• Bessma Momani
• Mary Francoli
• Harpreet Jhinjar
• Justin Mohammed
• Jeffrey Roy
• Daniel Jean

Membres absents :

• Jillian Stirk
• Khadija Cajee

Thème de la réunion :

• « Établir des liens avec diverses collectivités : Améliorer la façon dont les organismes chargés de la sécurité nationale font de la mobilisation, établissent la confiance et évaluent le succès » – Partie 8

Invités et conférenciers :

• Ashley Casovan — directrice exécutive, Responsible AI Institute
• Barbara Perry — directrice, Centre on Hate, Bias and Extremism, Institut universitaire de technologie de l’Ontario

 Membres du milieu de la sécurité nationale présents (observateurs) :

• Agence des services frontaliers du Canada (ASFC)
• Centre de la sécurité des télécommunications (CST)
• Centre d’analyse des opérations et déclarations financières du Canada (CANAFE)
• Affaires mondiales Canada (AMC), Sécurité publique Canada (SP)
• Gendarmerie royale du Canada (GRC)
• Service canadien du renseignement de sécurité (SCRS)

Ordre du jour :

• Ouverture de la réunion et prise des présences
• Séance de discussion avec les conférenciers : « Établir des liens avec diverses collectivités : Améliorer la façon dont les organismes chargés de la sécurité nationale font de la mobilisation, établissent la confiance et évaluent le succès » – Partie 8
• Discussion sur le troisième rapport du groupe

Résumé de la réunion :

La 18e réunion virtuelle du GCT-SN a lieu le 23 février 2022, et avait comme thème « Établir des liens avec diverses collectivités : Améliorer la façon dont les organismes chargés de la sécurité nationale font de la mobilisation, établissent la confiance et évaluent le succès — Partie 8 ». Les conférenciers discutent de l’importance des façons dont l’intelligence artificielle (IA) peut accroître la transparence, favoriser la confiance du public et renforcer l’autonomie des personnes et des entreprises. Ils examinent différentes perceptions des pratiques policières et ils mettent l’accent sur l’importance du maintien de la mobilisation proactive et de la transparence au sein des collectivités.

Principales conclusions des remarques des invités et de la séance de discussion :

• Les industries de divers domaines qui ont commencé à exploiter l’IA il y a quelques années observent maintenant de grands avantages. Par exemple, les plateformes d’apprentissage automatique peuvent analyser les données des clients afin de déterminer leur admissibilité aux prêts ou augmenter les taux d’emploi au moyen de systèmes de recommandation.
• L’IA est utile dans certains domaines, mais elle peut avoir des conséquences négatives. Par exemple, les algorithmes pourraient ne pas reconnaître le genre et les autres biais dans les pratiques d’embauche, et ils ont de la difficulté à reconnaître les personnes handicapées, les personnes de couleur et les autres groupes.
• Dans l’ensemble, la confiance du public envers l’IA est faible. Le public devrait être au courant de l’utilisation de l’IA et d’avoir accès à des mécanismes de recours appropriés au cas où des problèmes surviennent.
• Les systèmes d’IA responsables se livrent à l’utilisation de l’IA d’une façon qui informe les personnes et les entreprises. Pour y parvenir, il faut tirer parti des avantages de l’IA, réduire ses conséquences négatives sur les personnes et l’environnement, réduire l’incidence de l’utilisation problématiquement des outils d’IA sur l’économie et la réputation, et promouvoir des ressources éducatives transparentes qui renforceront la confiance du public dans l’IA.
• En réponse à la question de savoir quels conseils pourraient être donnés afin de réduire les préjugés inhérents aux systèmes d’IA utilisés par les organismes gouvernementaux, un conférencier a suggéré d’effectuer des tests de préjugés et de mettre en place des mécanismes qui préviennent l’utilisateur si un système d’IA s’avère avoir des préjugés.
• En ce qui concerne les services de police, selon l’Enquête sociale générale de 2019, les données indiquent que ce n’est pas seulement les collectivités qui jugent que la police ne prend pas des mesures efficaces contre le crime, les agents d’application de la loi eux-mêmes sont aussi d’avis que leurs interventions ne sont pas toujours adéquates.
• Les organismes d’application de la loi ont observé qu’il y a d’importantes lacunes en matière de la confiance du public au sein de certains groupes sociaux. Cela signifie que certaines communautés marginalisées n’ont pas l’impression d’être prises au sérieux par les organismes d’application de la loi ou ne se sentent tout simplement pas en sécurité lorsqu’elles les approchent. Plus précisément, les collectivités musulmanes sont victimes de biais, de discrimination et d’islamophobie de la part des organismes d’application de la loi.
• En même temps, d’autres collectivités ont souvent des expériences bien différentes; elles jugent que la police est là pour elles et qu’elle assure leur sécurité.
• Pour de nombreuses personnes, l’écart entre les services policiers a été illustré par la façon dont la police a géré le Convoi de la liberté par rapport aux mouvements Black Lives Matter et Indigenous Lives Matter. La Critical Infrastructure Defence Act (Loi sur la défense des infrastructures essentielles) ne semblait pas s’appliquer au Convoi de la liberté, bien qu’elle ait été utilisée pour mettre fin aux manifestations organisées par les peuples autochtones.
• Quand on l’interroge sur l’influence des médias sociaux sur le signalement des crimes haineux, un conférencier répond que l’utilisation des médias sociaux exacerbe probablement la haine, mais qu’il n’y a pas suffisamment de données à ce sujet.
• En réponse à la question de savoir s’il est difficile pour les gouvernements d’essayer de trouver le bon équilibre en termes de conservation et de censure en ligne, un conférencier répond qu’il s’agit d’un processus à plusieurs niveaux et qu’il faut appliquer les lois. Il faut redoubler d’efforts pour soutenir les organisations de la société civile qui surveillent les discours haineux ou qui élaborent des stratégies permettant aux jeunes et aux adultes d’acquérir la résilience nécessaire pour reconnaître les propos haineux et déterminer s’ils sont sollicités et recrutés. La prévention est une grande priorité visant à renforcer la capacité de la société civile.
• En soulignant les contributions des collectivités marginalisées à la société canadienne, on favorise une meilleure compréhension de ces collectivités, d’autant plus que les médias se concentrent souvent sur les propos négatifs liés à certains groupes.
• Il y existe des lacunes importantes en ce qui concerne l’élaboration d’une littératie critique numérique. Il est important de combler cette lacune afin de lutter contre la désinformation. On pourrait envisager de mettre en place une application qui indique les cas possibles de désinformation.
• Lorsqu’on lui demande quels outils de sensibilisation fonctionnent ou ne fonctionnent pas en termes des efforts de mobilisation, un conférencier suggère de continuer à mettre l’accent sur la transparence, notamment en publiant les rapports annuels (et les réponses à ces rapports) pour garantir la responsabilité. Il est également important d’aborder ces questions dans une perspective globale et de comprendre le contexte et l’histoire des collectivités auxquelles ils ont affaire.
• En outre, il recommande d’adopter une présence et une mobilisation proactives. Cela signifie qu’il faut établir un lien avec les collectivités, non seulement lorsqu’il faut recueillir des renseignements ou lorsque des problèmes surviennent, mais aussi en leur transmettant des renseignements et en établissant un dialogue bidirectionnel avec les acteurs communautaires.