Transparence relativement aux instruments médicaux utilisant l’apprentissage machine : Principes directeurs
Sur cette page
Contexte
En 2021, Santé Canada, la Food and Drug Administration (FDA) des États-Unis et la Medicines and Healthcare products Regulatory Agency (MHRA) du Royaume-Uni ont déterminé ensemble 10 principes directeurs relatifs aux bonnes pratiques d'apprentissage machine (BPAM). Les BPAM soutiennent le développement de technologies d'intelligence artificielle et d'apprentissage machine sécuritaires, efficaces et de grande qualité capables d'apprendre en situations réelles et, dans certains cas, d'améliorer la performance des instruments.
Pour en savoir plus :
Santé Canada, la FDA et la MHRA ont également défini des principes directeurs en matière de transparence relativement aux instruments médicaux utilisant l'apprentissage machine. Ces principes directeurs s'appuient sur ceux liés aux BPAM, en particulier le :
- principe 7 : L'accent est mis sur la performance de l'équipe humain-IA
- principe 9 : Les utilisateurs reçoivent des informations claires et essentielles
Même si les principes directeurs présentés ici favorisent la transparence relativement aux instruments médicaux utilisant l'apprentissage machine, il convient de considérer la transparence comme une bonne pratique à adopter pour tous les instruments médicaux.
Dans le présent document, le terme « transparence » désigne la mesure dans laquelle les informations appropriées sur un instrument médical utilisant l'apprentissage machine (notamment son utilisation prévue, son développement, ses performances et, lorsqu'elle est disponible, la logique sous-jacente) sont clairement communiquées aux publics concernés. Par « logique », on entend les informations sur la manière dont un résultat a été obtenu ou le fondement d'une décision ou d'une action. La mesure dans laquelle cette logique peut être expliquée d'une manière compréhensible est l'« explicabilité ». La logique et l'explicabilité sont des aspects de la transparence.
Une transparence efficace :
- garantit que les informations susceptibles d'avoir un effet sur les risques et les résultats pour les patients sont communiquées
- est adaptée selon les informations dont l'utilisateur prévu ou le public visé a besoin et le contexte dans lequel elles sont utilisées
- utilise les meilleurs médias, échéanciers et stratégies pour une communication réussie
- repose sur une compréhension globale des utilisateurs, des environnements et des flux de travail
Une autre notion importante liée à la transparence est la « conception centrée sur l'opérateur humain ». Celle-ci est un processus itératif qui a trait à l'ensemble de l'expérience de l'utilisateur et fait intervenir les parties concernées tout au long de la conception et du développement. Cette approche peut être utilisée pour aider à :
- mettre au point des instruments médicaux utilisant l'apprentissage machine avec un haut degré de transparence
- valider la transparence
- veiller à ce que les utilisateurs disposent de toutes les informations nécessaires sur l'instrument
Renseignez-vous davantage à propos de la conception centrée sur l'opérateur humain.
Principes directeurs
Les principes directeurs en matière de transparence relativement aux instruments médicaux utilisant l'apprentissage machine sont les suivants :
- Qui? (publics concernés)
- Pourquoi? (motivation)
- Quoi? (informations pertinentes)
- Où? (emplacement des informations)
- Quand? (calendrier des communications)
- Comment? (méthodes utilisées à l'appui de la transparence)
Qui? : Publics concernés
La transparence est pertinente pour :
- les utilisateurs de l'instrument
- tels que les professionnels de la santé, les patients, les soignants
- les bénéficiaires des soins de santé dispensés à l'aide de l'instrument
- tels que les patients
- d'autres parties, notamment celles qui prennent des décisions concernant l'instrument afin d'améliorer les résultats pour les patients
- tels que le personnel de soutien, les administrateurs, les payeurs, les corps dirigeants
Pourquoi? : Motivation
La transparence est essentielle aux soins centrés sur le patient ainsi qu'à l'assurance de l'innocuité et de l'efficacité d'un instrument.
Pour se servir des instruments médicaux utilisant l'apprentissage machine, il faut parfois comprendre des informations complexes et propres au contexte. Des informations transparentes peuvent aider à repérer et à évaluer les risques et les avantages de l'instrument. Elles peuvent aussi aider à en assurer une utilisation sécuritaire et efficace.
Une transparence efficace qui aide les parties à prendre des décisions éclairées peut faciliter la gestion des risques. Par exemple, une utilisation prévue claire aide à comprendre si l'instrument est destiné à informer ou à remplacer le jugement d'un professionnel de la santé.
La transparence permet aux parties de détecter les erreurs ou la baisse des performances et d'enquêter à ce sujet. Elle peut également favoriser l'équité en santé, car connaître le fonctionnement et la mise au point d'un instrument peut aider à déterminer les biais et à évaluer si un système ou un résultat est justifiable.
Le maintien de la transparence au fil du temps peut contribuer à l'entretien d'un instrument et à sa sûreté continue.
La communication transparente et cohérente des informations, notamment des lacunes connues, peut avoir de nombreux avantages. Elle améliore la fluidité et l'efficacité de l'utilisation des instruments médicaux utilisant l'apprentissage machine. Elle peut également renforcer la confiance dans la technologie, de même qu'encourager l'adoption des technologies bénéfiques et en faciliter l'accès.
Quoi? : Informations pertinentes
Le type d'information qu'il convient de communiquer variera parmi la gamme d'instruments médicaux utilisant l'apprentissage machine. Tout dépendra des avantages et des risques de chaque instrument médical utilisant l'apprentissage machine et des besoins des utilisateurs prévus.
Une bonne pratique consiste à fournir des informations qui permettent de mieux comprendre l'instrument et l'usage auquel il est destiné. Une description claire et précise d'un instrument comprend généralement :
- des informations sur son but et ses fonctions médicales
- les maladies ou les problèmes de santé pour lesquels il est utilisé
- les utilisateurs prévus, les environnements d'utilisation et les populations cibles
Une autre bonne pratique consiste à expliquer comment l'instrument s'intègre dans le flux de travail des soins de santé. Il s'agit entre autres de présenter les données d'entrée et de sortie prévues. Il convient également de décrire les répercussions prévues des résultats sur les décisions ou les actions en matière de soins de santé, ou sur le jugement d'un professionnel de la santé.
Des détails sur les performances, les avantages et les risques de l'instrument peuvent aider à déterminer la meilleure façon de l'utiliser. Des informations sur les activités de gestion des risques tout au long du cycle de vie de l'instrument, comme les stratégies de gestion des biais, peuvent également s'avérer utiles.
Il est pertinent de préciser le fondement des résultats d'un instrument ou de fournir d'autres informations qui expliquent comment l'instrument médical utilisant l'apprentissage machine obtient ses résultats (la « logique » du modèle), si ces informations sont disponibles et faciles à comprendre. L'accès à ces informations permet d'évaluer de manière critique l'instrument et ses résultats lors de la prise de décisions concernant les soins aux patients.
Il convient aussi de fournir de l'information sur le développement du produit et les activités de gestion des risques tout au long du cycle de vie de l'instrument. Des informations pertinentes :
- expliquent la technologie sous-jacente et les approches d'apprentissage machine
- caractérisent les données d'apprentissage et de test
- fournissent des résumés d'études cliniques
- donnent des mises à jour régulières sur :
- les caractéristiques du modèle et des ensembles de données
- le suivi des performances
- la détection et l'étude des problèmes et des risques tout au long du cycle de vie du produit
La communication des limitations cliniquement pertinentes, des lacunes dans l'information ou des contre-indications particulières est également une bonne pratique. Parmi ces éléments, on compte :
- les biais connus ou les modes d'échec
- les intervalles de confiance associés aux résultats fournis
- les lacunes connues dans la caractérisation des données
- comme la détermination des populations de patients qui ne sont pas bien représentées dans les ensembles de données cliniques ou d'apprentissage et qui, de ce fait, risquent d'être sujettes à des biais
- les limites du développement du modèle ou de l'évaluation de ses performances
- les circonstances connues ou les cas d'utilisation où les données d'entrée de l'instrument ne feront pas partie du cadre de développement et de validation de l'instrument
Il peut également être utile d'indiquer la manière dont la sûreté et l'efficacité de l'instrument sont maintenues tout au long du cycle de vie du produit, par exemple :
- les modalités de réalisation des essais d'acceptation ou de validation propres au site local
- les plans de surveillance continue des performances
- la communication transparente des succès et des échecs
- les stratégies de gestion du changement
- les approches en amont pour remédier aux vulnérabilités
Où? : Emplacement des informations
L'interface utilisateur permet d'accéder aux informations relatives à l'instrument. Cette interface comprend tous les éléments de l'instrument avec lesquels l'utilisateur interagit (ceux qu'il voit, entend et touche). Par exemple, l'entraînement, les commandes physiques, les éléments d'affichage, l'emballage, l'étiquetage et les alertes font partie de l'interface utilisateur.
Une bonne pratique consiste à optimiser l'utilisation de l'interface du logiciel afin que les informations qu'elle transmet s'adaptent en fonction de l'utilisateur. L'interface peut permettre de personnaliser l'information, de l'adapter et d'en assurer la réciprocité. Diverses modalités (audio, vidéo, texte à l'écran, alertes, diagrammes, dispositifs de sécurité logicielle, bibliothèques de documents, etc.) peuvent répondre aux besoins de l'utilisateur.
Quand? : Calendrier des communications
Tenir compte des besoins en information à chaque étape du cycle de vie total du produit peut soutenir une transparence réussie. Des informations détaillées sur les instruments peuvent être nécessaires lorsqu'il s'agit de déterminer s'il convient d'acquérir ou de mettre en œuvre un instrument, et s'il convient de l'utiliser et de quelle manière.
Il peut également être utile de fournir des avis en temps opportun lorsque l'instrument est mis à jour ou modifié ou lorsque de nouvelles informations sur l'instrument sont découvertes. On pourra fournir des informations ciblées, telles que des instructions ou des avertissements à l'écran :
- à un stade déterminé du flux de travail
- par exemple lors des étapes à haut risque
- à la suite de déclenchements précis
- par exemple lorsque certaines caractéristiques d'entrée ou de sortie sont présentes
Comment? : Méthodes utilisées à l'appui de la transparence
La communication d'informations sur les instruments médicaux utilisant l'apprentissage machine exige une compréhension globale des utilisateurs, des environnements et des flux de travail. Les principes de la conception centrée sur l'opérateur humain permettent la compréhension et l'intégration de ces éléments.
La conception centrée sur l'opérateur humain consiste à intégrer une perspective centrée sur la personne qui est itérative, qui prend en compte l'ensemble de l'expérience de l'utilisateur et qui fait intervenir les parties concernées tout au long de la conception et du développement. Elle suppose des activités de conception, de validation, de suivi et de communication réactives et itératives. Par exemple, il est plus facile d'accéder aux informations et de les utiliser si les éléments suivants sont pris en compte :
- Nécessité de fournir le niveau de détail approprié pour le public visé
- Organisation du contenu par ordre d'importance ou de façon à faciliter le traitement des informations par les utilisateurs et permettre à ceux-ci de prendre des décisions en connaissance de cause
Dans certains cas, il peut être pertinent d'utiliser un langage simple pour faciliter la compréhension de l'instrument et son utilisation. Il se peut aussi qu'un langage technique soit approprié pour les utilisateurs cliniques spécialisés.
Ces principes directeurs en matière de transparence sont résumés dans le tableau 1.
| Qui? : Publics concernés | La transparence concerne toutes les parties intervenant dans les soins de santé au patient, notamment :
|
|---|---|
| Pourquoi? : Motivation | La transparence favorise :
|
| Quoi? : Informations pertinentes | Pour que l'instrument médical utilisant l'apprentissage machine soit bien compris, il faut communiquer des informations pertinentes sur :
|
| Où? : Emplacement des informations | Maximiser l'utilité de l'interface utilisateur d'un logiciel peut :
|
| Quand? : Calendrier des communications | Une communication en temps utile peut permettre une transparence réussie, par exemple :
|
| Comment? : Méthodes utilisées à l'appui de la transparence | Les principes de conception centrés sur l'opérateur humain peuvent soutenir la transparence |
Ces principes directeurs se veulent des éléments à prendre en compte lors de l'adoption et de la promotion de bonnes pratiques en matière de transparence. La poursuite des échanges sur ce sujet peut orienter de façon concertée l'élaboration, la mise en œuvre et l'itération de bonnes pratiques en matière de transparence et de normes consensuelles dans ce domaine qui évolue rapidement.
Nous joindre
Nous vous invitons à nous faire part de manière continue de vos commentaires au moyen du registre public FDA-2019-N-1185 (en anglais seulement). Nous avons hâte de collaborer avec vous sur ce sujet.
Vous pouvez aussi envoyer un courriel directement aux différents partenaires aux adresses de courriel suivantes :
- mddpolicy-politiquesdim@hc-sc.gc.ca (Santé Canada)
- Digitalhealth@fda.hhs.gov (FDA)
- software@mhra.gov.uk (MHRA)
Liens connexes
- Plans de contrôle des changements préétablis pour les instruments médicaux utilisant l'apprentissage machine : Principes directeurs
- Bonnes pratiques d'apprentissage machine pour le développement des instruments médicaux : Principes directeurs
- Ébauche des lignes directrices préalables à la mise en marché pour les instruments médicaux fondés sur l'apprentissage machine
- Avis : L'approche de Santé Canada aux technologies numériques en santé
- Comité consultatif scientifique sur les technologies numériques de la santé (CCS-TNS)
Détails de la page
- Date de modification :