Éléments à considérer avant de choisir un outil d’IA en médecine

Le développement d’un SIA repose sur l’utilisation de grandes quantités de données servant à son entraînement et à sa validation. En pratique, un SIA recueille des informations, les analyse, puis génère un résultat ou une recommandation. Chacune de ces étapes comporte à la fois des avantages et des limites. 

Avant d’intégrer des SIA à une pratique médicale, quelques réflexions s’imposent afin de profiter au maximum et de façon responsable de leur plein potentiel. 

• Quel rôle un SIA peut-il jouer en médecine? 
• Quels sont les éléments à considérer avant de choisir un SIA? 
• Quels sont les risques auxquels sont exposées les informations fournies à un système d’IA?
• Quels sont les risques liés au traitement des données ou à l’utilisation des résultats?

Ce texte mentionne certains points de vigilance à garder en tête pour utiliser l’IA de façon responsable et sécuritaire, tout en préservant la qualité des soins et de la pratique médicale. Pour obtenir davantage d’informations sur des thèmes tels que le consentement, la protection des renseignements personnels, la formation des médecins, la tenue des dossiers, ainsi que l’imputabilité et la responsabilité professionnelles liées à l’utilisation de l’IA, consultez la page Web L’IA et la pratique de la médecine. 

Rôle d’un SIA

À l’heure actuelle, les SIA doivent être considérés comme des outils de soutien à la pratique médicale. Ils peuvent notamment contribuer à la documentation clinique, à la communication avec les patients ou les collègues, ainsi qu’à l’organisation du travail.

Certains SIA peuvent également agir comme outils d’aide à la décision pour alimenter la démarche clinique du médecin¹. Les résultats qu’ils produisent doivent alors être interprétés au même titre que les autres informations recueillies lors de l’évaluation d’un patient, telles que l’anamnèse, l’examen physique, les examens complémentaires ou les consultations documentaires. À partir de l’ensemble de ces informations, le médecin élabore son diagnostic différentiel, le précise et choisit les traitements adaptés à la situation du patient.

L’intelligence artificielle a donc pour rôle de soutenir la pratique médicale, sans se substituer au jugement clinique du médecin. En tout temps, le médecin demeure responsable de l’évaluation du patient, des décisions cliniques prises et des soins dispensés. Pour plus d’informations, consultez la page Web SIA – Imputabilité et responsabilité professionnelle des médecins.

Est-ce que le médecin doit tout comprendre de l’IA avant de l’utiliser?

Les médecins n’ont pas à devenir des experts en IA ni à maîtriser les aspects techniques avancés de son fonctionnement, comme l’apprentissage profond (deep learning). Ils doivent toutefois posséder une compréhension suffisante des principes de base de ces outils, afin d’en apprécier les indications, les limites, les risques et les bénéfices dans leur pratique. Le parallèle peut être fait avec la prescription d’un médicament : le médecin n’a pas à connaître en détail tous les mécanismes d’action moléculaire qui sous-tendent l’action du médicament, mais il doit comprendre ses indications, ses contre-indications, ses bénéfices attendus et ses effets indésirables potentiels afin de l’utiliser de façon appropriée et sécuritaire. 

¹Exemples : aide au diagnostic ou au traitement, assistance pour chirurgie guidée par imagerie, lecture des tests d’imagerie, etc.

Caractéristiques de l’IA 

1. Les données fournies à un SIA

L’utilisation d’un SIA en contexte clinique nécessite généralement la transmission de données relatives au patient pour lequel l’expertise du système est sollicitée. Cette utilisation soulève plusieurs enjeux importants, notamment en matière de sécurité des données, de confidentialité, de consentement et de transparence envers les patients. 

2. Le traitement des données par le SIA

Explicabilité : L’explicabilité désigne la capacité, pour un humain, de comprendre, d’expliquer et de justifier les recommandations ou décisions produites par un SIA. 

• Certains SIA, notamment ceux fondés sur des techniques avancées comme l’apprentissage profond (deep learning), reposent sur un très grand nombre de paramètres et de données. Cette complexité peut rendre le raisonnement de l’outil difficile à comprendre pour l’utilisateur. On parle alors du phénomène de la « boîte noire », puisque le processus menant à un résultat ou à une recommandation demeure opaque, à l’instar d’un diagnostic qui serait énoncé sans que l’on puisse avoir accès au raisonnement clinique ni aux données qui le sous-tendent.

  En contexte clinique, l’explicabilité est essentielle pour permettre au médecin de conserver un rôle décisionnel éclairé et imputable. Elle contribue notamment à :

  • mieux cerner les limites du système;
  • éviter l’adhésion à des recommandations inappropriées;
  • communiquer de façon adéquate avec les patients;
  • repérer d’éventuels biais dans les algorithmes ou dans les données d’apprentissage.

  
  Afin que le médecin puisse cerner l’explicabilité d’un outil, les fournisseurs du SIA doivent faire preuve de transparence en décrivant les principes ou les algorithmes employés, en expliquant les sources de données ayant servi à l’entraînement et en fournissant une documentation claire quant à la validation scientifique de l’outil.

• Capacité d’apprendre : Certains SIA ont la capacité d’apprendre et de se modifier au fil du temps. Ces modifications améliorent généralement les performances des SIA, mais ce n’est pas toujours le cas. Ainsi, certains SIA peuvent devenir moins précis et moins fiables avec le temps. On peut voir, par exemple, apparaître de nouveaux biais.  Le médecin qui utilise ce genre d’outil doit donc demeurer vigilant face aux résultats générés par le SIA.

3. Les résultats générés par le SIA

Lorsqu’il a recours à un SIA, le médecin doit être vigilant face aux résultats produits par celui-ci, car ils peuvent comporter des inexactitudes. Pour poser un regard critique sur les résultats, le médecin doit posséder une connaissance adéquate du sujet traité, de la situation du patient et du SIA utilisé.

En effet, les SIA peuvent :

• Omettre des informations. Un SIA peut négliger ou ne pas prendre adéquatement en compte certaines données pertinentes lors de leur traitement. 
• Halluciner. Un SIA peut présenter de façon crédible et convaincante des informations erronées ou inventées. Par exemple : un scribe IA peut générer une note médicale bien structurée, mais y inclure des informations cliniques qui n’ont jamais été recueillies par le médecin.
• Présenter des biais. Les résultats d’un SIA peuvent être influencés par les caractéristiques des données utilisées pour son entraînement et par les choix effectués lors de son paramétrage. Ainsi, les données peuvent comporter des biais liés notamment au sexe, à l’origine ethnique ou aux antécédents des patients. Le médecin doit donc vérifier que les données sur lesquelles repose le SIA sont pertinentes pour la situation de son patient et suffisamment représentatives de la population du Québec. Par exemple : un médecin œuvrant à l’urgence utilise un SIA pour soutenir son raisonnement clinique chez un patient se présentant avec une dyspnée. Si le modèle a été entraîné à partir de données qui ne sont pas représentatives du profil du patient, par exemple, une population plus jeune et sans comorbidités, il pourrait mésestimer le risque d’embolie pulmonaire. Le jugement clinique demeure donc essentiel pour reconnaître les biais liés aux limites des données d’entraînement. 
• Être limité. Les SIA ont parfois une efficacité limitée, car ils ne peuvent pas toujours juger de l’ensemble d’une situation clinique ni saisir entièrement le contexte particulier d’un patient. Les recommandations produites ne sont donc pas nécessairement adaptées à la réalité du patient.

En tout temps, le médecin demeure responsable de maintenir une pratique sécuritaire. Lorsqu’il lui est impossible de valider un résultat ou une intervention proposés par l’IA, il est préférable de ne pas en tenir compte. Selon l’impact possible du refus du résultat de l’IA, il peut être pertinent de documenter ses justifications au dossier. Consultez, à ce sujet, la page web sur l’IA et la tenue des dossiers.

Piège à éviter 

Confiance excessive envers un système d’IA 

L’utilisation fréquente d’un système d’intelligence artificielle peut amener l’utilisateur à accorder une confiance excessive à ses résultats. Cette situation peut favoriser l’apparition d’un biais d’automatisation, c’est-à-dire une tendance à accepter les recommandations de l’outil sans les évaluer de manière suffisamment critique.

Ce phénomène peut se traduire notamment par :

• une acceptation passive des résultats générés;
• une diminution des efforts cognitifs de vérification;
• une réduction du raisonnement et du jugement clinique;
• une capacité moindre à détecter les erreurs du système.

À long terme, une dépendance excessive aux outils d’IA pourrait également contribuer à une érosion progressive de certaines compétences cliniques (deskilling).

Même lorsqu’il utilise des outils éprouvés et familiers, il demeure indispensable, pour le médecin, de conserver une posture critique face à l’IA. Cela implique notamment de poursuivre son développement professionnel continu, tant dans son domaine de pratique que dans l’utilisation responsable des technologies d’intelligence artificielle. Consultez, à ce propos, Le médecin et la formation en intelligence artificielle

Comment choisir un SIA de qualité?

Avant d’intégrer un SIA à sa pratique, il est recommandé d’évaluer les éléments suivants:

1. La sécurité et la protection des renseignements personnels 

Est-ce que les données utilisées par le SIA comprennent des renseignements personnels permettant d’identifier directement ou indirectement un patient? Est-ce que le mode de fonctionnement du SIA le met en contact avec de telles informations? Que faire pour mitiger les risques? Est-ce que le SIA a une certification TGV de Santé Québec²? Est-ce qu’une évaluation des facteurs de risques relatifs à la vie privée (ÉFVP) est nécessaire? Pour plus d’informations, consultez la page Web  L’IA et la pratique de la médecine. 

² TGV : trousse de vérification globale. Pour plus d’informations à son propos, consultez : https://msss.gouv.qc.ca/professionnels/technologies-information/certification-produits-et-services-technologiques/a-propos-certification/.

2. La certification, la validation et la crédibilité

Il n’existe actuellement pas de liste officielle identifiant les SIA recommandés ou approuvés pour la pratique médicale. Les scribes médicaux assistés par l’IA constituent toutefois une exception. Consultez la page Scribe et IA du site Web du CMQ.

Lors du choix d’un SIA, le médecin doit se poser certaines questions :

• Est-ce que le SIA, lorsque requis, est certifié par Santé Canada? Est-il conforme à des normes reconnues (ISO, etc.)? 
• Est-ce que le SIA est recommandé par un organisme compétent sur le sujet? Par une société savante?
• Le SIA a-t-il fait l’objet d’un projet pilote? A-t-il été testé dans le cadre d’un projet de recherche dûment encadré, avec implication d’un comité d’éthique? Il est important de noter qu’un projet de recherche prend généralement plus de temps qu’un projet pilote, mais il permet une évaluation plus rigoureuse. 
• Est-ce que les études effectuées par le fournisseur du SIA l’ont été de façon rigoureuse? Est-ce que le fournisseur fait preuve de transparence à cet égard? 
• Au-delà des études effectuées par le fournisseur, est-ce que le SIA a fait l’objet d’une validation par d’autres personnes (validation externe)?
• Le fournisseur propose-t-il des mécanismes de surveillance après la mise en service, tels que des mises à jour, des contrôles de qualité ou un processus de déclaration et de gestion des incidents?

Le niveau d’évaluation, de validation ou d’encadrement nécessaire pour un SIA doit être proportionnel à :

• l’importance de son impact potentiel sur le patient, par exemple sur la qualité des soins, la sécurité des données, etc.;
• son degré d’autonomie. Un outil qui fournit de l’information ou des recommandations destinées à être analysées par le médecin avant de toucher le patient présente généralement moins de risques qu’un système capable d’exécuter automatiquement certaines interventions directement auprès du patient, et ce, sans avoir besoin au préalable d’une validation humaine. 

En conclusion, plus l’autonomie du système est élevée et plus ses conséquences potentielles sur les soins sont importantes, plus les exigences relatives à son évaluation, à sa validation et à sa surveillance devraient être rigoureuses. 

3. Explicabilité et transparence 

Le fournisseur du SIA devrait donner au médecin un accès aux informations lui permettant de comprendre et d’apprécier les grandes lignes du fonctionnement de l’outil. 

4. Approbation de l’établissement

Si le médecin exerce en établissement, il est recommandé d’obtenir l’autorisation de celui-ci avant d’intégrer un SIA dans sa pratique. 

Pour davantage d’informations concernant les scribes IA, consultez Scribe et intelligence artificielle.

Évaluation de la qualité de l’acte médical et surveillance des SIA

Après avoir décidé d’intégrer un SIA à sa pratique, le médecin doit se demander si celui-ci répond effectivement aux objectifs qui ont motivé son adoption. 

• Est-ce qu’il améliore l’organisation de la clinique? 
• Est-ce qu’il réduit le temps consacré à certaines tâches?  
• Est-ce qu’il accomplit ses fonctions avec succès et de façon sécuritaire? 
• Est-ce qu’il améliore la qualité des soins?

Afin de déterminer si la performance du SIA utilisé est adéquate et afin qu’elle le demeure au fil du temps, un mécanisme d’évaluation et de surveillance devrait être mis en place. 

Cette démarche vise à détecter rapidement les dysfonctionnements, d’en tirer des apprentissages et de limiter les risques. Elle devrait inclure les actions suivantes :

• Identifier les problèmes récurrents ou significatifs (ex. : suggestions cliniques inadéquates, confusion de médicaments, erreurs d’interprétation, etc.);
• Documenter de façon concise la nature du problème, le contexte clinique dans lequel il est survenu, les impacts réels ou potentiels et les mesures correctives mises en œuvre.
• Signaler au fournisseur du SIA, ou à Santé Canada lorsque l’outil est homologué, les erreurs répétées ou tout incident de confidentialité, en fournissant une description factuelle, afin de permettre l’analyse et une correction du système ou de ses paramètres.
• Ajuster les modalités d’utilisation du SIA, voire en suspendre l’usage, lorsque les risques pour les patients ou la qualité des soins le justifient.

L’ampleur de cette démarche d’évaluation et de surveillance doit être proportionnelle à l’impact clinique potentiel du SIA, à son degré d’autonomie et à la nature des tâches qu’il soutient. 

Cette évaluation ne devrait pas se limiter au moment de l’implantation initiale considérant le risque de dérive (drift). Elle doit être répétée périodiquement, notamment lors de l’introduction d’une nouvelle version du SIA, lors d’un changement important de ses paramètres ou de son contexte d’utilisation, ou lorsque le SIA évolue de manière autonome.

De plus, tout incident ou accident associé à l’utilisation d’un SIA, ayant eu un impact réel ou potentiel sur la sécurité des soins, devrait faire l’objet d’une analyse de dossier selon une approche par critères implicites.

Un SIA devrait également être évalué périodiquement au moyen d’études par critères explicites. Celles-ci consistent en une revue systématique de certains dossiers ou de certaines situations dans lesquelles le SIA a été impliqué. Ces études sont effectuées à l’aide de paramètres prédéfinis par l’équipe médicale responsable. Elles peuvent viser, par exemple, la conformité des notes cliniques, la qualité des recommandations générées par le SIA ou des actions prises par celui-ci. 

Finalement, l’IA peut également aider les médecins qui utilisent un dossier clinique électronique à effectuer l’évaluation de la qualité de leur propre exercice en regroupant des données, en facilitant leur analyse, en produisant des indicateurs et en suggérant des pistes d’amélioration. Toutefois, l’interprétation des résultats et les décisions qui en découlent doivent demeurer sous la supervision et le contrôle du médecin ou de l’équipe médicale responsable. 

Conclusion 

L’IA est appelée à transformer l’exercice de la médecine. Le médecin doit être vigilant lors du choix d’un SIA et lors de son utilisation. Il doit demeurer à l’affût des avancées dans ce domaine et s’efforcer d’en comprendre les avantages, les risques et les répercussions sur les soins aux patients.

L’IA évolue rapidement et il peut être difficile, pour les organismes réglementaires, de suivre le rythme. En tout temps, le médecin doit agir avec professionnalisme et fonder son utilisation de l’IA sur les principes suivants : respect de l’autonomie, non-malfaisance, bienfaisance et équité. 

Publication : Octobre 2026