Billet de blogue publié par Catherine Régis sur le rôle de l’IA en santé

Par Catherine Régis, professeure à la Faculté de droit de l’Université de Montréal, titulaire de la Chaire de recherche du Canada sur la culture collaborative en droit et politiques de la santé et co-directrice du Hub santé – politique, organisations et droit (H-POD).


* Une version plus succincte de ce billet a été publiée sur le site La Conversation.

Docteur, que me conseillez-vous de faire sur la base de vos 1 000 années d’expérience en médecine ? Cette question, qui aurait semblé saugrenue il y a quelques années, préoccupe de plus en plus les chercheurs, les professionnels de la santé et les citoyens depuis que les progrès fulgurants réalisés récemment dans le domaine de l’intelligence artificielle (IA) la rendent plausible. Bien que les spectres des avancées technologiques en IA soient larges, la santé se positionne comme l’un des domaines où les développements y seront les plus effervescents dans les années à venir. Les possibilités y sont nombreuses, voire enivrantes ! Difficile de ne pas se laisser séduire par la quête du précieux anneau d’or qui nous promet des soins et services de santé hautement efficaces, étroitement adaptés à nos besoins individuels et davantage accessibles.

Les possibilités de l’IA en santé se manifestent à l’échelle clinique et organisationnelle, laissant entrevoir, d’une part, des gains dans l’offre de soins destinée aux patients (qualité, pertinence, personnalisation et quantité) et, d’autre part, dans l’amélioration de l’organisation des systèmes de santé (efficience et réactivité). Parmi ces possibilités se trouve l’essor de capacités amplifiées de diagnostic médical au travers d’algorithmes informatiques analysant instantanément des dizaines de milliers de données comparables au cas d’un patient en particulier (d’où la référence aux 1 000 années d’expérience). Ces algorithmes, dans certaines situations, seront extrêmement performants, dépassant les capacités humaines d’analyse de données de votre médecin. Un autre exemple de possibilité qu’offre l’IA est celui qui consiste à utiliser des algorithmes pour optimiser la gestion des établissements de santé afin d’évaluer avec précision les priorités d’attribution de ressources, qu’il s’agisse de lits, personnel soignant, traitements, tests, et octrois de congés de soins, et ce, en se fondant sur une analyse complète en temps réel des besoins de l’ensemble des patients qui s’y trouvent. Les établissements deviendront éventuellement des environnements hautement virtuels dotés de «tours de contrôle» informatiques sophistiquées leur permettant de suivre l’état de santé des patients (à l’intérieur et à l’extérieur de l’établissement) en temps réel. Enfin, un troisième exemple est celui qui permet à des robots de contribuer à l’offre de soins et d’accompagnement à domicile en proposant des rappels quant à la médication à prendre et en captant les signes vitaux des patients – tout en les transmettant au personnel soignant. Ces robots peuvent au surplus servir à des fins de «compagnonnage» par une présence constante auprès des personnes à domicile et en disposant de capacités conversationnelles évoluées. Ces illustrations d’utilisation de l’IA en santé fournissent une idée de l’avenir technologique qui se dessine pour les patients, professionnels de la santé et systèmes de santé.

Mais, la quête du précieux anneau d’or n’est pas sans embuches ni périls éventuels… La récente Déclaration de Montréal sur l’IA responsable vient d’ailleurs nous les rappeler. À la hauteur des promesses de l’IA se trouvent des enjeux éthiques et juridiques fondamentaux qu’il convient de prendre en compte afin d’assurer que cette technologie soit, au-delà d’une prouesse technique, porteuse de progrès social accessible à tous.

Pour illustrer certains de ces enjeux, partons des trois exemples de développement d’IA  en santé mentionnés précédemment.

La responsabilité liée au diagnostic médical. Le cas des outils de diagnostic médicaux basés sur l’IA soulève des questions quant à la responsabilité des professionnels de la santé qui les utiliseront ou qui choisiront de les ignorer. Comment les médecins réagiront-ils à l’égard d’un outil diagnostic qui surpasse parfois leur propre aptitude d’analyse? Prendront-ils, ou devraient-ils prendre, le «risque» de s’en écarter ? Et quelle sera la réaction des tribunaux à l’égard d’un médecin qui a choisi de s’écarter de l’algorithme avec des conséquences néfastes pour le patient ou inversement, si la machine intelligente se trompe? La question se complexifie d’autant plus que l’IA, dans sa forme la plus sophistiquée (pensons à l’apprentissage profond), s’appuie sur un processus décisionnel opaque pour l’humain; il devient souvent impossible de comprendre ce processus et de l’expliquer. Le risque est, à terme, que le médecin devienne en quelque sorte l’outil de l’IA, et non l’inverse, et ce, en raison du «poids normatif» (le professeur Ian Kerr utilise l’expression «normative pull») qu’exerceront des outils d’une telle performance sur le jugement humain, surtout dans ce domaine fortement basé sur la reconnaissance de la valeur des données probantes.

Des pistes de solutions sont à explorer pour pallier ces préoccupations. Premièrement, un certain degré de transparence devrait être exigé des algorithmes utilisés dans le domaine des soins de santé afin que le professionnel de la santé puisse avoir une idée des variables prises en compte par ceux-ci, et ce, même si l’analyse comme telle lui restera obscure. En détenant ce type d’information, les professionnels de la santé seront plus en mesure d’en évaluer les forces et les limites eu égard aux caractéristiques médicales et sociales spécifiques de leurs propres patients. Cette transparence facilitera aussi le repérage, du moins en partie, d’éventuels biais discriminatoires découlant des données utilisées pour former l’algorithme (un autre enjeu au cœur des préoccupations de l’IA). Plus largement, il faudra définir quel degré de connaissance du fonctionnement des algorithmes est attendu des professionnels de la santé et offrir des formations initiales et continues adaptées pour leur permettre de les utiliser adéquatement. Enfin, il serait opportun d’obtenir la rétroaction des professionnels de la santé et des patients qui recourent à de tels outils afin de pouvoir en assurer l’évaluation et d’en viser l’amélioration sur la base de l’expérience des utilisateurs. Lors de cette évaluation, tant les résultats primaires (durée des hospitalisations, fréquence des réadmissions hospitalières, etc.) que secondaires (satisfaction des patients, confiance, anxiété, satisfaction dans le travail des professionnels, etc.) produits par les algorithmes devraient être considérés.

La vie privée et la gestion des ressources en santé. L’utilisation de l’IA au sein des établissements de santé afin d’en optimiser leur gestion soulève, entre autres, des enjeux de vie privée et de gouvernance. La matière première des outils d’analyse prédictive sera les données, dont plusieurs proviendront des patients. Et plus les données sur les patients seront riches et granulaires, plus l’efficacité de l’outil sera augmentée. En étant capable d’intégrer toutes les données de santé (tests, examens, résultats, etc.), incluant celles d’un téléphone intelligent (activités physiques, consommation d’alcool, variation du poids, etc.), ces algorithmes pourront développer des degrés de précision et d’évaluation des services offerts qui seront bénéfiques tant pour le patient que pour le système de santé en assurant une meilleure utilisation des ressources. Le risque en est toutefois que des données extrêmement sensibles transitent à plusieurs niveaux dans les organisations de soins et que des atteintes à la vie privée des individus en découlent, soit par nécessité de performance ou par utilisation malveillante ou négligente. D’ailleurs, les scandales Facebook et Cambridge Analytica nous forcent à enlever nos lunettes roses, si nous en avions, quant à la possibilité de tels évènements. La solution à cet égard demandera, d’une part, d’envisager des modalités appropriées de consentement à l’utilisation des données des patients adaptées à ces environnements virtuels de soins; ces modalités devront possiblement être souples quant aux modalités d’obtention, mais rigoureuses quant aux conditions de validité juridique (divulgation des utilisations projetées par exemple). D’autre part, pour consolider la confiance du public, il faudra maximiser la protection (sécurité et confidentialité) des systèmes informatiques des établissements, en y ajoutant des modalités de reddition de compte des gens qui les utilisent ainsi que des sanctions et compensations adéquates en cas d’incidents.

Divers enjeux de gouvernance découlent en outre de cette utilisation de l’IA dans les établissements de santé, dont un à plus large échelle sur la place de l’innovation dans des systèmes de santé publics déjà sous forte pression quant aux ressources. Le développement de capacités techniques pour soutenir l’implantation de ces environnements virtuels nécessitent des investissements financiers considérables, alors même que des soins et services de base (incluant l’accès à un médecin de famille !) sont encore parfois manquants à l’heure actuelle. L’innovation est fondamentale pour amener des solutions nouvelles à des problèmes qui perdurent ou pour faire face à des défis contemporains; toutefois, il faudra garder le cap sur une vision plus globale de l’allocation des ressources en santé prenant en compte des besoins immédiats et des opportunités futures.

Les relations humaines et l’intimité quant aux «robots soignants». Dans le cas des robots participant à l’offre de soin et d’accompagnement à domicile, des enjeux relatifs à l’appauvrissement des relations humaines et à la préservation d’espaces d’intimité dans la vie des individus sont notamment soulevés. Le fait de déléguer à des robots une mission de compagnonnage nous conduit à réfléchir sur les gestes et activités qui devront demeurer du ressort de l’humain et sur les circonstances où il sera judicieux de faire appel à des robots. Souhaitons-nous déléguer, en tout ou en partie, des fonctions relationnelles au robot? Cette situation mérite que nous définissions collectivement l’alliance humain-machine la plus fructueuse possible, celle qui permettra d’enrichir le bien-être des individus en leur permettant de consacrer davantage de temps aux fonctions qui donnent un sens à la vie humaine et qui contribuent à la dignité des personnes. Cette étape complétée, nous pourrons en consolider les fondements au sein des différents corpus normatifs qui balisent les pratiques de soin (codes de déontologie, lois, règlements, etc.). Quant à l’espace d’intimité, la présence constante d’un robot au domicile du patient, susceptible de lui donner des conseils, rappels et de colliger des données à son sujet (éventuellement transmissibles au personnel soignant ou à des membres de sa famille) soulève par exemple la question de la nécessité de préserver des espaces d’intimité qui permettront aux individus de se déconnecter de la vie (voire surveillance) numérique. Ils doivent pouvoir garder de tels espaces, notamment en raison du respect de leur liberté et de leur intégrité. Définir les pourtours d’un droit à la déconnexion numérique, dans divers domaines de la vie, répond en partie à cette préoccupation.

Voilà, brièvement abordées, des illustrations d’espoirs et d’enjeux qui découlent de l’introduction accrue de l’IA dans le vaste domaine de la santé. Il y en a de nombreux autres… L’élaboration d’un cadre juridique pour guider adéquatement le développement de ces technologies révolutionnaires s’impose. Et il nous faut toujours garder un esprit critique sain et dynamique face à l’IA afin de la réfléchir et de la développer d’une manière qui nous permettra, lorsque l’histoire nous jugera sur cette étape charnière de mutation sociétale, d’être fiers du progrès social pour tous que nous y avons puisé.

Je remercie mes collèges Marc-Antoine Dilhac et Marco Laverdière pour leurs précieux commentaires sur ce billet.

Ce contenu a été mis à jour le 22 mars 2019 à 11 h 03 min.

Commentaires

Laisser un commentaire