« La relation patient-soignant doit être replacée au centre de tout acte »

Avec un double diplôme en médecine légale et en informatique, votre profil est pour le moins atypique. Pourriez-vous revenir sur votre parcours ? 
Pr Joël Colloc : Étudiant en médecine à Lyon dans les années 80, j’ai découvert le monde de l’informatique qui m’a rapidement passionné. J’ai donc décidé de me former à ces nouvelles technologies en parallèle de mes études médicales. J’ai alors obtenu un Diplôme d'Études Supérieures Spécialisées (DESS) en micro-informatique de gestion, qui concernait la réalisation d’une première version SEXTANT (Système EXpert de Traitement ANTibiotique) en 1983. Puis, dans le cadre de ma thèse de médecine, j’ai complété la base de connaissances sur les maladies infectieuses et les antibiotiques à l’hôpital de la Croix Rousse avec le Pr Dominique Peyramond, pour élaborer en 1985 SIAMED (Système Informatique d’aide à l’Antibiothérapie MEDicale). Après avoir obtenu mon CES de médecine légale, j’ai ensuite participé à la prévention des toxicomanies au Centre National de Documentation sur les Toxicomanies (CNDT) et à l’hôpital Édouard Herriot avec le Dr Nicole Léry. 

Vous avez en parallèle poursuivi vos recherches en informatique.
J’ai effectivement obtenu un Diplôme d'Études Approfondies (DEA) puis un doctorat d’informatique à l’INSA de Lyon, autour d’Une approche orientée objet pour l’élaboration d’applications médicalesdestinées à l’aide au diagnostic des maladies. J’ai ensuite enseigné à Lyon, en tant qu’assistant hospitalier universitaire à la Faculté de Médecine puis en tant que Maître de Conférences à l’Université Lyon 3, avant d’être nommé Professeur des Universités en informatique au Havre en 2003. Je suis actuellement responsable de l’axe Santé-Risque-Parcours de vie de l’UMR CNRS IDEES 6266 de l’Université Le Havre-Normandie, qui est un laboratoire pluridisciplinaire du Centre National de la Recherche Scientifique (CNRS).

Vos travaux portent notamment sur les différentes formes d’intelligence artificielle (IA). Quelles sont-elles ?
Si l’IAest aujourd’hui à la croisée de plusieurs chemins, elle peutnéanmoins être classée en deux grandes familles, l’IA mimétique et l’IA autonome, auxquelles on peut ajouter un troisième groupe intermédiaire, le deep learning.Essentiellement utilisé pour la reconnaissance d’images et de formes, ce dernier se situe en effet à mi-chemin entre les IA autonome et mimétique. 
Comme son nom le laisse entendre, l’IA mimétique “mime” littéralement le médecin. En s’appuyant sur des bases de connaissances, elle est principalement utilisée dans des systèmes d’aide à la décision ou des systèmes experts. Elle doit donc disposer d’un grand nombre de données et de connaissances pour être la plus efficace possible, ce qui amène à s’interroger en particulier sur les problématiques d’interopérabilité sémantique : il n’est pas facile de faire coopérer des bases de données réalisées par des personnes différentes dans des buts différents. Dans ce contexte, le Programme de Médicalisation des Systèmes d'Information (PMSI) et les travaux réalisés sur les ontologies médicales sont très importants pour pouvoir exploiter ces données de manière optimale tout en garantissant leur qualité. 

Vous avez également évoqué l’IA autonome. Quelles sont ses spécificités ?  
Là aussi, la terminologie est parlante : l’IA autonome devrait, à terme, être capable d’apprendre seule, en enrichissant ses connaissances grâce à une connexion à internet ou via des algorithmes génétiques et évolutionnistes. Ces types de systèmes commencent à être effectifs, comme l’ont par exemple montré les démonstrations d’art artificiel. Toujours est-il que cette famille d’IA s’est développée avec l’apparition des systèmes multi-agents réactifs, donc constitués d’agents coordonnés, et des systèmes multi-agents cognitifs, c’est-à-dire composés d’agents dotés de bases de connaissances et qui peuvent échanger, prévoir des objectifs distincts… Ces technologies dites “IA distribuées” bénéficient ainsi d’une certaine autonomie, puisque chaque agent a conscience des capacités de ceux qui l’entourent et peut s’y adapter et coopérer. Développés depuis le milieu des années 90, ces systèmes multi-agents sont aujourd’hui très utilisés et peuvent même être associés à des outils d’informatique affective, mimant les émotions. Dans le champ médical, ce type de solutions est déjà intégré dans des chatbots, des robots “compagnons” pour les personnes dépendantes. 

L’utilisation d’une IA autonome au sein des outils médicaux soulève toutefois quelques problèmes juridiques… 
Effectivement, dans le cadre d’une IA mimétique, un professionnel de santé est toujours présent pour effectuer l’acte ou le superviser. En ce qui concerne les outils développés avec une IA autonome, la machine effectue son propre raisonnement, sans contrôle humain. Si elle se trompe, qui en serait responsable ? Sur le plan juridique, et puisque le robot n’est pas une personne, j’estime que c’est le constructeur qui devra porter la responsabilité civile pour ses machines. 

Les questionnements éthiques autour du numérique en santé concernent d’ailleurs une large part de vos travaux*. Selon vous, comment passer d’une éthique théorique à une éthique pratique dans l’utilisation des outils numériques en médecine ? 
Tout d’abord, il faut rappeler que chaque problème d’éthique est unique. La loi peutdonner des pistes, poser des garde-fous, mais chaque décision sera le résultat d’un consensusentre les différents acteurs qui gravitent autour du patient. En inscrivant l’éthique dans la loi, comme lors de la révision récente de la Loi de bioéthique, on essaie de structurer et de modéliser cette spirale. Mais ce cadre juridique ne peut pas être figé : il permet de définir les différentes responsabilités civiles et pénales, mais ne doit pas perdre de vue la dimension multifactorielle de l’éthique. 
Dans le cadre de l’informatique et plus particulièrement du numérique en santé, l’enjeu éthique le plus fréquemment rencontré a certainement trait à l’enregistrement et à l’utilisation de données des patients, et des données personnelles de santé en général. C’est d’ailleurs un problème posé par le monde numérique dans sa globalité, que ce soit au niveau des réseaux sociaux, des objets connectés, des données d’entreprises… 

Pour justement renforcer la protection des données des patients, vous dites privilégier les hub de connaissances par rapport aux hub de données. Quelles sont les différences entre ces deux systèmes ? 
Notre Health Data Hub(HDB) national est l’exemple type du hubde données : les informations médicales qui y sont stockées sont certes anonymisées et essentiellement utilisées à des fins de recherche, mais elles pourraient également servir à un potentiel profilage. La Commission Nationale de l'Informatique et des Libertés (CNIL) a d’ailleurs récemment demandé à ce que le HDB ne soit plus hébergé par Microsoft, ce qui représente une première avancée notable. Pour autant, il est à mon sens regrettable que le gouvernement, et notamment le secrétaire d’État en charge du Numérique, Cédric O, ne semblent pas remettre en question le principe-même du Health Data Hubalors que les principales inquiétudes portent sur la nature des données personnelles divulguées et non, uniquement, sur l’entreprise en charge de leur hébergement.
C’est pourquoi ma préférence va au health knowledge hub [Hubde connaissance, NDLR], un entrepôt de connaissances qui regroupe des informations théoriques et des critères de décision globaux, ce qui est bien plus sécurisant lorsqu’il s’agit de partager ces connaissances avec des investisseurs et des développeurs. Ces derniers ne doivent pas pouvoir accéder aux données médicales issues de la relation de soin, ni les traiter pour élaborer des dispositifs à destination des patients. Ils ne disposent ni des compétences pour les évaluer, ni de l’expérience nécessaire pour déterminer ce qui est utile au patient et aux soignants aux différentes étapes cliniques. Ces tiers, qui s’insinuent dans la relation de soin, vont anéantir toute confiance entre soignant et soigné.

Justement, comment replacer cette relation soignant-soigné au centre de la médecine ? 
Je ne suis pas contre l’IA, qui peut rendre de grands services en matière de soins dans le domaine clinique. Mais comme toute technologie puissante, elle peut provoquer de gros dégâts si elle est employée pour satisfaire des intérêts qui ne servent pas ceux de la médecine et des premiers concernés, les patients eux-mêmes. Garantir le secret médical représente donc, pour moi, un enjeu primordial pour remettre la relation patient-soignant au centre de la pratique médicale, qu’elle a d’ailleurs contribué à construire. Ce n’est qu’ainsi que nous pourrons redonner confiance dans l’acte de soins et limiter, par là-même, les risques de défiance et d’automédication dont les conséquences peuvent être dramatiques. Cela dit, pour que cette relation patient-soignant fonctionne, il faut certes redonner toute sa place au patient, mais ne pas non plus oublier les soignants. C’est un point qui peut paraître évident mais qu’il est bon de rappeler : le rôle du médecin est essentiel. Une médecine de qualité passe donc, avant tout, par la prise en compte des soignants auxquels toutes les avancées en termes d’IA doivent être dédiées. C’est pourquoi je ne crois pas, à titre personnel, à la médecine autonome : si l’on veut garantir l’éthique dans l’acte médical, le soignant est irremplaçable.


*Le Pr Joël Colloc a été invité à intervenir sur ces points lors du colloque « Numérique et Éthique », organisé en mai 2019 par la Cour de Cassation dans le cadre de la révision de la Loi de bioéthique. Une présentation à découvrir en vidéo sur :
www.courdecassation.fr/venements_23/colloques_4/colloques_videos_6111/bioethique_8607/intelligence_arti_42564.html.
 

Inscrit dans la continuité des débats sur la bioéthique, le livre La bioéthique en débat : quelle loi ? revient sur les différents points de vue partagés en vue de la récente révision de la loi. Paru en juillet 2020 et réalisé sous la direction de Bénédicte Bévière-Boyer, Dorothée Dibie et Astrid Marais, cet ouvrage collectif s’intéresse à toutes les problématiques d’éthique nées des avancées techniques et scientifiques. Tout au long de ses 252 pages, plusieurs acteurs du monde de la santé et du numérique y décrivent leurs missions, les évolutions de leur exercice ainsi que leurs points de vue. En tant que spécialiste de l’informatique et de la médecine, Joël Colloc y a signé l’article « Une méthode d’évaluation éthique des bénéfices et des risques de l’intelligence artificielle en médecine clinique ».