Comment les établissements de santé appréhendent-ils aujourd’hui les technologies d’intelligence artificielle ?
Jean-François Goglin : Ils font un peu office de ‘village gaulois’, à l’heure où l’intelligence artificielle s’insère partout dans l’environnement des citoyens-usagers-patients, même s’ils n’en ont pas toujours conscience. En effet, l’assistant vocal sur leur Smartphone ou leur ordinateur de dernière génération, le chat-bot intelligent qui les assiste lors de leurs achats en ligne ou l’algorithme qui leur permet d’effectuer des recherches sur le Web sont tous basés sur des technologies d’intelligence artificielle. Au-delà des objets du quotidien, l’IA est d’ailleurs de plus en plus embarquée dans les infrastructures. Les villes, les domiciles deviennent intelligents, c’est l’avènement de la Smart City et du Smart Home, mais aussi du Caring Home intégrant des dispositifs de santé connectée et qui voit peu à peu le centre de gravité des soins passer de l’Hôpital vers le domicile. Assez étrangement, les établissements de santé semblent échapper à cette omniprésence.
Ils sont pourtant soumis à de fortes pressions environnementales…
Plus informé, plus connecté, le citoyen-usager-patient est en effet de plus en plus le capitaine de sa propre santé, dans une relation refondue avec le praticien. Plus exigeants quant à la qualité des prises en charge, son entourage et lui-même mettent les établissements en concurrence, ce qui accentue la pression en faveur d’une meilleure intégration du digital. Le changement viendra donc des pressions extérieures, ou non de pressions internes ou règlementaires. Prenez la gouvernance hospitalière. Plus aucun maillon de sa chaîne de valeur n’échappe à l’intelligence artificielle : en gestion des ressources humaines, les entreprises y ont déjà recours pour effectuer les premiers entretiens de recrutement ; en logistique, les véhicules autonomes sont déjà une réalité. Il est donc important que les directeurs ou les conseils d’administration des établissements de santé comprennent le digital comme un virage nécessaire, et voient l’intelligence artificielle comme une opportunité.
Jean-François Goglin : Ils font un peu office de ‘village gaulois’, à l’heure où l’intelligence artificielle s’insère partout dans l’environnement des citoyens-usagers-patients, même s’ils n’en ont pas toujours conscience. En effet, l’assistant vocal sur leur Smartphone ou leur ordinateur de dernière génération, le chat-bot intelligent qui les assiste lors de leurs achats en ligne ou l’algorithme qui leur permet d’effectuer des recherches sur le Web sont tous basés sur des technologies d’intelligence artificielle. Au-delà des objets du quotidien, l’IA est d’ailleurs de plus en plus embarquée dans les infrastructures. Les villes, les domiciles deviennent intelligents, c’est l’avènement de la Smart City et du Smart Home, mais aussi du Caring Home intégrant des dispositifs de santé connectée et qui voit peu à peu le centre de gravité des soins passer de l’Hôpital vers le domicile. Assez étrangement, les établissements de santé semblent échapper à cette omniprésence.
Ils sont pourtant soumis à de fortes pressions environnementales…
Plus informé, plus connecté, le citoyen-usager-patient est en effet de plus en plus le capitaine de sa propre santé, dans une relation refondue avec le praticien. Plus exigeants quant à la qualité des prises en charge, son entourage et lui-même mettent les établissements en concurrence, ce qui accentue la pression en faveur d’une meilleure intégration du digital. Le changement viendra donc des pressions extérieures, ou non de pressions internes ou règlementaires. Prenez la gouvernance hospitalière. Plus aucun maillon de sa chaîne de valeur n’échappe à l’intelligence artificielle : en gestion des ressources humaines, les entreprises y ont déjà recours pour effectuer les premiers entretiens de recrutement ; en logistique, les véhicules autonomes sont déjà une réalité. Il est donc important que les directeurs ou les conseils d’administration des établissements de santé comprennent le digital comme un virage nécessaire, et voient l’intelligence artificielle comme une opportunité.
Jean-François Goglin, Conseiller national Systèmes d’Information de Santé auprès de la FEHAP
La FEHAP se positionne ici comme un précurseur, avec la création d’un groupe de travail dédié à l ’Intelligence Artificielle.
Tout commence il y a trois ans. Un établissement adhérent à la Fédération avait sollicité notre aide dans le cadre d’un projet de codage intelligent des actes du PMSI. Ses travaux étaient déjà avancés, mais les jeux de données dont il disposait étaient insuffisants pour couvrir tous les cas de figure. Mettant à profit l’expérience, ancienne, de la FEHAP en matière de Living Lab et de développements collaboratifs, le Groupe IA a alors été fondé pour soutenir le développement de solutions pensées pour le bien commun et duplicables à l’échelle du système de santé. Nous sommes d’ailleurs frappés par l’incroyable énergie créative de nos adhérents !
Pouvez-vous nous donner quelques exemples ?
Début 2018, au sein de l’Association pour adultes et jeunes handicapés (APAJH), une petite structure située à Pionsat, un bourg du Puy-de-Dôme, a activement participé à une première mondiale : la réalisation d’un exosquelette intelligent conçu sans béquilles, qui permet aux personnes paraplégiques de marcher de manière autonome. Un autre adhérent travaille à la création d’un dossier de synthèse intelligent, automatiquement rédigé à partir du dossier patient en fonction de la typologie de l’établissement et des modalités de prise en charge d’une pathologie. Il n’est donc pas nécessaire de disposer de moyens importants pour arriver à ses fins : l’innovation est avant tout un état d’esprit. Il faut savoir être astucieux : le Groupe Hospitalier de l’Institut Catholique de Lille a par exemple financé son robot de gestion de la douleur grâce à la Coupe Davis, une compétition internationale de tennis masculin !
Le Groupe IA travaille également sur les risques soulevés par la montée en puissance de l’intelligence artificielle.
Cette technologie impose en effet un certain nombre de précautions sur le champ de l’éthique : elle s’appuie sur un système apprenant, lui-même très sensible aux erreurs humaines. Il faut donc être attentif aux jeux de données utilisés et à leur présentation, pour prévenir les risques de sur-apprentissage. Les données initiales peuvent également être orientées, même involontairement, ce qui peut aboutir à des ‘prophéties auto-réalisatrices’. Elles peuvent aussi être non représentatives, et l’algorithme sera alors fondamentalement inéquitable. Par ailleurs, des médecins de la prestigieuse université de Stanford, aux États-Unis ont récemment alerté sur de potentielles tromperies volontaires servant des intérêts privés – une sorte de ‘manipulation des foules’ appliquée à la santé. Pour détecter ces biais, les médecins devront impérativement savoir tracer le raisonnement de la machine, ce qui nécessite une formation spécifique. La difficulté est qu’aujourd’hui, même leurs concepteurs ne sont pas en capacité d’analyser la manière dont les réseaux de neurones profonds arrivent à leurs conclusions ; c’est le fameux « effet boîte noire » du deep learning. Qui sera responsable des décisions prises par un algorithme : son concepteur ou son utilisateur ? Quid d’ailleurs du statut juridique des robots ?
L’IA questionne donc le système de santé dans son ensemble.
Ses ramifications sont en effet nombreuses. Prenez la formation des étudiants en médecine, aujourd’hui basée sur l’accumulation des connaissances. Ce qui est somme toute logique, le médecin étant d’abord un expert cognitif. Mais un robot sera toujours plus performant, et entrera en concurrence directe avec lui. Savez-vous qu’en novembre 2017, un robot chinois a réussi le concours d’entrée en médecine, outrepassant les performances moyennes des étudiants ? Nous devons donc repenser le système pour pouvoir fonctionner en synergie avec ces assistants précieux, et mieux mettre à profit les compétences qui nous sont spécifiques – capacité d’innovation, compassion, empathie, management participatif, … Demain, la relation médecin-patient sera une relation tripartite robot-médecin-patient ; la valeur ajoutée du médecin tiendra alors à sa dimension humaine. Mais il est loin d’être le seul impacté par ces mutations : en établissement de santé, 40% des tâches sont potentiellement automatisables. Les risques économiques sont bien réels, et imposent de refondre la gestion prévisionnelle des emplois et des compétences.
D’autant qu’ainsi que vous l’évoquiez au début de cet échange, le centre de gravité des soins passe de l’Hôpital vers le domicile.
Ce transfert met en effet à profit la transversalité de l’IA : la technologie est en mesure de coupler des signaux forts (électrocardiogramme, poids, tension, etc.) avec des signaux faibles, par exemple certaines habitudes quotidiennes de la personne suivie à domicile et qui pourraient être significatives pour détecter un problème éventuel – quelqu’un qui n’ouvre pas ses volets un matin alors qu’il le fait habituellement tous les jours pourrait avoir fait un malaise pendant la nuit. Aux États-Unis, certains commerçants du voisinage direct du patient sont d’ailleurs rémunérés pour faire remonter ces signaux faibles. Le système, redoutable, connaît alors tout de nous, ce qui peut conduire à une érosion potentiellement importante de notre vie privée. Si les applications de l’intelligence artificielle en santé sont chaque jour plus nombreuses, toute la question est donc de savoir jusqu’où nous ne souhaitons pas aller.
La stratégie nationale est-elle aujourd’hui à la hauteur en matière d’IA ?
Malheureusement, faute d’une réelle prise en compte des enjeux, les actions et les moyens mis au regard, sont encore très dispersés. Les États-Unis ont déjà de l’avance, d’autant que les GAFA sont très actifs sur le champ de l’intelligence artificielle. Mais c’est surtout la Chine qui est en passe de gagner la bataille de l’IA. La Russie y investit également massivement. Ce qui n’est pas sans poser problème : le modèle social de ces deux pays est basé sur la défense de l’intérêt collectif, alors que notre modèle est plutôt centré sur la défense des droits individuels. Le risque est grand de nous voir imposer des solutions fondamentalement inadéquates avec nos valeurs essentielles. S’il y a un salut, il viendra de l’Europe : ce n’est qu’ainsi que nous pourrons disposer de moyens suffisants pour faire face à la concurrence. Encore faudrait-il que les mentalités changent. Prenez les récents travaux sur l’ouverture des données de santé… qui se sont finalement traduits par une procédure d’accès trop longue qui vaut fermeture ! Il faut dire que les bases de données de la CNAM ne sont pas les plus pertinentes pour alimenter des algorithmes : elles sont structurées de manière à alimenter un système de production et de facturation des actes de santé, plutôt qu’un système décisionnel utilisable en recherche clinique. Tout est à faire. Mais pendant que nous débattons, d’autres avancent à grands pas, ce qui est bien malheureux. Nous risquons de rater le virage de l’IA, et à la limite de rater celui de la Blockchain – mais c’est là un autre débat.
Interview réalisée par Joëlle Hayek dans le numéro 42 d'Hospitalia, magazine à consulter en intégralité ici.
Tout commence il y a trois ans. Un établissement adhérent à la Fédération avait sollicité notre aide dans le cadre d’un projet de codage intelligent des actes du PMSI. Ses travaux étaient déjà avancés, mais les jeux de données dont il disposait étaient insuffisants pour couvrir tous les cas de figure. Mettant à profit l’expérience, ancienne, de la FEHAP en matière de Living Lab et de développements collaboratifs, le Groupe IA a alors été fondé pour soutenir le développement de solutions pensées pour le bien commun et duplicables à l’échelle du système de santé. Nous sommes d’ailleurs frappés par l’incroyable énergie créative de nos adhérents !
Pouvez-vous nous donner quelques exemples ?
Début 2018, au sein de l’Association pour adultes et jeunes handicapés (APAJH), une petite structure située à Pionsat, un bourg du Puy-de-Dôme, a activement participé à une première mondiale : la réalisation d’un exosquelette intelligent conçu sans béquilles, qui permet aux personnes paraplégiques de marcher de manière autonome. Un autre adhérent travaille à la création d’un dossier de synthèse intelligent, automatiquement rédigé à partir du dossier patient en fonction de la typologie de l’établissement et des modalités de prise en charge d’une pathologie. Il n’est donc pas nécessaire de disposer de moyens importants pour arriver à ses fins : l’innovation est avant tout un état d’esprit. Il faut savoir être astucieux : le Groupe Hospitalier de l’Institut Catholique de Lille a par exemple financé son robot de gestion de la douleur grâce à la Coupe Davis, une compétition internationale de tennis masculin !
Le Groupe IA travaille également sur les risques soulevés par la montée en puissance de l’intelligence artificielle.
Cette technologie impose en effet un certain nombre de précautions sur le champ de l’éthique : elle s’appuie sur un système apprenant, lui-même très sensible aux erreurs humaines. Il faut donc être attentif aux jeux de données utilisés et à leur présentation, pour prévenir les risques de sur-apprentissage. Les données initiales peuvent également être orientées, même involontairement, ce qui peut aboutir à des ‘prophéties auto-réalisatrices’. Elles peuvent aussi être non représentatives, et l’algorithme sera alors fondamentalement inéquitable. Par ailleurs, des médecins de la prestigieuse université de Stanford, aux États-Unis ont récemment alerté sur de potentielles tromperies volontaires servant des intérêts privés – une sorte de ‘manipulation des foules’ appliquée à la santé. Pour détecter ces biais, les médecins devront impérativement savoir tracer le raisonnement de la machine, ce qui nécessite une formation spécifique. La difficulté est qu’aujourd’hui, même leurs concepteurs ne sont pas en capacité d’analyser la manière dont les réseaux de neurones profonds arrivent à leurs conclusions ; c’est le fameux « effet boîte noire » du deep learning. Qui sera responsable des décisions prises par un algorithme : son concepteur ou son utilisateur ? Quid d’ailleurs du statut juridique des robots ?
L’IA questionne donc le système de santé dans son ensemble.
Ses ramifications sont en effet nombreuses. Prenez la formation des étudiants en médecine, aujourd’hui basée sur l’accumulation des connaissances. Ce qui est somme toute logique, le médecin étant d’abord un expert cognitif. Mais un robot sera toujours plus performant, et entrera en concurrence directe avec lui. Savez-vous qu’en novembre 2017, un robot chinois a réussi le concours d’entrée en médecine, outrepassant les performances moyennes des étudiants ? Nous devons donc repenser le système pour pouvoir fonctionner en synergie avec ces assistants précieux, et mieux mettre à profit les compétences qui nous sont spécifiques – capacité d’innovation, compassion, empathie, management participatif, … Demain, la relation médecin-patient sera une relation tripartite robot-médecin-patient ; la valeur ajoutée du médecin tiendra alors à sa dimension humaine. Mais il est loin d’être le seul impacté par ces mutations : en établissement de santé, 40% des tâches sont potentiellement automatisables. Les risques économiques sont bien réels, et imposent de refondre la gestion prévisionnelle des emplois et des compétences.
D’autant qu’ainsi que vous l’évoquiez au début de cet échange, le centre de gravité des soins passe de l’Hôpital vers le domicile.
Ce transfert met en effet à profit la transversalité de l’IA : la technologie est en mesure de coupler des signaux forts (électrocardiogramme, poids, tension, etc.) avec des signaux faibles, par exemple certaines habitudes quotidiennes de la personne suivie à domicile et qui pourraient être significatives pour détecter un problème éventuel – quelqu’un qui n’ouvre pas ses volets un matin alors qu’il le fait habituellement tous les jours pourrait avoir fait un malaise pendant la nuit. Aux États-Unis, certains commerçants du voisinage direct du patient sont d’ailleurs rémunérés pour faire remonter ces signaux faibles. Le système, redoutable, connaît alors tout de nous, ce qui peut conduire à une érosion potentiellement importante de notre vie privée. Si les applications de l’intelligence artificielle en santé sont chaque jour plus nombreuses, toute la question est donc de savoir jusqu’où nous ne souhaitons pas aller.
La stratégie nationale est-elle aujourd’hui à la hauteur en matière d’IA ?
Malheureusement, faute d’une réelle prise en compte des enjeux, les actions et les moyens mis au regard, sont encore très dispersés. Les États-Unis ont déjà de l’avance, d’autant que les GAFA sont très actifs sur le champ de l’intelligence artificielle. Mais c’est surtout la Chine qui est en passe de gagner la bataille de l’IA. La Russie y investit également massivement. Ce qui n’est pas sans poser problème : le modèle social de ces deux pays est basé sur la défense de l’intérêt collectif, alors que notre modèle est plutôt centré sur la défense des droits individuels. Le risque est grand de nous voir imposer des solutions fondamentalement inadéquates avec nos valeurs essentielles. S’il y a un salut, il viendra de l’Europe : ce n’est qu’ainsi que nous pourrons disposer de moyens suffisants pour faire face à la concurrence. Encore faudrait-il que les mentalités changent. Prenez les récents travaux sur l’ouverture des données de santé… qui se sont finalement traduits par une procédure d’accès trop longue qui vaut fermeture ! Il faut dire que les bases de données de la CNAM ne sont pas les plus pertinentes pour alimenter des algorithmes : elles sont structurées de manière à alimenter un système de production et de facturation des actes de santé, plutôt qu’un système décisionnel utilisable en recherche clinique. Tout est à faire. Mais pendant que nous débattons, d’autres avancent à grands pas, ce qui est bien malheureux. Nous risquons de rater le virage de l’IA, et à la limite de rater celui de la Blockchain – mais c’est là un autre débat.
Interview réalisée par Joëlle Hayek dans le numéro 42 d'Hospitalia, magazine à consulter en intégralité ici.
Envoyer à un ami
Version imprimable
Partager