La société Française de Dermatologie (SFD), à l’initiative de son Groupe Télédermatologie et e-santé (Teldes) et avec la participation du Groupe de réflexion éthique (GéD), a mené une réflexion sur les risques éthiques liés au développement des applications dermatologiques de l’IA et propose la mise en œuvre de moyens pour s’en prémunir.
Les performances de l’IA en matière d’analyse d’images cliniques permettent la création d’outils diagnostiques. Leur atout est d’améliorer la fiabilité du diagnostic dermatologique et de faciliter l’accès de la population à cette expertise. Ce progrès doit être encadré afin d’en éviter les dérives et le mésusage.
Les performances de l’IA en matière d’analyse d’images cliniques permettent la création d’outils diagnostiques. Leur atout est d’améliorer la fiabilité du diagnostic dermatologique et de faciliter l’accès de la population à cette expertise. Ce progrès doit être encadré afin d’en éviter les dérives et le mésusage.
Les risques liés à l’utilisation de l’IA pour la reconnaissance d’images cliniques en dermatologie
Le 1er risque est l’absence d’accompagnement humain et médical lorsque le/la patient(e) est confronté(e) à un diagnostic potentiellement grave, « grain de beauté à risque élevé de mélanome » par exemple, suscitant chez lui/elle angoisse et/ou détresse alors que l’IA n’est pas en mesure de répondre à ses interrogations. Cette situation va à l’encontre du dispositif mis en place en 2006 par la HAS, la « consultation d’annonce », temps d’échanges et d’explications sur la maladie et son traitement entre patient(e) et professionnel de santé.
Le 2ème risque est la réduction de l’analyse clinique des lésions cutanées à celle de leur image photographique, en dehors de tout contexte clinique. L’interrogatoire et l’examen clinique de TOUTE la peau sont en effet indispensables et indissociables du diagnostic de la lésion dermatologique. En outre l’examen de toute la peau permet de ne pas méconnaitre d’autres lésions qui sont potentiellement plus significative que la lésion « choisie » pour l’analyse en IA.
Le 3ème risque est l’absence d’explication concernant la démarche d’apprentissage profond de l’IA suscite un questionnement sur le fonctionnement des algorithmes et la nécessité de leur réévaluation périodique. A ceci, se greffent des problèmes de reproductibilité, d’équité et de traçabilité. L’absence d’explication des prédictions des systèmes d’IA va à l’encontre du droit à l’information et met en danger l’autonomie décisionnelle et le consentement éclairé.
Enfin, l’IA pose le problème de la responsabilité médicale. En effet, qui endosse la responsabilité du diagnostic en cas de recours direct par le patient à un outil d’IA ? Et qu’en est-il de l’intervention d’un médecin dont la décision se fonde sur le résultat de l’IA ? La Commission Européenne réfléchit à une proposition de règlement sur cette question de la responsabilité. La captation des données personnelles et médicales d’un(e) patient(e) par un tiers non-médecin interroge aussi.
Le 2ème risque est la réduction de l’analyse clinique des lésions cutanées à celle de leur image photographique, en dehors de tout contexte clinique. L’interrogatoire et l’examen clinique de TOUTE la peau sont en effet indispensables et indissociables du diagnostic de la lésion dermatologique. En outre l’examen de toute la peau permet de ne pas méconnaitre d’autres lésions qui sont potentiellement plus significative que la lésion « choisie » pour l’analyse en IA.
Le 3ème risque est l’absence d’explication concernant la démarche d’apprentissage profond de l’IA suscite un questionnement sur le fonctionnement des algorithmes et la nécessité de leur réévaluation périodique. A ceci, se greffent des problèmes de reproductibilité, d’équité et de traçabilité. L’absence d’explication des prédictions des systèmes d’IA va à l’encontre du droit à l’information et met en danger l’autonomie décisionnelle et le consentement éclairé.
Enfin, l’IA pose le problème de la responsabilité médicale. En effet, qui endosse la responsabilité du diagnostic en cas de recours direct par le patient à un outil d’IA ? Et qu’en est-il de l’intervention d’un médecin dont la décision se fonde sur le résultat de l’IA ? La Commission Européenne réfléchit à une proposition de règlement sur cette question de la responsabilité. La captation des données personnelles et médicales d’un(e) patient(e) par un tiers non-médecin interroge aussi.
La Société Française de Dermatologie propose des mesures pour l’accompagnement et l’encadrement de l’IA pour la reconnaissance des images cliniques en dermatologie
L’IA doit rester « un outil », ses usages doivent être interrogés et le sens clinique – notamment la capacité à formuler une hypothèse diagnostique – ne doit pas être complètement abandonné à la machine.
L’usage de l’IA par le patient seul présente des risques. Une des missions de la SFD est de minimiser ces risques. Au vu des produits commercialisés, la SFD et le groupe Teldes tiennent à rappeler que l’accompagnement humain par un professionnel de santé est essentiel. Ils sollicitent les autorités de santé afin que le cadre réglementaire d’utilisation de l’IA soit clarifié, et que certaines pratiques non souhaitables soient régulées.
La SFD souhaite promouvoir l’usage de l’IA par les médecins généralistes en premiers recours. Cela permettrait d’améliorer le parcours de soin coordonné des patients : limitation du recours à l’avis spécialisé si cela n’est pas nécessaire ou au contraire, avis rapide auprès d’un dermatologue si suspicion de mélanome, par exemple. Le dermatologue lui-même pourrait aussi utiliser l’IA dans le dépistage des cancers cutanés.
Par ailleurs, la SFD propose une nouvelle organisation des réseaux de soins où les outils d’IA pourraient intégrer des outils de e-santé notamment de téléexpertise ou télésurveillance, éventuellement désynchronisés de la consultation médicale. Pour le dépistage des cancers cutanés, un(e) infirmièr(e) en pratique avancée utilisant l’IA pourrait ainsi réaliser l’examen de dépistage et assurer une action de prévention et une coordination avec le dermatologue en cas de lésion suspecte.
Dans cette perspective, la SFD et le Teldes ont la volonté de déployer un comité de surveillance pour concevoir et réaliser la formation des dermatologues, des médecins généralistes et professionnels de santé aux pratiques de l’IA en dermatologie et exercer une surveillance des sites et applications utilisant l’IA pour éviter toute dérive.
Parallèlement, la SFD insiste sur la nécessité de mener une campagne de sensibilisation afin d’informer le grand public sur les limites de l’IA en dermatologie.
L’usage de l’IA par le patient seul présente des risques. Une des missions de la SFD est de minimiser ces risques. Au vu des produits commercialisés, la SFD et le groupe Teldes tiennent à rappeler que l’accompagnement humain par un professionnel de santé est essentiel. Ils sollicitent les autorités de santé afin que le cadre réglementaire d’utilisation de l’IA soit clarifié, et que certaines pratiques non souhaitables soient régulées.
La SFD souhaite promouvoir l’usage de l’IA par les médecins généralistes en premiers recours. Cela permettrait d’améliorer le parcours de soin coordonné des patients : limitation du recours à l’avis spécialisé si cela n’est pas nécessaire ou au contraire, avis rapide auprès d’un dermatologue si suspicion de mélanome, par exemple. Le dermatologue lui-même pourrait aussi utiliser l’IA dans le dépistage des cancers cutanés.
Par ailleurs, la SFD propose une nouvelle organisation des réseaux de soins où les outils d’IA pourraient intégrer des outils de e-santé notamment de téléexpertise ou télésurveillance, éventuellement désynchronisés de la consultation médicale. Pour le dépistage des cancers cutanés, un(e) infirmièr(e) en pratique avancée utilisant l’IA pourrait ainsi réaliser l’examen de dépistage et assurer une action de prévention et une coordination avec le dermatologue en cas de lésion suspecte.
Dans cette perspective, la SFD et le Teldes ont la volonté de déployer un comité de surveillance pour concevoir et réaliser la formation des dermatologues, des médecins généralistes et professionnels de santé aux pratiques de l’IA en dermatologie et exercer une surveillance des sites et applications utilisant l’IA pour éviter toute dérive.
Parallèlement, la SFD insiste sur la nécessité de mener une campagne de sensibilisation afin d’informer le grand public sur les limites de l’IA en dermatologie.
Envoyer à un ami
Version imprimable
Partager