Claude Kirchner, directeur de recherche émérite de l'Inria, directeur du CNPEN et membre du CCNE. © Inria/Photo Kaksonen
Le 4 décembre 2019 se tenait la première réunion plénière du CNPEN. Un peu plus d’un an après, quel premier bilan tirez-vous de son action ?
Claude Kirchner : Cette année a été extrêmement dense. Créé, comme vous l’avez dit, en décembre 2019, le CNPEN a rapidement dû concentrer la majorité de son activité autour de la crise sanitaire. Nous nous sommes fortement mobilisés pour répondre aux interrogations liées à l’usage amplifié des outils numériques, en particulier suite à des saisines par les pouvoirs publics. Nous avons ainsi travaillé sur des sujets très variés, allant de la télémédecine à la détection de proximité, en passant par les applications numériques déployées pour suivre l’évolution de la pandémie ou encore la lutte contre la désinformation.
Le Gouvernement vous avait déjà saisi fin 2019 – soit quelques semaines avant la crise sanitaire – autour de trois sujets plus sociétaux : les véhicules autonomes, les agents conversationnels et le diagnostic médical à l’ère de l’intelligence artificielle. Avez-vous pu y travailler ?
Bien que les premiers mois de l’année 2020, et plus particulièrement le printemps, aient été quasiment entièrement dédiés à l’épidémie, nous n’avons effectivement pas cessé ces travaux, qui bénéficient chacun d’un groupe de travail dédié. Dans le cadre de la mission sur les agents conversationnels, par exemple, le CNPEN a lancé un appel à contributions – clôturé le 31 octobre dernier – qui nous a permis de recueillir plus d’une centaine de témoignages provenant de profils très variés. Le groupe de travail s’est donc basé sur ces contributions, mais aussi sur ses propres recherches, pour élaborer des recommandations sur la mise en œuvre, la conception, le développement et l’usage de ces outils qui prennent de plus en plus d’importance dans notre société. Ce document devrait être rendu public en mars 2021.
Qu’en est-il du recours à l’intelligence artificielle pour poser des diagnostics médicaux ? Quelles sont ici vos premières pistes ?
Avec la situation sanitaire et des difficultés à auditionner les personnes concernées, du moins lors des premiers mois de l’année 2020, ce sujet a été quelque peu retardé. Nous en sommes actuellement à l’étape d’audition et première rédaction, ce qui est un peu prématuré pour dévoiler les conclusions du CNPEN. Les constats et recommandations du groupe de travail devraient néanmoins être publiés dans le courant du mois d’avril.
Quels projets porterez-vous pour l’année 2021 ?
Le CNPEN a engagé toute une réflexion autour de l’intégration de l’ensemble des parties prenantes à ses travaux, y compris les entités régionales, nationales et internationales. L’un de nos groupes de travail est d’ailleurs dédié au développement de nos relations européennes et internationales. Sur le plan national et régional, nous avons initié des échanges avec la Conférence Nationale des Espaces de Réflexion Éthique Régionaux (CNERER) et plusieurs de ces Espaces de Réflexion Éthique Régionaux (ERER). Cette approche collégiale devrait, à terme, permettre de dynamiser les réflexions de chacun autour de l’éthique du numérique.
Cette année est charnière pour le CNPEN, qui est officiellement placé sous l’égide du Conseil Consultatif National d’Éthique (CCNE) jusqu’à la fin 2021. Comment envisagez-vous l’avenir du comité ?
Effectivement, jusqu’à la fin de l’année, le CNPEN est lié au CCNE. Nous verrons ensuite comment pérenniser l’activité de ce comité pilote. Ce qui est certain, c’est que les enjeux éthiques liés au numérique ne manquent pas. Nous devons donc continuer à nous mobiliser pour permettre à chacun d’en comprendre les enjeux et les impacts, à tous les niveaux. Ces derniers mois, l’épidémie a d’ailleurs véritablement souligné l’importance des outils numériques, sans lesquels nous aurions difficilement pu nous confiner. Cette situation difficile aurait sans aucun doute été bien pire si nous n’y avions pas eu accès. On peut donc dire que cette crise a non seulement révélé, mais aussi amplifié, nos usages du numérique.Pour autant, ceux-ci soulèvent un certain nombre de questions sur la maîtrise des plateformes utilisées, le respect de la vie privée ou encore le débat démocratique. Nous avons encore beaucoup de travail pour mieux comprendre comment se préserver des désagréments potentiellement liés au numérique. Ce chantier énorme n’en reste pas moins passionnant et utile, puisqu’il irriguera plusieurs décisions politiques sur la surveillance, la santé ou le séparatisme, par exemple, qui elles-mêmes contribueront à définir notre société. Mais effectuer les bons arbitrages autour de ces sujets essentiels impose de mieux associer les experts et la société civile. Je suis convaincu qu’un espace comme le CNPEN, qui intègre plusieurs profils et professions, apporte ici une réelle valeur ajoutée.
Un dernier mot ?
Pour résumer mon propos, je dirais que la première année d’existence du CNPEN nous montre combien la réflexion autour de l’éthique du numérique est fondamentale pour toutes les composantes de la société. Les travauxautour de ce sujet vaste nous permettentde nous positionner, de comprendre comment intégrer ces outils dans une société qui se les approprie chaque jour un peu plus.Le téléphone portable, par exemple, nous a déjà imposé un compromis, celui de révéler à chaque instant notre position mais d’accéder, en contrepartie, à une quantité d’informations incroyables, disponibles à tout moment dans notre main. Le numérique offre ces nouvelles capacités, mais il nous faut réfléchir à leurs implications et éclairer ainsi les décisions politiques qui doivent les accompagner démocratiquement.
*Institut national de recherche en sciences et technologies du numérique.
Claude Kirchner : Cette année a été extrêmement dense. Créé, comme vous l’avez dit, en décembre 2019, le CNPEN a rapidement dû concentrer la majorité de son activité autour de la crise sanitaire. Nous nous sommes fortement mobilisés pour répondre aux interrogations liées à l’usage amplifié des outils numériques, en particulier suite à des saisines par les pouvoirs publics. Nous avons ainsi travaillé sur des sujets très variés, allant de la télémédecine à la détection de proximité, en passant par les applications numériques déployées pour suivre l’évolution de la pandémie ou encore la lutte contre la désinformation.
Le Gouvernement vous avait déjà saisi fin 2019 – soit quelques semaines avant la crise sanitaire – autour de trois sujets plus sociétaux : les véhicules autonomes, les agents conversationnels et le diagnostic médical à l’ère de l’intelligence artificielle. Avez-vous pu y travailler ?
Bien que les premiers mois de l’année 2020, et plus particulièrement le printemps, aient été quasiment entièrement dédiés à l’épidémie, nous n’avons effectivement pas cessé ces travaux, qui bénéficient chacun d’un groupe de travail dédié. Dans le cadre de la mission sur les agents conversationnels, par exemple, le CNPEN a lancé un appel à contributions – clôturé le 31 octobre dernier – qui nous a permis de recueillir plus d’une centaine de témoignages provenant de profils très variés. Le groupe de travail s’est donc basé sur ces contributions, mais aussi sur ses propres recherches, pour élaborer des recommandations sur la mise en œuvre, la conception, le développement et l’usage de ces outils qui prennent de plus en plus d’importance dans notre société. Ce document devrait être rendu public en mars 2021.
Qu’en est-il du recours à l’intelligence artificielle pour poser des diagnostics médicaux ? Quelles sont ici vos premières pistes ?
Avec la situation sanitaire et des difficultés à auditionner les personnes concernées, du moins lors des premiers mois de l’année 2020, ce sujet a été quelque peu retardé. Nous en sommes actuellement à l’étape d’audition et première rédaction, ce qui est un peu prématuré pour dévoiler les conclusions du CNPEN. Les constats et recommandations du groupe de travail devraient néanmoins être publiés dans le courant du mois d’avril.
Quels projets porterez-vous pour l’année 2021 ?
Le CNPEN a engagé toute une réflexion autour de l’intégration de l’ensemble des parties prenantes à ses travaux, y compris les entités régionales, nationales et internationales. L’un de nos groupes de travail est d’ailleurs dédié au développement de nos relations européennes et internationales. Sur le plan national et régional, nous avons initié des échanges avec la Conférence Nationale des Espaces de Réflexion Éthique Régionaux (CNERER) et plusieurs de ces Espaces de Réflexion Éthique Régionaux (ERER). Cette approche collégiale devrait, à terme, permettre de dynamiser les réflexions de chacun autour de l’éthique du numérique.
Cette année est charnière pour le CNPEN, qui est officiellement placé sous l’égide du Conseil Consultatif National d’Éthique (CCNE) jusqu’à la fin 2021. Comment envisagez-vous l’avenir du comité ?
Effectivement, jusqu’à la fin de l’année, le CNPEN est lié au CCNE. Nous verrons ensuite comment pérenniser l’activité de ce comité pilote. Ce qui est certain, c’est que les enjeux éthiques liés au numérique ne manquent pas. Nous devons donc continuer à nous mobiliser pour permettre à chacun d’en comprendre les enjeux et les impacts, à tous les niveaux. Ces derniers mois, l’épidémie a d’ailleurs véritablement souligné l’importance des outils numériques, sans lesquels nous aurions difficilement pu nous confiner. Cette situation difficile aurait sans aucun doute été bien pire si nous n’y avions pas eu accès. On peut donc dire que cette crise a non seulement révélé, mais aussi amplifié, nos usages du numérique.Pour autant, ceux-ci soulèvent un certain nombre de questions sur la maîtrise des plateformes utilisées, le respect de la vie privée ou encore le débat démocratique. Nous avons encore beaucoup de travail pour mieux comprendre comment se préserver des désagréments potentiellement liés au numérique. Ce chantier énorme n’en reste pas moins passionnant et utile, puisqu’il irriguera plusieurs décisions politiques sur la surveillance, la santé ou le séparatisme, par exemple, qui elles-mêmes contribueront à définir notre société. Mais effectuer les bons arbitrages autour de ces sujets essentiels impose de mieux associer les experts et la société civile. Je suis convaincu qu’un espace comme le CNPEN, qui intègre plusieurs profils et professions, apporte ici une réelle valeur ajoutée.
Un dernier mot ?
Pour résumer mon propos, je dirais que la première année d’existence du CNPEN nous montre combien la réflexion autour de l’éthique du numérique est fondamentale pour toutes les composantes de la société. Les travauxautour de ce sujet vaste nous permettentde nous positionner, de comprendre comment intégrer ces outils dans une société qui se les approprie chaque jour un peu plus.Le téléphone portable, par exemple, nous a déjà imposé un compromis, celui de révéler à chaque instant notre position mais d’accéder, en contrepartie, à une quantité d’informations incroyables, disponibles à tout moment dans notre main. Le numérique offre ces nouvelles capacités, mais il nous faut réfléchir à leurs implications et éclairer ainsi les décisions politiques qui doivent les accompagner démocratiquement.
*Institut national de recherche en sciences et technologies du numérique.
Article publié dans le numéro de février d'Hospitalia à consulter ici.
Envoyer à un ami
Version imprimable
Partager