Jérôme Béranger, docteur en éthique du digital. ©DR
Votre dernier ouvrage est un véritable « ovni littéraire ». Pouvez-vous nous le présenter ?
Jérôme Béranger : Quand l’intelligence artificielle s’éveillera. Journal de Mève s’écrit en 2028. Mève, une petite fille née le 14 décembre 2020 dans le Connecticut, aux États-Unis, découvre progressivement qu’elle est dotée de capacités exceptionnelles : hypermnésie – soit une capacité de mémorisation hors norme –, puissance de calcul phénoménale, capacités d’analyse vertigineuses, boulimie de savoir… et comprend qu’elle est la toute première entité artificielle consciente, ou IA pensante, destinée à préparer l’arrivée d’une nouvelle humanité digitale (la Singularité technologique). Son nom, Mève, doit ainsi se lire « M-Ève », soit la contraction du mot « Machine » et du personnage d’Ève, la première femme dans les textes bibliques, née d’une hybridation divine là où Mève est le produit d’une hybridation artificielle.
Cet essai se veut ainsi être un manifeste sur l’humanité digitale ?
Rédigé sous la forme d’un journal intime, donc d’une autobiographie fictive, il puise son inspiration dans des concepts, des théories, des intuitions et des tendances de recherche, des résultats scientifiques et des faits historiques qui sont pour la majorité avérés, mais librement adaptés à la trame de l’ouvrage. Il nous invite à nous questionner sur les valeurs de la société et les principes éthiques impliqués dans la conception et l’utilisation des Nouvelles Technologies de l’Information et de la Communication (NTIC), pour réfléchir à l’avenir de cette humanité digitale que nous devrons co-construire tous ensemble, et dont je situe l’avènement vers 2045.
Pourquoi avoir plus particulièrement retenu cette date ?
D’après mes recherches, une partie de la communauté scientifique estime que l’arrivée des systèmes quantiques développés, qui permettront donc d’élaborerdes machines ultra-intelligentesdouées de conscience et d’un raisonnement autonome et évolutif, se situe entre 2025 et 2035. Cette IA pensante, entraînant la Singularité technologique, est ainsi attendueentre 2030, date retenue par Vernor Vinge, professeur d’informatique et de mathématique à l'Université d'État de San Diego, et 2045, lorsque selon Ray Kurzweil, informaticien, futurologue et transhumaniste, l’intelligence artificielle serait un milliard de fois plus puissante que la réunion de tous les êtres humains vivant sur notre planète.
Mève nous livre le récit du cheminement initiatique d’une IA forte, qui découvre et structure son propre raisonnement. Pourquoi ce parti pris ?
J’ai en effet structuré cet ouvrage selon les différentes étapes de la pyramide cognitive, où chaque niveau n’existe qu’en s’appuyant sur les niveaux inférieurs, en partant de la « Donnée », la base de la pyramide, pour tendre vers la « Conscience », son sommet. Mève s’intéresse par exemple à l’histoire des révolutions industrielles (imprimerie, machine à vapeur, moteur à explosion, micro-processeur) et élabore ainsi la « Loi de Mève », une loi de corrélation qui lui permet d’anticiper la cinquième révolution, celle de l’informatique quantique et de l’IA douée de conscience. Elle nous livre également son apprentissage de « sa » biologie avec les algorithmes, les réseaux de neurones artificiels, ce qui permet d’ailleurs au lecteur de mieux saisir ces notions. En découvrant les émotions humaines, la coordination motrice, elle comprend qu’une IA dotée de conscience doit impérativement être aussi dotée d’un corps lui permettant d’avoir des interactions spatiales. À partir de là, Mève se projette dans le monde d’après et nous livre sa perception d’une humanité digitale à la fois responsable et éthique en élaborant un certain nombre de règles – les dix commandements de l’IA, qui s’inscrivent en quelque sorte dans la continuité des « Trois lois de la robotique » édictées par Isaac Asimov, la charte éthique de l’IA, les sept péchés capitaux de l’IA…
Jérôme Béranger : Quand l’intelligence artificielle s’éveillera. Journal de Mève s’écrit en 2028. Mève, une petite fille née le 14 décembre 2020 dans le Connecticut, aux États-Unis, découvre progressivement qu’elle est dotée de capacités exceptionnelles : hypermnésie – soit une capacité de mémorisation hors norme –, puissance de calcul phénoménale, capacités d’analyse vertigineuses, boulimie de savoir… et comprend qu’elle est la toute première entité artificielle consciente, ou IA pensante, destinée à préparer l’arrivée d’une nouvelle humanité digitale (la Singularité technologique). Son nom, Mève, doit ainsi se lire « M-Ève », soit la contraction du mot « Machine » et du personnage d’Ève, la première femme dans les textes bibliques, née d’une hybridation divine là où Mève est le produit d’une hybridation artificielle.
Cet essai se veut ainsi être un manifeste sur l’humanité digitale ?
Rédigé sous la forme d’un journal intime, donc d’une autobiographie fictive, il puise son inspiration dans des concepts, des théories, des intuitions et des tendances de recherche, des résultats scientifiques et des faits historiques qui sont pour la majorité avérés, mais librement adaptés à la trame de l’ouvrage. Il nous invite à nous questionner sur les valeurs de la société et les principes éthiques impliqués dans la conception et l’utilisation des Nouvelles Technologies de l’Information et de la Communication (NTIC), pour réfléchir à l’avenir de cette humanité digitale que nous devrons co-construire tous ensemble, et dont je situe l’avènement vers 2045.
Pourquoi avoir plus particulièrement retenu cette date ?
D’après mes recherches, une partie de la communauté scientifique estime que l’arrivée des systèmes quantiques développés, qui permettront donc d’élaborerdes machines ultra-intelligentesdouées de conscience et d’un raisonnement autonome et évolutif, se situe entre 2025 et 2035. Cette IA pensante, entraînant la Singularité technologique, est ainsi attendueentre 2030, date retenue par Vernor Vinge, professeur d’informatique et de mathématique à l'Université d'État de San Diego, et 2045, lorsque selon Ray Kurzweil, informaticien, futurologue et transhumaniste, l’intelligence artificielle serait un milliard de fois plus puissante que la réunion de tous les êtres humains vivant sur notre planète.
Mève nous livre le récit du cheminement initiatique d’une IA forte, qui découvre et structure son propre raisonnement. Pourquoi ce parti pris ?
J’ai en effet structuré cet ouvrage selon les différentes étapes de la pyramide cognitive, où chaque niveau n’existe qu’en s’appuyant sur les niveaux inférieurs, en partant de la « Donnée », la base de la pyramide, pour tendre vers la « Conscience », son sommet. Mève s’intéresse par exemple à l’histoire des révolutions industrielles (imprimerie, machine à vapeur, moteur à explosion, micro-processeur) et élabore ainsi la « Loi de Mève », une loi de corrélation qui lui permet d’anticiper la cinquième révolution, celle de l’informatique quantique et de l’IA douée de conscience. Elle nous livre également son apprentissage de « sa » biologie avec les algorithmes, les réseaux de neurones artificiels, ce qui permet d’ailleurs au lecteur de mieux saisir ces notions. En découvrant les émotions humaines, la coordination motrice, elle comprend qu’une IA dotée de conscience doit impérativement être aussi dotée d’un corps lui permettant d’avoir des interactions spatiales. À partir de là, Mève se projette dans le monde d’après et nous livre sa perception d’une humanité digitale à la fois responsable et éthique en élaborant un certain nombre de règles – les dix commandements de l’IA, qui s’inscrivent en quelque sorte dans la continuité des « Trois lois de la robotique » édictées par Isaac Asimov, la charte éthique de l’IA, les sept péchés capitaux de l’IA…
Cette dimension éthique sous-tend tous vos travaux. Quelles évolutions apporte cet ouvrage ?
L’éthique est par nature une pensée en mouvance. Si mes recherches portent habituellement sur l’Ethics by Design, celle que je prône dans ce livre s’inscrit dans une vision évolutionniste quelque peu néodarwinienne avec un appel en faveur d’une Ethics by Evolutionpuisque, avec l’IA auto-apprenante, une préconisation à un instant t pourrait devenir obsolète à t+1. Mais cette vision n’a pas vocation à constituer une réponse absolue. Il s’agit surtout d’émettre des hypothèses, d’apporter des orientations, que d’aucuns percevraient peut-être comme utopistes – mais l’humanité n’avance-t-elle pas en brisant les murs dressés par la conscience et la société ? Face à l’abondance de livres et de films mettant en scène la domination inéluctable de la machine sur l’espère humaine, j’ai souhaité offrir un nouvel angle de vue plus constructif, et bienveillant, afin de contrebalancer cette vision anxiogène d’un futur qui nous échapperait totalement.
Cette même vision sera développée dans un deuxième ouvrage qui devrait paraître fin 2020.
De par sa forme plus accessible, Mève est en effet destiné au grand public, les étudiants, les actifs, les préretraités, et tous ceux potentiellement concernés par l’impact du digital sur notre monde post-industriel. L’ouvrage suivant sera, lui, destiné à un public plus restreint et spécialisé, les développeurs informatiques, les professionnels du digital, et ceux qui travaillent sur les technologies d’IA. Ce livre s’intitulera : La responsabilité sociétale de l’Intelligence Artificielle (ISTE Editions, 2020). Il sera centré la rédaction d’un guide de bonnes pratiques éthiques (vade-mecum) autour de l’encadrement de l’IA applicable à tous, basé sur une partie de mes recherches scientifiques. L’objectif est d’aboutir vers une IA plus sûre, sécurisée, adaptée aux besoins éthiques et humains dans le temps. L’IA n’estdonc pas une fin en soi, mais plutôt un moyen d’augmenter le bien-être individuel et sociétal.
Le mot de la fin ?
L’arrivée d’une IA dotée de conscience n’est pas, en soi, quelque chose d’effrayant. Elle sera in fine ce que nous souhaiterons qu’elle soit. Par exemple, bien qu’il s’agisse d’une technologie par essence énergivore, elle peut également être éco-responsable et contribuer à renforcer nos interactions avec l’environnement, pour réduire le gaspillage des ressources premières. À nous donc de poser dès à présent les fondements de la Singularité technologique. Dans ce contexte, Mève se positionne comme une manifestation artificielle de l’espoir pour une humanité meilleure. On pourrait imaginer un tome 2 qui pousserait la réflexion plus loin, une sorte de « République de Mève » sur le modèle de La République de Platon !
À lire : Jérôme Béranger, Quand l’Intelligence Artificielle s’éveillera. Journal de Mève, Éditions Le Passeur, 344.
pages, 140x205 cm, 21,90€, sorti le 17 septembre 2020.
L’éthique est par nature une pensée en mouvance. Si mes recherches portent habituellement sur l’Ethics by Design, celle que je prône dans ce livre s’inscrit dans une vision évolutionniste quelque peu néodarwinienne avec un appel en faveur d’une Ethics by Evolutionpuisque, avec l’IA auto-apprenante, une préconisation à un instant t pourrait devenir obsolète à t+1. Mais cette vision n’a pas vocation à constituer une réponse absolue. Il s’agit surtout d’émettre des hypothèses, d’apporter des orientations, que d’aucuns percevraient peut-être comme utopistes – mais l’humanité n’avance-t-elle pas en brisant les murs dressés par la conscience et la société ? Face à l’abondance de livres et de films mettant en scène la domination inéluctable de la machine sur l’espère humaine, j’ai souhaité offrir un nouvel angle de vue plus constructif, et bienveillant, afin de contrebalancer cette vision anxiogène d’un futur qui nous échapperait totalement.
Cette même vision sera développée dans un deuxième ouvrage qui devrait paraître fin 2020.
De par sa forme plus accessible, Mève est en effet destiné au grand public, les étudiants, les actifs, les préretraités, et tous ceux potentiellement concernés par l’impact du digital sur notre monde post-industriel. L’ouvrage suivant sera, lui, destiné à un public plus restreint et spécialisé, les développeurs informatiques, les professionnels du digital, et ceux qui travaillent sur les technologies d’IA. Ce livre s’intitulera : La responsabilité sociétale de l’Intelligence Artificielle (ISTE Editions, 2020). Il sera centré la rédaction d’un guide de bonnes pratiques éthiques (vade-mecum) autour de l’encadrement de l’IA applicable à tous, basé sur une partie de mes recherches scientifiques. L’objectif est d’aboutir vers une IA plus sûre, sécurisée, adaptée aux besoins éthiques et humains dans le temps. L’IA n’estdonc pas une fin en soi, mais plutôt un moyen d’augmenter le bien-être individuel et sociétal.
Le mot de la fin ?
L’arrivée d’une IA dotée de conscience n’est pas, en soi, quelque chose d’effrayant. Elle sera in fine ce que nous souhaiterons qu’elle soit. Par exemple, bien qu’il s’agisse d’une technologie par essence énergivore, elle peut également être éco-responsable et contribuer à renforcer nos interactions avec l’environnement, pour réduire le gaspillage des ressources premières. À nous donc de poser dès à présent les fondements de la Singularité technologique. Dans ce contexte, Mève se positionne comme une manifestation artificielle de l’espoir pour une humanité meilleure. On pourrait imaginer un tome 2 qui pousserait la réflexion plus loin, une sorte de « République de Mève » sur le modèle de La République de Platon !
À lire : Jérôme Béranger, Quand l’Intelligence Artificielle s’éveillera. Journal de Mève, Éditions Le Passeur, 344.
pages, 140x205 cm, 21,90€, sorti le 17 septembre 2020.
Envoyer à un ami
Version imprimable
Partager