Dignité, intelligence artificielle, neurotechnologies et secteur médical

Prof. émérite Yves POULLET

Université de Namur
Membre du Namur Data Institute (NaDI), de l’APD de Belgique, du laboratoire ETHICS de l’UCLille,
de la CCF (Interpol), et de l’Académie royale de Belgique, expert auprès de l’UNESCO et du Conseil de l’Europe

Conférence donnée lors du congrès « IA et médecine : le défi de la dignité humaine », organisé par l'Académie pontificale pour la vie et la Fédération internationale des associations médicales catholiques (FIAMC), du 10 au 12 novembre 2025, à Rome.

Le remède qui inquiète

L’intelligence artificielle (en abrégé IA) dans le secteur de la santé est un des domaines majeurs de développement des applications de l’intelligence artificielle, aux bénéfices nombreux pour la santé, ses acteurs, les patients, la recherche scientifique et les entreprises qui investissent en la matière. Elle est le remède à tous nos maux, en particulier celui du manque de vocations au sein du secteur médical, celui de l’erreur médicale et l’instrument de l’innovation au service de tous. Elle inquiète cependant. Son irruption dans la relation médecin-patient ne déshumanise-t-elle pas cette dernière ? N’est-elle pas source d’erreurs, de discriminations dans l’accès aux soins, de « commercialisation » de la santé ?  Bref, l’utilisation croissante dans le domaine médical des technologies émergentes, celles de l’intelligence artificielle, du cloud, de l’internet des objets et les avancées des neurosciences et des NBIC, en particulier dans le domaine de la génomique, rendent urgente la réflexion autour du respect de la dignité du patient mais également du praticien de l’art de guérir. Cette valeur est célébrée notamment par le Vatican et l’UNESCO comme essentielle pour protéger le citoyen face aux risques liés à l’IA et tout récemment aux neurotechnologies.

La dignité constitue le principe selon lequel toute personne ne doit jamais être traitée comme un objet ou comme un moyen, mais toujours comme une fin en soi, une entité intrinsèque infiniment respectable, un être que je dois respecter dans son autonomie, un être que je dois traiter comme égal à tout autre.

Sans doute, la notion de dignité a déjà fait l’objet de nombreux propos. Je serai donc bref à ce sujet. Qu’il suffise de savoir que la dignité de la personne humaine constitue, dans la pensée kantienne, le principe selon lequel toute personne ne doit jamais être traitée comme un objet ou comme un moyen, mais toujours comme une fin en soi, une entité intrinsèque infiniment respectable, un être que je dois respecter dans son autonomie, un être que je dois traiter comme égal à tout autre. Si la dignité est la première des valeurs éthiques, cette valeur est également le premier des droits de l’homme et nous invite à nous interroger : que signifie le droit du patient à la dignité face à des technologies de plus en plus invasives et prédictives ?     

La dignité du patient mise en cause?

En quoi, l’IA et les neurotechnologies modifient-t-elles profondément l’art médical et mettent en cause la dignité du patient ? Sans être complet, relevons quatre points.  

• Le premier constate que la technologie réduit de plus en plus le patient à des données en créant l’illusion que la vérité sortira de ces dernières puisque les données, au contraire des humains, ne mentent pas. A l’heure d’une technologie ubiquitaire, prétendument capable à partir d’un cheveu de prédire le futur de notre santé et de détecter mieux que nos spécialistes humains la présence d’une tumeur, à l’heure d’une science capable de modifier notre bagage génétique et de décrypter le fonctionnement de notre cerveau pour y lire nos pensées ou deviner nos actions, pourquoi le médecin devrait-il s’encombrer d’un dialogue désormais inutile avec le patient ? Mais est-il réellement inutile, lorsque les médecins reconnaissent que c’est souvent aux hasards du dialogue, du dit comme du non-dit que les données s’éclairent ou se corrigent et que le « droit au dialogue » découle du respect (de la dignité) du patient. A ce sentiment, répond l’exigence de « garantie humaine », c’est-à-dire d’une présence humaine effective et à l’écoute du patient, en cas de recours à l’outil technologique.     

• Le deuxième souligne l’opacité du fonctionnement de l’outil. Cette opacité peut cacher les biais humains qui ont présidé à sa conception ou à sa mise sur pied voire les erreurs de programmation autant que les dérives d’un système de machine learning peut suivre au cours de sa vie ? Elle est d’autant plus dangereuse à l’heure de technologies qui ne se limitent pas à décrire notre état de santé présent mais à prédire son futur, voire à décider et que ces technologies risquent d’être l’objet de la confiance  du corps médical aveuglé par leurs performances largement relayées par leurs promoteurs. La dignité humaine n’impose-t-elle pas le droit du patient à la transparence du fonctionnement des technologies qu’il utilise, de celles que le praticien de l’art de guérir ; n’exige-t-il pas l’explicabilité des algorithmes utilisés et la contestation des décisions prises sur base de ces derniers?

• Le troisième s’entend d’un secteur de plus en plus en plus envahi par des acteurs étrangers au monde médical, plus soucieux d’intérêts économiques et de parts de marché que du seul soin aux patients. La recherche médicale est désormais en grande partie leur fait ; Chat GpT est devenu le « conseiller » médical du patient ; l’utilisation à des fins d’augmentation des performances humaines de solutions comme des implants cérébraux ou des exosquelettes au départ conçues pour soigner des désordres mentaux ou la perte d’un membre. Cette situation met en danger l’impératif de justice sociale qu’exige la dignité humaine, en réservant à ceux qui peuvent payer l’accès à ces services. On ajoute la difficulté pour les pays dits en développement d’acquérir une technologie qui serait nécessaire aux développements d’applications adéquates à leurs contextes économiques et culturels.          

• Le quatrième concerne les conséquences de la convergence des technologies de l’intelligence artificielle et de la neurotechnologie. Les progrès des neurosciences permettent désormais à certains de collecter les données de fonctionnement de notre cerveau, d’y lire nos intentions indépendamment du fait de tout passage à l’action ou de toute autre forme d’expression (par exemple, un rictus sur le visage marquant ma défiance ou mon découragement), d’intervenir y compris à distance et de modifier le fonctionnement de notre cerveau, notamment par des implants, voire par la connexion à des bases externes. Il s’agit ici de protéger la liberté de penser, au-delà de l’expression de notre pensée, fondement même de notre autonomie et de notre dignité. Ce constat amène certains auteurs relayés par la recommandation toute récente de l’UNESCO sur l’éthique des neurotechnologies à proposer la reconnaissance de « neuro-droits » : le droit à l’intégrité mentale ou la nécessité de protéger notre cerveau comme on protège le corps mais également le droit à a liberté cognitive au-delà de la liberté d’expression et le droit à la continuité de l’identité, dans la mesure où ces technologies permettent de modifier le fonctionnement de notre cerveau.  

Le droit

A ces considérations, on ajoute d’autres remarques qui exigent l’intervention du droit :  

1. Le droit de la protection renforcée des données médicales et biométriques, doit s’élargir aux données neuronales et s’entendre non seulement des données relatives à un état de santé mais encore à toute donnée qui, d’une manière ou d’une autre, sert à l’identification d’un état de santé : ainsi l’utilisation d’une donnée de localisation peut amener, au vu des statistiques relatives à une épidémie, à suspecter mon état de santé. La nécessité de pouvoir disposer de données médicales fiables pour nourrir des bases de données nécessaires à la recherche médicale ou à d’autres intérêts publics exige des dérogations au principe du consentement informé et des mécanismes de mise en balance entre ces intérêts et ceux de la personne concernée.  

2. La responsabilité sociétale des acteurs promouvant ou utilisant les applications à haut risque des technologies émergentes  exige, comme le requièrent les textes en matière d’intelligence artificielle, de neuro-technologies voire sur les dispositifs médicaux, une approche préventive d’évaluation continue tout au long des cycles de vie de la technologie retenue voire de diminution de tels risques, et ce autour des six principes éthiques reconnus par la majorité de ces textes : la transparence et l’explicabilité ; la responsabilité et l’obligation de rendre compte ; la soutenabilité environnementale, la protection de l’autodétermination ; l’inclusivité et le respect de l’égalité. On ajoute qu’il est important que cette évaluation soit multidisciplinaire et que tant les représentants des patients voire des différents types de patient et des médecins soient associés à cette évaluation.  

3. Outre cette procédure d’évaluation et pour la faciliter, il est important de disposer d’un système de labellisation et de certification auprès d‘auditeurs indépendants et de standards définis avec le secteur professionnel.  

4. Contrairement à la proclamation par les transhumanistes d’un droit à l’augmentation de la personne humaine, le droit se doit, au nom du principe de précaution, vu les risques liés à ces modifications du fonctionnement cérébral et des impératifs de justice sociale, de proclamer plutôt un droit à la non-augmentation. 

5. La maîtrise de la technologie exige tant la formation critique et multidisciplinaire  des professionnels de la santé à ce que l’AI Act européen appelle l’AI literacy qu’à l’ « Human Oversight » du fonctionnement et de l’utilisation des technologies au sein des institutions de soins et au niveau des pays ou régions la mise en place d’un « Office d’évaluation des technologies en matière de santé «, travaillant à la fois avec les conseils de bioéthique et d’infoéthique et suscitant des discussions ouvertes sur l’évolution des technologies dont le rapport devrait orienter, le cas échéant, les décisions des autorités.   

La relation humaine et le dialogue

Concluons: Il nous apparaît que la dignité en tant à la fois de valeur éthique et de premier droit fondamental doit être rappelé au regard de la révolution que représente l’irruption des technologies de soins et de ses acteurs au sein du monde médical. La dignité plaide pour la prééminence d’une relation humaine et du dialogue entre patient et médecin et pour une technologie respectueuse des principes éthiques, sous contrôle humain  au service du « common good » et, tout d’abord, du patient considéré dans la dimension indivisible du corps et de l’esprit.               

photo header: detail from congress poster AI and Medicine