L'avis n°129 du CCNE tient compte des différents débats qui ont eu lieu au cours des états généraux de la bioéthique, dont une partie ont porté sur les thèmes des données de santé, de l'intelligence artificielle (IA) et de la robotisation.

Dans cet avis, le CCNE souligne que le rôle du numérique en tant que science de traitement de l'information "en fait un élément primordial" du traitement de l'information dans le domaine de la santé.

Il relève que malgré un "rythme rapide de diffusion" des outils numériques dans le système de santé, "la mobilisation de ce potentiel n'en est qu'à son commencement".

Il met en avant les "enjeux éthiques majeurs" de cette diffusion technologique, parmi lesquels figure "le risque de priver le patient, face aux propositions de décisions fournies par des algorithmes, d'une large partie de sa capacité de participation à la construction de son processus de prise en charge".

Il mentionne aussi "le danger d'une minoration de la prise en compte des situations individuelles dans le cadre d'une systématisation de raisonnements fondés sur des modèles qui peuvent être calibrés de façon à limiter la prise en compte de l'ensemble des caractéristiques spécifiques de chaque patient".

Si le CCNE insiste sur ces réflexions éthiques indissociables de la diffusion des outils numériques en santé, il considère toutefois que "le recours au droit opposable" pour leur régulation doit être "circonscrit au maximum".

"Compte tenu des marges de gains de qualité et d'efficience permises par un recours élargi" à ces technologies, "mettre en oeuvre une logique bloquante de réglementation ne serait pas éthique", appuie-t-il.

"Il faut qu'on puisse avoir une régulation qui s'adapte", a noté Claude Kirchner, directeur de recherche à l'Institut national de recherche en informatique et en automatique et membre du CCNE, lors de la présentation à la presse de l'avis du comité.

La recommandation du CCNE est d'engager "au cours des prochains mois" une réflexion sur "la création d'instruments de régulation de type 'droit souple'", avec un rôle de "supervision générale" qui pourrait être dévolu à la Haute autorité de santé (HAS).

Le CCNE propose d'inscrire dans la prochaine loi de bioéthique un "principe fondamental d'une garantie humaine du numérique en santé".

Cette garantie pourrait passer par des "procédés de vérification régulière -ciblée et aléatoire- des options de prise en charge proposées par des algorithmes d'aide à la décision médicale" et par "l'aménagement d'une capacité d'exercice d'un deuxième regard médical humain" en cas de doute du patient ou du médecin sur le diagnostic proposé par des algorithmes.

Le comité s'inspire d'une décision du Conseil constitutionnel, selon laquelle le recours à un algorithme pour fonder une décision administrative individuelle doit faire l'objet d'une information préalable du citoyen, et en propose une "déclinaison expresse" dans la prochaine loi de bioéthique afin d'informer les patients du recours à ces technologies.

Le CCNE appelle à être vigilant sur le fait que la "révolution numérique" du système de santé ne crée pas de nouvelles inégalités et ne pénalise pas "les citoyens du non-numérique". Le président du comité, Jean-François Delfraissy, a estimé à environ 20% la proportion de ces citoyens éloignés des outils numériques, soulignant qu'il s'agissait souvent de populations fragiles aux "besoins de santé particulièrement importants".

Le CCNE souligne dans son avis que la diffusion rapide du numérique en santé a un "impact majeur" dans les saisines spécifiques qu'il va devoir traiter à l'avenir. Cela implique de "faire évoluer la composition du collège et les missions assignées par la loi au CCNE", note-t-il.

Il estime nécessaire de créer un "comité d'éthique spécialisé dans les enjeux du numérique", qui pourrait s'appeler "CCNE-numérique", et propose de contribuer dans un premier temps à l'organisation de ce comité, avant d'arriver à formaliser ses relations avec cette nouvelle instance à moyen terme.

La mise en place de cette structure fait écho aux recommandations formulées par le mathématicien et député LREM de l'Essonne Cédric Villani, dans son rapport sur l'IA remis en mars au gouvernement (voir dépêche du 30 mars 2018).

Avis n°129 du CCNE relatif à la loi de bioéthique