L’actualité numérique des industries de santé

    L’actualité numérique des industries de santé

    

    Politique

    La HAS favorable à l'adoption de normes de développement des algorithmes en santé

    PARIS (TICpharma) - La Haute autorité de santé (HAS) recommande, dans sa contribution aux états généraux de la bioéthique, que des "bonnes pratiques de développement" de l'intelligence artificielle (IA) soient éditées, "voire qu'un cadre normatif soit créé" pour concevoir et encadrer le recours aux algorithmes dans le domaine de la santé.

    La HAS a été entendue le 27 avril par le Comité consultatif national d'éthique (CCNE), dans le cadre des débats des états généraux ouverts depuis la mi-janvier en vue de modifier la loi de bioéthique.

    Dans sa contribution mise en ligne sur le site des états généraux, l'agence relève que "la gestion et l'analyse des données, l'entraînement des algorithmes, la robustesse de la décision, l'explicabilité de la prise de décision algorithmique, la garantie de la finalité de l'utilisation sont des sujets qui intéressent les patients, les professionnels de santé et la HAS".

    Elle rappelle que l'IA est déjà utilisée dans la santé, notamment dans les domaines diagnostiques et prédictifs qui peuvent disposer de très nombreuses données, comme l'imagerie ou les informations génétiques.

    Si de nombreuses normes existent pour la conception et la gestion des logiciels/dispositifs médicaux (normes ISO et NF notamment), "pour la conception et la gestion d'algorithmes d'IA, il n'en est encore rien", note la HAS. L'autorité indépendante pense donc "nécessaire" d'édicter des bonnes pratiques ou des normes relatives aux données utilisées.

    Elle cite plusieurs "points cruciaux" à garantir lors du développement d'algorithmes construits sur la base de l'expérience et de l'accumulation d'observations: la qualité et la quantité des données entrantes (lors du développement et de l'usage) afin d'éviter toute forme de biais, l'apprentissage de l'IA et la fiabilité des codes utilisés.

    La HAS recommande également une formation des acteurs concernés par le développement et l'usage d'algorithmes en santé, et estime que la recherche en IA doit être encouragée, "y compris dans le domaine éthique".

    Une vigilance spécifique pour l'IA

    Afin de garantir aux professionnels de santé la confiance dans les systèmes d'IA, il faut pouvoir expliquer la décision amenée par l'IA, et donc bénéficier d'une visibilité sur le fonctionnement des algorithmes.

    Cela pose des questions sur le périmètre de l'évaluation de ces systèmes, estime la HAS. Si la finalité de l'évaluation est d'identifier et de quantifier le bénéfice clinique de toute intervention en santé pour le patient et la collectivité, "le processus même de production de cette intervention ne relève pas du champ d'évaluation de la HAS", observe-t-elle.

    Elle formule l'hypothèse de la création par la loi d'un "complément de 'vigilance' spécifique IA" assuré en parallèle à la matériovigilance, par l'Agence nationale de sécurité du médicament et des produits de santé (ANSM) ou par toute autre structure ad hoc.

    Il s'agirait de "garantir l'utilisation éthique du système algorithmique, la prédictibilité et la justesse de l'algorithme, l'absence de régressivité par rapport aux résultats cliniques, et l'absence de dérives par rapport à la finalité".

    Les professionnels de santé et patients pourraient aussi alimenter un dispositif de vigilance par des déclarations, et des audits d'experts pourraient être organisés en cas de besoin. "En cas de 'dérapage', un retrait de l'algorithme ou la suspension de son utilisation devrait pouvoir être décidé par une structure ad hoc", indique la HAS.

    Contrôles périodiques

    Le contrôle de logiciels et algorithmes qui évoluent constamment avec l'apport de nouvelles données pose aussi la question de la fréquence de leur évaluation.

    A défaut d'une évaluation réalisée en continu infaisable en pratique, la HAS juge que le fabricant ou le fournisseur doit "se voir imposer de réaliser des contrôles/évaluations périodiques et traçables pour garantir l'absence de dégradation de son 'produit'".

    L'autorité indépendante voit également un "point de vigilance" dans la capacité des outils d'IA à "permettre des segmentations de population en fonction de différentes caractéristiques, sans lien avec la santé ou la finalité initiale". Elle pointe les dérives possibles en matière de ciblage spécifique sur des caractéristiques ethniques, religieuses ou politiques.

    "Dans un principe de loyauté, il importe donc que la finalité des outils d'IA en santé soit prédéterminée, et que l'absence de modification soit garantie", souligne-t-elle.

    Pour contribuer au développement d'algorithmes d'IA en santé, la HAS considère par ailleurs que la loi doit "continuer de permettre l'accès facile aux données", tout en veillant au recueil du consentement libre et éclairé du patient, et au respect de sa vie privée.

    La mise à disposition et l'analyse d'informations en open data (données ouvertes) figure aussi parmi les recommandations du Leem (Les entreprises du médicament) dans sa contribution aux débats de bioéthique.

    La HAS a entamé depuis quelques années des travaux importants dans le domaine de la santé connectée, rappelle-t-on. Ils ont déjà conduit à la publication d'un référentiel de bonnes pratiques pour le développement d'applications et objets connectés de santé (voir dépêche du 4 novembre 2016), et à l'adoption d'une feuille de route sur l'évaluation des dispositifs médicaux connectés (DMC) (voir dépêche du 25 avril 2018).

    En parallèle aux consultations organisées en régions et sur internet pour les états généraux de la bioéthique, les commissions des lois et des affaires sociales de l'Assemblée nationale ont annoncé le 14 mai l'ouverture d'un cycle d'auditions communes. Des auditions sur les thèmes "neurosciences, robotisation et intelligence artificielle" auront lieu au mois de juin.

    Contribution de la HAS aux états généraux de la bioéthique

    Raphael Moreaux

    À suivre

    Transformation numérique de la santé: "il faut impérativement dépasser la technocratie" (Gilles Babinet)

    Politique

    PLFSS 2018: ce qu'il faut retenir de la version définitive du texte

    PARIS (TICpharma) - Télémédecine, télésurveillance, innovations organisationnelles et extension des logiciels d'aide à la prescription aux dispositifs médicaux: TICpharma détaille les dispositions du texte définitif du projet de loi financement de la sécurité sociale (PLFSS) pour 2018 qui auront un impact sur le développement du numérique en santé.

    0 166

    Politique

    La HAS prête à lancer le "grand chantier" de l'évaluation des dispositifs médicaux connectés

    PARIS (TICpharma) - La Haute autorité de santé (HAS) ouvrira en 2018 un "grand chantier" sur les méthodes d'évaluation des dispositifs médicaux (DM) connectés qui devra aboutir à des conclusions "dans l'année", a annoncé le 22 novembre Isabelle Adenot, présidente de la commission nationale d'évaluation des dispositifs médicaux et des technologies de santé (Cedimts).

    2 159

    Vos réactions

    Anti-spam : Veuillez saisir le résultat de ce calcul S.V.P
    2 + 2 =