L’actualité numérique des industries de santé

    L’actualité numérique des industries de santé

    

    Politique

    La HAS favorable à l'adoption de normes de développement des algorithmes en santé

    PARIS (TICpharma) - La Haute autorité de santé (HAS) recommande, dans sa contribution aux états généraux de la bioéthique, que des "bonnes pratiques de développement" de l'intelligence artificielle (IA) soient éditées, "voire qu'un cadre normatif soit créé" pour concevoir et encadrer le recours aux algorithmes dans le domaine de la santé.

    La HAS a été entendue le 27 avril par le Comité consultatif national d'éthique (CCNE), dans le cadre des débats des états généraux ouverts depuis la mi-janvier en vue de modifier la loi de bioéthique.

    Dans sa contribution mise en ligne sur le site des états généraux, l'agence relève que "la gestion et l'analyse des données, l'entraînement des algorithmes, la robustesse de la décision, l'explicabilité de la prise de décision algorithmique, la garantie de la finalité de l'utilisation sont des sujets qui intéressent les patients, les professionnels de santé et la HAS".

    Elle rappelle que l'IA est déjà utilisée dans la santé, notamment dans les domaines diagnostiques et prédictifs qui peuvent disposer de très nombreuses données, comme l'imagerie ou les informations génétiques.

    Si de nombreuses normes existent pour la conception et la gestion des logiciels/dispositifs médicaux (normes ISO et NF notamment), "pour la conception et la gestion d'algorithmes d'IA, il n'en est encore rien", note la HAS. L'autorité indépendante pense donc "nécessaire" d'édicter des bonnes pratiques ou des normes relatives aux données utilisées.

    Elle cite plusieurs "points cruciaux" à garantir lors du développement d'algorithmes construits sur la base de l'expérience et de l'accumulation d'observations: la qualité et la quantité des données entrantes (lors du développement et de l'usage) afin d'éviter toute forme de biais, l'apprentissage de l'IA et la fiabilité des codes utilisés.

    La HAS recommande également une formation des acteurs concernés par le développement et l'usage d'algorithmes en santé, et estime que la recherche en IA doit être encouragée, "y compris dans le domaine éthique".

    Une vigilance spécifique pour l'IA

    Afin de garantir aux professionnels de santé la confiance dans les systèmes d'IA, il faut pouvoir expliquer la décision amenée par l'IA, et donc bénéficier d'une visibilité sur le fonctionnement des algorithmes.

    Cela pose des questions sur le périmètre de l'évaluation de ces systèmes, estime la HAS. Si la finalité de l'évaluation est d'identifier et de quantifier le bénéfice clinique de toute intervention en santé pour le patient et la collectivité, "le processus même de production de cette intervention ne relève pas du champ d'évaluation de la HAS", observe-t-elle.

    Elle formule l'hypothèse de la création par la loi d'un "complément de 'vigilance' spécifique IA" assuré en parallèle à la matériovigilance, par l'Agence nationale de sécurité du médicament et des produits de santé (ANSM) ou par toute autre structure ad hoc.

    Il s'agirait de "garantir l'utilisation éthique du système algorithmique, la prédictibilité et la justesse de l'algorithme, l'absence de régressivité par rapport aux résultats cliniques, et l'absence de dérives par rapport à la finalité".

    Les professionnels de santé et patients pourraient aussi alimenter un dispositif de vigilance par des déclarations, et des audits d'experts pourraient être organisés en cas de besoin. "En cas de 'dérapage', un retrait de l'algorithme ou la suspension de son utilisation devrait pouvoir être décidé par une structure ad hoc", indique la HAS.

    Contrôles périodiques

    Le contrôle de logiciels et algorithmes qui évoluent constamment avec l'apport de nouvelles données pose aussi la question de la fréquence de leur évaluation.

    A défaut d'une évaluation réalisée en continu infaisable en pratique, la HAS juge que le fabricant ou le fournisseur doit "se voir imposer de réaliser des contrôles/évaluations périodiques et traçables pour garantir l'absence de dégradation de son 'produit'".

    L'autorité indépendante voit également un "point de vigilance" dans la capacité des outils d'IA à "permettre des segmentations de population en fonction de différentes caractéristiques, sans lien avec la santé ou la finalité initiale". Elle pointe les dérives possibles en matière de ciblage spécifique sur des caractéristiques ethniques, religieuses ou politiques.

    "Dans un principe de loyauté, il importe donc que la finalité des outils d'IA en santé soit prédéterminée, et que l'absence de modification soit garantie", souligne-t-elle.

    Pour contribuer au développement d'algorithmes d'IA en santé, la HAS considère par ailleurs que la loi doit "continuer de permettre l'accès facile aux données", tout en veillant au recueil du consentement libre et éclairé du patient, et au respect de sa vie privée.

    La mise à disposition et l'analyse d'informations en open data (données ouvertes) figure aussi parmi les recommandations du Leem (Les entreprises du médicament) dans sa contribution aux débats de bioéthique.

    La HAS a entamé depuis quelques années des travaux importants dans le domaine de la santé connectée, rappelle-t-on. Ils ont déjà conduit à la publication d'un référentiel de bonnes pratiques pour le développement d'applications et objets connectés de santé (voir dépêche du 4 novembre 2016), et à l'adoption d'une feuille de route sur l'évaluation des dispositifs médicaux connectés (DMC) (voir dépêche du 25 avril 2018).

    En parallèle aux consultations organisées en régions et sur internet pour les états généraux de la bioéthique, les commissions des lois et des affaires sociales de l'Assemblée nationale ont annoncé le 14 mai l'ouverture d'un cycle d'auditions communes. Des auditions sur les thèmes "neurosciences, robotisation et intelligence artificielle" auront lieu au mois de juin.

    Contribution de la HAS aux états généraux de la bioéthique

    Raphael Moreaux

    À suivre

    Transformation numérique de la santé: "il faut impérativement dépasser la technocratie" (Gilles Babinet)

    Etudes

    Qualité globalement faible des applis mobiles pour le suivi du diabète (étude américaine)

    WASHINGTON (TICpharma) - Les applications mobiles en anglais proposées gratuitement aux diabétiques de type 2 sont rarement de bonne qualité, selon une lettre publiée dans Diabetes Care en août.

    0 156

    Politique

    Les algorithmes, "un outil extraordinaire" pour une meilleure médecine (Agnès Buzyn)

    PARIS (TICpharma) - La ministre des solidarités et de la santé, Agnès Buzyn, a estimé le 31 août sur la chaîne CNews que les algorithmes n'allaient pas remplacer les médecins mais qu'ils constituaient "un outil extraordinaire" qui va permettre "une meilleure médecine".

    0 330

    Vos réactions

    Anti-spam : Veuillez saisir le résultat de ce calcul S.V.P
    3 + 8 =