L’actualité numérique des industries de santé

    L’actualité numérique des industries de santé

    Politique

    La Cnil recommande de mieux encadrer les algorithmes et l’intelligence artificielle

    PARIS (TICpharma) - La Commission nationale de l'informatique et des libertés (Cnil) a rendu vendredi 15 décembre un rapport sur les enjeux éthiques des algorithmes et de l’intelligence artificielle (IA), dans lequel l'institution appelle à un meilleur encadrement du secteur, notamment dans la santé.

    La présidente de la Cnil, Isabelle Falque-Pierrotin, a présenté ce rapport intitulé "Comment permettre à l’homme de garder la main? Les enjeux éthiques des algorithmes et de l’IA" en présence du secrétaire d’Etat chargé du numérique, Mounir Mahjoubi, et du député LREM et mathématicien Cédric Villani, auquel le gouvernement a confié une mission sur l'IA (voir dépêche du 30 novembre 2017).

    Le gendarme du numérique a été chargé de se pencher sur les questions éthiques et sociétales posées par les nouvelles technologies, dans le cadre de la loi "pour une République numérique" du 7 octobre 2016. Il a choisi d'aborder la question sous l'angle des algorithmes à l'heure de l'IA.

    Pour rédiger son rapport, la Cnil s’est appuyée sur les conclusions d’un débat public qui s’est tenu de janvier à octobre 2017. Au total, à travers toute la France, 3 000 personnes y ont participé et une concertation citoyenne a également été organisée, à Montpellier, le 14 octobre.

    Dans sa copie, la commission rappelle d’emblée la nécessité de "faire en sorte que ces nouveaux outils soient à la main humaine, à son service, dans un rapport de transparence et de responsabilité."

    Elle recommande aussi de manipuler avec "prudence" la manne financière importante que représente le marché de l’e-santé, qui devrait atteindre les 400 milliards de dollars d’ici 2022, selon le cabinet Grand View Research.

    Les algorithmes et l'IA en santé: des enjeux "marketing"

    Le gendarme du numérique sonne ainsi le clairon et insiste sur le fait que les algorithmes et l’IA dans le secteur de la santé offrent d’"immenses capacités marketing", en premier lieu par la quantité importante de données générées.

    Créé par la dernière loi santé, le Système national des données de santé (SNDS) regroupe les principales bases de données de santé publiques existantes (voir dépêche du 3 janvier 2017).

    Les algorithmes et l'IA peuvent aujourd’hui tirer parti de ces données pour dessiner "un profil très précis de chaque individu", estime la Cnil. Ces profils favorisent notamment l’émergence d’une médecine prédictive, préventive et personnalisée qui peut aider au diagnostic précoce.

    Le traitement de la donnée par les algorithmes et l’IA intervient également sur une masse d’informations scientifiques et de recherche que les médecins ne pourraient matériellement traiter seuls.

    La Cnil appelle donc à la vigilance, tout en présentant plusieurs autres points sur lesquels algorithmes et IA peuvent révolutionner -ou révolutionnent déjà- le monde de la santé.

    Optimiser les essais cliniques

    "L'IA est susceptible de fournir un appui à la détection de risques sanitaires", explique la commission. Elle peut notamment être utile pour "repérer l’élévation de l’incidence de maladies ou de comportements à risque, et [...] alerter les autorités sanitaires".

    Ce fut le cas dans l’affaire des pilules contraceptives de 3ème et 4ème générations, qui ont été associées à un risque d’accident vasculaire cérébral (AVC) chez certaines patientes. La Cnil rappelle ainsi que ce lien a pu être étudié grâce au traitement algorithmique des données aujourd'hui disponibles sein du SNDS, une exploitation qui pourrait aussi permettre de prédire, au niveau médico-social, des risques de maltraitance.

    Enfin, dans la pratique médicale, les algorithmes sont déjà "largement" sollicités pour automatiser des tâches du quotidien, rappelle la Cnil. Des logiciels d’aide à la prescription (LAP) à l’analyse d’image dans l’imagerie médicale ou encore l’analyse de signaux physiologiques (électro-cardiogramme, électro-encéphalogramme), les algorithmes et l'IA sont également appliqués pour optimiser la mise en place d’essais cliniques grâce à une automatisation de la sélection des patients.

    La Cnil se veut optimiste et, en conclusion du volet santé, souligne que l’algorithme en santé permet de mieux répondre à certains besoins "pour les médecins (plus de sécurité), pour les patients (plus de personnalisation), et pour les instances publiques (plus de rationalisation)".

    En somme, l’enjeu pour les pouvoirs publics sera donc de protéger l’ensemble de données traitées par les algorithmes et l’IA ainsi que leurs propriétaires. Il s'agit aussi de prévenir tout risque d’instrumentalisation à des fins commerciales. Pour cela, la Commission a formulé six recommandations (voir encadré ci-dessous).

    Création d’une plateforme d’audit et de contrôle de l’IA

    Les débats menés par la Cnil ont permis de dégager deux principes fondateurs pour permettre à l’homme de "garder la main" sur l’IA.

    Un principe de loyauté devra être appliqué à tous les algorithmes et intégrer leurs impacts collectifs, et pas seulement personnels. Un principe de vigilance-réflexivité devra aussi être retenu: il s’agit là d’organiser une forme de questionnement régulier et méthodique à l’égard de concepts en perpétuel mouvement.

    Dans cette optique, parmi les recommandations de la Cnil figure la création d’une "plateforme nationale d’audit des algorithmes", sorte de gendarme de l'IA qui pourrait faire office de garant de la légalité et de l’éthique des algorithmes et de l'IA.

    Les six recommandations de la Cnil
    • Former à l’éthique tous les acteurs-maillons de la "chaîne algorithmique" (concepteurs, professionnels, citoyens)
    • Rendre les systèmes algorithmiques compréhensibles en renforçant les droits existants et en organisant la médiation avec les utilisateurs
    • Travailler le design des systèmes algorithmiques au service de la liberté humaine, pour contrer l’effet "boîtes noires"
    • Constituer une plateforme nationale d’audit des algorithmes
    • Encourager la recherche sur l’IA éthique et lancer une grande cause nationale participative autour d’un projet de recherche d’intérêt général
    • Renforcer la fonction éthique au sein des entreprises (par exemple, l’élaboration de comités d’éthique, la diffusion de bonnes pratiques sectorielles ou la révision de chartes de déontologie peuvent être envisagées).

    Le rapport de la Cnil

    Wassinia Zirar
    Wassinia.Zirar@apmnews.com

    À suivre

    Intelligence artificielle, PLFSS, "grand plan d’investissement"... ce qu’il faut retenir depuis la rentrée

    Acteurs

    IA, blockchain, RGPD, Health Data Hub... tout ce qu'il ne fallait pas manquer en 2018

    PARIS (TICpharma) - Boom de l'intelligence artificielle (IA), développement de la blockchain en santé, révolution réglementaire en matière de protection des données, lancement du Health Data Hub... l'essor de l'e-santé s'est poursuivi en 2018, avec de plus en plus d'initiatives de la part des institutionnels, des start-up et des industriels.

    0 623

    Politique

    Comment le RGPD bouscule l'organisation des essais cliniques

    PARIS (TICpharma) - Le règlement général européen relatif à la protection des données (RGPD) impose aux promoteurs d'essais cliniques et à leurs prestataires de revoir certains aspects de leurs études impliquant la personne humaine, détaillés par la Commission nationale de l'informatique et des libertés (Cnil) et par plusieurs avocates lors d'une rencontre organisée par l'Association française des sociétés de recherche clinique sous contrat (Afcros).

    0 512

    Vos réactions

    Anti-spam : Veuillez saisir le résultat de ce calcul S.V.P
    6 + 8 =