Gains de temps pour les professionnels de santé, développement de nouveaux soins, prévention, médecine personnalisée... Tout le monde s'accorde sur le fait que l'intelligence artificielle (IA) peut révolutionner le secteur de la santé. Elle est d'ores et déjà intégrée dans certains dispositifs médicaux (DM), à l'instar de l'outil de dépistage de la rétinopathie diabétique IDx-DR, premier dispositif doté d'IA à avoir obtenu une autorisation de mise sur le marché aux Etats-Unis en 2018. Mais il reste un obstacle de taille: celui de l'évaluation des algorithmes auto-apprenants, c'est-à-dire capables, en plus de leur tâche, d'améliorer leur performance au fur et à mesure qu'ils engloutissent des données. Encore qualifiés de "boîtes noires", leur évolution permanente questionne: comment les évaluer? comment expliquer leurs résultats aux médecins? Peut-on les surveiller en permanence? Qui doit assurer cette mission? Les algorithmes des DM sont évalués en amont de leur marquage CE, et il n'est plus question de les modifier ensuite, sinon ils retournent à la case départ de l'examen de conformité. La réforme européenne de la réglementation des DM, qui entrera en vigueur en mai, comprend de nouvelles obligations pour les éditeurs de logiciels médicaux, et risque de compliquer l'arrivée sur le marché des algorithmes auto-apprenants. S'ils laissent entrevoir un monde des possibles en santé, les risques induits pour le patient sont trop importants pour ne pas se saisir de cette problématique. En France, les pouvoirs publics ont commencé à prendre conscience des enjeux. Les premiers résultats de la concertation publique lancée en novembre par la Commission nationale d'évaluation des dispositifs médicaux et des technologies de santé (Cnedimts) de la Haute autorité de santé (HAS) sont attendus pour "début avril". Ils devraient fournir des clés pour résoudre le casse-tête de l'évaluation des technologies d'IA dans le domaine médical.