Vendredi 4 octobre, les députés français ont approuvé l'inscription à l'article 11 du projet de loi de bioéthique du principe de "garantie humaine" dans l'interprétation de résultats médicaux ayant fait appel à l'intelligence artificielle (IA). Une avancée majeure pour beaucoup, mais qui n'est pas sans susciter des interrogations sur son application concrète. L'information obligatoire du patient, par le médecin, lorsqu'un traitement algorithmique de données a été utilisé pour des "actes à visée préventive, diagnostique ou thérapeutique" est aisément envisageable. En revanche, d'autres dispositions comme le fait d'imposer l'intervention d'un professionnel de santé pour adapter et modifier les paramètres d'un tel traitement, ou encore de prévoir la "traçabilité des actions", des données utilisées et l'accessibilité des informations qui en résultent aux médecins, risquent de poser quelques difficultés opérationnelles. Quid de la capacité et de la disponibilité des médecins pour mettre les mains dans le cambouis algorithmique? Quid de la modernisation des systèmes d'information hospitaliers nécessaire pour suivre les usages de l'IA? Dans une tribune publiée par le magazine What's Up Doc?, David Gruson, fondateur de l'initiative académique et citoyenne Ethik-IA, à l'origine de ce principe de garantie, prône le déploiement dans les établissements de santé de "collèges de garantie humaine" associant médecins, paramédicaux et usagers pour "assurer a posteriori une révision de dossiers médicaux" et "porter un regard humain sur les options thérapeutiques conseillées ou prises par l'algorithme". L'idée est séduisante, mais les hôpitaux auront-ils réellement les ressources humaines et financières ainsi que le temps indispensable à ce type d'actions? C'est encore loin d'être garanti.