La "perte de chance" en santé peut être due à de multiples facteurs, généralement exogènes. Depuis quelques années, l'opacité des algorithmes et les biais que ceux-ci peuvent inclure sont régulièrement pointés comme de potentiels facteurs discriminants dans l'accès aux soins. En octobre 2019, déjà, une étude publiée dans la revue scientifique Science révélait "un racisme généralisé dans les logiciels de prise de décision utilisés par les hôpitaux américains". Cette fois, une nouvelle étude repérée par le site Wired et menée à Boston a mis en lumière une énième discrimination raciale directement causée par un algorithme. Concrètement, la formule mathématique complexe était utilisée pour définir les soins à apporter aux patients atteints d'insuffisance rénale chronique, traités au sein du réseau hospitalier Mass General Brigham. Les dossiers médicaux de 57.000 malades ont ainsi été passés au crible et résultat: un tiers des patients afro-américains, soit plus de 700 personnes, auraient dû être considérés comme des cas très graves… si la formule utilisée avait été la même que pour les patients blancs. Pire encore, les scores recalculés de 64 patients les ont même placés sur une liste d'attente de transplantation rénale alors qu'aucun ne l'avait été initialement. Reformuler l'algorithme pour éliminer son biais racial prédictif serait déjà un bon premier pas pour faire progresser l'équité en matière d'accès aux soins mais cette histoire témoigne surtout en faveur de l'explicabilité des algorithmes: seul moyen de les comprendre et cibler leurs biais, pour enfin ne plus crier haro sur les algorithmes.