AccueilSociété

Comment un algorithme discriminant aurait privé 64 personnes noires d'une greffe rénale

Publié le

par Pierre Schneidermann

© choja / Getty

Bienvenue dans l'univers fabuleux des algorithmes raciaux utilisés aux Etats-Unis.

Les algorithmes qui interviennent dans le milieu de la santé, ça n’a plus rien d’exceptionnel. Depuis les progrès fulgurants de l’intelligence artificielle et plus spécifiquement du deep learning, les médecins les utilisent notamment pour prévoir, à partir de résultats d’imageries médicales, l’évolution de tumeurs cancéreuses.

Dans un tout autre domaine, le corps médical peut aussi les utiliser pour établir un diagnostic et prévoir l’évolution de l’insuffisance rénale chronique. Ceux-ci se basent sur une formule élaborée en 2009, l’équation CKD-EPI, pour "Chronic Kidney Disease EPIdemiology". Les résultats obtenus peuvent jouer dans la balance et influencer la prise de décision d’un suivi médical et au bout de la chaîne, d’une greffe rénale.

Aux États-Unis, aussi surprenant (voire choquant) cela peut-il paraître, on n’utilise pas exactement les mêmes algorithmes selon l’origine ethnique des patients. On estime, en effet, que l’équation standard CKD-EPI est surtout valable pour les personnes de type caucasien et qu’il faut donc introduire des variables pour affiner les résultats. Parmi celles-ci : on atténue la gravité du diagnostic pour les personnes noires.

Wired vient de relayer les résultats d’une étude réalisée par des chercheurs de la Harvard Medical School, à Boston. Après l’étude des dossiers médicaux de 57 000 patients, il ressort qu’un tiers des personnes noires (plus de 700 personnes) auraient reçu un diagnostic plus sévère si l’on avait utilisé l’algorithme utilisé pour les personnes blanches. Pour 64 d’entre elles, une greffe rénale aurait été préconisée. Selon les médecins, cela démontrerait que ces variables raciales ne feraient qu’amplifier les inégalités d’accès aux soins déjà constatées entre les différentes catégories ethniques de la population.

Ceci n’est pas sans rappeler une étude qui avait fait grand bruit il y a un an : des chercheurs avaient démontré qu’aux États-Unis, de manière plus générale, les algorithmes minimisaient l’état de santé des Noirs à l’hôpital. La raison ? À cause de l’inégalité des soins, les patients noirs généraient en général moins de coûts que les patients blancs avec le même niveau de santé. Résultat : les algorithmes "pensaient", à tort, que les premiers étaient moins à risque que les seconds – ils étaient donc complètement à côté de la plaque.

C’est exactement ce qu’il se passe avec l’algorithme fondé sur l’équation CKD-EPI. La variable provient d’une statistique a priori biaisée qui étudie une catégorie sociale de la population, non l’aspect strictement physiologique.

La prépublication de l’article en juin dernier a déjà suffisamment choqué pour que certains hôpitaux décident d’abandonner cette méthode. Wired indique aussi qu’une pétition, signée par près de 2 000 personnes, est accessible en ligne. Selon l’avis des chercheurs interrogés dans l’article, encore longue sera la route pour convaincre le corps médical de ne plus utiliser du tout les algorithmes raciaux.


Pour nous écrire 👉 hellokonbinitechno@konbini.com.

À voir aussi sur news :