Discrimination et algorithmes

Après les grandes études expérimentales sur les discrimination viennent celles sur les biais des algorithmes. Un article de S. Mullainathan est l’occasion de souligner à quel point les biais algorithmiques peuvent être plus aisés à détecter et à corriger.

Quinze ans après l’étude sur la discrimination à l’embauche “Are Emily and Greg more employable than Lakisha and Jamal?”, Sendhil Mullainathan vient de participer à une étude qui a déjà fait beaucoup parler d’elle aux États-Unis : avec ses co-auteurs, il a mis en évidence qu’un algorithme utilisé pour déterminer le niveau de traitement des patients (et déjà employé sur plus d’une centaine de millions de personnes) présentait un biais racial marqué. À symptômes identiques, les Africains-Américains étaient alloués à un niveau de traitement moins intensif. La cause ? Pour mesurer l’état général de santé, l’algorithme utilisait comme proxy le niveau de dépenses de santé – qui du fait des inégalités aux États-Unis est plus faible chez les Africains-Américains, qui se trouvaient donc réputés en meilleure santé pour l’algorithme.

Continuer la lecture de « Discrimination et algorithmes »