Ressources humaines
Un outil de tri de CV qui avait appris à écarter les femmes
- Les faits
- Amazon a développé à partir de 2014 un outil expérimental qui notait les candidatures de une à cinq étoiles. Entraîné sur dix ans de recrutements majoritairement masculins, il pénalisait les CV mentionnant le mot « women's » et déclassait les diplômées de deux universités féminines. L'entreprise a fini par l'abandonner.12
- Le point de rupture
- Le biais venait des données historiques. Aucune grille ne définissait à l'avance ce qu'était une erreur grave pour un outil de recrutement.
- Ce que prévoit la méthode AncreIA
- Une grille de criticité où la discrimination est une erreur grave par définition, des tests comparatifs sur des profils équivalents avant la mise en service, et un suivi régulier des écarts de résultats entre groupes.