« Réduire » la discrimination dans le recrutement ?

Dans le cadre d’un projet de recherche européen, le chapître suisse d’AlgorithmWatch vient de publier des propositions « pour réduire la discrimination des algorithmes de recrutement ». L’usage des outils de recrutement automatisés reproduit des schémas de discrimination et exacerbe même les barrières discriminatoires sur le marché du travail, rappelle l’association (voir notre dossier sur le sujet). La discrimination algorithmique à l’embauche n’est pas une construction théorique, mais une réalité pour de nombreuses personnes qui sont souvent renvoyées à une situation de totale impuissance et de frustration, ne recevant que des refus automatisés malgré leurs qualifications. Beaucoup tentent d’adapter leurs profils pour contourner les règles de refus, mais sans savoir vraiment comment s’y adapter, puisqu’ils ne connaissent pas les règles de refus. 

Dans le cadre du projet de recherche Findhr (Fairness and Intersectional Non-Discrimination in Human Recommendation, Équité et non-discrimination intersectionnelle dans la recommandation humaine), les chercheurs ont produit plusieurs livrables faisant des recommandations à destination des développeurs de logiciels, des professionnels RH et des décideurs politiques. Il y a d’abord des trousses à outils pour décideurs politiques, ingénieurs logiciels et professionnels RH. Notamment des méthodes pour une conception de logiciels inclusifs et pour leur utilisation. Un cadre d’évaluation et d’audit d’impact pour montrer comment les systèmes algorithmiques peuvent être audités de manière équitable, afin de réduire les schémas discriminatoires à un stade précoce. Un protocole de suivi de l’égalité qui combine des approches juridiques et techniques pour surveiller en continu les effets discriminatoires potentiels lors de son utilisation. Un guide de développement logiciel ainsi que des outils techniques et logiciels. Un programme de formation et de sensibilisation aux risques de discrimination à l’embauche (accessible en ligne et ouvert à tous). Ainsi que des recueils de témoignages de demandeurs d’emploi pour attirer l’attention sur les obstacles invisibles auxquels ils sont confrontés. Un manuel pratique pour les demandeurs d’emploi qui propose des ressources et des conseils pour optimiser les candidatures et les CV dans le cadre des processus de recrutement algorithmiques.

A les parcourir, on reste pourtant sur notre faim, ayant un peu l’impression que les propositions ne pointent pas de nouvelles solutions à ces enjeux. 

La première trousse à outils pour les décideurs politiques fait plusieurs recommandations en invitant surtout à préciser certains points dans les réglementations européennes à venir. Il  invite également à trouver des mécanismes pour que les candidats puissent bénéficier de droits et de mécanismes de recours plus efficaces, notamment d’être informés de l’utilisation des systèmes algorithmiques et le droit à recevoir une explication (des dispositions certes utiles, mais pas magiques, comme le montrait l’analyse de l’échec du règlement new yorkais de 2023). Les demandeurs d’emploi devraient disposer de moyens pratiques et formels pour demander un examen humain et contester les décisions automatisées, pour refuser la collecte, l’utilisation ou le partage de leurs données personnelles, pour exiger des explications des recruteurs et pour les tenir responsables en cas d’actes répréhensibles. Elle invite également à mettre en œuvre des mécanismes de recours collectifs facilement accessibles et permettre à des représentants des usagers ou aux organisations d’intérêt public de déposer plaintes contre les systèmes défaillants. Le rapport recommande également de renforcer le concept de « discrimination intersectionnelle », fondée sur deux ou plusieurs des motifs protégés, comme constituant des discriminations illégales. 

Pour les professionnels des ressources humaines, la trousse à outil recommande qu’ils soient formés et sensibilisés aux risques de discrimination lors du recrutement en général et des technologies de recrutement en particulier, par exemple en demandant aux candidats de ne pas inclure de photos ni d’informations sur leur situation familiale, leur sexe, leur âge ou toute autre information sensible dans leur CV. Avant toute utilisation d’outil de traitement automatisé des candidatures, c’est à l’équipe RH de veiller à ce qu’il soit conforme aux réglementations en vigueur, notamment à la législation anti-discrimination et aux exigences de la loi sur l’IA et au RGPD. C’est à l’équipe RH de demander la documentation nécessaire sur les données de formation, les procédures de tests et d’audit des outils qu’ils utilisent. Le rapport recommande également de mettre en place des processus et des directives internes solides sur l’utilisation de l’outil de recrutement IA, afin de limiter les accès et garantir leur supervision humaine, notamment par une formation à leur utilisation. Le rapport recommande également d’informer les candidats que leurs candidatures seront examinées par un outil de recrutement basé sur l’IA en leur expliquant le fonctionnement et en leur faisant des recommandations pour améliorer le traitement de leur candidature en définissant ainsi des attentes claires. Il recommande d’inclure des informations sur les risques de discrimination, sur les solutions possibles pour y remédier ainsi que des mécanismes de recours et de plaintes.

Des suggestions pleines de bon sens mais qui oublient par exemple de préciser les critères rédhibitoires qui bien souvent écartent certains candidats qualifiés sur d’autres sans qu’ils ne soient explicites. Et qui n’apporte pas de réponse à la guerre générative actuelle entre candidats et employeurs… que ce soit via l’automatisation des candidatures voire l’automatisation totale du recrutement.