Discrimination à l’embauche : et si nous étions recrutés par des algorithmes ?

Inutile d’adresser votre CV ou une lettre de motivation, un simple clic suffit. Voilà à quoi pourrait ressembler la conclusion d’une offre d’emploi si la sélection des candidats se basait uniquement sur un algorithme prédictif analysant les données personnelles. Un article du site Industry Search explore la question cruciale de la discrimination à l’embauche à laquelle pourrait conduire un usage abusif des big data.

Le déferlement des big data bouscule les fondements des lois contre la discrimination à l’embauche. Postuler à une offre emploi, aujourd’hui, consiste essentiellement à motiver par écrit sa candidature, éventuellement en enjolivant quelques détails de son parcours professionnel, à passer un entretien si notre CV a tapé dans l’œil du recruteur et, enfin, à croiser les doigts — ou se ronger les ongles — en attendant la sentence. Les employeurs ne peuvent pas fonder leur décision sur des critères de race, de religion ou de préférence sexuelle, au risque de subir les foudres des juges. Mais comment réagir si le choix de nous recruter ou non était confié à un algorithme impénétrable qui tiendrait compte, par exemple, de notre comportement en ligne ou de nos habitudes de consommation ? C’est la question que pose le site australien spécialisé Industry Search.

Le principal problème, note l’auteur de cet article, c’est qu’il apparaît impossible de prouver la nature discriminatoire d’une décision basée sur des milliers d’opérations algorithmiques complexes auxquelles le candidat n’a pas accès. Le second problème soulevé par cette analyse porte sur le statut des données utilisées en pareil cas. En effet, toute information personnelle disponible pourrait potentiellement être employée dans le calcul de la décision, ce qui remettrait en cause la frontière entre ce qui est personnel et ce qui ne l’est plus. Les lois anti-discrimination et pour le droit à la vie privée votées dans les années 1960 et 1970 ne sont plus calibrées pour les enjeux actuels, estime Industry Search. Mais le vrai danger, conclut le texte, serait de finir par accepter des prédictions sans questionner leur véracité, ouvrant la voie à de nouvelles formes de discriminations que nous ne serions plus en mesure de maîtriser.

Lire l’article (en anglais)

 

En complément :
une infographie (en anglais) sur les inégalités hommes-femmes en matière de salaires
et un article (en anglais) sur l’intérêt et les limites des big data pour lutter contre les discriminations