L'algorithme de Facebook exploite les préjugés racistes et sexistes dans les annonces d'emploi et d'immobilier

Même si les annonceurs veulent en fait s'adresser à un large public avec leurs paramètres de ciblage, l'algorithme de Facebook semble s'orienter vers des stéréotypes racistes et sexistes lors de la diffusion.

Les bûcherons sont des hommes blancs, il n'y a que des femmes à la caisse du supermarché et les chauffeurs de taxi appartiennent de toute façon à des minorités. Ce sont des stéréotypes classiques que le ciblage publicitaire de Facebook semble servir automatiquement. En effet, comme le rapportent les chercheurs, le réseau social a affiché lors de tests des annonces avec des options de ciblage en fait identiques à des utilisateurs extrêmement différents. Un emploi dans l'industrie du bois a été proposé à 72% à des Blancs, et neuf sur dix étaient des hommes. En revanche, une annonce pour un travail de caissier dans un supermarché a été affichée à 72 pour cent de femmes et trois quarts d'emplois dans le secteur des taxis ont été proposés à des Noirs.

Cette différence semble donc être due au contenu de l'annonce, c'est-à-dire au fait que l'algorithme affiche automatiquement un biais racial ou sexuel en fonction d'éléments textuels tels que l'intitulé du poste ou les caractéristiques de la photo. Le fait que, selon l'étude, une offre de logement soit automatiquement moins souvent présentée aux utilisateurs blancs lorsque la photo montre simplement une famille de couleur plutôt qu'une famille blanche, plaide également en faveur de cette dernière hypothèse. Mais le budget publicitaire semble également jouer un rôle. Plus d'argent a entraîné une plus grande proportion de femmes dans le public atteint - plus de 55 % pour un budget très élevé contre moins de 45 % pour un budget faible.

Si l'algorithme publicitaire de Facebook pratique effectivement une discrimination automatique, cela pourrait finalement poser des problèmes juridiques. Car, comme le souligne le magazine New York les offres d'emploi et les annonces immobilières non incluses sont illégales aux États-Unis. Pour Facebook, un autre problème peut avoir un impact beaucoup plus immédiat. "Nos résultats révèlent des mécanismes inconnus qui peuvent conduire à une diffusion de publicité potentiellement discriminatoire, même si les annonceurs ont choisi des paramètres de ciblage très inclusifs", écrivent les chercheurs. Si les annonceurs estiment que leurs intérêts sont menacés, cela pourrait mettre en péril les revenus publicitaires. (pte)

Vers le papier : "Discrimination par l'optimisation : comment la diffusion des publicités de Facebook peut conduire à des résultats skewed"