L'algoritmo di Facebook mette al servizio dei pregiudizi razzisti e sessisti le inserzioni di lavoro e immobiliari
Facebook discrimina automaticamente nelle inserzioni di lavoro e immobiliari. È quanto emerge da uno studio pubblicato in anteprima su "arXiv" da ricercatori della Northeastern University, della University of Southern California e dell'organizzazione no-profit.
Anche se gli inserzionisti vogliono effettivamente rivolgersi a un pubblico ampio con i loro parametri di targeting, l'algoritmo di Facebook sembra orientarsi verso stereotipi razzisti e sessisti quando inserisce gli annunci.
I boscaioli sono uomini bianchi, alla cassa del supermercato siedono solo donne e i tassisti appartengono comunque a minoranze. Si tratta di stereotipi classici che il targeting degli annunci di Facebook sembra soddisfare automaticamente. Come riferiscono i ricercatori, nei test il social network ha mostrato annunci con le stesse opzioni di targeting a utenti estremamente diversi. Un lavoro nell'industria del legno è stato proposto al 72% dei bianchi, e nove su dieci erano uomini. Al contrario, al 72% delle donne è stato mostrato un annuncio per un lavoro alla cassa di un supermercato e a tre quarti delle persone di colore è stato mostrato un lavoro nel settore dei taxi.
Questa differenza sembra quindi essere dovuta al contenuto dell'annuncio, vale a dire che l'algoritmo mostra automaticamente un pregiudizio razziale o di genere sulla base di elementi testuali come il titolo del lavoro o le proprietà dell'immagine. Quest'ultima ipotesi è supportata anche dal fatto che, secondo lo studio, un'offerta abitativa viene automaticamente mostrata meno spesso agli utenti bianchi se la foto mostra semplicemente una famiglia di colore anziché una bianca. Tuttavia, anche il budget pubblicitario sembra avere un ruolo. Nei test, una maggiore quantità di denaro si è tradotta in una maggiore percentuale di donne tra il pubblico raggiunto: oltre il 55% con un budget molto alto rispetto a meno del 45% con un budget basso.
Se l'algoritmo pubblicitario di Facebook fa davvero discriminazioni automatiche, questo potrebbe portare a problemi legali. Perché, come ha scritto la rivista New York sottolinea che gli annunci di lavoro e immobiliari non inclusivi sono illegali negli Stati Uniti. Per Facebook, tuttavia, un altro problema potrebbe essere molto più immediato. "I nostri risultati rivelano meccanismi precedentemente sconosciuti che possono portare alla distribuzione di annunci potenzialmente discriminatori, anche quando gli inserzionisti hanno scelto parametri di targeting altamente inclusivi", scrivono i ricercatori. Se gli inserzionisti vedono compromessi i loro interessi, questo potrebbe mettere a rischio i ricavi pubblicitari. (pte)
