Il paradosso della fiducia

In "Brave New World", Aldous Huxley ha creato una società in cui tutti si sentono curati, coccolati e al sicuro. Tutto è prevedibile, tutto è perfettamente personalizzato. Nella realtà digitale di oggi, la personalizzazione svolge talvolta una funzione simile. Otteniamo esattamente ciò che vogliamo - secondo l'algoritmo - prima ancora di pensarci. Ma dobbiamo chiederci: personalizzato per chi?

Utilizzare tecnologie di cui non ci fidiamo

Viviamo in quello che i ricercatori della Cornell University chiamano "paradosso della fiducia", ovvero la sconcertante volontà del pubblico di sostenere o utilizzare tecnologie alimentate dall'IA di cui non si fida. Un recente studio di KPMG conferma questo stato di cose: solo il 46% delle persone in tutto il mondo è disposto a fidarsi dei sistemi di IA e il 54% degli intervistati dichiara di diffidare dell'IA. Le preoccupazioni del pubblico nei confronti dell'IA hanno tre cause principali: Malfunzionamento (distorsioni, risultati imprecisi), uso improprio (disinformazione, manipolazione) e uso eccessivo (dequalificazione, perdita di interazione umana, erosione della privacy).

Nel contesto della personalizzazione, il "paradosso della fiducia" si manifesta chiaramente attraverso le preoccupazioni per la privacy, la parzialità degli algoritmi e la graduale erosione dell'agenzia umana, che sono al centro di questo articolo. Vogliamo i vantaggi di algoritmi che ci conoscono, ma ci opponiamo ai meccanismi stessi che permettono questa conoscenza.

L'abbondanza porta alla paralisi piuttosto che alla liberazione

Viviamo in quello che lo psicologo Barry Schwartz ha definito il "paradosso della scelta", dove l'abbondanza porta alla paralisi piuttosto che alla liberazione. Ogni giorno, la persona media si trova di fronte a più informazioni di quelle che i suoi antenati hanno elaborato in una vita intera, eppure la nostra architettura cognitiva è rimasta invariata da quando la sopravvivenza dipendeva da decisioni rapide.

In un'epoca di sovraccarico di informazioni, la personalizzazione funge da filtro per aiutare gli utenti a orientarsi nella scelta e a trovare ciò che conta di più per loro. Dagli algoritmi di raccomandazione ai chatbot intelligenti che forniscono aiuto immediato, la personalizzazione illustra come l'intelligenza artificiale sia diventata la forza trainante delle moderne esperienze digitali. La personalizzazione viene spesso elogiata per la sua capacità di incrementare le prestazioni aziendali. Uno studio di McKinsey dimostra che può ridurre i costi di acquisizione dei clienti fino al 50%, aumentare i ricavi del 5-15% e incrementare il ROI del marketing del 10-30%. Lo studio ha rilevato che le aziende in rapida crescita generano il 40% in più di fatturato grazie alla personalizzazione rispetto ai concorrenti che crescono più lentamente.

Tuttavia, la comodità della personalizzazione ha un prezzo, che stiamo solo iniziando a capire. Mentre il suo valore commerciale è evidente, il suo impatto sul benessere individuale e sulla società nel suo complesso non è ancora chiaro.

Perché temiamo ciò che usiamo

L'invisibilità dei processi algoritmici porta a un paradosso fondamentale: desideriamo la comodità della personalizzazione ma resistiamo istintivamente ai meccanismi che la rendono possibile. La preoccupazione più ovvia è la privacy: qualsiasi raccomandazione personalizzata richiede la raccolta, l'analisi e la memorizzazione di dettagli intimi sulle nostre preferenze e sui nostri comportamenti. Tuttavia, questa è solo la superficie di sfide algoritmiche più profonde che modellano le nostre esperienze digitali in modi molto più sottili.

I costi nascosti dell'essere "conosciuti"

Uno dei difetti più sottili della personalizzazione è il modo in cui i sistemi di raccomandazione trattano coloro che non rientrano nello schema. Piattaforme come Netflix, Amazon o YouTube si affidano spesso al filtraggio collaborativo, suggerendo contenuti in base alle preferenze di utenti con comportamenti simili. Per molti utenti, soprattutto per quelli i cui gusti sono mainstream, questo funziona molto bene.

Tuttavia, la personalizzazione diventa meno personale se non rientrate nella media statistica. Se appartenete a un gruppo minoritario, in termini di cultura, età o interessi di nicchia, il sistema potrebbe non disporre di dati sufficienti per rappresentarvi con precisione. Di conseguenza, l'algoritmo fa delle ipotesi basate sul comportamento che ha osservato in altri, non in voi. Vi fornisce il "gusto medio", non il vostro gusto. Questo porta a un'erosione silenziosa della rilevanza. Il sistema pensa di conoscervi, ma in realtà sta proiettando il profilo di qualcun altro sul vostro.

Questa distorsione è esacerbata quando gli algoritmi si basano su "variabili proxy" come il codice postale, il livello di istruzione o il tipo di dispositivo, che sono correlati a caratteristiche protette come l'etnia, il sesso o il reddito. L'algoritmo di Uber potrebbe nascondere opzioni più costose per i quartieri più modesti: il codice postale determina tacitamente le scelte. Anche in assenza di un esplicito intento discriminatorio, tali variabili proxy possono codificare gerarchie sociali nei sistemi di apprendimento automatico.

Quando l'ottimizzazione esclude

Continuiamo a utilizzare sistemi pubblicitari mirati - cliccando sugli annunci, prendendo decisioni di acquisto basate su raccomandazioni algoritmiche - anche se siamo sempre più consapevoli che questi stessi sistemi possono escludere sistematicamente interi gruppi, riproducendo tacitamente le disuguaglianze sociali. Consideriamo il funzionamento di questi algoritmi: Prevedono la nostra probabilità di interagire in base al comportamento passato, agli interessi dichiarati e ai dati demografici. Quando un algoritmo apprende che gli uomini sono statisticamente più propensi a cliccare su annunci di lavoro ad alta remunerazione, inizia a mostrare queste offerte di lavoro prevalentemente agli uomini. Le donne, che sono altrettanto qualificate e interessate, semplicemente non le vedono. L'algoritmo non è maligno, ma efficiente. E questa efficienza esclude sistematicamente.

Un esempio significativo è stato lo sviluppo da parte di Amazon di uno strumento di reclutamento AI che è stato addestrato sui CV dei dipendenti precedentemente assunti, la maggior parte dei quali erano uomini. Il sistema ha iniziato a declassare sistematicamente le candidature che contenevano la parola "donna" o che provenivano da università interamente femminili. L'algoritmo non discriminava consapevolmente, ma si limitava a riflettere i dati di addestramento distorti. Questo porta al "redlining algoritmico", un'esclusione digitale che avviene al di sotto della soglia della percezione cosciente. Se in passato alcuni gruppi hanno avuto una minore esposizione agli annunci di formazione o di carriera a causa di barriere sistemiche, l'algoritmo impara a non "sprecare" impressioni su di loro. Il sistema converte le discriminazioni passate in restrizioni future, creando un circolo di feedback in cui chi è già svantaggiato ha meno opportunità di avanzamento.

Gli algoritmi finanziari possono regolarmente applicare alle minoranze tassi di interesse più alti per prestiti identici, perpetuando le disuguaglianze economiche attraverso calcoli apparentemente oggettivi. Il sistema apprende che alcuni gruppi sono stati trattati in modo diverso in passato e tratta questa disuguaglianza come un modello da replicare piuttosto che come un problema da risolvere. Nel 2013, una ricerca di Latanya Sweeney ha mostrato come questo si manifesti anche in contesti apparentemente neutri: Gli annunci di Google relativi ai casellari giudiziari apparivano più frequentemente quando si cercavano nomi comunemente associati a persone di colore che non quando si cercavano nomi comunemente associati a persone bianche.

Ciò solleva una questione fondamentale: Se la personalizzazione porta a un trattamento diverso dei vari utenti, è accettabile che alle persone vengano mostrati contenuti, prezzi o opportunità diverse solo perché il sistema pensa che siano determinate persone? La personalizzazione su larga scala non ha solo un impatto sulle esperienze individuali, ma può modificare sistematicamente l'accesso alle opportunità per intere popolazioni.

Superare il paradosso

Per risolvere il paradosso della fiducia, sono necessari controlli rigorosi per garantire che gli algoritmi di personalizzazione operino in modo equo e trasparente e che gli utenti mantengano un potere significativo. La personalizzazione non è intrinsecamente problematica: se progettata secondo principi umano-centrici, può davvero migliorare il modo in cui scopriamo, impariamo e scegliamo. La chiave sta nell'ottimizzazione dei sistemi di personalizzazione. Quando gli algoritmi privilegiano la soddisfazione dell'utente a lungo termine rispetto all'impegno a breve termine e vengono regolarmente controllati per individuare eventuali distorsioni, la personalizzazione può mantenere la sua promessa originaria: rendere il nostro mondo ricco di informazioni più chiaro e le nostre decisioni più significative.

Abbiamo bisogno sia di responsabilizzazione individuale attraverso l'alfabetizzazione all'IA sia di riforme sistemiche che incorporino principi etici nella progettazione dell'IA - ciò che gli scienziati chiamano "IA per il bene sociale". Senza queste misure, rischiamo quella che i ricercatori dell'Università di Oxford chiamano "erosione dell'autodeterminazione umana", ovvero il graduale abbandono dell'agenzia umana a favore della mediazione algoritmica.

La scelta che abbiamo di fronte

La scelta che abbiamo di fronte è chiara: possiamo costruire il mondo di Huxley, caratterizzato da un confortevole condizionamento digitale, in cui gli algoritmi ci conoscono meglio di noi stessi e ci guidano dolcemente verso risultati predeterminati. Oppure possiamo creare un nuovo mondo più audace: un mondo in cui la tecnologia potenzia l'agenzia umana anziché sostituirla, in cui la personalizzazione è al servizio delle nostre scelte autentiche anziché manipolarle.

La differenza non sta nella sofisticazione degli algoritmi, ma nel nostro coraggio di chiedere che siano al servizio della prosperità umana e non del conformismo digitale. Il paradosso della fiducia si risolverà solo se sapremo utilizzare questi potenti strumenti senza cedere loro la nostra autonomia.

L'autore

Magdalena Zabicka-Wlodarczyk è una ricercatrice e professionista con oltre 15 anni di esperienza nel settore in un'azienda multinazionale di vendita al dettaglio, specializzata in ricerche di mercato, collaborazione interculturale e processo decisionale strategico. Tiene lezioni sul comportamento dei clienti nel contesto delle nuove tecnologie, compresa l'intelligenza artificiale e il marketing interculturale. Attualmente è visiting scholar presso la ZHAW. La sua ricerca si concentra sugli approcci all'IA incentrati sull'uomo, come la diagnosi degli atteggiamenti dei dipendenti nei confronti dell'IA e l'esame del ruolo dei leader nella sua adozione. È inoltre coinvolta in iniziative volte a promuovere le competenze in materia di IA nell'ambito dell'istruzione e della formazione.