Text Academy Podcast #43: «L'IA è uno specchio dell'umanità» - Selena Calleri su linguaggio e IA
Barzellette sulle bionde in culture dove non sono mai esistite: un piccolo esempio che spiega molte cose. L’intelligenza artificiale non è neutrale, ma riflette ciò che le abbiamo insegnato. La linguista computazionale Selena Calleri nel podcast «IA e società».
Selena Calleri è linguista computazionale, teorica del diritto e consulente interno di AI presso il TX Group. Nel podcast «AI e società - Percorsi nel nuovo mondo», parla di una questione che sta a cuore a molti: L'IA capisce davvero il linguaggio o sta solo simulando?
Per Calleri, la risposta è chiara: «In realtà si tratta sempre e solo di un'ipotesi. L'intelligenza artificiale cerca di prevedere statisticamente la migliore risposta possibile». Chiunque abbia studiato linguistica computazionale, come lei, è stato immunizzato dal clamore iniziale. I modelli linguistici sono sempre stati strumenti per la modellazione del linguaggio, ma ora sono semplicemente migliori perché dispongono di più dati e di algoritmi più potenti. L'autrice ritiene che parlare di «essere pensante» sia una confusione di categorie.
Mille prospettive - e nessuna delle tue
L'autrice chiama ciò che manca «situatedness». Una persona è inserita nella sua storia, nelle sue esperienze, nelle sue relazioni - tutto questo modella la sua prospettiva, che le piaccia o no. Un modello linguistico, invece, è una miscela di mille prospettive, ma non ne ha una propria. La filosofa Donna Haraway descrive giustamente questo punto cieco come una «visione dal nulla»: la pretesa di avere una visione oggettiva da ogni parte e da nessun luogo allo stesso tempo.
Le battute sulle bionde come sintomo
La valutazione di Calleri sulla tanto decantata neutralità dell'IA è particolarmente incisiva. «L'IA non è più neutrale di noi: semplicemente riflette tutte le opinioni del mondo». L'addestramento decide ciò che entra, e quindi anche ciò che esce. A titolo di esempio, l'autrice cita i modelli multilingue in cui le barzellette sulle bionde compaiono improvvisamente in aree linguistiche in cui tali stereotipi semplicemente non esistono culturalmente: un effetto collaterale del multilinguismo che trasferisce le impronte culturali inosservate. In breve: i modelli linguistici ci fanno da specchio e mostrano i nostri pregiudizi.
Lo specchio non mente, ci mostra soltanto
Come si può migliorare? Calleri non chiede rimedi per i brevetti tecnici, ma piuttosto una maggiore diversità - nei team, nei dati di formazione, nei discorsi. Più prospettive al tavolo e la volontà di sopportare le contraddizioni invece di affrettarsi a forzare un consenso. «Non c'è una verità assoluta», dice con la compostezza di un filosofo che la pensa davvero.
La sua visione dei prossimi dieci anni è sobria: si aspetta una crescente frattura sociale tra una classe iperdigitalizzata e un contromovimento che si concentra sulla sovranità e l'autodeterminazione nella tecnologia. Questa tensione aumenterà sensibilmente soprattutto in Europa. Cosa può aiutare? Creare spazi in cui possano parlare tra loro persone che normalmente non lo fanno. «Costruire comunità», dice Calleri - e suggerisce, non del tutto velatamente, di mangiare insieme come mezzo sottovalutato di democratizzazione.
Il podcast video "AI e società - Percorsi nel nuovo mondo", condotto da Christoph Soltmannowski, è prodotto dalla Stiftung Text Akademie. Due episodi sono pubblicati mensilmente, su Spotify, YouTube e le principali altre piattaforme di podcast. Prodotto da Castalavista.
