Conversazione con il chatbot: cosa influenza la nostra fiducia
Sul sito web della banca o tramite la linea di assistenza del gestore telefonico: le interazioni tra persone e chatbot fanno ormai parte della vita quotidiana. Ma ci fidiamo davvero di loro? E quali fattori influenzano questa fiducia? È quanto hanno studiato alcune psicologhe dell’Università di Basilea.
"Ciao ChatGPT, puoi aiutarmi?". - "Certo, come posso aiutarti? 😊" Il botta e risposta tra gli utenti e i chatbot basati sull'intelligenza artificiale (AI) assomiglia rapidamente a una conversazione con un'altra persona.
Le dottoresse Fanny Lalot e Anna-Marie Bertram della Facoltà di Psicologia dell'Università di Basilea hanno voluto scoprire fino a che punto le persone si fidano dei chatbot AI e da cosa dipende questa fiducia. L'attenzione si è concentrata sui sistemi basati sul testo, quindi non sugli assistenti vocali come Siri o Alexa, ma su piattaforme come ChatGPT e Co.
Nello studio, i soggetti del test sono stati messi di fronte a esempi di conversazioni tra utenti e il chatbot fittizio "Conversea". Hanno poi immaginato di interagire loro stessi con Conversea. I risultati sono pubblicati sulla rivista Rivista di Psicologia Sperimentale: Generale pubblicato.
Chatbot come entità indipendente
Se e quanto ci fidiamo degli altri dipende da vari fattori: La nostra personalità, il comportamento dell'altra persona e la rispettiva situazione giocano tutti un ruolo. "L'infanzia influenza il grado di fiducia, ma è necessaria anche una certa volontà di fidarsi", afferma la psicologa sociale Fanny Lalot. Le caratteristiche che promuovono la fiducia sono l'integrità, la competenza e la buona volontà.
Lo studio lo dimostra: Ciò che entra in gioco nelle relazioni interpersonali si applica anche ai sistemi di intelligenza artificiale. In particolare, la competenza e l'integrità sono criteri importanti per far sì che le persone percepiscano un chatbot IA come affidabile, mentre la benevolenza è meno importante quando si utilizzano le altre due dimensioni. "Il nostro studio dimostra che gli intervistati attribuiscono queste caratteristiche direttamente all'IA, non all'azienda che la gestisce. In una certa misura, percepiscono l'IA come un'entità indipendente", afferma Lalot.
Esistono anche differenze tra chatbot personalizzati e impersonali. Ad esempio, se un chatbot si rivolge a noi per nome e fa riferimento a conversazioni precedenti, i partecipanti allo studio lo valutano come particolarmente benevolo e competente. "Hanno umanizzato il chatbot personalizzato. Questo ha aumentato la loro disponibilità a utilizzare lo strumento e a condividere informazioni personali con esso", spiega Fanny Lalot. Tuttavia, i soggetti del test non hanno attribuito un'integrità significativamente maggiore al chatbot personalizzato e la fiducia complessiva non è risultata significativamente più alta rispetto al chatbot impersonale.
L'integrità è più importante della buona volontà
Secondo lo studio, l'integrità è più importante della buona volontà per l'affidabilità. È quindi importante sviluppare la tecnologia in modo che l'integrità sia la priorità assoluta. I progettisti dovrebbero anche tenere conto del fatto che l'IA personalizzata è percepita come più benevola, competente e umana, al fine di garantire un uso corretto degli strumenti. Le persone sole e vulnerabili, in particolare, corrono il rischio di diventare dipendenti dalle app di amicizia basate sull'IA, come hanno dimostrato altri studi.
Fanny Lalot sottolinea: "Con il nostro studio non stiamo affermando se la fiducia in un chatbot sia buona o cattiva". L'autrice vede i chatbot AI come uno strumento che dobbiamo imparare a usare, come le opportunità e i rischi dei social media.
Tuttavia, dai risultati si possono trarre alcune raccomandazioni per l'azione. "Nei sistemi di IA proiettiamo più di quello che c'è in realtà", afferma Fanny Lalot. Questo rende i sistemi di IA affidabili ancora più importanti; un chatbot non dovrebbe né mentirci né approvare tutto ciò che diciamo senza se e senza ma.
Se un chatbot AI è troppo acritico e conferma tutte le affermazioni, non c'è un controllo della realtà e c'è il rischio di una camera dell'eco, che nel peggiore dei casi potrebbe portare qualcuno a isolarsi dal proprio ambiente sociale. "Si spera che un amico intervenga a un certo punto se qualcuno sviluppa idee troppo folli o immorali", afferma Lalot.
Tradimento da parte dell'IA?
Nelle relazioni interpersonali, una violazione della fiducia ha gravi conseguenze sulle interazioni future. Questo è concepibile anche con i chatbot? "È una domanda interessante. Sarebbero necessarie ulteriori ricerche per rispondere", afferma Fanny Lalot. "Posso certamente immaginare che qualcuno possa sentirsi tradito se i consigli di un'IA hanno avuto conseguenze negative".
Sono necessarie linee guida che responsabilizzino le società di sviluppo. Ad esempio, un'IA potrebbe mostrare come arriva a un risultato rivelando le fonti che utilizza, e potrebbe dire quando non sa qualcosa invece di inventare qualcosa. (Noëmi Kern/Università di Basilea/yzu/swi)
