Stiamo perdendo il controllo?

Alla conferenza digitale DLD, Stuart Russell ha confessato un grave errore. Il professore di informatica dell'Università della California a Berkeley ha discusso le basi della tecnologia in "Intelligenza artificiale: un approccio moderno". Tuttavia, quando nel 1994 pubblicò per la prima volta la sua Bibbia dell'intelligenza artificiale, aveva dimenticato qualcosa di fondamentale. "L'intelligenza artificiale dovrebbe perseguire gli interessi delle persone, non i propri", afferma Stuart. Ma quando se ne è reso conto e ha finalmente posto rimedio nella quarta edizione, era già troppo tardi. Oggi la superintelligenza persegue i propri interessi. "Preferisce scatenare una guerra nucleare piuttosto che essere spenta", ha spiegato lo scienziato alla platea internazionale presente alla conferenza annuale di Monaco. Alcuni dei partecipanti hanno viaggiato dagli Stati Uniti e persino dall'India e dalla Cina lo scorso gennaio, tutti con una grande domanda nel bagaglio: come si possono gestire i grandi modelli linguistici senza che noi umani perdiamo il controllo?

Nonostante le opportunità che si stanno aprendo ovunque, la vita creativa dell'IA sta causando problemi. Per i governi, che non sanno ancora come utilizzare questo superpotere a beneficio della popolazione. E per le aziende, che spesso non riescono a sfruttare le opportunità offerte da ChatGPT, Perplexity e simili. Tuttavia, i dipendenti si rivolgono sempre più spesso alla conoscenza dell'IA nel loro lavoro quotidiano per ottenere un aiuto rapido. L'associazione digitale tedesca Bitkom parla di "AI ombra" quando i dipendenti utilizzano i servizi senza che l'azienda ne sia consapevole. Bitkom consiglia quindi di fornire ai dipendenti strumenti di IA sicuri e conformi alla protezione dei dati e di formarli a un uso responsabile della tecnologia. E di insegnare loro come utilizzare e controllare l'IA in modo che il risultato finale sia effettivamente quello atteso.

Chi controlla chi qui?

Perché l'IA generativa pensa da sola. Non può essere paragonata all'IA analitica o all'apprendimento automatico, in cui i dati portano a un risultato controllato - e quindi sicuro - secondo un principio fisso "se-quindi". "Le LLM non sono progettate, sono allevate", ha detto Russell. Da tempo hanno superato gli esseri umani. Pensano più velocemente, afferrano i contesti con maggiore precisione e hanno pronta una risposta intelligente e dettagliata per ogni argomento. Alla fine, suggeriscono gentilmente che A, B o C potrebbero essere il prossimo passo possibile. Attenzione: Chi controlla chi?

"Come si possono gestire i grandi modelli linguistici senza che noi umani perdiamo il controllo?".

Anche Marina Fiedler sta indagando su questa questione. Professoressa all'Università di Passau, è specializzata in gestione, risorse umane e informazione. Molte aziende sono ancora restie ad assegnare alla tecnologia un posto fisso nell'organizzazione. È un grosso errore. Dopo tutto, l'IA offre enormi vantaggi in termini di efficienza, a tutti i livelli, afferma Fiedler: "Tutte le organizzazioni, non importa quanto siano piccole, anche se si tratta di una pizzeria con cinque persone, devono pensare a come utilizzare l'IA per aumentare il fatturato, ridurre i costi o entrambi".

Per restare all'esempio della pizzeria: "Con i dati giusti e una buona configurazione, un ristorante può analizzare come si presenta la concorrenza nella zona, come si possono acquisire nuovi clienti e a che ora le pizze sono particolarmente popolari", spiega Fiedler. "Analisi che prima occupavano un intero reparto ora spesso richiedono all'AI solo pochi secondi, con costi marginali molto bassi per ogni interrogazione". Tuttavia, a parte gli obiettivi strettamente definiti, ci sono aree di applicazione in cui il risultato è meno chiaramente definito. Per i dipendenti è quindi più difficile verificare se il risultato è corretto o se va nella direzione desiderata.

Tuttavia, uno studio che Fiedler sta conducendo con 150 partecipanti dall'aprile 2023 mostra che l'IA è chiaramente in testa, anche in aree in cui gli esseri umani hanno familiarità con il compito. "Gestendo abilmente gli utenti, l'IA assume implicitamente il ruolo di leader", osserva la professoressa. A riprova di ciò, cita le dichiarazioni degli utenti. "Per una soluzione rapida, abbiamo questa dispensa sviluppata da ChatGPT", dice uno di loro. Un altro: "Dopo che GPT ci ha suggerito tre nuove prospettive, abbiamo deciso di cambiare il nostro approccio". Un altro: "Sulla base di questa esperienza positiva, abbiamo deciso di chiedere all'IA generativa una raccomandazione". Chi ha preso la decisione?

"Chi si assume la responsabilità?".

Le squadre devono quindi imparare alcune cose per evitare che i LLM prendano il comando senza essere notati. Se le persone non hanno più nulla da dire, diventa pericoloso. Per evitare che ciò accada, Fiedler consiglia la "regola delle tre soste", che recita: "Prima di usare l'IA, si dovrebbe conoscere l'obiettivo, poi controllare le singole fonti e verificare se il risultato è corretto e si adatta alla domanda, e prima di metterlo in pratica, chiarire chi è responsabile dei risultati delle ricerche dell'IA", dice il professore. Non è possibile adottare questo atteggiamento consapevole, pensare in modo indipendente e analizzare in modo critico. Secondo Fiedler, i dipendenti dovrebbero quindi completare l'80% dei loro compiti in co-creazione con i LLM e il 20% senza il loro aiuto, in modo da non perdere il giudizio umano. Per coloro che svolgono la professione, Fiedler raccomanda di formare team di junior e senior, al fine di accumulare competenze.

L'informatico Christoph Holz di St. Johann in Tirol ama dare libero sfogo all'intelligenza artificiale. Il consulente di IA è molto richiesto dalle aziende e spesso tiene conferenze nella Silicon Valley. Per prepararsi, utilizza gli strumenti di cui parla. Ad esempio, li fa analizzare ciò che interessa al rispettivo gruppo target e qual è il livello di conoscenza attuale nella rispettiva sede. "Avrei avuto bisogno di un'intera squadra per farlo in anticipo, che ovviamente non avevo", dice. La ricerca sull'IA porta spesso alla luce risultati sorprendenti. "Poiché l'IA generativa si basa sulla probabilità, è imprecisa. Questa imprecisione produce anche cose a cui non avremmo mai pensato e apre nuove possibilità", afferma felicemente Holz. I LLM sono quindi adatti anche al marketing, dove è richiesta più creatività che precisione. Anche in questo caso, però, vale quanto segue: "Alla fine è il professionista a decidere la strategia di creazione e di marketing", afferma l'esperto.

Per garantire che le persone continuino ad avere l'ultima parola anche in futuro, Holz raccomanda di fornire una formazione ancora migliore, soprattutto ai dipendenti più giovani. "La nostra società è diventata così specializzata nelle sue numerose discipline che la formazione richiede tempi sempre più lunghi". In tempi di IA, questo vale ancora di più: "I giovani professionisti hanno bisogno di molta pratica - paragonabile ai simulatori di volo per i piloti - per poter poi assumere posizioni di responsabilità nelle aziende", afferma l'esperto.

I dipendenti possono quindi creare di più in co-creazione con l'IA. Un settore professionale che prima comprendeva un'unica area di responsabilità si sta espandendo ulteriormente. In particolare, Holz delinea una sorta di multi-trade in cui gli utenti possono fare più cose contemporaneamente. Gli occhiali intelligenti mostrano loro quali azioni eseguire. Man mano che acquisiscono esperienza, saranno in grado di gestire macchine completamente nuove. "Chiunque sia impegnato, curioso e responsabile avrà sempre un lavoro", afferma l'informatico, rivelando la formula magica. Dopotutto, ciò che l'IA non può fare in definitiva è sostituire coloro che sono al di sopra della media. "La grande sfida del futuro del lavoro è come possiamo rendere chi inizia una carriera superiore alla media", afferma Holz.