ChatGPT & Co. sono meno adattivi di quanto ipotizzato in precedenza
I modelli di intelligenza artificiale sono meno capaci di apprendere in modo autonomo di quanto si pensasse finora, come dimostra uno studio dell’Università Tecnica di Darmstadt. Secondo la ricerca, inoltre, non vi sono indicazioni che i modelli linguistici di grandi dimensioni sviluppino un comportamento «intelligente» o la capacità di pensiero complesso.
I modelli di intelligenza artificiale come ChatGPT, Gemini e altri sono meno capaci di apprendere autonomamente di quanto si pensasse in precedenza. Questa è la conclusione di uno studio condotto dalla Technical University (TU) di Darmstadt. Come scrive la TU, non è stata trovata alcuna prova che i modelli linguistici di grandi dimensioni (LLM) stiano iniziando a sviluppare un comportamento generale "intelligente".
La ricerca si concentra su balzi imprevisti e improvvisi nelle prestazioni dei modelli linguistici, le cosiddette "capacità emergenti". I modelli analizzati sono diventati più potenti con l'aumentare delle dimensioni e della quantità di dati di addestramento, come scrive la TU. I modelli sono in grado di risolvere un maggior numero di compiti basati sul linguaggio, come il riconoscimento di fake news o l'elaborazione di conclusioni logiche, man mano che aumentano le dimensioni.
Questa circostanza ha suscitato speranze e preoccupazioni, prosegue il rapporto. Da un lato, si sperava che l'ulteriore scalabilità avrebbe reso i modelli ancora migliori; dall'altro, si temeva che queste capacità potessero diventare pericolose. Ciò ha portato all'introduzione di leggi sull'IA in tutto il mondo.
I LLM sono ancora lontani dalle competenze umane
Tuttavia, secondo lo studio, non ci sono prove di questo presunto sviluppo del pensiero differenziato nei modelli. I LLM possono seguire "istruzioni relativamente semplici", ma sono ancora molto lontani dalle capacità degli esseri umani.
"Tuttavia, i nostri risultati non significano che l'intelligenza artificiale non sia affatto una minaccia", sottolinea Iryna Gurevych, professore alla TU Darmstadt e co-leader dello studio. "Piuttosto, dimostriamo che il presunto emergere di capacità di pensiero complesse associato a certe minacce non è supportato da prove e che, dopotutto, possiamo controllare bene il processo di apprendimento delle IA. La ricerca futura dovrebbe quindi concentrarsi su altri rischi posti dai modelli, come il loro potenziale utilizzo per generare fake news".
È probabilmente un errore affidarsi a un modello di intelligenza artificiale per interpretare ed eseguire compiti complessi senza aiuto, afferma Gurevych. Gli utenti dovrebbero indicare esplicitamente ciò che i sistemi dovrebbero fare e, se possibile, fornire esempi. La confabulazione, la tendenza di questi modelli a produrre risultati plausibili ma errati, è destinata a persistere. (Alexandra Hüsler/jor)
