ChatGPT & Co. sont moins capables d'apprendre qu'on ne le pensait jusqu'à présent

Les modèles d'IA tels que ChatGPT, Gemini et autres sont moins capables d'apprendre par eux-mêmes qu'on ne le pensait jusqu'à présent. C'est la conclusion d'une étude à laquelle a participé l'Université technique (TU) de Darmstadt. Comme l'écrit l'université technique, rien n'indique que les Large Language Models (LLMs) commencent à développer un comportement "intelligent" général.

La recherche se concentre sur les sauts de performance imprévus et soudains des modèles linguistiques, appelés "capacités émergentes". Les modèles étudiés sont devenus plus performants à mesure que leur taille et la quantité de données d'entraînement augmentaient, comme l'écrit l'université technique. Au fur et à mesure que l'échelle augmente, les modèles peuvent résoudre davantage de tâches basées sur le langage, telles que la détection de faux messages ou le tirage de conclusions logiques.

Ce fait a suscité à la fois des espoirs et des inquiétudes, poursuit le communiqué. D'une part, on espérait qu'une nouvelle mise à l'échelle rendrait les modèles encore meilleurs, d'autre part, on s'inquiétait que ces capacités puissent devenir dangereuses. Cela a conduit à l'introduction de lois sur l'IA dans le monde entier.

Les LLM sont encore loin des compétences humaines

Il n'existe toutefois aucune preuve de ce développement supposé d'une capacité de réflexion différenciée des modèles, précise l'étude. Les LLM peuvent suivre des "instructions relativement simples", mais ils sont encore loin des compétences des humains.

"Nos résultats ne signifient toutefois pas que l'IA ne constitue pas une menace du tout", souligne Iryna Gurevych, professeur à l'Université technique de Darmstadt et codirectrice de l'étude. "Nous montrons plutôt que la prétendue émergence de capacités de pensée complexes associées à certaines menaces n'est pas étayée par des preuves et que nous pouvons tout de même bien contrôler le processus d'apprentissage des LLM. Par conséquent, les recherches futures devraient se concentrer sur d'autres risques posés par les modèles, par exemple leur potentiel à être utilisés pour générer des fausses nouvelles".

Selon Gurevych, c'est probablement une erreur de s'appuyer sur un modèle d'IA pour interpréter et exécuter des tâches complexes sans aide. Ainsi, les utilisateurs devraient indiquer explicitement ce que les systèmes doivent faire et, si possible, donner des exemples. La confabulation, la tendance de ces modèles à produire des résultats plausibles mais erronés, persistera probablement, a-t-il ajouté. (Alexandra Hüsler/jor)

Cet article a d'abord été publié dans le magazine Netzwoche.