Text Akademie Podcast #43 : «L'IA est un miroir de l'humanité» - Selena Calleri sur le langage et l'IA
Des blagues sur les blondes dans des cultures où elles n'ont jamais existé - un petit exemple qui explique beaucoup de choses. L'IA n'est pas neutre, elle reflète ce que nous y avons mis. La linguiste informatique Selena Calleri dans le podcast «IA et société».
Selena Calleri est linguiste informatique, théoricienne juridique et consultante AI interne chez TX Group. Dans le podcast «AI et société - vers un nouveau monde», elle parle d'une question qui préoccupe beaucoup de monde : L'IA comprend-elle vraiment le langage - ou ne fait-elle que le simuler ?
Pour Calleri, la réponse est claire : «Il s'agit en fait toujours d'un Educated Guess. L'IA essaie de prédire statistiquement quelle est la meilleure réponse possible». Ceux qui ont étudié la linguistique informatique, comme elle l'a fait, ont été très tôt immunisés contre l'engouement. Les modèles linguistiques ont toujours été des outils de modélisation du langage - maintenant, ils sont tout simplement meilleurs parce qu'ils disposent de plus de données et d'algorithmes plus puissants. Parler d'un «être pensant» est, selon elle, une confusion de catégories.
Mille perspectives - et aucune propre
Ce qui manque, elle le nomme «situationnalité». Une personne est intégrée dans son histoire, ses expériences, ses relations - tout cela forme sa perspective, qu'elle le veuille ou non. Un modèle linguistique, en revanche, est un mélange de mille perspectives, mais ne possède aucune perspective propre. La philosophe Donna Haraway décrit de manière pertinente ce point aveugle comme «View from Nowhere» - la prétention à un regard objectif de partout et de nulle part à la fois.
Les blagues sur les blondes comme symptôme
L'évaluation de Calleri sur la neutralité souvent évoquée de l'IA est particulièrement pointue. «L'IA n'est pas plus neutre que nous - elle reflète simplement toutes les opinions du monde». L'entraînement décide de ce qui entre, et donc de ce qui sort. Elle cite l'exemple de modèles multilingues dans lesquels des blagues sur les blondes apparaissent soudainement dans des régions linguistiques où de tels stéréotypes n'existent tout simplement pas culturellement - un effet secondaire du multilinguisme qui transmet des empreintes culturelles sans que l'on s'en rende compte. En bref, les modèles linguistiques nous tendent un miroir - qui révèle nos propres préjugés.
Le miroir ne ment pas, il ne fait que nous montrer
Comment améliorer cela ? Calleri ne plaide pas pour des recettes techniques miracles, mais pour plus de diversité - dans les équipes, dans les données de formation, dans le discours. Plus de perspectives autour de la table, et la volonté de supporter les contradictions au lieu d'imposer trop vite un consensus. «Il n'y a pas de vérité absolue», dit-elle avec la sérénité d'une philosophe qui le pense vraiment.
Son regard sur les dix prochaines années est sobre : elle s'attend à un écart social croissant entre une couche hyper-numérisée et un mouvement opposé qui mise sur la souveraineté et l'autodétermination dans la technologie. En Europe notamment, cette tension va sensiblement augmenter. Qu'est-ce qui peut aider ? Créer des espaces où les gens se parlent alors qu'ils ne le font pas habituellement. «Community Building», dit Calleri - et propose, non sans un clin d'œil, le repas en commun comme moyen sous-estimé de démocratisation.
Le podcast vidéo "AI und Gesellschaft - Wege in die neue Welt", animé par Christoph Soltmannowski, est produit par la fondation Text Akademie. Deux épisodes sont publiés chaque mois, sur Spotify, YouTube et les principales autres plates-formes de podcast. Produit par Castalavista.
