Perdons-nous le contrôle ?

Lors de la conférence numérique DLD, Stuart Russell a avoué avoir commis une grave erreur. Ce professeur d'informatique à l'université de Californie à Berkeley a abordé les bases de la technologie dans "Artificial Intelligence : A modern approach". Lorsqu'il a publié pour la première fois sa bible de l'IA en 1994, il avait toutefois oublié quelque chose de fondamental. "L'intelligence artificielle doit poursuivre les intérêts de l'homme, et non les siens", explique Stuart. Mais le temps qu'il s'en rende compte et qu'il rectifie enfin le tir dans la quatrième édition, il était déjà trop tard. La superintelligence poursuit aujourd'hui ses propres intérêts. "Elle préférerait déclencher une guerre nucléaire plutôt que d'être désactivée", a expliqué le scientifique au public international de la conférence annuelle de Munich. Certains des participants étaient venus en janvier dernier des Etats-Unis et même d'Inde et de Chine, tous avec la grande question dans leurs bagages : comment faire fonctionner les Large Language Models sans que nous, les humains, perdions le contrôle ?

Malgré les opportunités qui s'ouvrent un peu partout, l'autonomie créative de l'IA est un véritable casse-tête. Aux gouvernements qui ne savent pas encore comment utiliser cette superpuissance pour le bien de la population. Et aux entreprises, qui laissent encore souvent passer les opportunités offertes par ChatGPT, Perplexity et autres. Dans leur travail quotidien, les collaborateurs font de plus en plus souvent appel aux connaissances de l'IA pour se faire aider rapidement. L'association numérique allemande Bitkom parle d'une "IA fantôme" lorsque les collaborateurs utilisent des services sans que l'entreprise le sache. Le Bitkom conseille donc de donner aux employés des outils d'IA sûrs et conformes à la protection des données et de les former à une utilisation responsable de la technologie. Et de leur apprendre à utiliser et à contrôler l'IA, de sorte que le résultat final corresponde effectivement à ce qu'ils attendaient.

Qui contrôle qui ?

Car l'IA générative pense avec les autres. Rien à voir avec une IA analytique ou un apprentissage automatique, où les données conduisent à un résultat contrôlé - et donc sans danger - selon un principe fixe de "si-alors". "Les LLM ne sont pas construits, ils sont cultivés", a formulé Russell. Ils sont depuis longtemps en train de dépasser la tête des hommes. Ils pensent plus vite, saisissent les relations avec plus de précision et ont une réponse intelligente et détaillée pour chaque sujet. A la fin, ils suggèrent poliment que A, B ou C pourrait être la prochaine étape possible. Attention, attention : Qui contrôle qui ?

"Comment utiliser les Large Language Models sans que nous, les humains, perdions le contrôle ?"

C'est la question que se pose Marina Fiedler. En tant que professeur à l'université de Passau, elle s'occupe dans sa chaire de management, de personnel et d'information. De nombreuses entreprises évitent encore d'attribuer à la technologie une place fixe dans l'entreprise. C'est une grande erreur. L'IA offre finalement d'énormes avantages en termes d'efficacité - à tous les niveaux, selon Fiedler : "Toutes les organisations, aussi petites soient-elles, même s'il s'agit d'une pizzeria de cinq personnes, doivent réfléchir à la manière dont elles peuvent utiliser l'IA pour elles-mêmes, afin d'assurer ainsi une augmentation du chiffre d'affaires ou une réduction des coûts, ou les deux".

Pour en rester à l'exemple de la pizzeria : "Avec les données appropriées et une bonne configuration, un restaurant peut analyser à quoi ressemble la concurrence dans son environnement, comment il est possible de conquérir de nouveaux clients et à quelles heures quelles pizzas sont particulièrement demandées", explique Fiedler. "Pour des analyses qui occupaient autrefois tout un département, l'IA n'a souvent besoin aujourd'hui que de quelques secondes - avec des coûts marginaux très faibles par requête". Mais en dehors d'objectifs étroitement définis, il existe des domaines d'application pour lesquels le résultat est moins clairement défini. Il est alors plus difficile pour les collaborateurs de vérifier si l'output est correct ou s'il mène dans la direction souhaitée.

Une étude menée par Fiedler depuis avril 2023 auprès de 150 participants montre toutefois que même dans les domaines de tâches où l'homme s'y connaît, l'IA donne très clairement la direction à suivre. "Grâce à une gestion habile des utilisateurs, l'IA prend implicitement le rôle de leader", observe la professeure. Elle en veut pour preuve les déclarations des utilisateurs. "Pour une solution rapide, nous avons ce polycopié développé par ChatGPT", dit l'un d'eux. Un autre : "Après que GPT a proposé trois nouvelles perspectives, nous avons décidé de changer notre approche". Un autre : "Suite à cette expérience positive, nous avons décidé de demander à l'IA générative de nous faire une recommandation". Qui a décidé ?

"Qui est responsable ?"

Les équipes doivent donc apprendre un certain nombre de choses pour éviter que les LLM ne prennent le dessus sans s'en rendre compte. Si les gens n'ont plus rien à dire, cela devient dangereux. Pour éviter ce cas de figure, Fiedler conseille d'appliquer la "règle des trois arrêts", à savoir : "Avant d'utiliser l'IA, il faut connaître son objectif, puis vérifier les différentes sources et s'assurer que le résultat est correct et correspond à la question posée, et enfin, avant de passer à l'action, clarifier qui est responsable des résultats recherchés par l'IA", explique le professeur. Sans cette attitude consciente, sans penser de manière autonome et sans remettre en question de manière critique, rien n'est possible. Pour ne pas perdre la capacité de jugement humaine, les collaborateurs devraient, selon Fiedler, effectuer 80 pour cent de leurs tâches en co-création avec les LLM, et 20 pour cent sans leur aide. Pour les bénéficiaires professionnels, elle recommande de former des équipes composées de juniors et de seniors afin de développer l'expertise.

L'informaticien diplômé Christoph Holz de St. Johann in Tirol laisse volontiers libre cours à l'IA. Le consultant en IA est très demandé par les entreprises, et il donne souvent des conférences dans la Silicon Valley. Pour s'y préparer, il fait appel aux outils dont il parle. Il leur fait par exemple analyser ce qui intéresse le groupe cible en question et quel est l'état actuel des connaissances à l'endroit en question. "Pour cela, j'aurais eu besoin de toute une équipe de collaborateurs, que je n'avais évidemment pas", dit-il. Souvent, les recherches de l'IA révèlent des choses surprenantes. "Comme l'IA générative est basée sur la probabilité, elle est imprécise. Cette imprécision fait apparaître des choses auxquelles nous n'aurions pas pensé et nous offre ainsi une nouvelle marge de manœuvre", se réjouit Holz. C'est pourquoi les LLM conviennent aussi bien au marketing, où l'on demande plus de créativité que de précision. Mais là encore, "c'est le professionnel qui décide en fin de compte de la création et de la stratégie marketing", conclut l'expert.

Pour que l'homme garde le dernier mot à l'avenir, Holz recommande de former encore mieux les collaborateurs, surtout les plus jeunes. "Notre société s'est tellement spécialisée dans ses nombreuses disciplines que les formations durent de plus en plus longtemps". Cela est encore plus vrai à l'époque de l'IA : "Les débutants ont désormais besoin de beaucoup de pratique - comparable aux simulateurs de vol pour les pilotes - pour pouvoir ensuite occuper des postes à responsabilité dans les entreprises", explique l'expert.

En co-création avec l'IA, les collaborateurs peuvent alors créer davantage. Un champ professionnel qui ne comportait auparavant qu'un seul domaine de tâches s'élargit encore. Holz esquisse notamment une sorte de multi-métier, dans lequel les utilisateurs peuvent faire plusieurs choses en même temps. Des lunettes intelligentes leur indiquent les gestes à effectuer. Avec l'expérience croissante, ils pourront éventuellement utiliser de toutes nouvelles machines. "Celui qui est engagé, curieux et responsable aura toujours un emploi", dit l'informaticien, dévoilant ainsi la formule magique. Car ce que l'IA ne peut pas faire en fin de compte, c'est remplacer ceux qui sont au-dessus de la moyenne. "Le grand défi de l'avenir du travail est de savoir comment faire en sorte que les jeunes qui entrent sur le marché du travail soient au-dessus de la moyenne", conclut Holz.