L'intelligence artificielle est un moteur important du changement numérique et est utilisée dans un nombre croissant de domaines. "Les citoyens, les consommateurs et les travailleurs doivent être informés de manière aussi transparente que possible sur l'utilisation de l'IA dans leurs relations avec l'État, les entreprises ou leur employeur", peut-on lire dans l'étude publiée mercredi.
Par exemple, l'utilisation de systèmes d'IA devrait être clairement et facilement identifiée afin que les personnes concernées sachent que l'interaction a lieu avec un système d'IA et non avec un être humain.
Examen humain nécessaire
De même, les décisions importantes concernant des personnes ne devraient pas être confiées à un système d'IA sans en avoir pesé les avantages et les inconvénients, écrivent les auteurs. Lorsqu'il s'agit de questions relatives aux personnes, le résultat du système doit généralement être vérifié et justifié par un être humain.
Contrairement aux ordinateurs traditionnels, de nombreux systèmes d'IA sont capables, grâce à un entraînement sur de grands ensembles de données, de reconnaître des régularités cachées et de proposer des solutions. Les systèmes d'IA avancés peuvent également effectuer des tâches qui sont actuellement du ressort de professionnels bien formés. L'IA est par exemple utilisée en médecine pour l'évaluation d'images par ultrasons, par résonance magnétique ou par radiographie.
En raison du vaste champ d'application, les chances et les risques de l'IA ne peuvent pas être évalués de manière générale, selon les auteurs. Une "loi générale sur l'IA" n'est donc pas appropriée. En lieu et place, les problèmes et les développements erronés causés par l'IA devraient être réglés dans les lois ou les ordonnances existantes ou, le cas échéant, par des mesures volontaires.
L'étude examine l'utilisation de l'IA dans les achats, les médias classiques et nouveaux, le monde du travail, l'éducation et la recherche ainsi que les autorités.
Exigences pour les organismes publics
L'utilisation de l'IA pose des exigences particulières aux acteurs étatiques. Toutefois, en Suisse, les services publics utilisent encore rarement l'IA. Ils doivent veiller à ce que les droits fondamentaux des citoyens ne soient pas violés.
Ainsi, selon l'étude, l'IA ne peut être utilisée dans l'administration et la jurisprudence que selon des critères clairs. L'administration doit en outre garantir que les données qui servent de base aux systèmes d'IA sont correctes et complètes.
En ce qui concerne le monde du travail, les auteurs voient également une chance dans l'utilisation de l'IA : grâce à des gains d'efficacité, l'IA pourrait contribuer à réduire le temps de travail personnel. Afin de rendre cela possible et d'éviter les craintes de pertes d'emplois ou de bouleversements sociaux, la formation et la formation continue en IA devraient être encouragées.
Normes éthiques
Dans l'éducation, l'IA peut être utilisée pour analyser les capacités des apprenants et proposer des options éducatives. "Ce faisant, de grandes quantités de données sont collectées et générées sur les personnes concernées", écrivent les auteurs. "Les établissements d'enseignement doivent donc veiller à ce que les élèves ne soient pas désavantagés par la suite".
La transmission de connaissances sur l'intelligence artificielle est un autre aspect pour les auteurs. Ainsi, les hautes écoles doivent clarifier la manière dont la compréhension des capacités, mais aussi des limites des systèmes d'IA peut être encouragée. Les universités devraient également avoir pour mission de développer des normes éthiques pour la recherche et l'utilisation de l'IA.
Un équilibre difficile à trouver
Quiconque commande des marchandises sur Internet entre inévitablement en contact avec l'IA. L'achat personnalisé est devenu une évidence, les processus informatiques agissent en arrière-plan et ne sont guère remis en question jusqu'à présent, expliquent les auteurs.
Les spécialistes interrogés dans le cadre de l'étude estiment qu'il est urgent de sensibiliser les utilisateurs à la valeur de leurs propres données. Pour les entreprises, il est toutefois difficile de concilier personnalisation et protection des données.
Les données ouvertes et les possibilités de contrôle pour les clients, la publication transparente de l'utilisation de l'IA ainsi que le droit à l'effacement des données seraient considérés par les spécialistes interrogés comme des mesures prometteuses pour favoriser la confiance des clients.
La Confédération doit sensibiliser aux fausses informations
Les algorithmes et l'intelligence artificielle contribuent de plus en plus à déterminer quels messages et contenus sont affichés par les utilisateurs des plateformes médiatiques. Selon l'étude, les exploitants de plateformes sont invités à indiquer clairement quels messages sont affichés en raison de l'utilisation de systèmes d'IA.
La Confédération devrait sensibiliser aux fausses informations créées à l'aide de l'IA. Parallèlement, les autorités de sécurité devraient être en mesure - sous contrôle parlementaire - d'identifier les campagnes politiques utilisant des fausses informations et d'en informer la population.
L'étude a été menée par des chercheurs de la Digital Society Initiative de l'Université de Zurich, du département Technologie et société de l'Empa (Laboratoire fédéral d'essai des matériaux et de recherche) et de l'Institut für Technikfolgen-Abschätzungen de l'Académie autrichienne des sciences. La fondation TA-Swiss évalue les conséquences technologiques et fournit les bases permettant de peser les chances et les risques de manière globale. (SDA)