"Nous devons réfléchir à ce que nous avons créé et pourquoi." Ce sont les mots de Nello Cristianini, physicien, professeur et chercheur en Intelligence Artificielle à l'Université de Bristol, lors de la trente-sixième édition de la Lecture du Moulin intitulée « Machines intelligentes. Les comprendre pour pouvoir vivre avec eux ».
Des années 50 aux années 90, l'approche de l'intelligence artificielle était très « mathématique » : on se demandait quelle était la plus haute activité intellectuelle qu'un humain pouvait accomplir et la réponse semblait être « prouver des théorèmes », a-t-il commencé le conférencier de Bristol. L'idée que l'intelligence était une déduction logique et des règles axiomatiques était très populaire à cette époque, et tous les efforts investis pour essayer de créer des machines intelligentes dans cette veine n'avaient abouti à aucun résultat. Le tournant fut l'abandon de cette approche au profit des méthodes statistiques : ce « changement de paradigme » permis aux premiers traducteurs. En résumé, nous sommes passés d'une tentative de définition de règles précises et procédant par déduction logique à un modèle comportemental guidé par l'inférence statistique.
Nous avons évité de prendre l'être humain comme modèle d'intelligence : l'idée est de s'intéresser au comportement intelligent plutôt qu'à l'intelligence elle-même, qui peut aussi être typique d'un système. Le concept consiste à imiter des comportements utiles, à apprendre à partir d'exemples, en laissant de côté la tentative de résoudre le "problème d'intelligence", en abandonnant également la question de donner une étiquette au concept lui-même ou de le définir sans équivoque. Amazon parvient à conseiller sans comprendre le modèle d'une personnalité, de la même manière il est possible de bloquer les mails indésirables.
Cependant, en plus de tous les avantages que ces machines ont apportés, il existe des risques réels et concrets non seulement pour notre existence et notre liberté, mais aussi pour notre vie privée. "L'opinion publique elle-même est conditionnée par des algorithmes" a souligné Cristianini. "Nous avons créé des machines dont nous ne pouvons plus nous passer et nous n'avons toujours pas les normes culturelles, les lois et les valeurs avec lesquelles vivre". C'est un problème très actuel de structure culturelle. Il faut que les gens qui "peignent" les nouveaux problèmes transmettent aux générations futures une prise de conscience de ces risques, et cette tâche, pour Nello, appartient à la politique.
Il s'agit de gouverner le changement en étant conscient des multiples implications : dans le domaine éducatif, au niveau social mais aussi dans notre esprit. Les machines sont un outil puissant et essentiel, il suffit de penser aux nombreuses réalisations réalisées dans les domaines médical, industriel et scientifique. Cependant, nous devons réfléchir aux conséquences éthiques et culturelles qu'aura l'utilisation à grande échelle des machines intelligentes. Cela implique la nécessité de modifications législatives pour clarifier les rôles et les responsabilités.
Le problème n'est pas la machine, mais l'homme lui-même s'il n'aborde pas les problèmes du bon point de vue. On se demande si dans ce processus de remplacement de l'homme quelles sont les conséquences éthiques et culturelles au niveau mondial. Et le risque pour l'homme de perdre une partie de son identité, réduisant son existence à ce que peut faire une machine et à la satisfaction de nouveaux besoins, pour la plupart induits.
Le Parlement européen s'est exprimé à ce sujet : « L'utilisation deintelligence artificielle (IA) elle doit prévenir les préjugés sexistes, sociaux et culturels et protéger la diversité linguistique, pierres angulaires des droits et valeurs fondamentaux de notre société ». Avec 623 votes favorables des membres qui veulent souligner l'importance des valeurs éthiques européennes à la base de l'utilisation, dans les domaines éducatifs et culturels, des technologies développées grâce à l'IA.
Par cette résolution, le Parlement européen "invite la Commission européenne et tous les États membres à tenir compte des aspects éthiques, y compris du point de vue du genre, dans l'élaboration des politiques et de la législation sur l'IA et, si nécessaire, à adapter la législation actuelle, y compris Programmes de l'Union et lignes directrices éthiques sur l'utilisation de l'IA".
En particulier, les parlementaires demandent le développement d'indicateurs spécifiques pour mesurer la diversité et s'assurer que les recommandations contenues dans les algorithmes, notamment dans les services de streaming audio et vidéo, n'affectent pas négativement la diversité culturelle et linguistique de l'Union.
L'attention est également portée sur la diffusion de fausses nouvelles, un sujet brûlant que le professeur Cristianini a également souligné lors de l'événement. Nous devons établir comment les technologies de l'intelligence artificielle sont utilisées par les médias et être vigilants quant à l'utilisation abusive de ces technologies pour diffuser de fausses nouvelles.
