Il cas de Tengai, dont nous avons également longuement parlé sur FIRSTonline, nous invite à faire quelques considérations générales sur notre rapport aux outils dotés d'intelligence artificielle. Tengai peut en effet être un cas paradigmatique d'une utilisation sociale de l'intelligence artificielle.
Il ne supprime aucun emploi, ça n'appauvrit aucune famille, ce n'est pas un instrument de contrôle social, ça ne marche pas pour le gouvernement chinois. Bref, il n'a aucun de ces éléments qui suscitent tant d'inquiétude dans une opinion publique de plus en plus large, quant à l'angoisse face à l'avenir.
Tengai est sans aucun doute un service d'intelligence artificielle appliquée au contexte social-relationnel. Elle aide à mieux exercer une activité qui peut être conditionnée par des actes arbitraires et souffrir d'attitudes discriminatoires. Celui de la sélection du personnel. Dans l'évaluation du personnel, Tengai a tendance à être objectif, en supposant que le mérite, la compétence, la motivation et la capacité du candidat à accomplir la tâche pour laquelle il est en jeu sont les seuls paramètres de son travail.
Il n'est pas tout à fait faux de dire que la technologie peut naître neutre du travail des scientifiques, des inventeurs et des équipes de recherche, mais lorsqu'elle rencontre l'esprit animal du marché, cette neutralité tend à se séparer comme un grand fleuve dans un delta marécageux. Dans le cas de Tengai, cette évolution, typique de ce type d'écosystème, semble pour l'instant loin de se produire. Nous sommes toujours dans le bon.
De la science-fiction à la réalité
Jusqu'à récemment, un automate réalisant un entretien d'embauche était un sujet réservé à la science-fiction. Aujourd'hui, avec Tengai, c'est devenu une réalité. Nous avons déjà longuement discuté du robot de Furhat, néanmoins le moment est venu de nous demander concrètement ce que Tengai est appelé à faire et quel sera son rôle dans le processus de sélection.
(Toutes les citations qui suivent, sauf indication contraire, sont extraites du site www.tengai-unbiased.com)
TNG promeut ainsi sa solution de recrutement :
Tengai Select offre à ses clients une sélection de candidats de qualité grâce à des entretiens à l'aveugle avec des robots, une analyse des entretiens basée sur les données [date-entraîné] et les transcriptions des entretiens. Tengai Select contribuera également à améliorer l'expérience des candidats, [représentant] une marque plus crédible pour les employeurs et est efficace en termes de temps et d'argent. Le robot d'entretien est intégré dans le cadre de la phase d'entretien initiale et mène des entretiens à l'aveugle, ce qui signifie que tous les candidats reçoivent les mêmes questions et traitements basés sur les compétences. Cela permettra également à plus de candidats d'être interviewés et tous les entretiens seront transcrits.
L'interaction
Le premier objectif de Tengai est d'établir une certaine empathie avec le candidat.
L'automate de Furhat sera donc utilisé dans la phase initiale des entretiens, celle du filtrage par compétences. Les candidats auront probablement déjà passé une présélection, surtout si les effectifs en jeu sont importants. Les entretiens auxquels participera Tengai visent donc à identifier les compétences des candidats pour un poste précis. Une tâche en quelque sorte routinière, mais pas anodine.
Gabriel Skantze, professeur au KTH Stockholm et scientifique en chef du projet Tengai chez Furhat Robotics explique :
Tengai assistera les recruteurs et mènera des entretiens avec les candidats pour évaluer leurs aptitudes et compétences, en fonction des exigences du poste et de leur profil.
Il poursuit en soulignant que le travail du robot ne différera finalement pas beaucoup de celui d'un être humain : "Le robot mènera l'entretien de manière très similaire à un recruteur humain, en utilisant des questions basées sur la compétence".
Et c'est là que réside la particularité de Tengai, à savoir dans la capacité du robot à évoquer, éveiller et éventuellement établir une relation empathique avec la personne en face de lui : « Le robot retournera un feedback (hochant la tête, souriant et disant "mhm"), afin pour encourager le candidat à fournir des réponses élaborées », poursuit Skantze. Tengai dialoguera avec le candidat et, si nécessaire, produira également une discussion plus approfondie : « Si la réponse est trop vague, le robot pourrait demander au candidat, par exemple, de fournir des exemples plus concrets ».
Enfin, conclut le scientifique en chef de Furhat :
Après l'entretien, le robot présentera un résumé de l'entretien et quelques recommandations objectives (objectif) afin qu'un humain décide du candidat.
Imprévisibilité et indétermination
Tengai est très différent des assistants vocaux comme Siri en ce sens que Tengai essaie de traiter même les situations inattendues.
Précisément le caractère familier de la tâche confiée à Tengai et l'interaction marquée à laquelle il est appelé, l'exposent à devoir faire face à des situations et événements imprévisibles. Cela se produira dans une bien plus grande mesure qu'avec d'autres appareils avec lesquels nous communiquons actuellement (pensez, par exemple, aux assistants personnels des différents appareils numériques ou même au navigateur GPS), où la conversation reste la plupart du temps confinée dans un cadre bien circonscrit. périmètre.
Gabriel Skantze explique la différence :
Dans le cas de Siri, l'utilisateur humain pose une question et Siri recherche des informations pertinentes et les présente de manière amusante et sociale. Au Pour le moment, cependant, Siri semble plus facile à programmer que Tengai. Notre tâche est considérablement plus complexe. Dans notre cas, nous devons transférer un comportement humain acquis à un robot qui n'a exactement aucune expérience antérieure d'interaction sociale humaine.
Ce dernier remarque à quel point la conduite d'un entretien d'embauche est beaucoup plus exigeante et donne inévitablement lieu à des scénarios a priori indéfinissables. Pour aborder et gérer cette incertitude, le caractère prédictif de la dernière génération d'intelligence artificielle est utilisé et nous nous appuyons en fait sur l'apprentissage automatique :
Dans ce but, Tengai sera développé à l'aide de l'apprentissage automatique, ce qui signifie que nous collecterons des données à partir d'entretiens menés par des humains, où le potentiel de biais est aussi faible que possible, puis formerons le système pour reproduire le comportement conversationnel du recruteur humain.
L'ambiguïté
Le langage peut être très ambigu pour une intelligence non biologique.
Tengai devra faire face à l'indétermination au quotidien, ainsi qu'à lutter constamment contre l'ambiguïté. En effet, l'un des défis les plus exigeants à surmonter pour l'automate est précisément constitué par l'ambiguïté. Celle concernant le langage et ses innombrables facettes et celle inhérente à la compréhension des multiples codes que nous utilisons pour communiquer.
Sinisa Strbac, chef de projet et robot formateur du projet Tengai le sait bien :
Nous avons mis beaucoup d'efforts dans l'analyse des questions que le robot devrait poser. Il s'est avéré très important que les questions soient aussi claires et concrètes que possible. Tengai lutte contre l'ambiguïté, donc moins la réponse d'un candidat est vague, mieux c'est Tengai dans l'évaluation et la validation de l'éventail des compétences.
Le robot, comme les recruteurs humains, suivra un modèle consolidé de questions, dans un cadre de compétence vérifié (vérifié compétence cadre), à soumettre aux candidats. Néanmoins, l'IA devra être en mesure de bien comprendre les réponses de ce dernier, afin de décider de la direction dans laquelle poursuivre l'entretien.
Il détecte toujours Strbac
La réponse d'un candidat peut décrire n'importe quelle situation imaginable, être mentionnée d'une myriade de façons différentes et dans un choix de mots individuel. Le robot doit comprendre et analyser ces informations, puis déterminer quelle question supplémentaire est la plus pertinente.
Afin de pouvoir mener l'entretien en toute autonomie, Tengai s'est doté des toutes dernières acquisitions en termes d'IA, de l'état de l'art dans le domaine de la reconnaissance vocale, de la compréhension du langage naturel et du sens sous-jacent à la langue. Grâce à cela, le robot est capable de collecter une quantité considérable d'informations et de les traiter de manière rentable, en conversant avec son interlocuteur :
Lors du recrutement, une attention particulière est portée à la fourniture et à la collecte d'informations. Et cela vaut aussi pour Tengai. Il partage des informations sous forme de dialogue sur l'entretien [d'emploi], comment il va se dérouler et enfin recueille les réponses. Comme il capture des informations, il comprend ce que dit le candidat, quel que soit le nombre de mots et de phrases utilisés. Alors oui, il peut gérer des questions ouvertes et des réponses indéterminées.
Néanmoins, en matière de langage et d'interaction humaine, les inconnues s'avèrent innombrables. Toute erreur ou incompréhension pourrait même affecter l'objectivité tant recherchée de la machine. Gabriel Skantze en est conscient :
Il peut y avoir un risque que la reconnaissance vocale (qui traduit la parole en mots) puisse mal fonctionner pour les locuteurs avec un accent étranger ou pour un sexe particulier. Cela pourrait potentiellement affecter le résultat de l'entretien.
données et formation
Tengai a été conçu pour acquérir des données avec une méthode appelée "The Wizard of Oz". Cette méthode place le contrôle du processus entre les mains d'une seule personne.
Afin de rendre Tengai efficace, avant et même plus que l'entraînement, les données utilisées dans le processus d'entraînement de la machine sont fondamentales.
Gabriel Skantze explique comment les données ont été acquises pour la première fois. C'est une méthodologie qui porte le nom de "Magicien d'Oz», qui laisse le contrôle du robot à un humain, bien que ceux qui interagissent avec la machine l'ignorent.
Tengai il a d'abord été surveillé par un recruteur humain assis dans une autre pièce, qui a déclenché le comportement du robot, ce qui nous a permis d'enregistrer les données d'entretien homme-robot. Ces données vont maintenant être utilisées pour développer deux modèles différents : un qui peut reproduire le comportement du magicien pendant l'entretien et un qui peut effectuer l'évaluation des entretiens après.
La diversité, souligne Skantze, concernait aussi ceux qui ont temporairement pris le contrôle de Tengai, afin d'éviter les préjugés de toute nature, même inconscients : « [Tengai] apprend de différents recruteurs pour ne pas acquérir le comportement propre à un recruteur individuel ».
La diversité, cette fois du robot par rapport à l'homologue humain, s'exprime aussi par rapport au contrôle minutieux que l'on peut exercer sur le comportement de l'automate : « Contrairement à un recruteur humain, on peut contrôler le comportement du robot dans le détail, jusqu'au bout aux micro-mouvements du coin de la bouche », note Skantze.
La phase d'acquisition de données et de formation machine a pris des mois et a compté au-delà deux cent entretiens avec des volontaires proposés comme cobayes.
Toutes les mimiques, sons et expressions faciales sont conçues en étudiant et en filmant plusieurs centaines d'entretiens de recruteurs différents, créant ainsi une interaction où les demandeurs d'emploi se sentent en sécurité, à l'aise, pour une expérience candidat plus fluide, simple et avant-gardiste.
En effet, n'oublions pas que la particularité du Tengai réside dans la capacité de l'automate à interagir pleinement avec son interlocuteur.
Accueil
Comme Minority Report avait légèrement anticipé quelque chose qui, de la science-fiction, deviendrait réalité, alors Son/Elle, le film de Spike Jonze, avec Joaquin Phoenix, anticipe un autre avènement pas lointain. Tengai est peut-être déjà quelque chose qui annonce Son.
S'asseoir devant un robot et converser avec lui est (encore) une expérience en soi hors du commun. Elle l'est encore plus si l'enjeu est important, comme la recherche d'un emploi. Une condition qui, même avant et indépendamment de la présence de la voiture, est source de stress et de tension.
Détecter Strbac :
Nous demandons à nos candidats de se placer dans une situation particulièrement inhabituelle : s'asseoir dans une pièce avec seulement un robot et avoir une conversation. Se faire poser une question, y répondre au mieux de ses capacités, puis passer à autre chose.
Les réactions sont évidemment les plus diverses et varient d'un individu à l'autre. Observez le dresseur de robots de Tengai.
Certaines personnes sont sceptiques au début, mais sont surprises de voir à quel point c'est naturel Tengai gère la conversation. D'autres maintiennent leur scepticisme même après l'entretien car ils ont de grandes attentes concernant la capacité du robot à imiter les attitudes humaines et à parler naturellement, ce qui Tengai il n'est pas encore capable de le faire parfaitement, même s'il est en route. Il est social, mais pas de la même manière qu'un être humain.
Ensuite, il y en a d'autres qui sont favorables au concept, mais qui s'énervent avant l'entretien. Après tout, on leur demande de "jouer" devant une machine qui suit leurs mouvements et enregistre leurs réponses.
Strbac continue
Il n'y a rien d'étrange à cela, vraiment; les humains font la même chose. Mais leur sentiment [les candidats] est que le robot est bien plus qu'un humain. Il "enregistre littéralement mes réponses !" C'est le commentaire qu'ils font."
acceptation
Comme dans le légendaire Mechanical Turk, l'interview est une sorte de partie d'échecs avec la machine.
En effet, il y a une certaine différence. Il réside peut-être à la fois dans la psychologie humaine et dans la capacité d'analyse profonde et multiforme que l'IA a maintenant atteinte. L'automate est perçu, à tort ou à raison, comme un sujet beaucoup plus difficile à tromper ou, si l'on veut, à pouvoir persuader et "gouverner", comparé à un être humain. Face à la machine, de nombreuses certitudes manquent.
Enfin et surtout, la confiance que certains individus placent dans leur propre capacité à avoir raison sur l'interlocuteur auquel ils sont confrontés, ou du moins dans la possibilité de pouvoir le prendre au piège. La machine est sans émotion et la composante émotionnelle est un levier puissant à utiliser dans les relations interpersonnelles. Avec le robot, le jeu se joue à un tout autre niveau.
De plus, l'intelligence artificielle possède désormais des qualités d'analyse qui, prises individuellement, dépassent largement les capacités d'un être humain. De plus, ceux-ci s'appliquent à tant d'aspects et avec tant de détails qu'un seul individu pourrait difficilement les embrasser et les évaluer dans l'ensemble du domaine.
Sans parler, donc, de l'efficacité reconnue des machines, où tout est méticuleusement et inexorablement, en fait, enregistré... Ces prérogatives font peur : « certaines personnes ne peuvent s'empêcher de se sentir un peu surveillées et se trouvent donc excessivement mal à l'aise".
Bien que les commentaires que TNG dit reçu lors du développement de Tengai apparaît globalement plus que positif, il faut dire que c'est une chose d'être cobaye dans une expérience, peut-être même singulière, c'en est une autre de miser sur son avenir. Jouer le rôle du candidat et porter le fardeau pourrait s'avérer être tout autre chose : "En fin de compte, ils sont assis là à avoir une conversation complexe avec un ordinateur qui aura finalement des implications dans la vie réelle."
Strbac est optimiste et fait confiance aux qualités de Tengai :
En revanche, la plupart des gens sont surpris par le naturel de la discussion ; plus l'entretien dure, moins ils pensent au fait qu'ils parlent à un robot. Cela devient juste un autre élément de l'entretien.
Étrange vallée
Selon le scientifique japonais Masahiro Mori, la confiance dans les robots grandit à mesure qu'ils prennent de plus en plus de caractéristiques humaines.
En définitive, l'automate doit être accepté par son interlocuteur. Et pas seulement par certains, mais par tous, quelles que soient la psychologie, la sensibilité et les idées du sujet en question. Joe Mendelson, responsable de l'interaction chez Furhat, va droit au but : « Les gens accepteront les robots dans ces nouveaux types de rôles dans la société (intervieweur en entretien d'embauche), qui vont au-delà du divertissement ou même de l'information, dans le territoire un peu sérieux de recherche d'emploi?"
Puis il continue:
Ce sera tout un saut pour certaines personnes - j'espère donc apprendre à comprendre ce que différents types de personnes ressentent à propos de ce type d'interaction.
Les réactions au robot de Furhat n'ont pas été unanimes. Il y a quelque temps, Joel Cheesman, podcasteur américain, l'a défini "terrifiant» (effrayant, effrayant). Ce dernier, en effet, a alors incontrato Tengai à Tatech Europe 2019 et la perception a partiellement changé, évoluant légèrement vers le "cool" (cool). Selon ce qui a été déclaré à cette occasion, après quelques centaines d'entretiens en phase de test, les 3/4 des candidats se disent favorables à une nouvelle rencontre avec Tengai. Un pourcentage décidément élevé !
Lorsque vous interagissez avec un robot, et en particulier avec un robot (anthropomorphe) qui imite les attitudes et les comportements humains, la question devient considérablement plus complexe. Pour l'instant, les scientifiques n'ont pas encore trouvé la formule magique qui permette aux automates de ne pas être perçus comme des corps étrangers par leurs homologues de chair et de sang. C'est un phénomène, encore en partie controversé, qui conduit la machine à générer un sentiment d'agacement et de malaise chez l'homme, qui peut alors conduire à un refus ferme.
Dans de tels cas, on parle de étrange vallée. C'est une hypothèse formulée par le scientifique japonais Masahiro Mori en 1970, toujours pas universellement reconnu. Selon Mori, l'acceptation et le sentiment de confort ressentis envers les appareils et automates anthropomorphes grandissent d'autant plus qu'ils ressemblent davantage à l'homme. Jusqu'à un certain seuil cependant. Au-delà de ce seuil, un excès de réalisme produit des sensations désagréables, provoque une gêne et peut entraîner un rejet.
L'erreur de Tengai
En tant qu'acceptation, Tengai a tendance à se situer dans le niveau d'IBM Project Debater, le système d'IA capable de tenir un débat sur un nombre impressionnant de sujets.
C'est probablement ce qui s'est passé à Edimbourg avec le robot Fabio, engagé par la (très italienne) chaîne de supermarchés Margiotta Cuisine & Vin. Fabio a représenté une expérience promue, en collaboration avec le Université Heriot-Watt d'Édimbourg, de la série Les six robots de la BBC et les États-Unis.
"Malheureusement, Fabio n'a pas fonctionné comme nous l'espérions", a précisé Luisa Margiotta. « La prestation n'était pas ce qu'on attendait, les gens l'ont évitée, elle a fait peur aux clients ». L'automate a donc été tiré.
Des sensations similaires semble avoir soulevé dans ses débuts aussi Ancre d'IA en anglais, l'hologramme résultant de la collaboration entre Xinhua, l'agence de presse d'État chinoise e Sogou. Pour la plupart, cela semblait "robotique", mais il y a aussi ceux qui l'ont appelé "un peu horrible", alors que quelqu'un considéré "vraiment effrayant".
Et peut-être que la gêne ressentie par est aussi à rattacher au même phénomène Dieter Bohn vers laDébat sur le projet IBM, à l'occasion de la présentation de la dernière merveille IBM, tenue à San Francisco à l'été 2018 :
Franchement, cela m'a mis un peu mal à l'aise, mais pas à cause des inquiétudes habituelles telles que "les robots vont devenir conscients d'eux-mêmes et prendre le relais" ou "l'IA vient [pour voler] nos emplois". C'était quelque chose de plus subtil et difficile à saisir. Peut-être que pour la première fois, j'ai eu l'impression qu'une IA essayait de se déguiser. Je ne l'ai pas vue mentir, et je ne pense pas non plus qu'elle ait tenté de nous tromper, mais elle s'est engagée dans une tactique de débat selon laquelle, si vous l'aviez vue tentée par un humain, vous auriez placé un peu moins de foi en cet être humain. Ce fut un moment quelque peu dissonant d'un point de vue cognitif. Comme mentionné, effrayant.
L'acceptation ne sera qu'une des nombreuses épreuves que le robot de Furhat sera appelé à surmonter. Le fait qu'il représente une expérience innovante dans le domaine de l'intelligence artificielle, ainsi que la vocation particulière de l'automate pour l'interaction, posent en effet de multiples défis avec lesquels Tengai et les membres du projet devront se mesurer.
Certaines des comparaisons les plus significatives sont appelées biais algorithmiques ; boîte noire et IA explicable ; reddition de comptes et d'audit ainsi que, enfin et surtout, que l'équité tant louée et recherchée s'avère vraiment juste et profite à tout le monde, plutôt qu'à quelques-uns. Ce seront les sujets que nous aborderons prochainement.
