Il caso de Tengai, que também discutimos amplamente no FIRSTonline, nos leva a fazer algumas considerações gerais sobre nossa relação com ferramentas equipadas com inteligência artificial. Tengai pode de fato ser um caso paradigmático de uso social da inteligência artificial.
Não tira nenhum emprego, não empobrece família nenhuma, não é instrumento de controle social, não serve para o governo chinês. Em suma, não tem nenhuma daquelas componentes que tanto preocupam uma opinião pública cada vez mais alargada, no que diz respeito à angústia do futuro.
O Tengai é, sem dúvida, um serviço de inteligência artificial aplicado ao contexto sócio-relacional. Ajuda a desempenhar melhor uma atividade que pode ser condicionada por ações arbitrárias e padecer de atitudes discriminatórias. O da seleção de pessoal. Na avaliação de pessoal, a Tengai tende a ser objectiva, assumindo como únicos parâmetros do seu trabalho o mérito, a competência, a motivação e a capacidade do candidato para o desempenho da função que lhe compete.
Não é totalmente errado dizer que a tecnologia pode nascer neutra do trabalho de cientistas, inventores e equipes de pesquisa, mas quando ela se encontra com o espírito animal do mercado essa neutralidade tende a se separar como um grande rio em um delta pantanoso. No caso do Tengai, essa evolução, típica desse tipo de ecossistema, no momento parece longe de acontecer. Ainda estamos na boa.
Da ficção científica à realidade
Até recentemente, um autômato conduzindo uma entrevista de emprego era assunto reservado à ficção científica. Hoje, com a Tengai, isso se tornou uma realidade. Já discutimos bastante sobre o robô de Furhat, mas chegou a hora de nos perguntarmos concretamente o que Tengai é chamado a fazer e qual será o seu papel dentro do processo de seleção.
(Todas as citações a seguir, salvo indicação em contrário, são retiradas do site www.tengai-unbiased.com)
A TNG promove sua solução de recrutamento assim:
Tengai A Select oferece aos clientes uma seleção de candidatos de qualidade por meio de entrevistas cegas com robôs, análise de entrevistas orientada por dados [date-dirigido] e as transcrições das entrevistas. Tengai O Select também ajudará a aprimorar a experiência do candidato, [representando] uma marca mais confiável para os empregadores e com custo e tempo reduzidos. O robô de entrevista é integrado como parte da fase inicial de entrevista e realiza entrevistas cegas, o que significa que todos os candidatos recebem as mesmas perguntas e tratamento com base em habilidades. Também permitirá que mais candidatos sejam entrevistados e todas as entrevistas serão transcritas.
A interação
O primeiro objetivo de Tengai é estabelecer alguma empatia com o candidato.
O autômato de Furhat será, portanto, utilizado na fase inicial das entrevistas, a da triagem por competências. Os candidatos provavelmente já passaram por uma pré-seleção, especialmente se os números em jogo forem importantes. As entrevistas em que a Tengai estará envolvida visam, portanto, identificar as competências dos candidatos a um determinado posto de trabalho. Uma tarefa de certa forma rotineira, mas não trivial.
Gabriel Skantze, professor da KTH Estocolmo e cientista-chefe do projeto Tengai da Furhat Robotics, explica:
Tengai auxiliará recrutadores e conduzirá entrevistas com candidatos para avaliar suas habilidades e competências, com base nos requisitos e no perfil do cargo.
Ele continua destacando como o trabalho do robô acabará não diferindo muito do de um ser humano: "O robô conduzirá a entrevista de maneira muito semelhante a um recrutador humano, usando perguntas baseadas em competência".
E é aqui que reside a particularidade de Tengai, nomeadamente na capacidade do robô de evocar, suscitar e eventualmente estabelecer uma relação empática com a pessoa que está à sua frente: «O robô irá devolver o feedback (acenar com a cabeça, sorrir e dizer "mhm") , de forma a para encorajar o candidato a fornecer respostas elaboradas”, continua Skantze. A Tengai dialogará com o candidato e, se necessário, produzirá também uma discussão mais aprofundada: «Se a resposta for muito vaga, o robô pode pedir ao candidato, por exemplo, que dê exemplos mais concretos».
Por fim, conclui o Cientista Chefe de Furhat:
Após a entrevista, o robô apresentará um resumo da entrevista e algumas recomendações objetivas (objetivo) para que um humano decida sobre o candidato.
Imprevisibilidade e indeterminação
Tengai é muito diferente de assistentes de voz como Siri, pois Tengai tenta processar até mesmo situações inesperadas.
Precisamente o carácter coloquial da tarefa confiada a Tengai e a marcada interação a que é chamado, expõem-no a ter de lidar com situações e acontecimentos imprevisíveis. Isso acontecerá em muito maior medida do que com outros dispositivos com os quais atualmente comunicamos (pense, por exemplo, nos assistentes pessoais dos vários dispositivos digitais ou mesmo no navegador GPS), onde a conversa fica maioritariamente confinada a um círculo bem circunscrito perímetro.
Gabriel Skantze explica a diferença:
No caso da Siri, o usuário humano faz uma pergunta e a Siri busca informações relevantes e as apresenta de forma divertida e social. Para o No momento, porém, a Siri parece mais fácil de programar do que Tengai. Nossa tarefa é consideravelmente mais complexa. No nosso caso, precisamos transferir um comportamento humano adquirido para um robô que tenha exatamente zero experiência anterior de interação social humana.
Este último comenta como a realização de uma entrevista de emprego é muito mais exigente e inevitavelmente dá origem a cenários indefiníveis a priori. Para abordar e gerenciar essa incerteza, a natureza preditiva da última geração de inteligência artificial é usada e, na verdade, contamos com o aprendizado de máquina:
Para este efeito, Tengai será desenvolvido usando aprendizado de máquina, o que significa que coletaremos dados de entrevistas conduzidas por humanos, onde o potencial de viés é o menor possível, e então treinaremos o sistema para replicar o comportamento de conversação do recrutador humano.
a ambiguidade
A linguagem pode ser muito ambígua para uma inteligência não biológica.
Tengai terá que lidar com a indeterminação diariamente, bem como lutar constantemente com a ambiguidade. De fato, um dos desafios mais exigentes para o autômato superar é constituído justamente pela ambigüidade. A da linguagem e suas inúmeras facetas e a inerente à compreensão dos múltiplos códigos que usamos para nos comunicar.
Sinisa Strbac, gerente de projeto e treinador de robôs do projeto Tengai, sabe disso muito bem:
Nós nos esforçamos muito para analisar as perguntas que o robô deve fazer. Tornou-se muito importante que as perguntas sejam tão claras e concretas quanto possível. Tengai luta contra a ambigüidade, portanto, quanto menos vaga for a resposta de um candidato, melhor Tengai na avaliação e validação do mix de competências.
O robô, como recrutadores humanos, seguirá um padrão consolidado de perguntas, dentro de uma estrutura de competência verificada (verificado competência quadro), a apresentar aos candidatos. No entanto, a IA terá que ser capaz de entender completamente as respostas deste último, a fim de decidir o rumo para continuar a entrevista.
Ele ainda detecta Strbac
A resposta de um candidato pode descrever qualquer situação imaginável, ser referida em uma miríade de maneiras diferentes e em uma escolha individual de palavras. O robô deve entender e analisar essas informações e então determinar qual pergunta complementar é mais relevante.
Para poder conduzir a entrevista com total autonomia, Tengai foi equipado com as mais recentes aquisições em termos de IA, o estado da arte no campo do reconhecimento de fala, compreensão da linguagem natural e o significado subjacente à linguagem. Graças a isso, o robô consegue coletar uma quantidade considerável de informações e processá-las de maneira lucrativa, conversando com seu interlocutor:
No recrutamento, é dada especial atenção ao fornecimento e coleta de informações. E isso também se aplica a Tengai. Ele compartilha informações na forma de um diálogo sobre a entrevista [de emprego], como será conduzida e, finalmente, coleta as respostas. Ao captar informações, ele entende o que o candidato está falando, independentemente do número de palavras e frases utilizadas. Então, sim, ele pode lidar com perguntas abertas e respostas indeterminadas.
No entanto, quando se trata de linguagem e interação humana, as incógnitas são inúmeras. Quaisquer erros ou mal-entendidos podem até afetar a tão almejada objetividade da máquina. Gabriel Skantze está ciente disso:
Pode haver o risco de que o reconhecimento de fala (que traduz a fala em palavras) funcione mal para falantes com sotaque estrangeiro ou para um gênero específico. Isso pode afetar o resultado da entrevista.
dados e treinamento
Tengai foi projetado para adquirir dados com um método chamado "O Mágico de Oz". Este método coloca o controle do processo nas mãos de uma pessoa.
Para tornar o Tengai eficiente, antes e até mais do que o treinamento, os dados utilizados no processo de treinamento da máquina são fundamentais.
Gabriel Skantze explica como os dados foram adquiridos pela primeira vez. É uma metodologia que leva o nome de “mágico de Oz”, que deixa o controle do robô para um humano, embora os que interagem com a máquina o desconheçam.
Tengai foi inicialmente monitorado por um recrutador humano sentado em outra sala, que desencadeou o comportamento do robô, o que nos permitiu registrar os dados da entrevista homem-robô. Esses dados serão agora usados para desenvolver dois modelos diferentes: um que pode replicar o comportamento do Mágico durante a entrevista e outro que pode realizar a avaliação das entrevistas posteriormente.
A diversidade, sublinha Skantze, envolveu também aqueles que temporariamente assumiram o controlo da Tengai, de forma a evitar preconceitos de qualquer tipo, mesmo que inconscientes: «[Tengai] está a aprender com diferentes recrutadores para não adquirir o comportamento próprio de um recrutador individual'.
A diversidade, desta vez do robô face ao homólogo humano, exprime-se também no controlo meticuloso que pode ser exercido sobre o comportamento do autómato: «Ao contrário de um recrutador humano, podemos controlar o comportamento do robô ao pormenor, até aos micromovimentos do canto da boca”, observa Skantze.
A fase de aquisição de dados e treinamento da máquina levou meses e contou além duzentos entrevistas com voluntários oferecidos como cobaias.
Todas as mímicas, sons e expressões faciais são projetadas pelo estudo e filmagem de várias centenas de entrevistas de diferentes recrutadores, criando assim uma interação onde os candidatos a emprego se sintam seguros, à vontade, para uma experiência de candidato mais tranquila, direta e vanguardista.
Aliás, não esqueçamos que a peculiaridade do Tengai reside na capacidade do autômato interagir plenamente com seu interlocutor.
hospitalidade
Como Minority Report antecipou um pouco algo que da ficção científica se tornaria realidade, então ELA/Ela, O filme de Spike Jonze, estrelado por Joaquin Phoenix, antecipa outro advento não distante. Tengai já pode ser algo anunciando ELA.
Sentar-se em frente a um robô e conversar com ele é (ainda) uma experiência em si fora do comum. Ainda mais se a aposta for importante, como a procura de emprego. Uma condição que, mesmo antes e independentemente da presença do carro, é fonte de estresse e tensão.
Detectar Strbac:
Pedimos aos nossos candidatos que se coloquem em uma situação particularmente incomum: sentar em uma sala com apenas um robô e conversar. Fazer uma pergunta, respondê-la da melhor maneira possível e seguir em frente.
As reações são obviamente as mais diversas e variam de indivíduo para indivíduo. Observe o treinador de robôs de Tengai.
Algumas pessoas ficam céticas no início, mas ficam surpresas com o quão natural é Tengai lida com a conversa. Outros mantêm seu ceticismo mesmo após a entrevista, pois têm grandes expectativas em relação à capacidade do robô de imitar atitudes humanas e falar naturalmente, o que Tengai ele ainda não é capaz de fazê-lo perfeitamente, mesmo que esteja a caminho. Ele é social, mas não da mesma forma que um ser humano.
Depois, há outros que são a favor do conceito, mas ficam nervosos antes da entrevista. Afinal, eles estão sendo solicitados a 'atuar' na frente de uma máquina que rastreia seus movimentos e registra suas respostas.
Strbac continua
Não há nada de estranho nisso, realmente; humanos fazem a mesma coisa. Mas o sentimento deles [dos candidatos] é que o robô é muito mais que um ser humano. Ele literalmente “registra minhas respostas!” É o comentário que eles fazem."
aceitação
Como no lendário Mechanical Turk, a entrevista é uma espécie de jogo de xadrez com a máquina.
De fato, há alguma diferença. Reside, talvez, tanto na psicologia humana quanto na profunda e multifacetada capacidade de análise que a IA agora alcançou. O autômato é percebido, com ou sem razão, como um sujeito muito mais difícil de enganar ou, se assim se quiser, de persuadir e “governar”, em comparação com o ser humano. Diante da máquina, faltam muitas certezas.
Por último, mas não menos importante, é a confiança que alguns indivíduos depositam em sua própria capacidade de estar certo sobre o interlocutor com o qual se deparam, ou pelo menos na possibilidade de conseguir enganá-lo. A máquina não tem emoção e o componente emocional é uma alavanca poderosa para usar nas relações interpessoais. Com o robô, o jogo é jogado em um nível completamente diferente.
Além disso, a inteligência artificial agora possui qualidades analíticas que, consideradas individualmente, excedem em muito as capacidades de um ser humano. Além disso, eles se aplicam a tantos aspectos e com tanto detalhamento que dificilmente um único indivíduo seria capaz de abraçá-los e avaliá-los no campo como um todo.
Sem falar, então, na reconhecida eficiência das máquinas, onde tudo é minuciosa e inexoravelmente, de fato, registrado... Essas prerrogativas são assustadoras: «algumas pessoas não conseguem deixar de se sentir um pouco como se estivessem sob vigilância e portanto, sentem-se excessivamente desconfortáveis".
Embora o feedback que a TNG diz recebido durante o desenvolvimento de Tengai parece globalmente mais do que positivo, deve-se dizer que uma coisa é ser cobaia em um experimento, talvez até singular, outra é apostar o próprio futuro. Desempenhar o papel do candidato e carregar o fardo pode ser algo totalmente diferente: "No final do dia, eles estão sentados tendo uma conversa complexa com um computador que acabará tendo implicações na vida real".
Strbac está otimista e confia nas qualidades de Tengai:
Por outro lado, a maioria das pessoas se surpreende com a naturalidade da discussão; quanto mais dura a entrevista, menos eles pensam no fato de estarem conversando com um robô. Torna-se apenas mais um componente da entrevista.
estranho vale
Segundo o cientista japonês Masahiro Mori, a confiança nos robôs cresce à medida que eles assumem características cada vez mais humanas.
Em última análise, o autômato deve ser aceito pelo interlocutor. E não só por alguns, mas por todos, qualquer que seja a psicologia, a sensibilidade e as ideias do sujeito em questão. Joe Mendelson, Head de interação da Furhat, vai direto ao ponto: «As pessoas vão aceitar os robôs nesses novos tipos de funções na sociedade (entrevistador em uma entrevista de emprego), que vão além do entretenimento ou mesmo da informação , dentro do território um tanto sério de procurando emprego?"
Então ele continua:
Isso será um grande salto para algumas pessoas - então espero aprender a entender como diferentes tipos de pessoas se sentem sobre esse tipo de interação.
As reações ao robô de Furhat não foram unânimes. Algum tempo atrás, Joel Cheesman, podcaster americano, definiu "arrepiante” (assustador, assustador). Este último, de fato, tem então incontrato Tengai na Tatech Europe 2019 e a percepção mudou parcialmente, movendo-se ligeiramente para o "cool" (legal). Segundo o que foi declarado na ocasião, depois de algumas centenas de entrevistas na fase de testes, 3/4 dos candidatos se dizem a favor de reencontrar Tengai. Uma porcentagem decididamente alta!
Quando você interage com um robô, e em particular com um robô (antropomórfico) que imita atitudes e comportamentos humanos, a questão se torna consideravelmente mais complexa. No momento, os cientistas ainda não encontraram a fórmula mágica que permite que os autômatos não sejam percebidos como corpos estranhos por seus homólogos de carne e osso. É um fenômeno, ainda em parte polêmico, que leva a máquina a gerar no homem uma sensação de aborrecimento e mal-estar, que pode levar a uma recusa firme.
Nesses casos falamos de vale misterioso. É uma hipótese formulada pelo cientista japonês Masahiro Mori em 1970, ainda não reconhecido universalmente. Segundo Mori, a aceitação e a sensação de conforto em relação a aparelhos antropomórficos e autômatos cresce tanto mais quanto mais eles se assemelham aos humanos. Até um certo limite embora. Além desse limite, o realismo excessivo produz sensações desagradáveis, causa desconforto e pode gerar rejeição.
O erro de Tengai
Como aceitação, o Tengai tende a cair no nível do IBM Project Debater, o sistema de IA capaz de realizar um debate sobre um número impressionante de tópicos
Provavelmente foi o que aconteceu em Edimburgo com o robô Fabio, contratado pela (bem italiana) rede de supermercados Margiotta Food & Wine. Fabio representou uma experiência promovida, em colaboração com o Universidade Heriot-Watt de Edimburgo, da série Seis Robôs da BBC e Estados Unidos.
"Infelizmente, Fabio não funcionou como esperávamos", esclareceu Luisa Margiotta. «O desempenho não foi o esperado, as pessoas evitavam, assustava os clientes». O autômato foi, portanto, disparado.
Sensações semelhantes parecem ter surgido em sua estreia também Inglês AI Anchor, o holograma resultante da colaboração entre Xinhua, agência de notícias estatal da China e Sogou. Para a maioria parecia "robótica", mas também há quem a chame de "um pouco horrível", enquanto alguém considerado "Muito assustador".
E talvez o desconforto experimentado por também deva ser rastreado até o mesmo fenômeno Dieter Bohn em direção aoDebatedor de Projetos IBM, por ocasião da apresentação da mais recente maravilha da IBM, realizada em São Francisco no verão de 2018:
Francamente, isso me deixou um pouco desconfortável, mas não por causa das preocupações habituais, como “robôs se tornarão autoconscientes e assumirão o controle” ou “IA está chegando [para roubar] nossos empregos”. Era algo mais sutil e difícil de entender. Talvez pela primeira vez, senti como se uma IA estivesse tentando disfarçar. Eu não a vi mentir, nem acho que ela tentou nos enganar, mas ela se envolveu em uma tática de debate que, se você a tivesse visto tentando por um humano, você teria colocado um pouco menos de fé naquele ser humano. Foi um momento um tanto dissonante do ponto de vista cognitivo. Como mencionado, assustador.
A aceitação será apenas um dos muitos testes que o robô de Furhat será chamado a superar. O facto de representar uma experiência inovadora no campo da inteligência artificial, bem como a particular vocação do autómato para a interação, colocam de facto múltiplos desafios com os quais Tengai e os membros do projeto terão de se medir.
Algumas das comparações mais significativas são chamadas de viés algorítmico; caixa preta e IA explicável; responsabilidade e auditoria, bem como, por último, mas não menos importante, que a muito elogiada e procurada equidade realmente se mostra justa e beneficia a todos, e não a alguns. Estes serão os temas que iremos abordar num futuro próximo.
