Era 2012: nascia o Projeto Debater
Sete anos depois da atuação de Watson, capaz de surpreender ao derrotar os campeões de carne e osso do jogo Jeopardy!, a IBM tenta novamente surpreender apresentando sua nova criatura: o IBM Project Debater.
Após o brilhante sucesso de 2011, chegou a hora da Big Blue abrir um novo empreendimento. “Todos entre milhares de pesquisadores … receberam o mesmo e-mail perguntando qual deveria ser o próximo grande desafio de IA para a IBM Research”, lembra Noam Slonim, membro do centro de pesquisa da IBM em Haifa (Israel). Não havia especificações precisas, mas o novo projeto deveria ter preenchido algumas características, ser acima de tudo «… cientificamente interessante e estimulante e deveria ter algum valor comercial. Algo grande, algo que teria feito a diferença." Foi o próprio Slonim quem propôs perseguir o objetivo de criar e treinar uma inteligência artificial capaz de debater significativamente com uma contraparte humana. A princípio, apenas uma sugestão comum que, finalmente, um ano depois conseguiu vencer as outras propostas concorrentes e se tornou o novo desafio no qual a IBM Research decidiu se concentrar.
Resultado de seis anos de trabalho de uma equipe da IBM coordenada pelo laboratório de Haifa, em Israel, o projeto visa desenvolver uma IA capaz de interagir plenamente com o ser humano. Mas, "O que é o Project Debater?" A pergunta é feita pela própria Big Blue, que também dá a resposta: «Um sistema que traz a inteligência artificial para a arte do debate». No fundo, como a empresa tem o cuidado de salientar, «o Project Debater é o primeiro sistema de inteligência artificial capaz de discutir temas complexos com humanos».
Os fatos
O Watson West em San Francisco em junho passado foi o local de dois debates incomuns entre especialistas humanos e a última maravilha produzida pela IBM. O esquema de comparação escolhido atribuiu um total de dez minutos aos palestrantes, conforme esta ordem: quatro minutos para apresentar a própria tese, quatro minutos para contestar e refutar a do adversário, dois minutos para uma declaração conclusiva.
O tema da discussão do primeiro contraditório foi: "Devemos subsidiar a exploração espacial?". Contra Noa Ovadia, campeã do debate israelense em 2016, a favor da máquina.
O Project Debater defendeu a sua tese argumentando que apoiar a exploração espacial ajuda a fazer avançar a ciência, abre a mente das novas gerações e torna-se uma fonte de inspiração para elas: «… Ele ainda acrescentou uma anotação que acena para a grandeza dos EUA: "... possuir um programa de exploração espacial é um elemento fundamental para ser uma grande potência." Ele tentou cativar o público presente?
Segundo Noa Ovadia, porém, os recursos poderiam ser destinados a outras áreas de pesquisa, aqui na terra. A réplica da máquina evitou uma colisão frontal e destacou que as repercussões dos investimentos na exploração do espaço, os desejáveis benefícios tecnológicos e económicos que daí adviriam, seriam superiores aos custos incorridos: «É bastante fácil dizer que há lugares mais importantes para investir dinheiro, e não contesto isso. Ninguém está afirmando que este é o único item em nossa lista de compras. Mas este não é o ponto. Já que subsidiar a exploração espacial definitivamente beneficiaria a sociedade, acho que é algo que o governo deveria buscar."
O segundo debate colocou a IA da IBM contra Dan Zafir, outro especialista israelense, no tópico: "Devemos aumentar o uso da telemedicina?". Em ambas as discussões, o Debatedor mostrou sua "preparação" e a vastidão das fontes de que se vale, com citações que vão desde "... um xeque dos Emirados Árabes Unidos, até o número de empregos que a exploração espacial teria gerado - de acordo com um ministro alemão de Assuntos Econômicos.'
Na conclusão da sua resposta, o autómato contou com uma piada: «Sou um autêntico defensor do poder da tecnologia… como deve ser». Se ele o fez para mascarar a dificuldade de responder às observações feitas por seu interlocutor, como sugerido por Dieter Bohn, ou para tentar cair nas boas graças do público, é difícil estabelecer. No entanto, a ironia da máquina não foi involuntária, nem por acaso ou algum erro, mas é fruto do trabalho dos técnicos da IBM. Em várias ocasiões, de fato, a IA se aventurou em piadas ou piadas, às vezes bem-sucedidas, às vezes nem tanto.
O veredito
É importante notar que o Debatedor, «… para além de uma breve introdução», não foi previamente instruído, nem seguiu qualquer guião previamente preparado. Ed Arvind Krishna, chefe de pesquisa da IBM, faz questão de destacar isso: «Para as primeiras demonstrações dessa nova tecnologia, fizemos uma escolha em uma lista de tópicos selecionados para garantir uma discussão significativa. No entanto, o Project Debater nunca foi formado sobre os temas». O tema do debate foi, de facto, escolhido a partir de uma lista composta por cerca de uma centena de tópicos, para os quais a IBM acredita que a IA, com base nos dados armazenados na sua memória, é capaz de se comparar a um humano. Noam Slonim, «…estimou que a tecnologia poderia sustentar um debate “significativo” sobre esses 100 tópicos 40% do tempo».
A quantidade de informação em que o Project Debater pôde contar é vasta. Inclui várias centenas de milhões de documentos dos mais díspares tipos: desde páginas da Wikipédia a artigos e ensaios, bem como material de áudio e vídeo, «… procurar". Indexado e rigorosamente examinado por engenheiros da IBM.
Ao final dos dois confrontos, uma plateia de jornalistas e analistas foi chamada para decretar o vencedor com base em duas categorias fundamentais: a apresentação dos argumentos e o enriquecimento de conhecimento trazido pelos contendores. Em síntese, o improvisado “júri” reconheceu que a criatura IBM tem demonstrado possuir elementos relevantes de conhecimento sobre as questões levantadas, embora os adversários de carne e osso tenham sido superiores na exposição. Enquanto no primeiro debate a vitória foi do ser humano, no segundo a IA foi considerada mais persuasiva. Se Noa Ovadia conseguiu dois espectadores do seu lado, nove pessoas admitiram ter mudado de opinião sobre o uso da telemedicina graças aos argumentos fornecidos pelo Projeto Debatedor. Embora, como notou o Guardian, «…havia muitos funcionários da IBM na sala e eles podem ter torcido pela sua própria criação», desta vez não assistimos a um triunfo esmagador da IA, mas podemos falar de um empate . Um laço que chega até a nós humanos.
E uma segunda exposição, realizada em julho em Israel para um público de jornalistas, provou isso. A máquina IBM confrontada com dois especialistas israelenses em debate, Yaar Bach e Hayah Goldlist Eichler, parecia menos brilhante. Os temas abordados foram respectivamente: vigilância em massa e engenharia genética. Tal como no evento anterior organizado em San Francisco, o autómato da IBM conseguiu superar os seus adversários em carne e osso em termos de informação e conhecimento. No entanto, novamente, ele ficou aquém do homem em apresentar seus argumentos e, por assim dizer, na ênfase da exposição. Em conclusão, «o sistema e Bach empataram, porém na segunda volta a vitória foi para Goldlist Eichler, que conseguiu mudar a opinião de mais pessoas na plateia, apesar de pontuar menos no conhecimento do assunto» .
No dia após
“Pense nisso por um momento. Um sistema de IA se envolveu com um especialista humano em um debate, ouviu seu argumento e respondeu de forma convincente com seu próprio raciocínio improvisado para persuadir o público a considerar sua posição sobre um tópico controverso. Arvind Krishna projecta-nos de repente para outra dimensão que, até agora, era um campo de caça para filmes de ficção científica ou documentários sobre um futuro plausível, mais ou menos futuro. D'emblée, mesmo com todas as incertezas e deficiências mostradas pela máquina, tal futuro tornou-se parcialmente uma realidade. De fato, quantos, excluídos os entusiastas do techno, teriam almejado ou apenas acreditado ser possível uma atuação semelhante da inteligência artificial no curto prazo? Apesar das limitações destacadas, o display da IA deixa de fato maravilhado. Uma "tecnologia notável", foi o comentário de Chris Reed, professor da Universidade de Dundee.
A própria Ovadia ficou impressionada: "Estou surpresa ... A tecnologia é realmente desconcertante em termos de quantas capacidades cognitivas especificamente humanas ela é capaz de realizar simultaneamente". O campeão israelita teve a oportunidade de competir com o autómato da IBM durante alguns meses, com o objetivo de finalizar o sistema: «No início fiquei maravilhado, quer pela linguagem simples, mas também pela construção do argumento… O capacidade de ouvir e, em seguida, fornecer uma resposta significativa ao que eu disse.
Justamente as peculiares "qualidades" apontadas por Ovadia estão entre as principais características que fazem do Projeto Debater, uma "tecnologia bastante especial... gerente da IBM Israel. Em essência, a originalidade do Debater é baseada em três habilidades inovadoras, «… três habilidades cruciais, cada uma das quais abre novos horizontes no campo da IA».
1) Em primeiro lugar a redação e exposição de um discurso com base nos dados disponíveis. "A primeira empreitada foi a criação de um computador capaz de gerar uma opinião - semelhante a um editorial de jornal - construída a partir de dados e expressá-la em frases completas".
2) Em segundo lugar, ouvir a resposta do interlocutor, a fim de reconhecer e extrapolar os conceitos mais importantes. “A segunda capacidade permite que o robô ouça e entenda seus oponentes, permitindo identificar as principais declarações ocultas em uma linguagem falada longa e contínua”.
3) Por fim, a criação de um gráfico de conhecimento único, relativo às dúvidas manifestadas pelo homem, de forma a permitir um raciocínio "ético". "A terceira façanha foi dar ao computador a capacidade de expressar dilemas humanos de forma sucinta e com argumentos baseados em princípios."
No entanto, o desempenho do Debater não foi isento de falhas. Além de ter repetido várias vezes o mesmo conceito com palavras diferentes, a certa altura, durante o debate sobre a exploração do espaço, defendeu que isto «… . Um argumento realmente não compartilhável…
Além de algumas incertezas linguísticas, em alguns casos tivemos a impressão de que a construção da frase não era totalmente "natural": às vezes o segmento inicial de um enunciado não era seguido por uma segunda parte que parecia fluida; às vezes então, anedotas e citações parecem quase casuais. A certa altura, no meio de uma frase, uma inserção de “narração” revelou que a máquina havia digitado uma transcrição de vídeo.
Ainda assim, a nova “mirabilia” da IBM se manteve. Como refere Chris Reed, assistimos a uma performance que denota um progresso que é tudo menos trivial: «Este é realmente um avanço significativo… Acho que o que me impressionou foi a combinação de técnicas de Inteligência Artificial. Entrar em algo como um debate não é uma coisa do tipo tudo ou nada. … Você precisa ser capaz de resolver muitos problemas e depois reunir todos esses problemas em uma solução de engenharia.”
conclusões
A máquina mostrou falta de empatia, revelou os limites atuais da pesquisa no campo da inteligência artificial e fatalmente forneceu mais material para a discussão sobre o futuro e a função da IA. Além disso, apesar das muitas proclamações que colocam o acento aplaudindo uma colaboração cada vez mais estreita entre homem e máquina, com a IA, dizem, desempenhando um papel eminentemente auxiliar, o fantasma da competição está reaparecendo de forma prepotente. Que papel o homem desempenhará em tudo isso, que função ele desempenhará? Conseguirá manter a sua “utilidade”, conservará o seu próprio espaço de existência, singularidade peculiar num perímetro que se afigura cada vez menor, ou será um elemento marginal, até redundante?
Finalmente, em uma inspeção mais detalhada, o Project Debater também revela seu próprio lado negro…
A IBM prevê uma futura função de consultor para o Project Debater. “Acreditamos que existe um enorme potencial positivo na inteligência artificial capaz de nos entender, humanos”, diz Krishna. Um conselheiro livre de preconceitos, livre de emoções e, portanto, imune ao humor e às influências ambientais, capaz de fornecer uma visão objetiva de um determinado assunto. “Isso pode aumentar o nível de tomada de decisão baseada em evidências”, observa Chris Reed.
Uma ferramenta ainda capaz de oferecer ao mesmo tempo os prós e os contras inerentes a uma decisão. “Com o tempo, e em ambientes de negócios compatíveis com esta aplicação, iremos caminhar cada vez mais para a utilização deste sistema de IA para facilitar o raciocínio, a resolução de problemas, sobre questões que ainda não foram resolvidas”, faz questão de reiterar a IBM.
Claro, é fortemente enfatizado em várias ocasiões que o papel da máquina não será o de tomar decisões (substituir o homem), mas sim contribuir para a discussão, «… agir como outra voz à mesa». A função do Projeto Debatedor, segundo Big Blue, "será a de 'facilitador' em fazer circular melhor pensamentos, opiniões, pontos de vista e reflexões para chegar a uma síntese efetiva e eficiente... um 'Pensador' a serviço dos pensadores de carne e osso".
Uma perspectiva estimulante e até reconfortante. Mas vamos imaginar, por um momento, outra dimensão. Um futuro distópico, distinto e distante das "fortunas magníficas e progressivas" que a narração do imparável progresso tecnológico nos promete. Imaginemos um mundo saturado de dados, abarrotado de notícias, com confusão agarrando informações. Uma informação povoada e assolada por fake news…
E se as qualidades de ferramentas como o Projeto Debater fossem empregadas em vez de ordenar as notícias e desfazer o caos de informações, na verdade para aumentar essa desordem, bem como orientar as opiniões em uma direção e não em outra? E se, ao invés de identificar e revelar notícias falsas, ela for usada para fazer novas, inundar a rede, e não apenas, com notícias falsas ou distorcidas, substituir o verdadeiro pelo provável? Seria possível? Presume-se que sim e sem muito esforço, especialmente no mundo das redes sociais, onde a comunicação e a notícia não precisam necessariamente ser particularmente refinadas ou articuladas.
Tal ferramenta poderia se tornar uma espécie de Pensador “à la carte”. Pior, um Think obrigado, pois existem muitos, mas automatizados, capazes de fazer sugestões e "arranjos" em fluxo contínuo, de influenciar, direcionar, persuadir. Um instrumento capaz de reunir fatos e elementos com precisão indumentária, de unir e desunir, aliás, em um ritmo inimaginável para um ser humano. Uma realidade distante de nós, excessivamente distópica? Talvez …
