Il cazul lui Tengai, despre care am discutat pe larg și pe FIRSTonline, ne îndeamnă să facem câteva considerații generale asupra relației noastre cu instrumentele echipate cu inteligență artificială. Tengai poate fi într-adevăr un caz paradigmatic al utilizării sociale a inteligenței artificiale.
Nu ia niciun loc de munca, nu sărăcește nicio familie, nu este un instrument de control social, nu funcționează pentru guvernul chinez. Pe scurt, nu are niciuna dintre acele componente care trezesc atâta îngrijorare într-o opinie publică din ce în ce mai largă, în ceea ce privește angoasa față de viitor.
Tengai este, fără îndoială, un serviciu de inteligență artificială aplicat contextului social-relațional. Ajută la o mai bună desfășurare a unei activități care poate fi condiționată de acțiuni arbitrare și suferă de atitudini discriminatorii. Cel de selecție a personalului. În evaluarea personalului, Tengai tinde să fie obiectiv, asumându-și meritul, competența, motivația și capacitatea candidatului de a îndeplini sarcina pentru care este în joc ca unici parametri ai muncii sale.
Nu este complet greșit să spunem că tehnologia se poate naște neutră din munca oamenilor de știință, a inventatorilor și a echipelor de cercetare, dar atunci când se întâlnește cu spiritul animal al pieței, această neutralitate tinde să se separe ca un mare râu într-o deltă mlăștinoasă. În cazul lui Tengai această evoluție, tipică acelui tip de ecosistem, pentru moment pare departe de a se întâmpla. Suntem încă în bine.
De la science fiction la realitate
Până de curând, un automat care conducea un interviu de angajare era un subiect rezervat science fiction-ului. Astăzi, cu Tengai, a devenit realitate. Am discutat deja pe larg despre robotul lui Furhat, cu toate acestea a sosit momentul să ne întrebăm concret ce este chemat să facă Tengai și care va fi rolul lui în procesul de selecție.
(Toate citatele care urmează, dacă nu se indică altfel, sunt preluate de pe site www.tengai-unbiased.com)
TNG își promovează soluția de recrutare astfel:
am tinut Select oferă clienților selecție de candidați de calitate prin interviuri robot blind, analiză a interviului bazată pe date [data-condus] și stenogramele interviurilor. am tinut Select va contribui, de asemenea, la îmbunătățirea experienței candidatului, [reprezentând] un brand mai credibil pentru angajatori și este eficient în timp și costuri. Robotul de interviu este integrat ca parte a fazei inițiale de interviu și realizează interviuri oarbe, ceea ce înseamnă că toți candidații primesc aceleași întrebări și tratament bazat pe competențe. De asemenea, va permite intervievarea mai multor candidați și toate interviurile vor fi transcrise.
Interactiunea
Primul scop al lui Tengai este să stabilească o oarecare empatie cu candidatul.
Automatul lui Furhat va fi, așadar, folosit în faza inițială a interviurilor, cea a screening-ului bazat pe competențe. Probabil că candidații vor fi trecut deja de o preselecție, mai ales dacă cifrele în joc sunt importante. Interviurile în care va fi implicat Tengai urmăresc, așadar, să identifice abilitățile candidaților pentru un anumit post. O sarcină în anumite privințe de rutină, dar nu banală.
Gabriel Skantze, profesor la KTH Stockholm și om de știință șef al proiectului Tengai la Furhat Robotics explică:
am tinut va ajuta recrutorii și va organiza interviuri cu candidații pentru a le evalua abilitățile și competențele, pe baza cerințelor postului și a profilului.
El continuă subliniind că munca robotului nu va diferi în cele din urmă foarte mult de cea a unei ființe umane: „Robotul va conduce interviul într-un mod foarte asemănător cu un recrutor uman, folosind întrebări bazate pe competență”.
Și aici constă particularitatea lui Tengai, și anume în capacitatea robotului de a evoca, de a trezi și, eventual, de a stabili o relație empatică cu persoana din fața lui: «Robotul va returna feedback (dând din cap, zâmbind și spunând „mhm”), în ordine. pentru a încuraja candidatul să ofere răspunsuri elaborate”, continuă Skantze. Tengai va dialoga cu candidatul și, dacă este necesar, va produce și o discuție mai aprofundată: „Dacă răspunsul este prea vag, robotul ar putea cere candidatului, de exemplu, să ofere exemple mai concrete”.
În cele din urmă, conchide omul de știință șef de la Furhat:
După interviu, robotul va prezenta un rezumat al interviului și câteva recomandări obiective (obiectiv) astfel încât un om să decidă asupra candidatului.
Imprevizibilitate și nedeterminare
Tengai este foarte diferit de asistenții vocali precum Siri prin faptul că Tengai încearcă să proceseze chiar și situațiile neașteptate.
Tocmai natura colocvială a sarcinii încredințate lui Tengai și interacțiunea marcată la care este chemat îl expun la nevoia de a face față unor situații și evenimente imprevizibile. Acest lucru se va întâmpla într-o măsură mult mai mare decât cu alte dispozitive cu care comunicăm în prezent (ne gândim, de exemplu, la asistenții personali ai diferitelor dispozitive digitale sau chiar la navigatorul GPS), unde conversația rămâne în cea mai mare parte limitată într-un spațiu bine circumscris. perimetru.
Gabriel Skantze explică diferența:
În cazul lui Siri, utilizatorul uman pune o întrebare și Siri caută informații relevante și le prezintă într-un mod distractiv și social. La În acest moment, însă, Siri pare mai ușor de programat decât am tinut. Sarcina noastră este mult mai complexă. În cazul nostru, trebuie să transferăm un comportament uman dobândit unui robot care nu are experiență anterioară de interacțiune socială umană.
Acesta din urmă remarcă faptul că desfășurarea unui interviu de angajare este mult mai solicitantă și inevitabil dă naștere unor scenarii indefinibile a priori. Pentru a aborda și gestiona această incertitudine, se folosește natura predictivă a ultimei generații de inteligență artificială și ne bazăm de fapt pe învățarea automată:
În acest scop, am tinut va fi dezvoltat folosind învățarea automată, ceea ce înseamnă că vom colecta date din interviurile realizate de oameni, unde potențialul de părtinire este cât mai scăzut posibil, și apoi vom antrena sistemul pentru a reproduce comportamentul conversațional al recrutorului uman.
Ambiguitatea
Limbajul poate fi foarte ambiguu pentru o inteligență non-biologică.
Tengai va trebui să se confrunte zilnic cu indeterminarea, precum și să se lupte constant cu ambiguitatea. Într-adevăr, una dintre cele mai solicitante provocări de depășit pentru automat este constituită tocmai de ambiguitate. Cea privind limbajul și nenumăratele sale fațete și cea inerentă înțelegerii multiplelor coduri pe care le folosim pentru a comunica.
Sinisa Strbac, manager de proiect și trainer de roboți al proiectului Tengai știe bine:
Am depus mult efort în analiza întrebărilor pe care robotul ar trebui să le pună. S-a dovedit a fi foarte important ca întrebările să fie cât mai clare și concrete posibil. am tinut se luptă cu ambiguitatea, așa că cu cât răspunsul unui candidat este mai puțin vag, cu atât mai bine am tinut în evaluarea şi validarea mixului de competenţe.
Robotul, ca și recrutorii umani, va urma un model consolidat de întrebări, într-un cadru de competență verificat (verificat competență cadru), care urmează să fie prezentate candidaților. Cu toate acestea, AI va trebui să poată înțelege pe deplin răspunsurile acestuia din urmă, pentru a decide direcția în care să continue interviul.
Încă detectează Strbac
Răspunsul unui candidat poate descrie orice situație imaginabilă, poate fi menționat într-o multitudine de moduri diferite și într-o alegere individuală de cuvinte. Robotul trebuie să înțeleagă și să analizeze aceste informații și apoi să determine care întrebare suplimentară este mai relevantă.
Pentru a putea desfășura interviul în deplină autonomie, Tengai a fost dotat cu cele mai recente achiziții în ceea ce privește AI, stadiul tehnicii în domeniul recunoașterii vorbirii, înțelegerea limbajului natural și sensul care stă la baza limbajului. Datorită acestui lucru, robotul este capabil să colecteze o cantitate considerabilă de informații și să o proceseze profitabil, conversând cu interlocutorul său:
În recrutare, se acordă o atenție deosebită furnizării și colectării informațiilor. Și acest lucru este valabil și pentru am tinut. Împărtășește informații sub forma unui dialog despre interviul [de angajare], cum va fi desfășurat și, în final, colectează răspunsurile. Pe măsură ce captează informații, înțelege ceea ce spune candidatul, indiferent de numărul de cuvinte și expresii folosite. Deci, da, poate gestiona întrebări deschise și răspunsuri nedeterminate.
Cu toate acestea, când vine vorba de limbaj și interacțiunea umană, necunoscutele se dovedesc a fi nenumărate. Orice erori sau neînțelegeri ar putea chiar afecta obiectivitatea mult căutată a mașinii. Gabriel Skantze este conștient de acest lucru:
Poate exista riscul ca recunoașterea vorbirii (care traduce vorbirea în cuvinte) să funcționeze defectuos pentru vorbitorii cu accent străin sau pentru un anumit gen. Acest lucru ar putea afecta rezultatul interviului.
date și instruire
Tengai a fost conceput pentru a obține date cu o metodă numită „Vrăjitorul din Oz”. Această metodă plasează controlul procesului în mâinile unei singure persoane.
Pentru a face Tengai eficient, înainte și chiar mai mult decât antrenament, datele folosite în procesul de instruire a mașinii sunt fundamentale.
Gabriel Skantze explică cum au fost obținute pentru prima dată datele. Este o metodologie care merge sub denumirea de „Vrajitorul din Oz”, care lasă controlul robotului în seama unui om, deși cei care interacționează cu mașina nu sunt conștienți de asta.
am tinut a fost monitorizat inițial de un recrutor uman care stătea într-o altă cameră, care a declanșat comportamentul robotului, ceea ce ne-a permis să înregistrăm datele interviului om-robot. Aceste date vor fi folosite acum pentru a dezvolta două modele diferite: unul care poate replica comportamentul Magicianului în timpul interviului și unul care poate efectua evaluarea interviurilor ulterior.
Diversitatea, subliniază Skantze, i-a implicat și pe cei care au preluat temporar controlul asupra lui Tengai, pentru a evita preconcepțiile de orice fel, chiar dacă erau inconștienți: „[Tengai] învață de la diferiți recrutori pentru a nu dobândi comportamentul specific unui recrutor individual'.
Diversitatea, de data aceasta a robotului în comparație cu omologul uman, se exprimă și în raport cu controlul minuțios care poate fi exercitat asupra comportamentului automatului: «Spre deosebire de un recrutor uman, putem controla comportamentul robotului în detaliu, în jos. la micromișcările colțului gurii”, notează Skantze.
Faza de achiziție a datelor și de formare a mașinii a durat luni și a contat mai departe duecento interviuri cu voluntarii oferiți ca cobai.
Toate mimele, sunetele și expresiile faciale sunt concepute prin studierea și filmarea a câtorva sute de interviuri ale diferiților recrutori, creând astfel o interacțiune în care solicitanții de locuri de muncă se simt în siguranță, în largul lor, pentru o experiență mai fluidă a candidatului, simplă și avangardă.
De fapt, să nu uităm că particularitatea lui Tengai constă în capacitatea automatului de a interacționa pe deplin cu interlocutorul său.
Ospitalitate
Așa cum Minority Report a anticipat puțin ceva care din science fiction va deveni realitate, așadar Ei/Ea, filmul lui Spike Jonze, cu Joaquin Phoenix în rol principal, anticipează o altă apariție, nu îndepărtată. Tengai poate fi deja ceva anunt Ei.
A sta în fața unui robot și a avea o conversație cu acesta este (încă) o experiență în sine ieșită din comun. Cu atât mai mult dacă miza este importantă, cum ar fi căutarea unui loc de muncă. O afecțiune care, chiar înainte și indiferent de prezența mașinii, este o sursă de stres și tensiune.
Detectează Strbac:
Le cerem candidaților noștri să se plaseze într-o situație deosebit de neobișnuită: să stea într-o cameră cu doar un robot și să poarte o conversație. Să ți se pună o întrebare, să răspunzi la ea cât mai bine poți și apoi să mergi mai departe.
Reacțiile sunt, evident, cele mai diverse și variază de la individ la individ. Observați antrenorul de robot al lui Tengai.
Unii oameni sunt sceptici la început, dar sunt surprinși de cât de natural este am tinut se ocupă de conversație. Alții își mențin scepticismul chiar și după interviu, deoarece au așteptări mari cu privire la capacitatea robotului de a imita atitudinile umane și de a vorbi natural, ceea ce am tinut nu este încă în stare să o facă perfect, chiar dacă este pe drum. El este social, dar nu în același mod ca o ființă umană.
Apoi mai sunt alții care sunt în favoarea conceptului, dar care devin nervoși înainte de interviu. La urma urmei, li se cere să „performeze” în fața unui aparat care le urmărește mișcările și le înregistrează răspunsurile.
continuă Strbac
Nu e nimic ciudat în asta, într-adevăr; oamenii fac același lucru. Dar sentimentul lor [candidaților] este că robotul este mult mai mult decât un om. Literal „înregistrează răspunsurile mele!” Este comentariul pe care îl fac.”
acceptare
Ca și în legendarul Mechanical Turk, interviul este un fel de joc de șah cu mașina.
Într-adevăr, există o oarecare diferență. Ea rezidă, probabil, atât în psihologia umană, cât și în capacitatea profundă și multifațetă de analiză pe care AI a obținut-o acum. Automatul este perceput, pe bună dreptate sau greșit, ca un subiect mult mai greu de înșelat sau, dacă se dorește, de a putea convinge și „guverna”, în comparație cu o ființă umană. Când te confrunți cu mașina, lipsesc multe certitudini.
Nu în ultimul rând este încrederea pe care o acordă unii indivizi în propria capacitate de a avea dreptate cu privire la interlocutorul cu care se confruntă, sau cel puțin în posibilitatea de a-l putea capta. Mașina este lipsită de emoții, iar componenta emoțională este o pârghie puternică de folosit în relațiile interpersonale. Cu robotul, jocul se joacă la un nivel complet diferit.
Mai mult, inteligența artificială posedă acum calități analitice care, luate individual, depășesc cu mult capacitățile unei ființe umane. Mai mult, acestea se aplică atât de multe aspecte și cu atât de detaliat încât un singur individ ar putea cu greu să le îmbrățișeze și să le evalueze în domeniu în ansamblu.
Ca să nu mai vorbim, deci, de eficiența recunoscută a mașinilor, unde totul este minuțios și inexorabil, de fapt, înregistrat... Aceste prerogative sunt înfricoșătoare: «unii oameni nu se pot abține să nu se simtă un pic de parcă ar fi sub supraveghere și prin urmare se simt excesiv de incomozi”.
Deși feedback-ul pe care TNG statele primit în timpul dezvoltării Tengai pare în general mai mult decât pozitiv, trebuie spus că una este să fii cobai într-un experiment, poate chiar unul singular, cu totul altceva este să-ți mizezi viitorul. A juca rolul candidatului și a purta povara s-ar putea dovedi a fi cu totul altceva: „La sfârșitul zilei, ei stau acolo, având o conversație complexă cu un computer care va avea în cele din urmă implicații în viața reală”.
Strbac este optimist și are încredere în calitățile lui Tengai:
Pe de altă parte, majoritatea oamenilor sunt surprinși de naturalețea discuției; cu cât durează mai mult interviul, cu atât se gândesc mai puțin la faptul că vorbesc cu un robot. Devine doar o altă componentă a interviului.
straniu vale
Potrivit omului de știință japonez Masahiro Mori, încrederea în roboți crește pe măsură ce aceștia preiau din ce în ce mai multe trăsături umane.
În cele din urmă, automatul trebuie să fie acceptat de interlocutorul cuiva. Și nu numai de unii, ci de toți, indiferent de psihologia, sensibilitatea și ideile subiectului în cauză. Joe Mendelson, șeful de interacțiune la Furhat, ajunge direct la subiect: „Oamenii vor accepta roboți în aceste noi tipuri de roluri în societate (intervievator într-un interviu de angajare), care merg dincolo de divertisment sau chiar de informare, pe teritoriul oarecum serios al vanatoare de locuri de muncă?"
Apoi continuă:
Acesta va fi un salt pentru unii oameni – așa că sper să învăț să înțeleg ce simt diferitele tipuri de oameni despre acest tip de interacțiune.
Reacțiile la robotul lui Furhat nu au fost unanime. Cu ceva timp în urmă Joel Cheesman, podcaster american, a definit-o „înfiorător” (înfiorător, înfiorător). Acesta din urmă, de fapt, are atunci incontrato Tengai la Tatech Europe 2019 și percepția s-a schimbat parțial, îndreptându-se ușor spre „cool” (cool). Potrivit celor declarate cu acea ocazie, după câteva sute de interviuri în faza de testare, 3/4 dintre candidați spun că sunt de acord să se reîntâlnească cu Tengai. Un procent categoric mare!
Când interacționați cu un robot, și în special cu un robot (antropomorf) care imită atitudinile și comportamentele umane, întrebarea devine considerabil mai complexă. În acest moment, oamenii de știință nu au găsit încă formula magică care să permită automatilor să nu fie percepuți ca corpuri străine de omologii lor din carne și sânge. Este un fenomen, încă parțial controversat, care determină mașina să genereze în om un sentiment de supărare și neliniște, care poate duce apoi la un refuz ferm.
În astfel de cazuri vorbim de vale neobișnuită. Este o ipoteză formulată de savantul japonez Masahiro Mori în 1970, încă nerecunoscut universal. Potrivit lui Mori, acceptarea și sentimentul de confort resimțit față de dispozitivele și automatele antropomorfe crește cu atât mai mult cu cât se aseamănă mai mult cu oamenii. Până la un anumit prag însă. Dincolo de acest prag, realismul excesiv produce senzații neplăcute, provoacă disconfort și poate da naștere la respingere.
Greseala de am tinut
Ca o acceptare, Tengai tinde să se încadreze la nivelul IBM Project Debater, sistemul AI capabil să țină o dezbatere pe un număr impresionant de subiecte
Probabil așa s-a întâmplat în Edinburgh cu robotul Fabio, angajat de lanțul de supermarketuri (foarte italian) Margiotta Food & Wine. Fabio a reprezentat un experiment promovat, în colaborare cu Universitatea Heriot-Watt din Edinburgh, din serial BBC's Six Robots & US.
„Din păcate, Fabio nu a funcționat așa cum am sperat”, a clarificat Luisa Margiotta. „Performanța nu a fost cea așteptată, oamenii au evitat-o, a speriat clienții”. Prin urmare, automatul a fost tras.
Senzații similare par să fi crescut și la debutul său Ancoră AI engleză, holograma rezultată din colaborarea dintre Xinhua, agenția de presă de stat a Chinei e Sogou. Majoritatea li s-a părut „robotic”, dar sunt și cei care l-au numit „un pic oribil”, în timp ce cineva considerată "foarte infricosator".
Și poate că disconfortul experimentat de este, de asemenea, de urmărit la același fenomen Dieter Bohn catreIBM Project Debater, cu ocazia prezentării celei mai recente minuni IBM, desfășurată la San Francisco în vara anului 2018:
Sincer, m-a făcut să mă simt puțin neliniștit, dar nu din cauza grijilor obișnuite precum „roboții vor deveni conștienți de sine și vor prelua controlul” sau „AI vine [pentru a ne fura] locurile de muncă”. Era ceva mai subtil și mai greu de înțeles. Poate pentru prima dată, am simțit ca și cum un AI încerca să mascheze. Nu am văzut-o mințind și nici nu cred că a încercat să ne înșele, dar s-a angajat într-o tactică de dezbatere că, dacă ai fi văzut-o încercată de un om, ai fi pus puțin mai puțină încredere în acea ființă umană. A fost un moment oarecum disonant din punct de vedere cognitiv. După cum am menționat, înfiorător.
Acceptarea va fi doar una dintre numeroasele teste pe care robotul lui Furhat va fi chemat să le depășească. Faptul că reprezintă un experiment inovator în domeniul inteligenței artificiale, precum și vocația particulară a automatului pentru interacțiune, ridică într-adevăr multiple provocări cu care Tengai și membrii proiectului vor trebui să se măsoare.
Unele dintre cele mai semnificative comparații sunt numite bias algoritmic; cutie neagră și inteligență artificială explicabilă; responsabilitate și audit, precum și, nu în ultimul rând, că corectitudinea mult lăudată și căutată se dovedește într-adevăr a fi corectă și aduce beneficii tuturor, mai degrabă decât câtorva. Acestea vor fi subiectele pe care le vom aborda în viitorul apropiat.
