Era 2012: s-a născut Project Debater
La șapte ani de la performanța lui Watson, capabil să uimească învingând campionii în carne și oase ai jocului Jeopardy!, IBM încearcă din nou să uimească prezentând noua sa creatură: IBM Project Debater.
După succesul strălucit din 2011, a venit timpul ca Big Blue să înființeze o nouă afacere. „Toți din miile de cercetători... au primit același e-mail în care i-a întrebat care ar trebui să fie următoarea mare provocare AI pentru IBM Research”, își amintește Noam Slonim, membru al centrului de cercetare IBM din Haifa (Israel). Nu existau specificații precise, totuși noul proiect ar fi trebuit să îndeplinească anumite caracteristici, să fie înainte de toate «… interesant și stimulant din punct de vedere științific și să aibă o oarecare valoare comercială. Ceva mare, ceva care ar fi făcut diferența.” Însuși Slonim a propus urmărirea obiectivului de a crea și antrena o inteligență artificială care să poată dezbate în mod semnificativ cu un omolog uman. La început, doar o sugestie obișnuită care, în cele din urmă, un an mai târziu a reușit să cucerească celelalte propuneri concurente și a devenit noua provocare asupra căreia IBM Research decisese să se concentreze.
Rezultatul a șase ani de muncă de către o echipă IBM coordonată de laboratorul Haifa din Israel, proiectul își propune să dezvolte o IA capabilă să interacționeze pe deplin cu oamenii. Dar, "Ce este Project Debater?" Întrebarea este pusă chiar de Big Blue, care oferă și răspunsul: „Un sistem care aduce inteligența artificială în arta dezbaterii”. În esență, așa cum compania are grijă să sublinieze, „Project Debater este primul sistem de inteligență artificială capabil să discute subiecte complexe cu oamenii”.
Faptele
Watson West din San Francisco în iunie anul trecut a fost locul a două dezbateri neobișnuite între experți umani și cea mai recentă minune produsă de IBM. Schema de comparație aleasă a alocat vorbitorilor în total zece minute, conform acestei ordine: patru minute pentru prezentarea propriei teze, patru minute pentru a răspunde și a infirma pe cea a adversarului, două minute pentru o declarație concludentă.
Subiectul discuției primei contradictorii a fost: „Ar trebui să subvenționăm explorarea spațiului?”. Împotriva Noei Ovadia, campioană israeliană de dezbatere în 2016, în favoarea mașinii.
Project Debater și-a susținut teza argumentând că susținerea explorării spațiului ajută la promovarea științei, deschide mintea noilor generații și devine o sursă de inspirație pentru ele: „... inspiră copiii noștri să urmeze pregătirea și cariera în știință, tehnologie și matematică”. El a adăugat chiar și o notație care dă din cap spre grandoarea SUA: „… deținerea unui program de explorare spațială este un element fundamental pentru a fi o mare putere”. A încercat să captiveze publicul prezent?
Potrivit Noei Ovadia, fondurile ar putea fi însă destinate altor domenii de cercetare, aici pe pământ. Replica mașinii a evitat o coliziune frontală și s-a concentrat pe faptul că repercusiunile investițiilor în explorarea spațiului, beneficiile tehnologice și economice dezirabile care ar decurge din acestea, ar fi mai mari decât costurile suportate: „Este destul de ușor. să spun că există lucruri cele mai importante locuri în care să investești bani și nu contest asta. Nimeni nu susține că acesta este singurul articol de pe lista noastră de cumpărături. Dar nu acesta este ideea. Întrucât subvenționarea explorării spațiului ar fi în beneficiul societății, cred că este ceva ce guvernul ar trebui să urmărească.”
Cea de-a doua dezbatere a pus AI-ul IBM împotriva lui Dan Zafir, un alt expert israelian, pe tema: „Ar trebui să creștem utilizarea telemedicinei?”. În ambele discuții, Dezbatetorul și-a arătat „pregătirea” și vastitatea surselor din care se bazează, cu citate variind de la „... un șeic din Emiratele Arabe Unite, până la numărul de locuri de muncă pe care le-ar fi produs explorarea spațiului – potrivit unui ministru german al afacerilor economice.'
La încheierea răspunsului său, automatul s-a bazat pe o glumă: „Sunt un susținător autentic al puterii tehnologiei... așa cum ar trebui să fie”. Este greu de stabilit dacă a făcut-o pentru a masca dificultatea de a răspunde la remarcile făcute de interlocutorul său, așa cum a sugerat Dieter Bohn, sau pentru a încerca să se mulțumească cu publicul. Cu toate acestea, ironia mașinii nu a fost involuntară, nici din cauza întâmplării sau a unei greșeli, ci este rezultatul muncii tehnicienilor IBM. În mai multe rânduri, de fapt, AI s-a aventurat în glume sau glume, uneori de succes, alteori mai puțin.
Verdictul
Este important de menționat că Dezbatetorul, „… în afară de o scurtă introducere”, nu a fost instruit anterior și nici nu a urmat vreun scenariu pregătit anterior. Ed Arvind Krishna, șeful de cercetare la IBM, este dornic să sublinieze acest lucru: „Pentru primele demonstrații ale acestei noi tehnologii, am făcut o alegere dintr-o listă de subiecte selectate pentru a asigura o discuție semnificativă. Cu toate acestea, Project Debater nu a fost niciodată instruit pe subiecte”. Subiectul dezbaterii a fost de fapt ales dintr-o listă alcătuită din aproximativ o sută de subiecte, pentru care IBM consideră că AI, pe baza datelor stocate în memoria sa, este capabilă să se măsoare în raport cu un om. Noam Slonim, „...a estimat că tehnologia ar putea susține o dezbatere „însemnată” pe acele 100 de subiecte în 40% din timp”.
Cantitatea de informații pe care s-a putut baza dezbaterea proiectului este vastă. Include câteva sute de milioane de documente de cele mai disparate tipuri: de la pagini Wikipedia până la articole și eseuri, precum și materiale audio și video, „... o colecție de 300 de milioane de articole, știri și lucrări academice, indexate anterior în scopul unei rapide căutare". Indexat și verificat riguros de inginerii IBM.
La încheierea celor două comparații, o audiență de jurnaliști și analiști a fost chemată să decrete un câștigător pe baza a două categorii fundamentale: prezentarea argumentelor și îmbogățirea în termeni de cunoștințe adusă de concurenți. Pe scurt, „juritul” improvizat a recunoscut că creatura IBM a demonstrat că posedă elemente relevante de cunoștințe asupra problemelor ridicate, deși adversarii în carne și oase au fost superiori în expunere. În timp ce în prima dezbatere victoria a revenit ființei umane, în a doua AI a fost considerată mai convingătoare. Dacă Noa Ovadia a reușit să atragă doi spectatori de partea ei, nouă persoane au recunoscut că și-au schimbat părerea despre utilizarea telemedicinei datorită argumentelor oferite de Dezbatetorul Proiectului. Deși, după cum a menționat The Guardian, „… erau mulți membri ai personalului IBM în sală și este posibil să fi înrădăcinat pentru propria lor creație”, de data aceasta nu am asistat la un triumf zdrobitor al AI, dar putem vorbi de o cravată. . O cravată care este chiar aproape de noi, oamenii.
Și o a doua expoziție, desfășurată în iulie în Israel în fața unui public de jurnalişti, a dovedit-o. Mașina IBM înfruntă cu doi experți israelieni în dezbateri, Yaar Bach și Hayah Goldlist Eichler, a părut mai puțin strălucitoare. Problemele abordate au fost, respectiv: supravegherea în masă și ingineria genetică. Ca și în cadrul evenimentului anterior organizat la San Francisco, automatul IBM a reușit să-și depășească oponenții în carne și oase în ceea ce privește informațiile și cunoștințele. Cu toate acestea, din nou, el nu a ajuns la omul în a-și prezenta argumentele și, parcă, în accentuarea expunerii. În concluzie, „sistemul și Bach au remizat, totuși în turul doi victoria a revenit lui Goldlist Eichler, care a reușit să schimbe părerea mai multor oameni din public, în ciuda punctajului mai scăzut la cunoștințele subiectului”.
A doua zi după
„Gândește-te la asta o clipă. Un sistem AI s-a angajat cu un expert uman în dezbatere, i-a ascultat argumentul și a răspuns convingător cu propriul raționament nescenizat pentru a convinge publicul să ia în considerare poziția sa pe un subiect controversat. Arvind Krishna ne proiectează brusc într-o altă dimensiune care, până acum, era un teren de vânătoare pentru filme științifico-fantastice sau documentare despre un viitor plauzibil, mai mult sau mai puțin viitor. D'emblée, chiar și cu toate incertitudinile și neajunsurile arătate de mașină, un astfel de viitor a devenit parțial realitate. De fapt, câți, excluși pasionații de techno, ar fi urmărit sau doar ar fi crezut posibilă o performanță similară a inteligenței artificiale pe termen scurt? În ciuda limitărilor evidențiate, afișarea AI-ului lasă de fapt uimit. O „tehnologie remarcabilă”, a fost comentariul lui Chris Reed, profesor la Universitatea din Dundee.
Ovadia însăși a fost impresionată: „Sunt surprinsă... Tehnologia este cu adevărat deconcernătoare în ceea ce privește câte capacități cognitive propriu-zise umane este capabilă să realizeze simultan”. Campioana israeliană a avut ocazia să concureze cu automatul IBM timp de câteva luni, în scopul finalizării sistemului: «La început am fost uimit, atât de limbajul simplu, dar și de construcția argumentului... capacitatea de a asculta și apoi de a oferi un răspuns semnificativ la ceea ce am spus.
Tocmai „calitățile” deosebite indicate de Ovadia se numără printre principalele caracteristici care fac din Project Debater, o „tehnologie destul de specială... o piatră de hotar semnificativă în dezvoltarea unei tehnologii de inteligență artificială”, după cum a afirmat Daniel Melka, CEO și Country. manager al IBM Israel. În esență, originalitatea Debaterului se bazează pe trei abilități inovatoare, „... trei abilități cruciale, fiecare dintre ele deschide noi orizonturi în domeniul AI”.
1) În primul rând scrierea și expunerea unui discurs pe baza datelor disponibile. „Prima întreprindere a fost crearea unui computer capabil să genereze o opinie – asemănătoare cu un editorial de ziar – construit pe date și să o exprime în propoziții complete”.
2) În al doilea rând, ascultarea replicii interlocutorului cuiva, pentru a recunoaște și extrapola cele mai importante concepte. „A doua capacitate permite robotului să-și audă și să-și înțeleagă adversarii, permițându-i să identifice afirmațiile cheie ascunse într-un limbaj vorbit lung și continuu.”
3) În fine, realizarea unui singur grafic de cunoaștere, referitor la îndoielile exprimate de om, pentru a permite raționamentul „etic”. „A treia performanță a fost de a oferi computerului capacitatea de a exprima dileme umane succint și cu argumente de principiu.”
Totuși, prestația Dezbatetorului nu a fost lipsită de defecte. Pe lângă faptul că a repetat același concept de mai multe ori folosind cuvinte diferite, la un moment dat, în timpul dezbaterii privind explorarea spațiului, el a susținut că acest „... este mai important decât [a avea] drumuri bune sau școli mai bune sau un liceu de îngrijire medicală” . Un argument care nu poate fi împărtășit…
În afară de unele incertitudini lingvistice, în unele cazuri aveam impresia că construcția propoziției nu era în întregime „naturală”: uneori, segmentul inițial al unui enunț nu era urmat de o a doua parte care să pară fluidă; uneori atunci, anecdotele și citatele au părut aproape întâmplătoare. La un moment dat, în mijlocul unei propoziții, o inserție de „voce off” a dezvăluit că aparatul a accesat o transcriere video.
Cu toate acestea, noua „mirabilia” a IBM s-a păstrat. După cum subliniază Chris Reed, am asistat la o performanță care denotă un progres care nu este nimic banal: „Acesta este într-adevăr un pas semnificativ înainte... Cred că ceea ce m-a frapat a fost combinația tehnicilor de inteligență artificială. A intra în ceva de genul unei dezbateri nu este o chestie de tip „face-it-or-break”. … Trebuie să fii capabil să rezolvi o mulțime de probleme și apoi să aduci toate aceste probleme împreună într-o soluție proiectată.”
concluzii
Aparatul a dat dovadă de lipsă de empatie, a dezvăluit limitele actuale ale cercetării în domeniul inteligenței artificiale și a furnizat în mod fatal un material suplimentar pentru discuția privind viitorul și funcția AI. Mai mult, în ciuda numeroaselor proclamații care pun accentul aplaudând o colaborare din ce în ce mai strânsă între om și mașină, cu AI, ni se spune, jucând un rol eminamente auxiliar, fantoma competiției reapare în mod dominator. Ce rol va juca omul în toate acestea, ce funcție va juca? Își va putea menține „utilitatea”, își va păstra propriul spațiu de existență, o unicitate particulară într-un perimetru care pare pe zi ce trece mai mic, sau va deveni un element marginal, chiar redundant?
În cele din urmă, la o inspecție mai atentă, Project Debater dezvăluie și propria sa parte întunecată...
IBM prevede un viitor rol de consilier pentru Project Debater. „Credem că există un potențial pozitiv uriaș în inteligența artificială care ne poate înțelege pe noi, oamenii”, spune Krishna. Un consilier lipsit de prejudecăți, lipsit de emoții și, prin urmare, imun la starea de spirit și la influențele mediului, capabil să ofere o viziune obiectivă asupra unui subiect dat. „Acest lucru poate crește nivelul de luare a deciziilor bazate pe dovezi”, notează Chris Reed.
Un instrument chiar capabil să ofere în același timp avantajele și dezavantajele inerente unei decizii. „De-a lungul timpului, și în mediile de afaceri compatibile cu această aplicație, ne vom îndrepta din ce în ce mai mult spre utilizarea acestui sistem AI pentru a facilita raționamentul, rezolvarea problemelor, pe probleme care nu au fost încă rezolvate”, este dornic să reitere IBM.
Desigur, se subliniază puternic în mai multe rânduri că rolul mașinii nu va fi acela de a lua decizii (înlocuirea omului), ci mai degrabă de a contribui la discuție, „… acționează ca o altă voce la masă”. Funcția Dezbatetorului Proiectului, potrivit lui Big Blue, „va fi aceea de „facilitator” în a face să circule mai bine gândurile, opiniile, punctele de vedere și reflecțiile pentru a ajunge la o sinteză eficientă și eficientă... un „Gânditor” în slujba osului gânditorilor de carne și oase”.
O perspectivă stimulativă, chiar liniștitoare. Dar să ne imaginăm, pentru o clipă, o altă dimensiune. Un viitor distopic, distinct și îndepărtat de „averile magnifice și progresive” pe care ni le promite narațiunea progresului tehnologic de neoprit. Să ne imaginăm o lume saturată de date, aglomerată de știri, cu informații captivante de confuzie. O informație populată și afectată de știri false...
Și dacă mai degrabă s-ar folosi calitățile unor instrumente precum Project Debater decât pentru a pune ordine în știri și a aranja haosul informațional, de fapt pentru a crește această dezordine, precum și pentru a orienta opiniile într-o direcție mai degrabă decât în alta? Dacă, în loc să identifice și să dezvăluie știri false, ea este folosită pentru a face altele noi, a inunda rețeaua și nu numai, cu știri false sau distorsionate, să înlocuiască adevăratul cu probabilul? Ar fi posibil? Este de presupus că este și fără efort măcar mare, mai ales în lumea rețelelor sociale, unde comunicarea și știrile nu trebuie neapărat să fie deosebit de rafinate sau articulate.
Un astfel de instrument ar putea deveni un fel de gânditor „à la carte”. Mai rău, un Gândește mulțumesc, deoarece sunt mulți, dar automatizați, capabili să facă sugestii și „aranjamente” într-un flux continuu, de a influența, direcționa, convinge. Un instrument capabil să adună fapte și elemente cu precizie vestimentară, să alăture și să despartă, de altfel, într-un ritm de neimaginat pentru o ființă umană. O realitate departe de noi, excesiv de distopică? Pot fi …
