Nici apocalipsă, nici utopie privind viitorul inteligenței artificiale și al progresului tehnologic: aceasta este abordarea pe care o are... Putere digitală, cartea interesantă a profesorului Luisa Torchia, student al lui Sabino Cassese și profesor titular de Drept Administrativ la Universitatea Roma Tre, publicat recent de il Mulino. Eseul abordează sistematic, dar ușor de citit, toate problemele de actualitate legate de inteligența artificială și oportunitățile și riscurile progresului tehnologic. Dar ce este exact Puterea Digitală? „Este putere privată, concentrată în mâinile câtorva companii americane și chineze care au atins o asemenea dimensiune încât pot domina piețele și pot concura cu statele” și nu numai. O putere enormă care necesită o reglementare eficientă, exact ceea ce America lui Trump nu își dorește. Dar provocarea nu s-a încheiat. Iată ce susține Torchia în interviul acordat PRIMUL online.
Profesor Torchia, în mod semnificativ, ultimul capitol al cărții dumneavoastră, „Puterea digitală”, se deschide asupra unui subiect arzător de interes actual în aceste zile și este intitulat Viitorul digital între apocalipsă, utopie și realismSe pare că înclinați spre a treia opțiune, dar cum vedeți, de fapt, viitorul puterii digitale?
Este un viitor care încă nu a fost scris și depinde în mod semnificativ de mai mulți factori. Depinde în primul rând de disponibilitatea societăților, statelor, organizațiilor internaționale, comunităților academice și indivizilor de a nu fi, ca să spunem așa, „dezarmați” de perspectiva apocaliptică, care, ca în toate apocalipsele, produce o mare anxietate și inhibă orice acțiune, deoarece predicția apocaliptică presupune nu numai că lumea este pe cale să se sfârșească, ci și că acest sfârșit este inevitabil. Și, așa cum a observat cu perspicacitate Christian Friedrich Hebbel în urmă cu aproape două secole, „Există oameni care s-ar simți chiar consolați de sfârșitul lumii, atâta timp cât l-au prezis.„Perspectiva apocaliptică este, prin urmare, paradoxal, și consolatoare, deoarece justifică incapacitatea sau lipsa de voință de a acționa și de a reacționa.”
Deci, ce este necesar?
În același timp, nu trebuie să ne lăsăm păcăliți de promisiunile unor beneficii viitoare mari și extraordinare pentru toți. Viziunea utopică a dezvoltării tehnologice este contrazisă de numeroasele promisiuni neîmplinite. Nu au fost descoperite noi medicamente salvatoare sau tratamente pentru cancer și boli degenerative, nu a fost găsită nicio soluție pentru schimbările climatice, nu au fost identificate surse de energie ieftine, nu a fost „generată” nicio artă nouă, nicio literatură nouă sau muzică nouă de o calitate comparabilă cu producția umană. Și ne-am putea întreba dacă declarațiile marilor companii de tehnologie despre „soarta magnifică și progresivă” a dezvoltării tehnologice - întotdeauna stabilite peste câțiva ani sau chiar decenii - nu sunt pur și simplu mesaje publicitare menite să atragă capitalul necesar pentru investiții enorme ale căror randamente sunt, de asemenea, amânate într-un viitor nedeterminat.
Ce crezi?
Cred că o abordare realistă este nu doar posibilă, ci și necesară. Nu neagă enormele avantaje și beneficii ale progresului tehnologic, ci se concentrează mai întâi pe avantajele reale, nu pe promisiuni. Apoi, ia în considerare atât riscurile pe care le aduc noile tehnologii, cât și distribuția complet inegală a acestor avantaje și riscuri. Există grupuri și companii care valorifică în mare măsură aceste beneficii și transferă toate riscurile și dezavantajele asupra altor grupuri și comunități. Percepția acestui fenomen este răspândită astăzi și explică neîncrederea crescândă față de marile companii de tehnologie, opoziția față de construirea de centre de date, acum foarte puternică chiar și în Statele Unite, și proliferarea proceselor împotriva platformelor pentru încălcarea legislației concurenței, a drepturilor de proprietate intelectuală, a vieții private și pentru afectarea sănătății mintale a tinerilor.
Un drum dificil de parcurs?
Este evident o cale dificilă de urmat, dar marile companii de tehnologie încep să simtă presiunea unei opinii publice din ce în ce mai ostile și văd în mod clar riscul unei răspunderi tot mai mari - și costisitoare - care le-ar putea fi atribuită. Paradoxal, dar nu în întregime paradoxal, ele văd soluția în intervenția publică, atât de reglementare, cât și financiară, susținută din ce în ce mai mult de cei care până acum s-au opus cu vehemență încercărilor de reglementare externă, afirmând cu tărie că autoreglementarea este suficientă. Regulile impuse de stat pot fi, de asemenea, utilizate în mod abuziv pentru a atenua concurența dintre jucătorii mari și a-i dezavantaja pe cei mai mici, ridicând simultan bariere la intrarea pe piață pentru noii intrați. Prin urmare, regulile trebuie stabilite cu mare atenție și precizie și supuse revizuirii pentru a le asigura eficacitatea și a permite o corectare rapidă.
Care sunt caracteristicile dominante ale puterii digitale?
„Sintetizând rezultatele analizei efectuate în cartea mea, puterea digitală poate fi definită ca o putere privată, globală, structurată pe platformă, extractivă, normativă, conformativă și conformistă, persuasivă și omniprezentă.”
Este, în primul rând, o putere privată, concentrată în mâinile câtorva companii americane și chineze, care au atins o asemenea dimensiune încât le permite să domine piețele și să concureze cu statele.
Impresionant.
Este, așadar, o putere cu anvergură globală, care operează fără granițe teritoriale și oferă sau vinde produse și servicii care au devenit esențiale pentru viața individuală și colectivă în întreaga lume. Este o putere structurată după modelul platformei, ca loc de întâlnire pentru cerere și ofertă, pentru informații, bunuri și servicii, care a devenit atât de indispensabilă atât pentru utilizatorii comerciali, cât și pentru cei finali, încât împiedică sau cel puțin îngreunează ieșirea din platforma dominantă, parțial din cauza lipsei de alternative. Sistemele bazate pe LLM-uri sunt, de asemenea, integrate în platformele existente (cum ar fi Gemini pentru Google) sau urmează modelul platformei, oferind o gamă din ce în ce mai largă de servicii integrate care nu pot fi accesate separat. Este o putere „extractivă”, care urmărește să obțină resursele necesare exercitării sale fără a suporta costurile și prin însușirea extremă a veniturilor. Este o putere normativă, deoarece stabilește regulile pentru interacțiunile pe platforme și, cu cele mai recente aplicații, și reguli pentru modul în care se practică activitățile medicale, bancare sau financiare. Este o putere conformistă și tendențial conformistă, deoarece, prin intermediul modelelor, reduce varietatea realității și apoi returnează o versiune simplificată și uniformă a acesteia, bazată pe o ordine pur statistică și nu morală, etică sau socială. Este o putere persuasivă și omniprezentă la nivel economic, politic și social, deoarece tehnologia pe care se bazează a devenit acum o parte integrantă a vieții de zi cu zi, odată cu utilizarea tot mai mare nu doar a aplicațiilor specializate, ci poate chiar mai mult a IA generativă capabilă să interacționeze prin limbaj natural.
În cartea dumneavoastră, ilustrați foarte clar cum puterea digitală a devenit putere politică și cum capitalismul digital a devenit mai puternic decât statele și pune în pericol însăși democrația: este aceasta o provocare pe care am pierdut-o pentru totdeauna sau mai putem spera să reechilibrăm echilibrul de putere dintre puterea digitală și puterea democratică?
Un element distinctiv și caracteristic al puterii digitale este concentrarea: o concentrare atât de puternică și de impenetrabilă încât nici piața, nici statul nu au fost capabile, cel puțin deocamdată, să producă măsuri eficiente de redistribuire. Puterea concentrată seamănă periculos cu puterea nelimitată, iar puterea nelimitată este aproape prin definiție o putere arbitrară. Ca toate puterile, însă, puterea digitală necesită și ea legitimitate, iar această legitimitate de astăzi nu se poate baza exclusiv pe forță: companiile de tehnologie trebuie, de asemenea, să vândă produse și servicii pe piață, să convingă consumatorii că produsele și serviciile lor sunt utile și într-adevăr esențiale, la fel cum trebuie să strângă capital și să își respecte promisiunile de rentabilitate, să convingă comunitățile să își găzduiască centrele de date, să convingă statele că nu își pun în pericol suveranitatea. Nu este o coincidență faptul că „șefii” marilor companii tehnologice visează adesea la noi planete sau zone ale acestei planete rezervate lor.
De ce o fac?
Pentru că percep societatea și regulile acesteia ca pe o constrângere căreia nu vor să i se supună, una de care ar dori să se elibereze. Aceasta este însă o perspectivă complet iluzorie, așa cum demonstrează două reacții diferite. În țările autocratice, precum China, statul exercită un control ferm asupra companiilor de tehnologie și asupra utilizării și difuzării tehnologiei. Cu siguranță nu vreau să dau exemplul autocrației, dar aceasta demonstrează că puterea publică, dacă există voință, nu este impotentă. Într-adevăr, în cazul Chinei, statul impune ca modelele de inteligență artificială să reflecte „valorile” socialismului, demonstrând că tehnologia nu este neutră. În țările democratice, există o intoleranță și o neîncredere crescânde față de inovația tehnologică care distruge locuri de muncă, creează inegalitate și discriminare, accentuează sărăcia și marginalizarea unor grupuri și comunități întregi. Democrația, cu capacitatea sa incluzivă, pluralistă și deliberativă, este un posibil antidot și ar putea fi consolidată tocmai ca un instrument care permite societăților moderne să se apere și să păstreze valorile și obiectivele colective. „Așadar, speranța este posibilă, dar trebuie cultivată, exercitată și apărată, iar aceasta este o sarcină care revine fiecăruia dintre noi, ca cetățeni ai unor țări democratice.”
Pentru a guverna puterea digitală fără a înăbuși inovația tehnologică, dar fără a fi copleșiți, susțineți că reglementarea este cheia. În acest domeniu, Europa este în avantaj, în timp ce SUA conduse de Trump sunt reticente în a face acest lucru. Dar dacă reglementarea puterii digitale nu se poate extinde la piața internă, pare inevitabil ca eficacitatea sa să fie limitată. Sau nu? Cum poate fi depășită această nepotrivire dintre Europa și SUA?
„În primul rând, ar putea fi vorba de o nealiniere contingentă: depinde mult de ce se întâmplă la alegerile americane care încep în noiembrie și în SUA în următorii doi ani. Reglementarea inovației este dificilă deoarece obiectul regulilor este în continuă schimbare și, tocmai din acest motiv, abordarea europeană de reglementare a inteligenței artificiale este în esență bazată pe risc: riscurile nu pot fi evitate, dar pot fi atenuate și, mai presus de toate, mai bine înțelese dacă există un sistem de control care le detectează. Reglementarea europeană poate fi criticată pentru împovărătoarea sa - și se face o încercare de simplificare cu Digital Omnibus - dar are un avantaj important: nicio mare companie de tehnologie nu poate renunța la piața europeană, una dintre cele mai mari și bogate din lume. Și astfel, în ciuda multor critici și rezistențe, nicio mare companie de tehnologie nu a părăsit Europa, în ciuda reglementării. Nealinierea dintre SUA și UE există, așadar, dar nu împiedică aplicarea regulilor europene, în interiorul Europei și uneori chiar dincolo de granițele sale, deoarece multe sisteme juridice converg în jurul aceluiași tip de principii și instrumente pentru reglementarea și controlul inteligenței artificiale. De asemenea, argumentul că reglementarea împiedică inovația devine mai puțin convingător atunci când inovația...” iese din stadiul său embrionar, așa cum s-a întâmplat acum cu inteligența artificială. Reglementarea este principalul instrument prin care o industrie poate garanta siguranța produselor sale și poate câștiga încrederea consumatorilor: nimeni nu s-ar îmbarca într-un avion sau nu ar cumpăra medicamente decât dacă ar fi în mod rezonabil sigur că călătoria și tratamentul au fost sigure și fără riscuri.
Care crezi că este cea mai bună opțiune?
Firește, cea mai bună opțiune ar fi o reglementare globală, la care să adere numeroase state și organizații internaționale. Această convergență nu este imposibilă. În cartea mea, dau două exemple în care s-a produs această convergență: energia atomică și clonarea. Diferențele dintre aceste două exemple sunt clare: energia atomică tinde să aparțină statelor, în timp ce capacitatea de clonare apare în laboratoarele de cercetare. În primul caz, statele au recurs la tratate internaționale, în timp ce în al doilea caz, a existat o convergență asupra alegerii, adoptată individual de fiecare stat, de a interzice clonarea reproductivă. În ambele cazuri, însă, percepția pericolelor și riscurilor implicate - în cazul bombei atomice, demonstrată dramatic la Hiroshima și Nagasaki - împreună cu convingerea că soluțiile naționale izolate ar fi complet nepotrivite - a condus la adoptarea unor reguli comune pe care statele și cercetătorii le-au acceptat și care, cel puțin deocamdată, nu au fost încălcate sau, în cazul unor posibile încălcări, ca în Iran în ceea ce privește energia atomică, au fost supuse unor mecanisme de aplicare a legii. În ambele cazuri, pe scurt, este vorba de reguli bazate fundamental pe interdicții și pe acceptarea de către părțile implicate a exercitării unei competențe de monitorizare a respectării interdicțiilor de către autoritățile sau agențiile naționale sau internaționale.
Dar s-a făcut o încercare de convergență în domeniul inteligenței artificiale?
G7 a încercat, de asemenea, să stabilească principii directoare internaționale și reguli de conduită comune privind inovația tehnologică în 2023, adoptând principii denumite în mod corespunzător Procesul Hiroshima IA. Aceste principii directoare internaționale ar trebui să se aplice întregului ciclu de viață al IA (și, prin urmare, tuturor părților interesate implicate în diferitele faze), iar Codul Internațional de Conduită oferă linii directoare la care dezvoltatorii de IA pot adera în mod voluntar. Implementarea Procesului Hiroshima IA este încredințată OCDE, care a definit cadrul pentru rapoartele de monitorizare în februarie 2025.
Provocarea la adresa puterii digitale se desfășoară, așa cum arată și cartea dumneavoastră, la nivel internațional, dar ce poate face Italia în Europa pentru a se plasa în cea mai bună poziție pentru a juca acest joc?
Italia nu dispune de cantități mari de capital de investiții sau resurse naturale, dar are universități excelente și este capabilă să formeze cercetători excelenți - care merg în străinătate să-și caute norocul: îi instruim și apoi transmitem această moștenire altor țări. Are o tradiție culturală și de expertiză tehnică care, în ciuda distrugerii atâtor experiențe industriale în ultimii ani, încă dăinuie. Dacă, în loc să dispersăm această bogăție de cultură și expertiză, ar fi concentrată în centre de cercetare și producție, ar fi lăsată să crească până la o masă critică și ar fi conectată în rețea cu sistemul de producție și cu sectorul public, am putea aduce o contribuție semnificativă.
