Shoshana Zuboff, profesor emerit la Harvard Business School și autoarea Capitalismul supravegherii (Luiss University Press) este o celebritate care depășește mediul academic și elita intelectuală. Despre capitalismul de supraveghere se vorbește acum în talk-show-urile de audiență.
În acest scurt eseu, pe care îl publicăm în traducerea italiană, Zukoff explică cu o claritate rară cum s-a născut și s-a dezvoltat această formă de capitalism extractiv, aproape invizibilă pentru masele care sunt bucuroși să beneficieze de serviciile sale.
Protagoniştii lui capitalismul de supraveghere sunt trei: cei care o practică fără să-și facă griji de consecințele generale în beneficiul lor și al acționarilor, publicul care se mulțumește să-și doneze datele personale pentru câteva bomboane și în cele din urmă legiuitorii care privesc în altă parte. teama de a face alegeri nepopulare.
MULȚUMESC JACK DORSEY
Zilele acestea, Jack Dorsey a demisionat de la conducerea Twitter. Datorită lui, Twitter nu a intrat în rândurile leoaicelor noii economii care practică capitalismul de supraveghere. De fapt, mulți, mai ales pe Wall Street, se întreabă cum poate exista un asemenea paradox precum Twitter.
Adică cea a unei rețele de socializare care, fiind printre cele mai autoritare cu cei 250 de milioane de utilizatori activi, are venituri și profituri atât de slabe. Simplu: pentru că Twitter a făcut ceea ce trebuie din punct de vedere al interesului general: a rămas în afara practicilor profitabile ale capitalismului de supraveghere.
Dacă rămâi în interiorul capitalizării tale poate ajunge la un trilion, dacă rămâi în afara cu greu poate depăși 1/20 din acea cifră. Deci, capitalismul de supraveghere multiplică de 20 de ori valoarea „naturală” a unui serviciu web gratuit.
Dar ce este acest tip de capitalism și cum a apărut? O explică bine Zuboff, care de 20 de ani studiază fenomenul economiei digitale. Iată eseul lui
NOUA INDUSTRIE EXTRACTIVĂ
Facebook nu este orice companie. A ajuns la statutul de un trilion de dolari în doar un deceniu datorită logicii a ceea ce eu numesc capitalism de supraveghere – un sistem economic construit pe extragerea și manipularea secretă a datelor oamenilor – care aspiră să conecteze întreaga lume. Facebook și alte entități capitaliste majore de supraveghere controlează acum fluxurile de informații și infrastructura de comunicații din întreaga lume.
Aceste infrastructuri sunt esențiale pentru o societate democratică, totuși democrațiile noastre au permis acestor companii să dețină, să opereze și să medieze spațiile noastre informaționale fără a fi guvernate în vreun fel de dreptul public. Rezultatul a fost o revoluție ascunsă în modul în care informațiile sunt produse, vehiculate și procesate. O cascadă de dezvăluiri din 2016 până astăzi, confirmată de documentația și mărturia personală a avertizoarei Frances Haugen, mărturisește consecințele acestei revoluții.
Democrațiile liberale ale lumii se confruntă acum cu tragedia „neobișnuitului”, adică spațiile informaționale pe care oamenii le asumă drept publice și care sunt în schimb strâns legate de interese comerciale private care vizează urmărirea profitului maxim.
NICI O IESIRE?
Internetul, ca piață de autoreglementare, s-a dovedit a fi un experiment eșuat. Capitalismul de supraveghere lasă o urmă de devastare socială: distrugerea vieții private, intensificarea inegalității sociale, înăsprirea discursului public cu informații defactualizate, demolarea normelor sociale și slăbirea instituțiilor democratice.
Aceste daune sociale nu sunt întâmplătoare. Aceste efecte sunt strict legate de stadiul de progres al operațiunilor economice. Fiecare daune deschide calea pentru următoarea și depinde de ceea ce a precedat-o.
Nu există nicio scăpare de sistemele automate care veghează asupra noastră, fie că facem cumpărături, conducem sau ne plimbăm prin parc. Toate căile de participare economică și socială trec acum prin teritoriul capitalismului de supraveghere care maximizează profitul, o condiție accentuată pe parcursul a aproape doi ani de pandemie globală.
Violența digitală a Facebook va trezi în sfârșit angajamentul de a lua înapoi „neobișnuit”? Vom aborda întrebările fundamentale ignorate de mult timp ale unei civilizații informaționale? Cum ar trebui să organizăm și să guvernăm spațiile de informare și comunicare ale secolului digital într-un mod care să susțină și să promoveze valorile și principiile democratice?
TOTUL A ÎNCEPUT CU GOOGLE
Facebook așa cum îl cunoaștem astăzi este modelat pe o ramură a Google. Startup-ul lui Mark Zuckerberg nu a inventat capitalismul de supraveghere. Google a fost cel care a făcut-o. În 2000, când doar 25% din informațiile din lume erau stocate digital, Google era un mic start-up cu un produs de căutare grozav, dar venituri mici.
În 2001, în plină criză dot-com, liderii Google au venit cu o serie de invenții care ar transforma industria de publicitate. Echipa lor a început să combine fluxurile masive de date și informații personale cu analize computaționale avansate pentru a prezice unde o reclamă ar putea obține cele mai multe clicuri.
Prognozele au fost inițial calculate prin analiza urmelor pe care utilizatorii le-au lăsat fără să știe pe serverele companiei în timp ce navigau sau căutau paginile Google. Oamenii de știință de la Google au învățat să extragă metadate predictive din acest „stoc de date” și să le folosească pentru a analiza modele probabile de comportament viitor.
MODELUL PREDICTIV
Predicția a fost primul imperativ care a condus al doilea imperativ: data mining. Prognozele profitabile au necesitat fluxuri de date la o scară aproape inimaginabilă. Utilizatorii nu bănuiau că datele lor erau culese în secret din toate colțurile internetului și, mai târziu, de aplicații, smartphone-uri, dispozitive conectate la internet, camere și senzori. Ignoranța utilizatorilor a fost punctul central al succesului proiectului. Fiecare produs nou a fost un mijloc de a obține o „angajare” mai mare, un eufemism folosit pentru a disimula operațiunile miniere ilicite.
Când a fost întrebat „Ce este Google?”, cofondatorul Larry Page a răspuns în 2001, conform unei relatări detaliate a lui Douglas Edwards (primul manager de marcă Google) în cartea sa. Mă simt norocos: „Depozitarea este ieftină. Camerele sunt ieftine. Oamenii vor genera cantități masive de date. Tot ceea ce a fost văzut sau experimentat vreodată va deveni căutat. Toată viața va fi căutată.”
În loc să taxeze utilizatorii pentru serviciul de căutare, Google a supraviețuit transformând motorul său de căutare într-un instrument de supraveghere sofisticat pentru captarea datelor personale. Directorii companiei au lucrat pentru a păstra aceste operațiuni secrete, ascunse de utilizatori, autorități de reglementare și concurenți. Page s-a opus oricărui lucru care ar putea „agita oala de confidențialitate și să pună în pericol capacitatea noastră de a colecta date”, a scris Edwards.
NAȘTEREA UNEI NOI CLĂDIRI ECONOMICE
Operațiunile miniere de anvergură au fost cheia de boltă a noului edificiu economic și au înlocuit alte scopuri, începând cu calitatea informației, deoarece în logica capitalismului de supraveghere, integritatea informației nu are nicio legătură cu veniturile.
Acesta este contextul economic în care a apărut dezinformarea. În 2017, Eric Schmidt, președintele executiv al companiei-mamă a Google, Alphabet, a recunoscut rolul operațiunilor de clasare algoritmică ale Google în răspândirea informațiilor înșelătoare.
„Există o linie pe care chiar nu o putem trece”, a spus ea. „Ne este foarte greu să înțelegem adevărul. O companie cu misiunea de a organiza și face accesibilă toate informațiile din lume folosind cei mai sofisticați algoritmi nu poate distinge informațiile corecte de informațiile incorecte”.
FACEBOOK, PRIMUL ADERĂTOR
Mark Zuckerberg și-a început cariera de antreprenor în 2003, în timp ce era student la Harvard. Site-ul său, Facemash, a invitat vizitatorii să evalueze atractivitatea sexuală a colegilor studenți. Site-ul a provocat indignare în rândul colegilor și a fost închis. Apoi au apărut TheFacebook în 2004 și Facebook în 2005, când Zuckerberg a achiziționat primii investitori profesioniști.
Numărul utilizatorilor Facebook a crescut rapid; venitul lui nu. La fel ca Google cu câțiva ani mai devreme, Zuckerberg nu a putut transforma popularitatea în venituri și profit.
S-a trecut de la o gafă la alta, iar încălcările constante ale confidențialității utilizatorilor au provocat reacții puternice ale publicului, petiții și procese colective.
Zuckerberg părea să înțeleagă că răspunsul la problemele sale era să extragă date cu caracter personal fără consimțământ și să le vândă agenților de publicitate, dar complexitatea logicii acestui lucru l-a scăpat.
Așa că a apelat la Google pentru răspunsuri.
În martie 2008, Zuckerberg l-a adus pe Facebook pe șefa Google de publicitate online globală, Sheryl Sandberg, ca secund al său. Sandberg s-a alăturat Google în 2001 și a jucat un rol cheie în revoluționarea capitalismului de supraveghere. El a condus construirea motorului de publicitate Google, AdWords, și a programului său AdSense, care împreună au reprezentat majoritatea veniturilor companiei de 16,6 miliarde de dolari în 2007.
Iată că vine SHERYL SANDBERG
Deja multimilionară la Google, în momentul în care a fost abordată de Zuckerberg, Sandberg a realizat oportunitățile imense ale Facebook de a extrage date predictive bogate. „Avem informații mai bune decât oricine altcineva. Știm sexul, vârsta, locația și sunt date reale, spre deosebire de lucrurile pe care le deduc alți oameni”, a spus Sandberg, conform lui David Kirkpatrick, autorul cărții. Efectul Facebook.
Compania avea „date mai bune” și „date reale” pentru că avea un loc în primul rând pentru ceea ce Page a numit „toată viața ta”.
Cu noi politici de confidențialitate la sfârșitul anului 2009, Facebook a fost pionier în economia supravegherii. Electronic Frontier Foundation a observat că noua setare „Toată lumea” ar elimina toate opțiunile de limitare a vizibilității datelor cu caracter personal, în schimb le va trata ca informații disponibile public.
TechCrunch a rezumat bine strategia companiei: „Facebook forțează utilizatorii să aleagă noi opțiuni de confidențialitate pentru a promova actualizarea „Toți” și pentru a scăpa de orice potențial viitor abuz de date. În exonerarea parțială a companiei, se poate argumenta că utilizatorii au ales în mod voluntar să-și împărtășească informațiile cu toată lumea.
Săptămâni mai târziu, Zuckerberg a apărat aceste mișcări într-un interviu TechCrunch. „O mulțime de companii ar fi fost prinse de vamă și de moștenirea lor”, s-a lăudat el. „Dar am decis că acestea vor fi noile norme sociale aici și acum și am mers pe acest drum”.
Zuckerberg „a mers literalmente pe acest drum” pentru că nu existau legi care să-l împiedice să se alăture Google în distrugerea totală a vieții private. Dacă parlamentarii ar fi vrut să-l sancționeze ca un maximizator de profit nemilos gata să-și folosească rețeaua socială împotriva societății, atunci 2009-2010 ar fi fost un moment bun.
O ORDINE ECONOMICĂ COVĂȘRIȘTORĂ
Facebook a fost primul abonat al lui Google, dar nu ultimul. Google, Facebook, Amazon, Microsoft și Apple sunt imperii private de supraveghere, fiecare cu modele de afaceri distincte. Google și Facebook sunt companii pur capitaliste de supraveghere. Ceilalți au diverse linii de afaceri care includ date, servicii, software și produse fizice. Începând cu 2021, acești cinci giganți tehnologici americani reprezintă cinci dintre cele mai mari șase companii tranzacționate la bursă după capitalizarea bursieră.
Pe măsură ce trecem în al treilea deceniu al secolului 21, capitalismul de supraveghere este instituția economică dominantă a timpului nostru. În absența unor legi de echilibrare, acest sistem mediază cu succes aproape fiecare aspect al relației oamenilor cu informațiile digitale. Promisiunea dividendului pe care îl aduce supravegherea a ajuns să aducă economia de supraveghere în economia „normală”, în asigurări, retail, bancar și finanțe, agricultură, producție auto, educație, sănătate și multe alte sectoare. Astăzi, toate aplicațiile și software-ul, oricât de benigne par ele, sunt concepute pentru a maximiza colectarea datelor.
Din punct de vedere istoric, concentrările mari de putere corporativă au cauzat daune economice. Dar când datele personale sunt materia primă și previziunile comportamentului oamenilor sunt produsul, atunci daunele sunt mai degrabă sociale decât economice. Dificultatea este că aceste noi daune sunt de obicei văzute ca probleme separate, chiar fără legătură, ceea ce le face dificil de remediat. În schimb, fiecare nouă etapă de daune creează condițiile pentru următoarea etapă de daune.
EXTRACȚIA ASIMMETRICĂ
Totul începe cu extracția. O ordine economică bazată pe extragerea secretă pe scară largă a datelor cu caracter personal presupune distrugerea vieții private ca o condiție esențială a operațiunilor sale comerciale. Cu confidențialitatea în afara drumului, datele personale obținute ilicit devin active ale corporațiilor private, unde sunt înțelese ca active corporative care pot fi utilizate după bunul plac.
Efectul social este o nouă formă de inegalitate reflectată în asimetria colosală dintre ceea ce știu aceste companii despre noi și ceea ce știm noi despre ele. Dimensiunea acestui decalaj de cunoștințe reiese într-o lucrare divulgată din 2018 de la Facebook, care a descris hub-ul său de AI, care înghite trilioane de date comportamentale în fiecare zi și produce șase milioane de predicții comportamentale în fiecare secundă.
Ulterior, aceste date cu caracter personal sunt folosite ca algoritmi de direcționare, concepute pentru a maximiza extracția și direcționate către sursele lor nebănuite pentru a crește implicarea lor. Mecanismele de direcționare schimbă viața reală, uneori cu consecințe grave. De exemplu, fișierele Facebook înfățișează un Zuckerberg folosind algoritmii săi pentru a impune sau bloca comportamentul a miliarde de oameni. Furia este fie răsplătită, fie ignorată. Știrile devin mai demne de încredere sau mai divagatoare. Editorii înfloresc sau se ofilesc. Discursul politic devine mai radical sau mai moderat. Oamenii trăiesc sau mor.
DAUNEA FINALĂ
Ocazional, ceața se limpezește pentru a dezvălui daunele supreme: puterea în creștere a giganților tehnologiei care doresc să-și folosească controlul asupra infrastructurilor informaționale pentru a concura cu parlamentarii aleși democratic pentru dominația societății.
La începutul pandemiei, de exemplu, Apple și Google au refuzat să își adapteze sistemele de operare pentru a găzdui aplicațiile de urmărire a contactelor dezvoltate de autoritățile de sănătate publică și susținute de oficiali aleși. În februarie, Facebook și-a închis câteva dintre paginile sale din Australia, ca semn al refuzului său de a negocia o plată pentru utilizarea conținutului și a știrilor cu Parlamentul australian.
De aceea, când vine vorba de triumful revoluției capitaliste de supraveghere, legiuitorii fiecărei democrații liberale, în special în Statele Unite, sunt cei care poartă cea mai mare responsabilitate. Ei au permis capitalului privat să conducă spațiile noastre informaționale timp de două decenii de creștere spectaculoasă, fără a promulga legi care să o reglementeze.
În urmă cu cincizeci de ani, economistul conservator Milton Friedman îndemna liderii americani să „se angajeze în activități care vizează creșterea profitului întotdeauna cu presupunerea evidentă a respectării regulilor jocului, adică obligația de a se angaja într-o concurență deschisă și liberă, fără înșelăciune. și fără fraudă.
PAGUBE COLATERALE
Societățile democratice afectate de inegalitatea economică, criza climatică, excluziunea socială, rasismul, urgențele de sănătate și instituțiile slăbite au un drum lung către redresare. Nu ne putem rezolva toate problemele deodată, dar nu vom rezolva nici una dintre ele, niciodată, dacă nu revendicăm caracterul sfânt al integrității informației și al comunicării de încredere. Abdicarea spațiilor noastre de informare și comunicare în favoarea capitalismului de supraveghere a devenit metacriza oricărei democrații, deoarece stă în calea soluțiilor pentru toate celelalte crize.
Nici Google, nici Facebook, nici niciun alt jucător de afaceri din această nouă ordine economică nu și-a propus să distrugă societatea, la fel cum industria combustibililor fosili nu și-a propus să distrugă pământul. Dar, la fel ca încălzirea globală, giganții tehnologiei și colegii lor de călătorie au tratat efectele distructive ale acțiunilor lor asupra oamenilor și societății ca daune colaterale – rezultatul nefericit, dar inevitabil, al unor tranzacții comerciale perfect legale, care au produs unele dintre cele mai bogate corporații și puternice din lume. în istoria capitalismului.
CONTRAREVOLUȚIA DEMOCRAȚIEI
Unde ne duc toate astea? Democrația este singura ordine instituțională care se opune autoritarismului și este puterea legitimă de a schimba cursul istoriei. Dacă idealul autoguvernării este să supraviețuiască secolului digital, atunci toate soluțiile indică o singură cale: o contrarevoluție democratică. În loc de listele obișnuite de remedii, parlamentarii ar trebui să procedeze cu o înțelegere clară a adversarului: că se confruntă cu un singur set de cauze economice și prejudicii sociale.
Nu putem scăpa de daunele sociale ulterioare decât dacă interzicem cauzele economice subiacente. Aceasta înseamnă că trebuie să trecem dincolo de concentrarea actuală asupra problemelor din aval, cum ar fi moderarea conținutului și controlul conținutului ilegal.
Aceste „remedii” tratează doar simptomele fără a pune sub semnul întrebării ilegitimitatea extragerii de date cu caracter personal care alimentează controlul privat asupra spațiilor informaționale ale societății. În mod similar, soluțiile structurale precum „destrămarea” giganților tehnologici pot fi valoroase în unele cazuri, dar nu vor atinge operațiunile economice subiacente ale capitalismului de supraveghere.
Mai degrabă, discuția despre reglementarea marilor tehnologii ar trebui să se concentreze pe fundamentul economiei de supraveghere: extragerea sub acoperire a datelor personale din domeniile vieții numite cândva „privat”. Remediile care se concentrează pe reglementarea minării datelor sunt neutre din punct de vedere al conținutului și nu îl modifică. Nu amenință libertatea de exprimare. În schimb, ele eliberează discursul social și fluxurile de informații din „selecția artificială” a operațiunilor de afaceri care maximizează profitul care favorizează mai degrabă corupția informațiilor decât integritatea acesteia. Ele restaurează caracterul sfânt al comunicării sociale și al expresiei individuale.
INIȚIATIVA LEGISLATORULUI
Fără minerit sub acoperire înseamnă nicio adunare nelegitimă și concentrare a cunoștințelor asupra oamenilor. Nicio concentrare a cunoștințelor înseamnă că nu există algoritmi de direcționare. Fără țintire înseamnă că corporațiile nu mai pot controla și gestiona fluxurile de informații și discursul social sau să modeleze comportamentul personal pentru a-și promova interesele. Reglementarea mineritului ar elimina dividendul de supraveghere și odată cu acesta și interesul financiar în supraveghere.
Pe măsură ce democrațiile liberale au început să se implice cu provocările de reglementare a spațiilor de informații private de astăzi, adevărul este că avem nevoie de legiuitori gata să se angajeze într-o explorare de o dată pe secol a problemelor fundamentale, cum ar fi următoarele: cum ar trebui să structurem și să guvernăm informare, conectare și comunicare într-un secol digital democratic? Ce noi declarații de drepturi, cadre legislative și instituții sunt necesare pentru a se asigura că colectarea și utilizarea datelor servesc nevoilor reale ale indivizilor și ale societății? Ce măsuri îi vor proteja pe cetățeni de puterea iresponsabilă asupra informațiilor, indiferent dacă este exercitată de companii private sau de guverne?
Democrațiile liberale ar trebui să preia conducerea pentru că au puterea și legitimitatea de a face acest lucru. Dar ar trebui să știe că aliații și colaboratorii lor sunt oameni care luptă împotriva unui viitor distopic.
Facebook își poate schimba numele sau liderii, dar nu își va schimba voluntar economia.
Apelul de a „reglementa Facebook” va descuraja parlamentarii să se lupte cu ceva mai profund? Sau va induce un sentiment mai mare de urgență? Vom putea în sfârșit să respingem vechile răspunsuri și să ne eliberăm să punem noile întrebări, începând cu aceasta: Ce trebuie făcut pentru a ne asigura că democrația supraviețuiește capitalismului de supraveghere?
De la: Shoshana Zuboff, Sunteți obiectul unei operațiuni de extracție secretă, The New York Times, 12 noiembrie 2021
