Logica întunecată a noii economii
Shoshana Zuboff este o profesionistă socială de lungă durată. În vremuri nebănuite si este ocupat impactul noilor instrumente de calcul și cunoaștere asupra modelului economic capitalist și asupra societății în ansamblu. Prima sa lucrare asupra mașinilor inteligente datează din 1988. În acel studiu, el sa concentrat asupra impactului automatizării de birou la locul de muncă, pe care l-a identificat deja ca fiind epocal.e și distructivo a tuturor bunurilor determinată istoric. Aceasta este ceea ce s-a întâmplat de fapt în anii care au urmat publicării libro, nu doar la locul de muncă, ci în toate colțurile vieții sociale și economicea.
Aceste transformări au fost atât de impactante și profunde încâtiar savanţii mai sensibili la genetica socială ei vorbesc despre o schimbare reală a modului de producție capitalist, ca să folosim o expresie inventată de Marx scop defini un sistem storico de organizare a relaţiilor umane la toate nivelurile.
Studiulso Israelian Yuval Noah Harari, una dintre cele mai strălucite minți ale timpului nostru, a vorbit despre unul transformarea capitalismului în dataism, adică in un model de control al mijloacelor de producție și al resurselor bazat pe colectarea, prelucrarea și utilizarea datelor; la noua materie prima a dezvoltarii umane.
Cei care au observat direct modelul capitalist în expresia sa cea mai autentică - precum savanții școlii de la Frankfurt, parte a diasporei europene din America - au descris deja modelul de reificare și control social operat, de exemplu, de industria culturală. care a adus acolola dialectica deiluminarea la punctul său extrem. Dar astăzi ne spune Zuboff tehnologia, sau mai degrabă forma sa actuală modelată în Silicon Valley, ne-a dus dincolo de aceeași reificare descrisă de Critical Theory, ne-a condus la capitalismul de supraveghere. Indivizii, ca în cele mai grave coșmaruri ale lui Huxley, sunt corpuri capabile să fie strânse, fără să știe. e prin mecanisme străine lor, ale esenței și intimității lor pentru a alimenta un scop bine definit: astăzi să-și controleze alegerile și orientările ca consumatori de bunuri și servicii și mâine care sla ce altceva. Odată ce modelul este pus în funcțiune, devine spontan universal.
Zuboff într-o intervenție pe Financial TimesMatei 22:21 și-a ilustrat bine gândurile și teoria sa asupra capitalismului de supraveghere. Suntem încântați să oferim traducerea în italiană a acestui discurs.
Il model de supraveghere
Recent, Mark Zuckerberg a fost atacat de Roger McNamee, un fost colaborator al lui. McNamee, care avea gia a criticat CEO-ul Facebook, a acuzat puternic pe Zuckerberg și compania sa pentru necontenit însuşire a datelor utilizatorilor cu metode din ce în ce mai ilicite și distructive. McNamee a scris: „Pentru a-și alimenta inteligența artificială și algoritmii, Facebook a colectat date oriunde le-a găsit. În scurt timp, Facebook a reușit să spioneze pe toată lumea, inclusiv pe poameni care nu folosesc Facebook. Aceste operațiuni - ha adăugat - au fost perfecționați să manipuleze utilizatorii în practici care au beneficiat în cele din urmă băieților răi subiectii care au avut intentia pentru intra pe furiș în conștiință public și deturnează discursul politic.
McNamee a lansat recent o carte intitulată zucked. Trezirea cu catastrofa Facebook, al cărui titlu este deja un plan al lucrării. Cartea a avut un ecou puternic, a fost revizuită și discutată de toate mass-media majore din lume și a fost prezentată timp de câteva săptămâni în Bestseller New York Times Leste.
Analiza lui McNamee implementeaza, totuși, una subestimare de scară. Este adevarat ca guvernul rus e că plutocratul Robert Mercer, maestru a defunctului Cambridge Analytica e mare donator al campaniei prezidențiale a lui Donald Trump, au aflat că a manipula mașina secretă complexă pe care a construit-o Facebook; adevărul este însă că metoda Facebook e modelul de dispozitiv digital pe care a construit-o nu începe și nu se termină cu Facebook. Acest model este un elemento cheie di o nouă logică economică pe care o numesc „capitalism de supraveghere".
El este un model cel merge ben dincolo de Facebook
Aceste practici au fost inventate de Google, preluate de Facebook, au cuprins Silicon Valley și de atunci s-au răspândit în fiecare sector economic. Ar fi o greșeală gravă să presupunem că acesta este un fenomen exclusiv Facebook. Dacă reglementăm Facebook, îl spargem și cerem o schimbare a conducerii, capitalism della supraveghere nu va eșua într-o clipită. În schimb, va umple rapid acel gol, cu o nouă distribuție de actori și ao nouo adaptare a scenariu de film.
Am început să studiez trecereprin digital în 1978, concentrându-se petema de locuri de munca. Când a fost publicată prima mea carte, În epoca mașinii inteligente, în 1988, am înțeles că drumul către viitorul digital va fi plin de conflicte mai ales pe care a avut acces la cunoștințe noi, haide cheiesse autoritatea de a decide și cine avea puterea de a aplica acea autoritate. Până acum, aceste dileme nu au fost rezolvateti au mers bine dincolo de locul de muncă pentru a inunda fiecare aspect al vieții noastre. Tehnologiile informaţiei şi comunicaţiilor sunt azi mai răspândită decât electricitatea, ajungândono 3 miliarde de oameni în lume. prezenta lor pătrunde toată viața de zi cu zi delle persone, mediend aproape orice formă de participare socială.
Curând mi-a devenit clar că capitalismul de supraveghere s-a îndepărtat de multe reguli și practici pe care le definiseră il capitalism clasic şi în alinticular istoria democraţiei şi a economiilor de piaţă. A apărut ceva uluitor și fără precedent ale cărui consecințe ar modela mediul moral și politic al societății secolului XXI și însăși valorile civilizației noastre informaționale.
Invenția Google
Capitalismul de supraveghere a fost inventat după izbucnirea bulei dot.com, când o nouă companie, numit Google, a căutat să crească veniturile din reclame folosind accesul exclusiv la o sursă de date în mare măsură ignorate, adică „jurnalul” lăsat dee cercetarehe și din navigarea online a utilizatorilor. Google a descoperit că aceste date ar putea fi analizate pe baza unor modele predictive care ar oferi indicii decisivevpe interesele utilizatorilor. Și s-a mers mai departe: la acești utilizatori ei ar putea, într-adevăr, fi adresat degau reclame vizate pentru a influenţa comportamentul lor ca consumatori. Google ar fi putut astfel să refolosească „excesul” de date comportamentale, comparativ cu activitatea normală de cercetare, și să dezvolte noi metode de a procura în mod agresiv noi surse de acces lor.
Potrivit propriilor oameni de știință, noile metode Google au fost apreciate pentru capacitatea lor de a găsi date pe care utilizatorii au ales să le păstreze private și de a deduce informații cu caracter personal extinse care ei nu au fost de stat furnizatee direct. Aceste operațiuni au fost concepute pentru a ocoli conștientizarea utilizatorului și, prin urmare, pentru a elimina orice posibilă „frecare”. Cu alte cuvinte, chiar de la început, Descoperirea Google s-a bazat pe o oglindă unidirecțională: supravegherea. Noile metode au fost inventate, aplicate și păstrate în strict secret din 2001 până în 2004. Abia când Google a devenit public în 2004, lumea a aflat că, pe baza acestor noi metodologii, veniturile Google au crescut cu 3..590%.
Punctul de cotitură istoric
Această schimbare în utilizarea excesului de date comportamentale a reprezentat un punct de cotitură istoric. Google a găsit o resursă revoluționar fără niciun cost care ar fi putut fi deviat de la simpla îmbunătățire a serviciului către un puternic scop comercial. Modelul capitalismului de supraveghere s-a extins curând la Facebook pentru a deveni modelul implicit pentru acumularea de capital în Silicon Valley. A fost raţionalizat ca a o favoare pentru alta pentru a accesa serviciile gratuite, dar nu se mai limitează la acel context, deoarece, cândva, s-a întâmplat cu productie in masa care, de exemplu, a fost limitată la producția Model T a lui Ford. Astăzi, s-a extins într-o gamă diversă de industrii, inclusiv asigurări, comerț cu amănuntul, asistență medicală, finanțe, divertisment, educație și multe altele. Capitalismul își aruncă literalmente pielea în fața ochilor noștri.
Poate cel mai bun exemplu izbitoare a acestei schimbări trebuie căutată în locul de naștere al producției moderne de masă, alCompania Ford Motor. Acum o sută de ani, pionierii del capitalismo industrială modernă ca Henry Ford s-au dezvoltat unul nou model, modelând consumul de masă al bunurilor industriale. Ford și-a dat seama că fermierii și comercianții își doreau și mașini la un preț pe care și l-au permis. În lumea lui, clienții și muncitorii erau legați într-un ciclu de producție și vânzări care combina bunuri ieftine cu salarii calibrat asupra consumului de bunuri.
În noiembrie 2018, Jim Hackett, CEO Ford, a indicat o nouă paradigmă pentru producătorii de automobile. El a declarat unui intervievator: „Punctul pe care vreau să-l dezvolt este acest: în viitor, vom avea un val de date provenind de la vehicule, de la utilizatorii acestor vehicule, de la orașe care vorbesc despre aceste vehicule e daaceeașiconcurentii. Presupun că astăzi avem 100 de milioane de oameni într-un vehicul Ford oval albastru. Aceasta este o oportunitate numai pentru a monetiza astao stare de fapt împotriva unui concurent (de exemplu, Tesla) care ar putea avea, să zicem, 120 sau 200 de vehicule pe drum. Comparaţie un moment scara de două subiecte: de la care ați dori să obțineți datele?”
Odată ce clienții au fost reinventați ca surse de date, Hackett a fost ușor să-și imagineze următorul pas în care sunt combinate, de exemplu, datele în timp real de la mașini. cu datele de finanțare ale Ford. De fapt, el a spus: „Știm deja... ce fac oamenii... știm unde lucrează; stim daca sunt casatoriti. Știm de cât timp trăiesc în casa lor”. Și conchide: „Aceasta este pârghia enorm pe care le avem cu datele”. Ca comentariu, aspune un analist al industriei, Ford ar putea face o avere monetând datele. Nu vor avea nevoie de ingineri, fabrici sau dealeri pentru a-l realizarlo. Este aproape profit pur.”
Daca "inteligent" devine cheia de blocare a capitalismului de supraveghere
Și asta il lume în cui noi trăim. SAUîntr-o lume în care fiecare produs sau serviciu care începe cu cuvântul „inteligent” sau „personalizat”, fiecare dispozitiv sau vehicul conectat la internet, fiecare „asistent digital” este o interfață a lanțului de aprovizionare cu fluxul neobstrucționat de date comportamentale. Știm că capitalismul evoluează prin subsumarea lucrurilor care sunt în afara dinamicii pieței pentru a le transforma în produsele de pe piață, pentru vânzare și pentru cumpărare. Capitalismul de supraveghere extinde acest model declarând experiența umană privată un ceva care poate fi elaborat și modelat pentru a construi predicții comportamentale pentru producție șischimbul. În această logică, capitalismul de supraveghere își însușește comportamentele noastre și absoarbe tot sensul care acolo în corpurile noastre, în creierul nostru și în inimile noastre. Nu eşti nici "produsul", sei cadavrul abandonat. Produsul" sunt eu excesul de date smulse din viața ta.
În aceste noi lanțuri de aprovizionare putem găsi le melodii cărora le partajațiAmo la Nostra viata, secretele pe care i nostru copiii împărtășesc cu jucăriile lor, conversații la prânz, niveluri de decibeli în sufragerie și semne de exclamare în urma unei postări pe Facebook, odată scrisă cu inocență și candoare.
Nimic nu este scutit de a fi inteligent, din sticle de „vodka smart la termometre rectale conectate la internet, deoarece produsele și serviciile din fiecare industrie concurează pentru veniturile din supraveghere. Căutaree informații sunt „SuseMatei 22:21 de Nostra viața de zi cu zi în moduri concepute pentru a faceci ignora ce se intampla. În Statele Unite, aparatele respiratorii folosite de persoanele care suferă de astm ei canalizează în secret datele către asiguratre care doarme între timp, adesea pentru a permite companiei să rețină plata pentru îngrijire. Unele aplicații pentru telefoane mobile înregistrează Nostra poziție la fiecare două secunde pentru a o vinde unor terți. Din iulie 2017, aspiratorul autonom iRobot Roomba, a făcut-o știri când CEO-ul companiei, Colin Angle, are vorbit către Reuters a strategiei sale de afaceri bazate pecolectarea și prelucrarea date pentru „casa inteligentă”. Dacăel spunetsau care este prețul acțiunilor maturizat foarte foarte mult în urma propunerii sale de a partaja planuri gratuite ale caselor clienților, nel frattempo cartografiat prin noile capacităţi ale urmărire del robot de curatare.
La un moment dat, capitaliştii de supraveghere au aflat că schimbare de comportament: și intervenții mediate digital în timp real împinge consumatorii în direcție dorit de acei capitalisti. Un om de stiintaiato de date mi a explicat că: „Putem proiecta contextul în jurul unui anumit comportament și forță schimbarea în astaLLA direcţie... Invatam a scriem muzica și apoi să cmuzica să-i facă să danseze”. Exemplele sunt atât de multe. ȘI il loc unde i Jucători Pokémon Go ei merg a mânca, bea și cumpără, adică acele hangoturi care plătesc pentru a juca în piețele futures comportamentale. È exproprierea nemilos a excesului de date din profilurile Facebook pentru „informații psihologice” detaliate care, conform unui raport intern al companiei din 2017, le permit agenților de publicitate să identifice momentul exact de care are nevoie un adolescent "o injectie de încredere”.
Asimetriile cunoașterii
Capitaliştii de supraveghere produc asimetrii profund nedemocratice ale cunoaşterii şi de care beneficiază o creștere a puterii lor care vine din cunoaștere. Ei știu totul despre noi, în timp ce operațiunile lor sunt concepute pentru a fi de necunoscut dă parte Nu.Stra. Ei ne prezic viitorul și ne modelează comportamentul, dar acesta fan pentru a îndeplini obiectivele altora și pentru câștig economic.
Această putere de a cunoaște și schimba comportamentul uman este fără precedent. Adesea confundată cu „totalitarismul” și temut ca Big Brother, este o nouă specie de putere modernă pe care o numesc „instrumentarism (instrumentarism)”. Puterea instrumentală poate să înțeleagă și să schimbe comportamentul indivizilor, grupurilor și populațiilor aflate în serviciul capitalului de supraveghere. Scandalul Cambridge Analytica a dezvăluit cum, cu know-how-ul potrivit, aceste metode de putere instrumentală potoNu. tarif pivot către scopuri politice. Dar nu acolo gresim, din care făcea parte tactica folosită de Cambridge Analytica multe si zilnice operațiunile de rutină ale capitalismului în acțiunea sa pentru influențează comportamentul al oamenilor.
Dtrebuia să fie alta cosa
Nu trebuia să fie așa. În 2000, niste informaticieni şi niste inginerii au a lucrat la un proiect numit Aware Home. Ei și-au imaginat „simbioza casă-omul” în care procesele animate și neînsuflețite vor fi captate de o rețea de „senzori sensibili la context” instalați într-una acasă și de computerele purtate de locuitorii săi. Sistemul a fost conceput ca o simplă buclă închisă controlată în întregime de către ocupanți. Verificat că prin „monitorizarea constantă a locațiilor și activităților ocupanților”... și, de asemenea, interceptând condițiile medicale ale locuitorilor săi”, echipa a concluzionat că „există o nevoie clară de a oferi ocupanților cunoștințe și control asupra distribuirii acestor informații”. . Toate informațiile trebuiau stocate pe computerele purtateti ocupanților pentru a asigura confidențialitatea informațiilor unei persoane.
Avanză rapid până în 2017, când doi cercetători de la Universitatea din Londra au publicat o analiză detaliată a unui singur dispozitiv „casă inteligentă”, termostatul Nest deținut de Google. Unul dintre ei a decis să intre în ecosistemul dispozitivelor și aplicațiilor conectate, acceptând termenii și condițiile pentru partajarea datelor de la terți. Cumpărând un singur termostat Nest înseamnă că trebuie să vă abonați la aproape o mie de așa-numitele „clauze„. În cazul în care clientul refuză să accepte prevederile Nest, termenii del serviciu, funcționalitatea și siguranța termostatului sunt compromis și nu mai este susținut de actualizări menite să asigure fiabilitatea și securitatea dispozitivului.
Capitaliștii de supraveghere vor să credem că traiectoria lor în viitorul digital este inevitabilă. Dar nu este. Astăzi s-ar putea să regretăm inocența Aware Home dar, ca un mesaj într-o sticlă din trecut, ne spune ceva important. Cândva eram subiectele vieții noastre, astăzi suntem obiectele ei. Aware Home dă mărturie despre ceea ce am pierdut și despre ceea ce trebuie să regăsim: il dreaptao di Sapere e di decide cine trebuie sa conoscere viețile noastre și viitorul nostru. Astfel de drepturi au fost și rămân singura bază posibilă pentru libertatea omului și pentru o societate democratică care merge bine.
Rolul Apple
La sfârșitul lunii octombrie 2018 Tim Cook, CEO Apple, în fața Parlamentului European, a criticat „complexul industrial de date”, cu „stocurile sale de date cu caracter personal” servind numai pentrud „îmbogățiți companiile care le colectează”. El a subliniat că qa lui este supravegherea dA posibilitatea de a ne cunoaște mai bine decât ne putem cunoaște pe noi înșinesi… Această criză este reală. Nu este ceva imaginat, nici exagerat Folle. Și cei dintre noi care credem în potențialul tehnologiei pentru binele societății nu trebuie să se ferească de această realitate .
Deloc surprinzător, unele sunt destul de scegandeste-te la sincerità de angajamentul lui Cook de a „nu lasa-ti garda jos pe aceasta problema„. Ei văd unul drăguț campanie de marketing care vizează distanțarea companiei deîn zonaumbră unde a căzut il sectorul tehnologiei. Alții, au citat Inconsecvențele Apple din ultimul deceniu: L 'iPhone-uri care folosește Căutare Google, stocarea datelor utilizatorului suservere chinezești, la lipsa transparenței su multe practici şi sisteme protecţieși de date colectate de la Apple și multe alte contradicții. Tim Bradshaw și Mehreen Khan, din Fvremuri financiare, ei notează că este mai ușor pentru Apple avea o locatie puternic politica de confidențialitate când venituri a companiei depind de vânzarea dispozitivelor sale, nu de publicitate direcționată.
Paradoxul vieții private
Toate acestea sunt critici bine întemeiate, dar pentru mulți, poziția lui Cook insuflă un puternic sentiment de speranță, percepția că cineva din industrie avea în cele din urmă curajul de a vorbi. În 46 din primele 48 de sondaje de opinie efectuate în Statele Unite și Europa între 2008 și 2017, au existat majorități substanțiale în favoarea măsurilor de îmbunătățire a confidențialității și controlului asuprautilizatorii cu privire la datele personale. Sondajele timpurii au fost mai puțin semnificative, deoarece mulți respondenți nu au înțeles cum sau ce informații personale au fost colectate. Un sondaj major din 2009 a constatat că atunci când oamenii sunt Aflați despre modurile în care companiile colecteazălgono date pentru anunțurile online direcționate, valoarea 73% respinge astfel de utilizare a datelor în scopuri publicitare. Un sondaj din 2015 a constatat că 91% dintre respondenți nu sunt de acord că colectarea de informații personale „fără știrea lor” este un compromis corect pentru o reducere de preț.
Companiile de tehnologie resping de obicei aceste rezultate, subliniind comportamentul actual al utilizatorilor și rezultatele spectaculoase pe care le produce această stare. di lucruri precum justificarea status quo-ului. Amintiți-vă de infamul concediere din 2009 a fostului CEO Google Eric Schmidt:„Dacă nu ai nimic de ascuns, nu trebuie să-ți faci griji. Dacă nu vrei nu sa se stie, nu o face„. Experții definesc decalajul dintre Gli atitudini şi i comportamente „paradoxul vieţii private„, dar în realitate nu este un paradox. Este consecinta datorată abătălia campanita dintre cerere și ofertă, exprimată prin diferența dintre ceea ce capitalism de supravegherea ne dictează și ce ne dorim cu adevărat.
Decalajul istoric de astăzi dintre cerere și ofertă este un apel la acțiune pentru liderii de afaceri care au prevederea și convingerea de a merge împotriva curentului. Rezistenta capitalismului de supraveghere nu este pur și simplu „lucru corect de făcut”. Aproape toți cei care sunt conectați la internet ei solicită o cale alternativă către viitorul digital, care ne satisface nevoile fără a ne compromite intimitatea și fără a ne uzurpa deciziile și a ne diminua autonomia. Având în vedere forțele aflate în joc, persoana cu cele mai mari șanse de a construi o alternativă are nevoie de o influență comercială și politică considerabilă în spatele său. Acest ar putea fi contextul în care Tim Cook intra în scenă.
Un studiu din 2017 privind randamentele pieței de valori a concluzionat că Apple ha generate cel mai inalt Randament pentru investitori di orice altă companie americană în 20° și 21 ° secol. De sine Tim Cook chiar vrea să acționeze consecvent cu cuvintele lui la Bruxelles, Apple dovrebbe dupa tine o cale alternativă către viitorul digital, riunbyifying capitalismul cu oamenii pe care ar trebui să-i servească. Cook a spus asta i presupusele conflicte de confidențialitate versus profit sau confidențialitate versus inovație sunt Tesi gresit. De fapt, modelul istoric sugerează că'actual disjuncțiee între cerere și ofertă deschide o oportunitate foarte important pentru un salt de calitatesau dezvoltare a capitalismului.
Lupta pentru un capitalismul poporului
În trecut aavem ne-am confruntat deja cu situații similare și am fost deja pe marginea prăpastiei. "Noi suntem a mers un pic" dibuite, căuta de a gestiona o nouă ordine cu căi străvechi, dar trebuie să începem modelează asta lume nou . Era în 1912 când Thomas Edison și-a expus viziunea pentru o nouă civilizație industrială într-o scrisoare către Henry Ford. Edison se temea de potențialul industrialismului de a servi progresului omenirii ar putea essere împiedicat de puterea baroni tâlhari e de monopoliști că atunci stăpânitNu. economia. El a criticat status quo-ul caracterizat de „risipa” și „cruzimea” capitalismului American. Atât Edison, cât și Ford au înțeles această civilizație industrială modernă, pentru care se hrăneau MOLTE speranţăe, se năpustea spre un viitor marcat de mizerie pentru cei mulți și de prosperitate numai pentru putini. Ei au înțeles și care va fi viața morală a civilizației industriale prea modelate de practicile capitalismului Selvaggio.
Totul ar trebui reinventat: noi tehnologii, da, dar acestea ar trebui să reflecte noi modalități de a răspunde nevoilor oamenilor; un nou model economic care s-ar putea transforma în resurse economice aceste noi practici; și un nou contract social care ar putea susține totul sistemul. Cetăţeni, consumatori, manageri, lucrători, legiuitori, avocaţi, savanţi, jurnalişti, manageri şi funcţionari publici, care au întreprins acest efort, au intrat pe un teritoriu necunoscut.
Timpul nostru cere acest tip de salt creativ în necunoscut poate îndoi traiectoria viitorului digital către oameni. Fără un răspuns creativ și curajos, capitalismul de supraveghere va continua să umple acest gol. Dacă capitalismul de supraveghere urmează să fie perturbat, domesticit, chiar scos în afara legii, vom avea nevoie de noi legi, reglementări și forme de acțiune colectivă adaptate mecanismelor sale specifice. Din aceste motive și încă o mie, îi rog pe Tim Cook și alți lideri de afaceri să creeze un nou drum spre casă. Nu vor fi singuri. Aceia dintre noi care trăim în spațiul dintre casă și exil nu o facem vor scădea. Lupta pentru un viitor uman ne aparține tuturor.
* * *
Shoshana Zuboff este profesor emerit al Charles Edward Wilson Institut la Harvard Business School. Epoca capitalismului de supraveghere: lupta pentru viitor la noua frontieră a puterii a fost lansat pe 31 ianuarie de Profile Books
