A lógica obscura da nova economia
Shoshana Zuboff ela é uma estudiosa social de longa data. Em tempos insuspeitos si está ocupado o impacto das novas ferramentas de informática e conhecimento no modelo econômico capitalista e na sociedade como um todo. Seu primeiro trabalho em máquinas inteligentes data de 1988. Nesse estudo, ele se concentrou no impacto da automação de escritório no local de trabalho, que já identificou como marcante.e e destrutivoo de todos os ativos determinado historicamente. Isso é o que realmente aconteceu nos anos seguintes à publicação de libro, não apenas no local de trabalho, mas em todos os cantos da vida social e econômicaa.
Essas transformações foram tão impactantes e profundas quee estudiosos mais sensíveis à genética social eles estão falando de uma mudança real no modo de produção capitalista, para usar uma expressão cunhada por Marx propósito definir um sistema histórico de organização das relações humanas em todos os níveis.
o estudoso israelense Yuval Noah Harari, uma das mentes mais brilhantes do nosso tempo, falou de um transformação do capitalismo em datismo, Isto é, in um modelo de controle dos meios de produção e recursos com base na coleta, processamento e uso de dados, la nova matéria-prima do desenvolvimento humano.
Aqueles que observaram diretamente o modelo capitalista em sua expressão mais genuína - como os estudiosos da escola de Frankfurt, integrantes da diáspora europeia na América - já haviam descrito o modelo de reificação e controle social operado, por exemplo, pela indústria cultural que trouxe láà dialética deiluminação para seu ponto extremo. Mas hoje ele nos diz o Zuboff a tecnologia, ou melhor, sua forma atual modelada no Vale do Silício, nos levou além da mesma reificação descrita pela Teoria Crítica, nos levou ao capitalismo de vigilância. Indivíduos, como nos piores pesadelos de Huxley, são corpos capazes de serem espremidos, inconscientemente e através de mecanismos alheios a eles, de sua essência e de sua privacidade para alimentar um propósito bem definido: hoje controlar suas escolhas e suas orientações como consumidores de bens e serviços e amanhã quem spara o que mais. Uma vez que o modelo está instalado e funcionando, torna-se espontaneamente universal.
Zuboff em uma intervenção sobre "Financial Times" ilustrou bem seus pensamentos e sua teoria sobre o capitalismo de vigilância. Temos o prazer de oferecer a tradução italiana deste discurso.
Il modelo de vigilância
Recentemente Mark Zuckerberg foi atacado por Roger McNamee, um ex-colaborador dele. McNamee, que tinha já criticou o CEO do Facebook, culpou fortemente Zuckerberg e sua empresa pela incessante apropriação de dados do usuário com métodos cada vez mais ilícitos e destrutivos. McNamee escreveu: “Para alimentar sua inteligência artificial e algoritmos, o Facebook coletou dados onde quer que os encontrasse. Em pouco tempo, o Facebook conseguiu espionar todo mundo, inclusive o ppessoas que não usam o Facebook. Essas operações - ha adicionado - eles foram aperfeiçoados para manipular os usuários em práticas que, em última análise, beneficiaram os bandidos sujeitos que tiveram a intenção para esgueirar-se na consciência público e desfigurar o discurso político.
McNamee lançou recentemente um livro intitulado zucked. Acordando para a catástrofe do Facebook, cujo título já é um plano de trabalho. O livro teve forte repercussão, foi resenhado e discutido por todos os grandes meios de comunicação do mundo e está há semanas em cartaz no Best-seller do New York Times Lé.
análise de McNamee implemento, mas, una subestimação de escala. É verdade que o governo russo e que o plutocrata Robert Mercer, mestre da extinta Cambridge Analytica e grande doador para a campanha presidencial de Donald Trump, eles aprenderam um manipular a complexa máquina secreta que o Facebook construiu; o fato é, no entanto, que o método do Facebook e o modelo de dispositivo digital que ele construiu não começa e termina com Facebook. Este modelo é um elementoo chave di uma nova lógica econômica que chamo de “capitalismo de vigilância".
ele é um modelo cele vai ben além do Facebook
Essas práticas foram inventadas pelo Google, adotadas pelo Facebook, engolidas pelo Vale do Silício e, desde então, se espalharam por todos os setores econômicos. Seria um erro grave supor que este é um fenômeno exclusivo do Facebook. Se regularmos o Facebook, nós o quebramos e exigimos uma mudança de liderança, capitalismo della vigilância não vai falhar Num piscar de olhos. Em vez disso, preencherá rapidamente esse vazio, com um novo elenco de atores e umo Nuovo adaptação de roteiro.
comecei a estudar o passagemthru digital em 1978, com foco emo tema de empregos. Quando meu primeiro livro foi publicado, Na Era da Máquina Inteligente, no 1988, entendi que o caminho para o futuro digital seria cheio de conflitos especialmente em que tiveram acesso a novos conhecimentos, vamos lá chavesse a autoridade para decidir e sobre quem tinha o poder de impor essa autoridade. Até agora, esses dilemas não resolvidosti eles foram bem além do local de trabalho para inundar todos os aspectos de nossas vidas. As tecnologias de informação e comunicação são hoje mais difundido do que a eletricidade, atingindos 3 bilhões de pessoas no mundo. a presença deles permeia toda a vida diária delle persone, mediando quase todas as formas de participação social.
Logo ficou claro para mim que o capitalismo de vigilância partia de muitas regras e práticas que eles haviam definido il capitalismo clássico e em paridadetparticular a história da democracia e das economias de mercado. Surgiu algo surpreendente e sem precedentes, cujas consequências moldariam o ambiente moral e político da sociedade do século XXI e os próprios valores de nossa civilização da informação.
A invenção do Google
O capitalismo de vigilância foi inventado após o estouro da bolha ponto.com, quando uma nova empresa, chamado Google, procurou aumentar a receita publicitária usando seu acesso exclusivo a uma fonte de dados amplamente ignorados, Isto é, o "log" deixado peloe pesquisarhe e da navegação online dos usuários. O Google descobriu que esses dados poderiam ser analisados com base em modelos preditivos que forneceriam pistas decisivasvsobre os interesses dos usuários. E foi além: para esses usuários eles poderiamNa verdade, ser abordado degeles anúncios direcionados para influenciar seu comportamento como consumidores. O Google poderia, portanto, ter reutilizado o "excesso" de dados comportamentais, em comparação com a atividade normal de pesquisa, e desenvolver novos métodos para adquirir agressivamente novas fontes de accesso para eles.
De acordo com seus próprios cientistas, os novos métodos do Google eram populares por sua capacidade de encontrar dados que os usuários optaram por manter privados e inferir extensas informações pessoais que eles não eram estado fornecidoe diretamente. Estas operações foram concebidas para contornar a consciência do utilizador e, portanto, eliminar qualquer possível "atrito". Em outras palavras, desde o início, A descoberta do Google foi baseada em um espelho unidirecional: vigilância. Os novos métodos foram inventados, aplicados e mantidos em estrito sigilo de 2001 a 2004. Somente quando o Google abriu o capital em 2004 é que o mundo soube que, com base nessas novas metodologias, a receita do Google havia aumentado em 3.590%.
A virada histórica
Essa mudança no uso de dados comportamentais em excesso foi um ponto de virada histórico. O Google encontrou um recurso revolucionário sem nenhum custo que poderia ter sido desviado da mera melhoria do serviço para um poderoso propósito comercial. O modelo de capitalismo de vigilância logo se estendeu ao Facebook para se tornar o modelo padrão de acumulação de capital no Vale do Silício. Era racionalizado como um quid pro quo para acessar os serviços gratuitos, mas não se limita mais a esse contexto, pois, outrora, aconteceu com produção em massa que, por exemplo, foi limitado à produção do Modelo T de Ford. Hoje, expandiu-se para uma ampla gama de indústrias, incluindo seguros, varejo, saúde, finanças, entretenimento, educação e muito mais. O capitalismo está literalmente trocando de pele diante de nossos olhos.
Talvez o melhor exemplo impressionante dessa mudança deve ser buscada no berço da produção em massa moderna, ala Ford Motor Company. Cem anos atrás, os pioneiros De capitalmo industrial moderno como Henry Ford eles desenvolveram uma nova modelo, moldando o consumo de massa de bens industriais. Ford percebeu que fazendeiros e lojistas também queriam carros a um preço que pudessem pagar. Em seu mundo, clientes e trabalhadores estavam ligados em um ciclo de produção e vendas que combinava mercadorias baratas com salários. calibrado sobre o consumo de bens.
Em novembro de 2018, Jim Hackett, CEO da Ford, indicou um novo paradigma para as montadoras. Ele afirmou a um entrevistador: “O ponto que quero desenvolver é esta: no futuro teremos uma enxurrada de dados vindos de veículos, de usuários desses veículos, de cidades falando sobre esses veículos e dao mesmoos concorrentes. Meu palpite é que hoje temos 100 milhões de pessoas sentadas em um veículo Ford oval azul. Esta é uma oportunidade apenas para monetizar issoo estado de coisas contra um concorrente (por exemplo, Tesla) que pode ter, digamos, 120 ou 200 veículos na estrada. Comparar um momento a escala de dois assuntos: de qual deles você gostaria de obter os dados?”
Depois que os clientes foram reinventados como fontes de dados, foi fácil para Hackett imaginar a próxima etapa em que dados em tempo real de carros são combinados, por exemplo. com os dados de financiamento da Ford. Com efeito, disse: “Já sabemos… o que as pessoas fazem… sabemos onde trabalham; sabemos se eles são casados. Sabemos há quanto tempo eles moram em sua casa." E conclui: “Esta é a alavanca enorme que temos com os dados”. Como comentário, umdiz um analista do setor, "A Ford poderia fazer uma fortuna monetizando os dados. Eles não precisarão de engenheiros, fábricas ou revendedores para fazê-lorlo. É lucro quase puro."
Se "inteligente" torna-se a fechadura do capitalismo de vigilância
E isto il mundo quando vivemos. Un mundo onde cada produto ou serviço que começa com a palavra “inteligente” ou “personalizado”, cada dispositivo ou veículo conectado à Internet, cada “assistente digital” é uma interface da cadeia de suprimentos para o fluxo desobstruído de dados comportamentais. Sabemos que o capitalismo evolui subsumindo coisas que estão fora da dinâmica do mercado para transformá-los em produtos de mercado, para venda e para compra. O capitalismo de vigilância estende esse modelo ao declarar a experiência humana privada un algo que pode ser elaborado e modelado para construir previsões comportamentais para produção ea troca. Nessa lógica, o capitalismo de vigilância se apropria de nossos comportamentos e absorve todo o significado que lá em nossos corpos, em nossos cérebros e em nossos corações. Você não é nem "o produto", seis a carcaça abandonada. O produto" são o excesso de dados extraídos de sua vida.
Nestas novas cadeias de abastecimento podemos encontrar le rastreia com quem você compartilhaamo la nosso vida, os segredos que eu nossa as crianças compartilham com seus brinquedos, conversas no almoço, níveis de decibéis na sala de estar e pontos de exclamação após uma postagem no Facebook, uma vez escrita com inocência e franqueza.
Nada está isento de ser inteligente, de garrafas de “vodka smart" a termômetros retais conectados à Internet, pois os produtos e serviços de cada setor competem pelas receitas de vigilância. Buscae informação eles são “sugadoe" de nosso vida diária de maneiras projetadas para tornarci ignorar o que está acontecendo. Nos Estados Unidos, as máquinas respiratórias usadas por pessoas que sofrem de Asma eles canalizam dados secretamente ao seguradore quem está dormindo enquanto isso, muitas vezes para permitir que a empresa retenha o pagamento pelo atendimento. Alguns aplicativos de celular registram o nosso posição a cada dois segundos para vendê-lo a terceiros. A partir de julho de 2017, o aspirador autônomo iRobot Roomba, funcionou notícia quando o CEO da empresa, Colin Angle, falado à Reuters sobre sua estratégia de negócios baseada ema recolha e tratamento de dados para a “casa inteligente”. Se oele diztou qual é o preço das ações cresceu moltissimo depois de sua proposta de compartilhar gratuitamente as plantas baixas das casas dos clientes, nel frattempo mapeado pelas novas capacidades de rastreamento De robô de limpeza.
Em algum momento, os capitalistas de vigilância descobriram que mudança de comportamento: e Intervenções em tempo real mediadas digitalmente empurrar os consumidores na direção desejado por aqueles capitalistas. Um cientistaiato dos dados mi ele explicou que: “Podemos projetar o contexto em torno de um determinado comportamento e forçar a mudança nissolla direção... Nós estamos aprendendo a escrever a música, e então vamos cque a música os faça dançar”. Os exemplos são tantos. E il lugar onde eu jogadores Pokémon Go Vanno comer, beba e compre, ou seja, aqueles hangouts quem paga pra jogar em mercados futuros comportamentais. È a expropriação implacável do excesso de dados dos perfis do Facebook para “insights psicológicos” detalhados que, de acordo com um relatório interno da empresa de 2017, permitem aos anunciantes identificar o momento exato em que um adolescente precisa "uma injeção de confiança".
As assimetrias do saber
Os capitalistas de vigilância produzem assimetrias profundamente antidemocráticas de conhecimento e eles se beneficiam de um crescimento de seu poder que vem do conhecimento. Eles sabem tudo sobre nós, enquanto suas operações são projetadas para serem desconhecidas dá parte nãostra. Eles predizem nosso futuro e moldam nosso comportamento, mas fano para atingir metas de outros e para ganho financeiro.
Esse poder de conhecer e mudar o comportamento humano não tem precedentes. Muitas vezes confundido com "totalitarismo" e temido como o Big Brother, é uma nova espécie de poder moderno que chamo de "instrumentalismo (instrumentarismo)”. O poder instrumental pode entender e mudar o comportamento de indivíduos, grupos e populações a serviço do capital de vigilância. O escândalo da Cambridge Analytica revelou como, com o know-how certo, esses métodos de poder instrumental podemonão fazer centrar-se em objetivos políticos. Mas não está lá Estamos errados, a tática empregada pela Cambridge Analytica fazia parte muitos e diariamente operações rotineiras do capitalismo em sua ação para influenciar o comportamento de pessoas.
Dtinha que ser outro cosa
Não era para ser assim. Em 2000, alguns cientistas da computação e alguns engenheiros têm trabalhou para um projeto chamado Aware Home. Eles imaginaram a “simbiose do homem de casa” na qual os processos animados e inanimados seriam capturados por uma rede de “sensores sensíveis ao contexto” instalados em uma casa e pelos computadores usados por seus habitantes. O sistema foi projetado como um circuito fechado simples controlado inteiramente pelos ocupantes. Verificou que ao “monitorizar constantemente as localizações e atividades dos ocupantes”…e também interceptar as condições médicas dos seus habitantes”, a equipa concluiu que “há uma clara necessidade de dar aos ocupantes conhecimento e controlo sobre a distribuição desta informação”. . Todas as informações tinham que ser armazenadas nos computadores de usoti ocupantes para garantir a privacidade das informações de um indivíduo.
Avançando para 2017, quando dois estudiosos da Universidade de Londres publicaram uma análise detalhada de um único dispositivo de “casa inteligente”, o Nest Thermostat, de propriedade do Google. Um deles decidiu entrar no ecossistema de dispositivos conectados e aplicativos, aceitando os termos de serviço para compartilhamento de dados de terceiros. Comprar um único termostato Nest significa que você precisa assinar quase mil dos chamados “cláusulas“. Se o cliente se recusar a aceitar as disposições da Nest, os termos del serviço, a funcionalidade e segurança do termostato eles são comprometido e não mais suportado por atualizações destinadas a garantir a confiabilidade e a segurança do dispositivo.
Os capitalistas da vigilância querem que acreditemos que sua trajetória rumo ao futuro digital é inevitável. Mas não é, hoje podemos lamentar a inocência de Aware Home, mas, como uma mensagem em uma garrafa do passado, ela nos diz algo importante. Antes éramos sujeitos de nossa vida, hoje somos seus objetos. A Aware Home testemunha o que perdemos e o que precisamos reencontrar: il certoo di sapere e di decidir quem deveria conoscere nossas vidas e nosso futuro. Tais direitos foram e continuam sendo a única base possível para a liberdade humana e para uma sociedade democrática isso funciona bem.
O papel da Apple
No final de outubro de 2018, Tim Cook, CEO da Apple, em frente ao Parlamento Europeu, criticou o “complexo industrial de dados”, com seus “estoques de dados pessoais” servindo apenas parad “enriquecer as empresas que os coletam”. Ele enfatizou que "qdele é vigilância dá a possibilidade de nos conhecermos melhor do que podemos nos conhecersi… Esta crise é real. Não é algo imaginado, nem exagerado também foda. E aqueles de nós que acreditam no potencial da tecnologia para o bem da sociedade não precisam fugir dessa realidade.".
Sem surpresa, alguns são bastante scepense sobre o sincerità do compromisso de Cook de “não baixe a guarda neste assunto“. Eles veem um tipo campanha de marketing com o objetivo de distanciar a empresa dona área dearrenegada onde caiu il setor de tecnologia. Outros, eles citaram As inconsistências da Apple na última década: L 'iPhone que use o Pesquisa do Google, armazenamento de dados do usuário suservidores chineses, la falta de transparência su muitas práticas e sistemas de proteçãoe dar coletado de Apple e muitas outras contradições. Tim Bradshaw e Mehreen Khan, do Ftempos financeiros, eles observam que é mais fácil para a Apple ter uma posição forte política de privacidade quando as receitas da empresa dependem da venda de seus dispositivos, não de publicidade direcionada.
O paradoxo da privacidade
Todas essas críticas são bem fundamentadas, mas, para muitos, a posição de Cook instila um forte senso de esperança, a percepção de que alguém na indústria tem finalmente a coragem de falar. Em 46 das 48 principais pesquisas de opinião realizadas nos Estados Unidos e na Europa entre 2008 e 2017, houve maiorias substanciais a favor de medidas para melhorar a privacidade e o controle dousuários em dados pessoais. As primeiras pesquisas foram menos significativas, porque muitos entrevistados não entenderam como ou quais informações pessoais foram coletadas. Uma grande pesquisa de 2009 descobriu que quando as pessoas eles são Saiba como as empresas coletamIgono dados para anúncios on-line direcionados, o 73% respingo tal uso de dados para fins publicitários. Uma pesquisa de 2015 constatou que 91% dos entrevistados discordaram que a coleta de informações pessoais "sem seu conhecimento" é uma troca justa por um desconto no preço.
As empresas de tecnologia costumam descartar esses resultados, enfatizando o comportamento atual dos usuários e os resultados espetaculares que esse estado produz di coisas como justificativa para o status quo. Lembre-se do infame sack de 2009 do ex-CEO do Google, Eric Schmidt:“Se você não tem nada a esconder, não precisa se preocupar. Se não querer não que se saiba, não faça isso“. Especialistas definem a diferença entre gli atitudes e i comportamentos “o paradoxo da privacidade“, mas na realidade não é um paradoxo. é a consequência devido aa batalha campal entre oferta e demanda, expressa na diferença entre o que o capitalismo de vigilância dita para nós e o que realmente queremos.
A lacuna histórica atual entre a oferta e a demanda é uma chamada à ação para os líderes empresariais que têm a visão e a convicção de ir contra a maré. Resistir ao capitalismo de vigilância não é simplesmente “a coisa certa a fazer”. Quase todo mundo que está conectado à Internet eles pedem um caminho alternativo para o futuro digital, que atende às nossas necessidades sem comprometer nossa privacidade, e sem usurpar nossas decisões e diminuir nossa autonomia. Dadas as forças em jogo, a pessoa com a melhor chance de forjar uma alternativa precisa de considerável influência comercial e política por trás dele. esta pode ser o contexto em que Tim Cook entra em cena.
Um estudo de 2017 sobre os retornos do mercado de ações concluiu que a Apple ha generato o mais alto colheita para investidores di qualquer outra empresa americana em 20° e 21 ° século. Auto Tim Cook realmente quer atuar consistentemente com suas palavras em Bruxelas, Apple deveria lidere o caminho um caminho alternativo para o futuro digital, riunmediante capitalismo com as pessoas que deveria servir. Cook disse que i supostos conflitos de privacidade versus lucro ou privacidade versus inovação são tesi errado. De fato, o padrão histórico sugere que o'atual disjunçãoe entre oferta e demanda abre uma oportunidade muito importante para um salto de qualidadeou desenvolvimento do capitalismo.
A luta por un capitalismo do povo
no passado umNós temos já enfrentamos situações semelhantes e já estivemos à beira do precipício. "Nós somos foi um pouco' tateando, procurando por gerenciar uma nova ordem com maneiras antigas, mas temos que começar moldar isso mundo novo". Era 1912 quando Thomas Edison expôs sua visão para uma nova civilização industrial em uma carta a Henry Ford. Edison temia o potencial do industrialismo para servir ao progresso da humanidade poderia ser impedido pelo poder do barões ladrões e por monopolistas que allora governounão a economia. Ele criticou o status quo caracterizado pelo "desperdício" e "crueldade" do capitalismo Americano. Tanto Edison quanto Ford entenderam que a civilização industrial moderna, para o qual eles se alimentaram muitos ter esperançae, caminhava para um futuro marcado pela miséria de muitos e pela prosperidade unicamente para poucos. Eles também entenderam o que seria a vida moral da civilização industrial. também moldado pelas práticas do capitalismo selvagem.
Tudo deve ser reinventado: novas tecnologias, sim, mas estas devem refletir novas formas de atender às necessidades das pessoas; um novo modelo econômico que pode se transformar em recursos economicos essas novas práticas; e um novo contrato social que poderia sustentar tudo o sistema. Cidadãos, consumidores, gestores, trabalhadores, legisladores, advogados, acadêmicos, jornalistas, gestores e funcionários públicos, que empreenderam esta empreitada, eles entraram em território desconhecido.
Nosso tempo exige esse tipo de salto criativo para o desconhecido pode desviar a trajetória do futuro digital para as pessoas. Sem uma resposta criativa e corajosa, o capitalismo de vigilância continuará a preencher esse vazio. Se o capitalismo de vigilância deve ser interrompido, domado e até banido, precisaremos de novas leis, regulamentos e formas de ação coletiva adaptadas aos seus mecanismos específicos. Por essas e outras mil razões, peço a Tim Cook e outros líderes empresariais que abram um novo caminho para casa. Eles não estarão sozinhos. Aqueles de nós que vivem no espaço entre o lar e o exílio não eles vão subtrair. A luta por um futuro humano é de todos nós.
* * *
Shoshana Zuboff é a Professora Emérita al Carlos Eduardo Wilson Instituto na Harvard Business School. A era do capitalismo de vigilância: a luta pelo futuro na nova fronteira do poder foi lançado em 31 de janeiro pela Profile Books
