Shoshana Zuboff, professora emérita da Harvard Business School e autora de O capitalismo da vigilância (Luiss University Press) é uma celebridade que vai além da academia e da elite intelectual. O capitalismo de vigilância agora está sendo falado em programas de entrevistas no horário nobre.
Neste pequeno ensaio, que publicamos na tradução italiana, Zukoff explica com rara clareza como nasceu e se desenvolveu essa forma de capitalismo extrativista, quase invisível para as massas que se beneficiam de seus serviços com prazer.
Os protagonistas de capitalismo de vigilância são três: os que o praticam sem se preocupar com as conseqüências gerais em benefício próprio e dos acionistas, o público que se contenta em doar seus dados pessoais por alguns doces e, finalmente, os legisladores que olham para o outro lado medo de fazer escolhas impopulares.
OBRIGADO JACK DORSEY
Estes dias Jack Dorsey renunciou à liderança do Twitter. Graças a ele, o Twitter não entrou nas fileiras das leoas da nova economia que praticam o capitalismo de vigilância. Na verdade, muitos, especialmente em Wall Street, se perguntam como pode existir um paradoxo como o Twitter.
Ou seja, de uma mídia social que, estando entre as mais conceituadas com seus 250 milhões de usuários ativos, tem receitas e lucros tão escassos. Simples: porque o Twitter fez a coisa certa do ponto de vista do interesse geral: ficou fora das práticas lucrativas do capitalismo de vigilância.
Se ficar dentro a sua capitalização pode chegar a um trilhão, se ficar fora dificilmente passará de 1/20 desse valor. Assim, o capitalismo de vigilância multiplica o valor “natural” de um serviço gratuito da web 20 vezes.
Mas o que é esse tipo de capitalismo e como ele surgiu? Zuboff explica bem, que estuda o fenômeno da economia digital há 20 anos. Aqui está o ensaio dele
A NOVA INDÚSTRIA EXTRATIVA
O Facebook não é uma empresa qualquer. Atingiu o status de trilhão de dólares em apenas uma década, graças à lógica do que chamo de capitalismo de vigilância – um sistema econômico baseado na extração e manipulação secreta de dados das pessoas – que aspira conectar o mundo inteiro. O Facebook e outras grandes entidades capitalistas de vigilância agora controlam os fluxos de informações e a infraestrutura de comunicações em todo o mundo.
Essas infraestruturas são essenciais para uma sociedade democrática, mas nossas democracias permitiram que essas empresas possuíssem, operassem e mediassem nossos espaços de informação sem serem governadas de forma alguma pela lei pública. O resultado foi uma revolução oculta na forma como a informação é produzida, circulada e processada. Uma cascata de revelações de 2016 até hoje, confirmada pela documentação e testemunho pessoal da denunciante Frances Haugen, testemunha as consequências dessa revolução.
As democracias liberais do mundo enfrentam agora a tragédia do "incomum", ou seja, os espaços de informação que as pessoas assumem como públicos que, ao contrário, estão intimamente ligados a interesses comerciais privados voltados para a busca do lucro máximo.
SEM SAÍDA?
A Internet como um mercado autorregulado provou ser uma experiência fracassada. O capitalismo de vigilância deixa um rastro de devastação social: a destruição da privacidade, a intensificação da desigualdade social, o endurecimento do discurso público com informações defasadas, a demolição das normas sociais e o enfraquecimento das instituições democráticas.
Esses danos sociais não são acidentais. Esses efeitos estão estritamente ligados ao estágio de andamento das operações econômicas. Cada dano abre caminho para o próximo e depende do que o precedeu.
Não há como escapar dos sistemas automáticos que nos vigiam, quer estejamos fazendo compras, dirigindo ou caminhando no parque. Todas as vias de participação econômica e social agora passam pelo território do capitalismo de vigilância que maximiza o lucro, uma condição intensificada durante quase dois anos de pandemia global.
A violência digital do Facebook finalmente despertará o compromisso de retomar o “incomum”? Iremos abordar as questões fundamentais há muito ignoradas de uma civilização da informação? Como devemos organizar e governar os espaços de informação e comunicação do século digital de forma a apoiar e promover os valores e princípios democráticos?
TUDO COMEÇOU COM O GOOGLE
O Facebook como o conhecemos hoje é modelado em uma ramificação do Google. A startup de Mark Zuckerberg não inventou o capitalismo de vigilância. Foi o Google quem fez isso. Em 2000, quando apenas 25% das informações do mundo eram armazenadas digitalmente, o Google era uma pequena empresa iniciante com um ótimo produto de busca, mas com pouca receita.
Em 2001, em meio à crise das pontocom, os líderes do Google criaram uma série de invenções que transformariam a indústria de publicidade. Sua equipe começou a combinar fluxos massivos de dados e informações pessoais com análise computacional avançada para prever onde um anúncio poderia receber mais cliques.
As previsões foram inicialmente calculadas analisando os rastros que os usuários deixaram inadvertidamente nos servidores da empresa enquanto navegavam ou pesquisavam nas páginas do Google. Os cientistas do Google aprenderam a extrair metadados preditivos desse "estoque de dados" e usá-los para analisar padrões prováveis de comportamento futuro.
O MODELO PREDITIVO
A previsão foi o primeiro imperativo impulsionando o segundo imperativo: mineração de dados. Previsões lucrativas exigiam fluxos de dados em uma escala quase inimaginável. Os usuários mal suspeitavam que seus dados estavam sendo colhidos secretamente de todos os cantos da internet e, posteriormente, por aplicativos, smartphones, dispositivos conectados à internet, câmeras e sensores. A ignorância do usuário foi o ponto crucial do sucesso do projeto. Cada novo produto era um meio de conseguir maior "engajamento", eufemismo usado para disfarçar as operações ilícitas de mineração.
Quando perguntado "O que é o Google?", o co-fundador Larry Page respondeu em 2001, de acordo com um relato detalhado de Douglas Edwards (o primeiro gerente de marca do Google) em seu livro Estou me sentindo com sorte: “O armazenamento é barato. As câmeras são baratas. As pessoas vão gerar enormes quantidades de dados. Tudo o que já foi visto ou experimentado se tornará pesquisável. Toda a vida será pesquisável."
Em vez de cobrar dos usuários pelo serviço de busca, o Google sobreviveu transformando seu mecanismo de busca em uma sofisticada ferramenta de vigilância para capturar dados pessoais. Os executivos da empresa têm trabalhado para manter essas operações em segredo, escondidas de usuários, reguladores e concorrentes. Page se opôs a qualquer coisa que pudesse "agitar o pote de privacidade e colocar em risco nossa capacidade de coletar dados", escreveu Edwards.
O NASCIMENTO DE UM NOVO EDIFÍCIO ECONÔMICO
A mineração em larga escala foi a pedra angular do novo edifício econômico e substituiu outras finalidades, a começar pela qualidade da informação, pois na lógica do capitalismo de vigilância, a integridade da informação não tem relação com as receitas.
Este é o contexto econômico em que a desinformação surgiu. Em 2017, Eric Schmidt, presidente executivo da Alphabet, empresa controladora do Google, reconheceu o papel das operações de classificação algorítmica do Google na disseminação de informações enganosas.
"Há uma linha que realmente não podemos cruzar", disse ela. “É muito difícil para nós entender a verdade. Uma empresa com a missão de organizar e tornar acessível toda a informação do mundo usando os algoritmos mais sofisticados não consegue distinguir a informação correta da informação incorreta”.
FACEBOOK, O PRIMEIRO SEGUIDOR
Mark Zuckerberg iniciou sua carreira empreendedora em 2003, enquanto estudante em Harvard. Seu site, Facemash, convidava os visitantes a avaliar o apelo sexual de seus colegas. O site causou indignação entre os colegas e foi fechado. Depois veio o TheFacebook em 2004 e o Facebook em 2005, quando Zuckerberg adquiriu os primeiros investidores profissionais.
O número de usuários do Facebook cresceu rapidamente; sua renda não. Como o Google alguns anos antes, Zuckerberg não conseguiu transformar popularidade em receita e lucro.
Foi de gafe em gafe e as constantes violações da privacidade dos usuários provocaram fortes reações públicas, petições e ações coletivas.
Zuckerberg parecia entender que a resposta para seus problemas era extrair dados pessoais sem consentimento e vendê-los a anunciantes, mas a complexidade da lógica disso o iludiu.
Então ele recorreu ao Google em busca de respostas.
Em março de 2008, Zuckerberg trouxe a chefe de publicidade on-line global do Google, Sheryl Sandberg, para o Facebook como seu segundo em comando. Sandberg ingressou no Google em 2001 e desempenhou um papel fundamental na revolução do capitalismo de vigilância. Ele liderou a construção do mecanismo de publicidade do Google, o AdWords, e seu programa AdSense, que juntos representaram a maior parte da receita de US$ 16,6 bilhões da empresa em 2007.
LÁ VEM SHERYL SANDBERG
Já multimilionária no Google, no momento em que foi abordada por Zuckerberg, Sandberg percebeu as imensas oportunidades do Facebook para a mineração de dados preditivos ricos. “Temos informações melhores do que qualquer outra pessoa. Sabemos o gênero, a idade, a localização e são dados reais, em oposição às coisas que outras pessoas inferem", disse Sandberg, de acordo com David Kirkpatrick, autor do livro O efeito do Facebook.
A empresa tinha "dados melhores" e "dados reais" porque estava na primeira fila para o que Page chamou de "toda a sua vida".
Com novas políticas de privacidade no final de 2009, o Facebook foi pioneiro na economia da vigilância. A Electronic Frontier Foundation observou que a nova configuração “Todos” removeria todas as opções para limitar a visibilidade dos dados pessoais, tratando-os como informações publicamente disponíveis.
O TechCrunch resumiu bem a estratégia da empresa: “O Facebook está forçando os usuários a escolher novas opções de privacidade para promover a atualização 'Todos' e se livrar de qualquer possível abuso futuro de dados. Em exoneração parcial da empresa, pode-se argumentar que os usuários fizeram voluntariamente a opção de compartilhar suas informações com todos.
Semanas depois, Zuckerberg defendeu esses movimentos em uma entrevista ao TechCrunch. “Muitas empresas teriam ficado presas pela alfândega e seu patrimônio”, gabou-se. "Mas decidimos que essas seriam as novas normas sociais aqui e agora, e seguimos por esse caminho."
Zuckerberg "foi literalmente por este caminho" porque não havia leis que o impedissem de ingressar no Google na destruição total da privacidade. Se os legisladores quisessem sancioná-lo como um maximizador de lucros implacável, pronto para usar sua rede social contra a sociedade, então 2009-2010 teria sido um bom momento.
UMA ORDEM ECONÔMICA IMPRESCINDÍVEL
O Facebook foi o primeiro seguidor do Google, mas não o último. Google, Facebook, Amazon, Microsoft e Apple são impérios de vigilância privada, cada um com modelos de negócios distintos. Google e Facebook são empresas puramente capitalistas de vigilância. As demais possuem diversas linhas de negócios que incluem dados, serviços, software e produtos físicos. A partir de 2021, esses cinco gigantes da tecnologia americanos representam cinco das seis maiores empresas de capital aberto por capitalização de mercado.
À medida que avançamos para a terceira década do século 21, o capitalismo de vigilância é a instituição econômica dominante de nosso tempo. Na ausência de leis de equilíbrio, esse sistema media com sucesso quase todos os aspectos do relacionamento das pessoas com a informação digital. A promessa do dividendo que a vigilância traz veio trazer a economia da vigilância para a economia "normal", para seguros, varejo, bancos e finanças, agricultura, fabricação de automóveis, educação, saúde, saúde e muitos outros setores. Hoje, todos os aplicativos e softwares, por mais benignos que pareçam, são projetados para maximizar a coleta de dados.
Historicamente, grandes concentrações de poder corporativo causaram danos econômicos. Mas quando os dados pessoais são a matéria-prima e as previsões do comportamento das pessoas são o produto, então os danos são sociais e não econômicos. A dificuldade é que esses novos percalços são geralmente vistos como problemas separados, até mesmo não relacionados, tornando-os difíceis de corrigir. Em vez disso, cada novo estágio de dano cria as condições para o próximo estágio de dano.
A EXTRAÇÃO ASSIMÉTRICA
Tudo começa com a extração. Uma ordem econômica fundada na extração secreta em larga escala de dados pessoais pressupõe a destruição da privacidade como condição essencial de suas operações comerciais. Com a privacidade fora do caminho, os dados pessoais obtidos ilicitamente tornam-se ativos de empresas privadas, onde são entendidos como ativos corporativos para serem usados à vontade.
O efeito social é uma nova forma de desigualdade refletida na colossal assimetria entre o que essas empresas sabem sobre nós e o que sabemos sobre elas. O tamanho dessa lacuna de conhecimento surge em um documento vazado de 2018 do Facebook, que descrevia seu hub de IA, que engole trilhões de dados comportamentais todos os dias e produz seis milhões de previsões comportamentais a cada segundo.
Posteriormente, esses dados pessoais são usados como algoritmos de segmentação, projetados para maximizar a extração e direcionar suas fontes inocentes para aumentar seu engajamento. Os mecanismos de segmentação mudam a vida real, às vezes com sérias consequências. Por exemplo, os arquivos do Facebook retratam um Zuckerberg usando seus algoritmos para reforçar ou bloquear o comportamento de bilhões de pessoas. A raiva é recompensada ou ignorada. As notícias se tornam mais confiáveis ou mais divagações. Os editores florescem ou murcham. O discurso político torna-se mais radical ou mais moderado. As pessoas vivem ou morrem.
O DANO FINAL
Ocasionalmente, a névoa se dissipa para revelar o dano final: o crescente poder dos gigantes da tecnologia que querem usar seu controle sobre as infraestruturas de informação para competir com legisladores eleitos democraticamente pelo domínio da sociedade.
No início da pandemia, por exemplo, a Apple e o Google se recusaram a adaptar seus sistemas operacionais para acomodar aplicativos de rastreamento de contatos desenvolvidos por autoridades de saúde pública e apoiados por autoridades eleitas. Em fevereiro, o Facebook fechou várias de suas páginas na Austrália como um sinal de sua relutância em negociar um pagamento por conteúdo e uso de notícias com o Parlamento australiano.
É por isso que, quando se trata do triunfo da revolução capitalista de vigilância, são os legisladores de todas as democracias liberais, especialmente nos Estados Unidos, que carregam a maior responsabilidade. Eles permitiram que o capital privado governasse nossos espaços de informação por duas décadas de crescimento espetacular, sem promulgar leis para regulá-lo.
Há cinqüenta anos, o economista conservador Milton Friedman exortava os dirigentes americanos a "envolver-se em atividades voltadas para o aumento dos lucros sempre com o pressuposto óbvio de respeitar as regras do jogo, ou seja, a obrigação de se engajar em uma competição aberta e livre, sem enganos e sem fraude.
DANO COLATERAL
As sociedades democráticas atormentadas pela desigualdade econômica, crise climática, exclusão social, racismo, emergências de saúde e instituições enfraquecidas têm um longo caminho para a recuperação. Não podemos resolver todos os nossos problemas de uma vez, mas não resolveremos nenhum deles, jamais, se não reivindicarmos a santidade da integridade da informação e da comunicação confiável. A abdicação de nossos espaços de informação e comunicação em favor do capitalismo de vigilância tornou-se a metacrise de toda democracia, porque se interpõe no caminho de soluções para todas as outras crises.
Nem o Google, nem o Facebook, nem qualquer outro ator empresarial nesta nova ordem econômica pretende destruir a sociedade, assim como a indústria de combustíveis fósseis não pretende destruir a Terra. Mas, assim como o aquecimento global, os gigantes da tecnologia e seus companheiros de viagem trataram os efeitos destrutivos de suas ações nas pessoas e na sociedade como danos colaterais – o subproduto infeliz, mas inevitável, de negócios perfeitamente legais que produziram algumas das corporações mais ricas e poderosas do mundo. na história do capitalismo.
A CONTRA-REVOLUÇÃO DA DEMOCRACIA
Onde tudo isso está nos levando? A democracia é a única ordem institucional que se opõe ao autoritarismo e é o poder legítimo para mudar o curso da história. Se o ideal de autogoverno é sobreviver ao século digital, então todas as soluções apontam para um caminho: uma contra-revolução democrática. Em vez das listas usuais de remédios, os legisladores devem proceder com um entendimento claro do adversário: que eles se deparam com um único conjunto de causas econômicas e danos sociais.
Não podemos nos livrar dos danos sociais subsequentes, a menos que proscrevamos as causas econômicas subjacentes. Isso significa que precisamos ir além do foco atual em questões downstream, como moderação de conteúdo e controle de conteúdo ilegal.
Esses “remédios” tratam apenas os sintomas sem questionar a ilegitimidade da mineração de dados pessoais que alimenta o controle privado sobre os espaços informacionais da sociedade. Da mesma forma, soluções estruturais como “desmembrar” os gigantes da tecnologia podem ser valiosas em alguns casos, mas não afetarão as operações econômicas subjacentes do capitalismo de vigilância.
Em vez disso, a discussão sobre a regulamentação de grandes tecnologias deve se concentrar no alicerce da economia da vigilância: a extração secreta de dados pessoais de áreas da vida antes chamadas de "privadas". Os remédios que se concentram na regulamentação da mineração de dados são neutros em relação ao conteúdo e não o alteram. Eles não ameaçam a liberdade de expressão. Em vez disso, eles liberam o discurso social e os fluxos de informações da "seleção artificial" de operações comerciais que maximizam o lucro e que favorecem a corrupção das informações em vez de sua integridade. Eles restauram a santidade da comunicação social e da expressão individual.
A INICIATIVA DOS LEGISLADORES
Nenhuma mineração secreta significa nenhuma coleta ilegítima e concentração de conhecimento nas pessoas. Nenhuma concentração de conhecimento significa que não há algoritmos de segmentação. Nenhuma segmentação significa que as corporações não podem mais controlar e organizar os fluxos de informações e o discurso social ou moldar o comportamento pessoal para promover seus interesses. Regulamentar a mineração eliminaria o dividendo da vigilância e, com ele, o interesse financeiro na fiscalização.
À medida que as democracias liberais começaram a enfrentar os desafios de regulamentar os espaços de informação de propriedade privada de hoje, a verdade é que precisamos de legisladores prontos para se envolver em uma exploração de um século de questões muito fundamentais, como as seguintes: como devemos estruturar e governar informação, conexão e comunicação em um século digital democrático? Que novas declarações de direitos, estruturas legislativas e instituições são necessárias para garantir que a coleta e o uso de dados atendam às reais necessidades dos indivíduos e da sociedade? Que medidas protegerão os cidadãos do poder irresponsável sobre a informação, seja exercido por empresas privadas ou governos?
As democracias liberais devem assumir a liderança porque têm o poder e a legitimidade para fazê-lo. Mas eles devem saber que seus aliados e colaboradores são pessoas lutando contra um futuro distópico.
O Facebook pode mudar seu nome ou seus líderes, mas não mudará voluntariamente sua economia.
A chamada para "regulamentar o Facebook" dissuadirá os legisladores de lidar com algo mais profundo? Ou induzirá um maior senso de urgência? Seremos finalmente capazes de rejeitar as velhas respostas e nos libertar para fazer as novas perguntas, começando por esta: o que precisa ser feito para garantir que a democracia sobreviva ao capitalismo de vigilância?
De: Shoshana Zuboff, você é o objeto de uma operação de extração secreta, The New York Times, 12 de novembro de 2021
