Shoshana Zuboff, professeur émérite à la Harvard Business School et auteur de Le capitalisme de la surveillance (Luiss University Press) est une célébrité qui va au-delà du milieu universitaire et de l'élite intellectuelle. On parle maintenant du capitalisme de surveillance dans les talk-shows aux heures de grande écoute.
Dans ce court essai, que nous publions dans la traduction italienne, Zukoff explique avec une rare clarté comment cette forme de capitalisme extractif est née et s'est développée, presque invisible pour les masses qui sont heureuses de bénéficier de ses services.
Les protagonistes de capitalisme de surveillance il y en a trois : ceux qui la pratiquent sans se soucier des conséquences générales pour leur propre bénéfice et celui des actionnaires, le public qui se contente de donner ses données personnelles pour quelques bonbons et enfin les législateurs qui détournent le regard de peur de faire des choix impopulaires.
MERCI JACK DORSEY
Ces jours-ci, Jack Dorsey a démissionné de la direction de Twitter. Grâce à lui, Twitter n'est pas entré dans les rangs des lionnes de la nouvelle économie qui pratiquent le capitalisme de surveillance. En fait, beaucoup, surtout à Wall Street, se demandent comment un paradoxe tel que Twitter peut exister.
C'est-à-dire celle d'un média social qui, étant parmi les plus autoritaires avec ses 250 millions d'utilisateurs actifs, a d'aussi maigres revenus et profits. Simple : parce que Twitter a bien fait d'un point de vue d'intérêt général : il est resté à l'écart des pratiques lucratives du capitalisme de surveillance.
Si vous restez à l'intérieur, votre capitalisation peut atteindre un billion, si vous restez à l'extérieur, elle peut difficilement dépasser 1/20e de ce chiffre. Ainsi, le capitalisme de surveillance multiplie par 20 la valeur « naturelle » d'un service Web gratuit.
Mais qu'est-ce que ce type de capitalisme et comment est-il apparu ? Zuboff l'explique bien, qui étudie le phénomène de l'économie numérique depuis 20 ans. Voici son essai
LA NOUVELLE INDUSTRIE EXTRACTIVE
Facebook n'est pas n'importe quelle entreprise. Il a atteint un statut de billion de dollars en seulement une décennie grâce à la logique de ce que j'appelle le capitalisme de surveillance - un système économique fondé sur l'extraction et la manipulation secrètes des données des personnes - qui aspire à connecter le monde entier. Facebook et d'autres grandes entités capitalistes de surveillance contrôlent désormais les flux d'informations et les infrastructures de communication dans le monde entier.
Ces infrastructures sont essentielles à une société démocratique, pourtant nos démocraties ont permis à ces entreprises de posséder, d'exploiter et de médiatiser nos espaces d'information sans être régies d'aucune façon par le droit public. Le résultat a été une révolution cachée dans la manière dont l'information est produite, diffusée et traitée. Une cascade de révélations de 2016 à aujourd'hui, confirmée par la documentation et le témoignage personnel de la lanceuse d'alerte Frances Haugen, témoigne des conséquences de cette révolution.
Les démocraties libérales du monde sont désormais confrontées à la tragédie de l'"inhabituel", c'est-à-dire des espaces d'information que les gens assument comme publics et qui sont au contraire étroitement liés à des intérêts commerciaux privés visant à la poursuite du profit maximum.
SANS ISSUE?
L'Internet en tant que marché autorégulateur s'est avéré être une expérience ratée. Le capitalisme de surveillance laisse un sillage de dévastation sociale : la destruction de la vie privée, l'intensification des inégalités sociales, le resserrement du discours public avec des informations défactualisées, la démolition des normes sociales et l'affaiblissement des institutions démocratiques.
Ces dommages sociaux ne sont pas accidentels. Ces effets sont strictement liés au stade d'avancement des opérations économiques. Chaque dommage ouvre la voie au suivant et dépend de ce qui l'a précédé.
Il n'y a pas d'échappatoire aux systèmes automatiques qui veillent sur nous, que nous fassions nos courses, que nous conduisions ou que nous nous promenions dans le parc. Toutes les voies de participation économique et sociale passent désormais par le territoire du capitalisme de surveillance maximisant le profit, une condition accentuée pendant près de deux ans de pandémie mondiale.
La violence numérique de Facebook réveillera-t-elle enfin l'engagement de reprendre « l'inhabituel » ? Résoudrons-nous les questions fondamentales longtemps ignorées d'une civilisation de l'information ? Comment devons-nous organiser et gouverner les espaces d'information et de communication du siècle numérique de manière à soutenir et à faire progresser les valeurs et principes démocratiques ?
TOUT A COMMENCÉ AVEC GOOGLE
Facebook tel que nous le connaissons aujourd'hui est calqué sur une émanation de Google. La startup de Mark Zuckerberg n'a pas inventé le capitalisme de surveillance. C'est Google qui l'a fait. En 2000, alors que seulement 25 % des informations mondiales étaient stockées numériquement, Google était une petite start-up avec un excellent produit de recherche, mais peu de revenus.
En 2001, au milieu de la crise des dot-com, les dirigeants de Google ont proposé une série d'inventions qui allaient transformer l'industrie de la publicité. Leur équipe a commencé à combiner les flux massifs de données et d'informations personnelles avec une analyse informatique avancée pour prédire où une publicité pourrait obtenir le plus de clics.
Les prévisions ont été initialement calculées en analysant les traces que les utilisateurs avaient laissées sans le savoir sur les serveurs de l'entreprise lorsqu'ils naviguaient ou recherchaient des pages Google. Les scientifiques de Google ont appris à extraire des métadonnées prédictives de ce "stock de données" et à les utiliser pour analyser les modèles probables de comportement futur.
LE MODÈLE PRÉDICTIF
La prédiction était le premier impératif entraînant le deuxième impératif : l'exploration de données. Les prévisions lucratives nécessitaient des flux de données à une échelle presque inimaginable. Les utilisateurs ne soupçonnaient pas que leurs données étaient secrètement récoltées dans tous les coins et recoins d'Internet et, plus tard, par des applications, des smartphones, des appareils connectés à Internet, des caméras et des capteurs. L'ignorance des utilisateurs a été la clé du succès du projet. Chaque nouveau produit était un moyen d'atteindre un plus grand "engagement", un euphémisme utilisé pour déguiser les opérations minières illicites.
Lorsqu'on lui a demandé "Qu'est-ce que Google ?", le co-fondateur Larry Page a répondu en 2001, selon un récit détaillé de Douglas Edwards (le premier responsable de marque de Google) dans son livre Je me sens chanceux: « Le stockage est bon marché. Les caméras sont bon marché. Les gens vont générer des quantités massives de données. Tout ce qui a déjà été vu ou vécu deviendra consultable. Toute la vie sera consultable."
Au lieu de faire payer les utilisateurs pour le service de recherche, Google a survécu en transformant son moteur de recherche en un outil de surveillance sophistiqué pour capturer des données personnelles. Les dirigeants de l'entreprise ont travaillé pour garder ces opérations secrètes, cachées aux utilisateurs, aux régulateurs et aux concurrents. Page s'est opposé à tout ce qui pourrait "agiter le pot de la confidentialité et mettre en danger notre capacité à collecter des données", a écrit Edwards.
LA NAISSANCE D'UN NOUVEAU BÂTIMENT ÉCONOMIQUE
Les opérations minières à grande échelle ont été la clé de voûte du nouvel édifice économique et se sont substituées à d'autres finalités, à commencer par la qualité de l'information, car dans la logique du capitalisme de surveillance, l'intégrité de l'information n'a aucun lien avec les revenus.
C'est dans ce contexte économique que la désinformation a émergé. En 2017, Eric Schmidt, président exécutif de la société mère de Google, Alphabet, a reconnu le rôle des opérations de classement algorithmique de Google dans la diffusion d'informations trompeuses.
"Il y a une ligne que nous ne pouvons vraiment pas franchir", a-t-elle déclaré. « Il nous est très difficile de comprendre la vérité. Une entreprise qui a pour mission d'organiser et de rendre accessible toute l'information mondiale à l'aide des algorithmes les plus sophistiqués ne peut pas distinguer l'information correcte de l'information incorrecte ».
FACEBOOK, LE PREMIER ABONNÉ
Mark Zuckerberg a commencé sa carrière d'entrepreneur en 2003 alors qu'il était étudiant à Harvard. Son site Web, Facemash, invitait les visiteurs à évaluer le sex-appeal des autres étudiants. Le site a provoqué l'indignation de ses pairs et a été fermé. Puis vinrent TheFacebook en 2004 et Facebook en 2005, lorsque Zuckerberg racheta les premiers investisseurs professionnels.
Le nombre d'utilisateurs de Facebook a augmenté rapidement ; ses revenus non. Comme Google quelques années plus tôt, Zuckerberg ne pouvait pas transformer sa popularité en revenus et en bénéfices.
Il est allé d'une gaffe à l'autre et les violations constantes de la vie privée des utilisateurs ont provoqué de vives réactions publiques, des pétitions et des recours collectifs.
Zuckerberg semblait comprendre que la réponse à ses problèmes était d'extraire des données personnelles sans consentement et de les vendre à des annonceurs, mais la complexité de la logique de cela lui échappait.
Il s'est donc tourné vers Google pour obtenir des réponses.
En mars 2008, Zuckerberg a fait venir la responsable mondiale de la publicité en ligne de Google, Sheryl Sandberg, sur Facebook en tant que commandant en second. Sandberg a rejoint Google en 2001 et a joué un rôle clé dans la révolution du capitalisme de surveillance. Il avait dirigé la construction du moteur publicitaire de Google, AdWords, et de son programme AdSense, qui représentaient ensemble la majorité des 16,6 milliards de dollars de revenus de l'entreprise en 2007.
VOICI SHERYL SANDBERG
Déjà multimillionnaire chez Google, au moment où elle a été approchée par Zuckerberg, Sandberg a réalisé les immenses opportunités de Facebook pour extraire des données prédictives riches. « Nous avons de meilleures informations que quiconque. Nous connaissons le sexe, l'âge, le lieu et ce sont des données réelles par opposition aux choses que d'autres personnes infèrent", a déclaré Sandberg, selon David Kirkpatrick, auteur du livre. L'effet Facebook.
L'entreprise disposait de "meilleures données" et de "vraies données" car elle était au premier rang de ce que Page avait appelé "toute votre vie".
Avec de nouvelles politiques de confidentialité fin 2009, Facebook a été le pionnier de l'économie de la surveillance. L'Electronic Frontier Foundation avait noté que le nouveau paramètre "Tout le monde" supprimerait toutes les options pour limiter la visibilité des données personnelles, les traitant plutôt comme des informations accessibles au public.
TechCrunch a bien résumé la stratégie de l'entreprise : "Facebook oblige les utilisateurs à choisir de nouvelles options de confidentialité pour promouvoir la mise à jour "Tout le monde" et se débarrasser de tout futur abus potentiel de données. En exonération partielle de l'entreprise, on peut soutenir que les utilisateurs ont volontairement fait le choix de partager leurs informations avec tout le monde.
Des semaines plus tard, Zuckerberg a défendu ces mouvements dans une interview TechCrunch. "Beaucoup d'entreprises auraient été piégées par les coutumes et leur héritage", s'est-il vanté. "Mais nous avons décidé que ce seraient les nouvelles normes sociales ici et maintenant, et nous avons emprunté cette voie."
Zuckerberg "a littéralement emprunté cette voie" car aucune loi ne l'empêchait de rejoindre Google dans la destruction totale de la vie privée. Si les législateurs voulaient le sanctionner comme un maximiseur de profit impitoyable prêt à utiliser son réseau social contre la société, alors 2009-2010 aurait été une bonne période.
UN ORDRE ÉCONOMIQUE ÉPOUSTOUFLANT
Facebook a été le premier adepte de Google, mais pas le dernier. Google, Facebook, Amazon, Microsoft et Apple sont des empires de surveillance privés, chacun avec des modèles commerciaux distincts. Google et Facebook sont de pures entreprises capitalistes de surveillance. Les autres ont divers secteurs d'activité qui comprennent des données, des services, des logiciels et des produits physiques. En 2021, ces cinq géants américains de la technologie représentent cinq des six plus grandes sociétés cotées en bourse par capitalisation boursière.
Alors que nous entrons dans la troisième décennie du XXIe siècle, le capitalisme de surveillance est l'institution économique dominante de notre époque. En l'absence de lois d'équilibrage, ce système gère avec succès presque tous les aspects de la relation des gens avec l'information numérique. La promesse du dividende qu'apporte la surveillance est venue amener l'économie de la surveillance dans l'économie "normale", dans l'assurance, la vente au détail, la banque et la finance, l'agriculture, la construction automobile, l'éducation, les soins de santé et de nombreux autres secteurs. Aujourd'hui, toutes les applications et tous les logiciels, aussi inoffensifs soient-ils, sont conçus pour optimiser la collecte de données.
Historiquement, de grandes concentrations de pouvoir des entreprises ont causé des dommages économiques. Mais lorsque les données personnelles sont la matière première et que les prédictions du comportement des gens sont le produit, alors les dommages sont sociaux plutôt qu'économiques. La difficulté est que ces nouveaux incidents sont généralement considérés comme des problèmes distincts, voire sans rapport, ce qui les rend difficiles à résoudre. Au lieu de cela, chaque nouvelle étape de dégâts crée les conditions de la prochaine étape de dégâts.
L'EXTRACTION ASYMÉTRIQUE
Tout commence par l'extraction. Un ordre économique fondé sur l'extraction secrète à grande échelle de données personnelles suppose la destruction de la vie privée comme condition essentielle de ses opérations commerciales. La vie privée étant à l'écart, les données personnelles obtenues illégalement deviennent les actifs de sociétés privées, où elles sont considérées comme des actifs de l'entreprise à utiliser à volonté.
L'effet social est une nouvelle forme d'inégalité reflétée dans l'asymétrie colossale entre ce que ces entreprises savent de nous et ce que nous savons d'elles. L'ampleur de ce manque de connaissances apparaît dans un article publié en 2018 par Facebook, qui décrit son hub d'IA, qui engloutit des milliards de données comportementales chaque jour et produit six millions de prédictions comportementales chaque seconde.
Par la suite, ces données personnelles sont utilisées comme algorithmes de ciblage, conçus pour maximiser l'extraction et ciblés sur leurs sources sans méfiance pour augmenter leur engagement. Les mécanismes de ciblage changent la vie réelle, parfois avec de graves conséquences. Par exemple, les fichiers de Facebook dépeignent un Zuckerberg utilisant ses algorithmes pour imposer ou bloquer le comportement de milliards de personnes. La colère est soit récompensée, soit ignorée. Les nouvelles deviennent plus fiables ou plus décousues. Les éditeurs fleurissent ou dépérissent. Le discours politique se radicalise ou se modère. Les gens vivent ou meurent.
LE DERNIER DOMMAGE
Parfois, le brouillard se dissipe pour révéler les dommages ultimes : le pouvoir croissant des géants de la technologie qui veulent utiliser leur contrôle sur les infrastructures d'information pour rivaliser avec les législateurs démocratiquement élus pour la domination de la société.
Au début de la pandémie, par exemple, Apple et Google ont refusé d'adapter leurs systèmes d'exploitation pour accueillir des applications de recherche de contacts développées par les autorités de santé publique et soutenues par des élus. En février, Facebook a fermé plusieurs de ses pages en Australie, signe de sa réticence à négocier un paiement pour l'utilisation du contenu et des informations avec le Parlement australien.
C'est pourquoi, lorsqu'il s'agit du triomphe de la révolution capitaliste de la surveillance, ce sont les législateurs de toutes les démocraties libérales, en particulier aux États-Unis, qui portent la plus grande responsabilité. Ils ont permis au capital privé de gouverner nos espaces d'information pendant deux décennies de croissance spectaculaire, sans promulguer de lois pour le réglementer.
Il y a cinquante ans l'économiste conservateur Milton Friedman exhortait les dirigeants américains à « s'engager dans des activités visant à accroître les profits toujours avec l'hypothèse évidente de respecter les règles du jeu, c'est-à-dire l'obligation de se livrer à une concurrence ouverte et libre, sans tromperie et sans fraude.
DOMMAGE COLLATÉRAL
Les sociétés démocratiques en proie aux inégalités économiques, à la crise climatique, à l'exclusion sociale, au racisme, aux urgences sanitaires et aux institutions affaiblies ont un long chemin à parcourir pour se rétablir. Nous ne pouvons pas résoudre tous nos problèmes en même temps, mais nous n'en résoudrons aucun, jamais, si nous ne réclamons pas le caractère sacré de l'intégrité de l'information et de la fiabilité des communications. L'abdication de nos espaces d'information et de communication au profit du capitalisme de surveillance est devenue la méta-crise de toute démocratie, car elle fait obstacle aux solutions à toutes les autres crises.
Ni Google, ni Facebook, ni aucun autre acteur commercial de ce nouvel ordre économique n'ont entrepris de détruire la société, pas plus que l'industrie des énergies fossiles n'a entrepris de détruire la terre. Mais comme le réchauffement climatique, les géants de la technologie et leurs compagnons de voyage ont traité les effets destructeurs de leurs actions sur les personnes et la société comme des dommages collatéraux – le sous-produit malheureux mais inévitable d'accords commerciaux parfaitement légaux qui ont produit certaines des sociétés les plus riches et les plus puissantes du monde. dans l'histoire du capitalisme.
LA CONTRE-REVOLUTION DE LA DEMOCRATIE
Où tout cela nous mène-t-il ? La démocratie est le seul ordre institutionnel qui s'oppose à l'autoritarisme et est le pouvoir légitime de changer le cours de l'histoire. Si l'idéal de l'autonomie gouvernementale est de survivre au siècle numérique, alors toutes les solutions pointent vers une seule voie : une contre-révolution démocratique. Au lieu des listes habituelles de remèdes, les législateurs devraient procéder avec une compréhension claire de l'adversaire : qu'ils sont confrontés à un ensemble unique de causes économiques et de préjudices sociaux.
Nous ne pouvons pas nous débarrasser des dommages sociaux qui en résultent à moins d'interdire les causes économiques sous-jacentes. Cela signifie que nous devons aller au-delà de la concentration actuelle sur les problèmes en aval tels que la modération du contenu et le contrôle du contenu illégal.
Ces « remèdes » ne traitent que les symptômes sans remettre en cause l'illégitimité de la fouille de données personnelles qui alimente le contrôle privé des espaces d'information de la société. De même, des solutions structurelles telles que "démanteler" les géants de la technologie peuvent être utiles dans certains cas, mais elles ne toucheront pas les opérations économiques sous-jacentes du capitalisme de surveillance.
Au contraire, la discussion sur la réglementation des grandes technologies devrait se concentrer sur le fondement de l'économie de la surveillance : l'extraction secrète de données personnelles dans des domaines de la vie autrefois appelés « privés ». Les remèdes qui se concentrent sur la réglementation de l'exploration de données sont neutres quant au contenu et ne le modifient pas. Ils ne menacent pas la liberté d'expression. Au lieu de cela, ils libèrent le discours social et les flux d'informations de la "sélection artificielle" d'opérations commerciales maximisant le profit qui favorisent la corruption de l'information plutôt que son intégrité. Ils restaurent le caractère sacré de la communication sociale et de l'expression individuelle.
L'INITIATIVE DES LÉGISLATEURS
Aucune exploitation minière secrète ne signifie aucune collecte et concentration illégitimes de connaissances sur les personnes. Aucune concentration de connaissances ne signifie aucun algorithme de ciblage. L'absence de ciblage signifie que les entreprises ne peuvent plus contrôler et organiser les flux d'informations et le discours social ou façonner le comportement personnel pour servir leurs intérêts. La réglementation de l'exploitation minière éliminerait le dividende de la surveillance et, avec lui, l'intérêt financier de la surveillance.
Alors que les démocraties libérales ont commencé à relever les défis de la régulation des espaces d'information privés d'aujourd'hui, la vérité est que nous avons besoin de législateurs prêts à s'engager dans une exploration centenaire de questions très fondamentales telles que : comment devrions-nous structurer et gouverner information, connexion et communication dans un siècle numérique démocratique ? Quelles nouvelles déclarations des droits, cadres législatifs et institutions sont nécessaires pour garantir que la collecte et l'utilisation des données répondent aux besoins réels des individus et de la société ? Quelles mesures protégeront les citoyens d'un pouvoir irresponsable sur l'information, qu'il soit exercé par des entreprises privées ou des gouvernements ?
Les démocraties libérales devraient prendre les devants car elles ont le pouvoir et la légitimité de le faire. Mais ils doivent savoir que leurs alliés et collaborateurs sont des personnes qui luttent contre un avenir dystopique.
Facebook peut changer son nom ou ses dirigeants, mais il ne changera pas volontairement son économie.
L'appel à "réguler Facebook" dissuadera-t-il les législateurs de s'attaquer à quelque chose de plus profond ? Ou cela induira-t-il un plus grand sentiment d'urgence? Serons-nous enfin capables de rejeter les anciennes réponses et de nous libérer pour poser les nouvelles questions, à commencer par celle-ci : que faut-il faire pour que la démocratie survive au capitalisme de surveillance ?
De : Shoshana Zuboff, vous faites l'objet d'une opération secrète d'extraction, Le New York Times, 12 novembre 2021
