La sombre logique de la nouvelle économie
Shoshana Zuboff elle est une érudite sociale de longue date. En des temps sans méfiance si est occupé l'impact des nouveaux outils informatiques et de connaissance sur le modèle économique capitaliste et sur la société dans son ensemble. Ses premiers travaux sur les machines intelligentes remontent à 1988. Dans cette étude, il s'est concentré sur l'impact de la bureautique sur le lieu de travail qu'il identifiait déjà comme une époque.e et destructeuro de tous les actifs historiquement déterminé. C'est ce qui s'est réellement passé dans les années qui ont suivi la publication de libro, non seulement sur le lieu de travail, mais dans tous les domaines de la vie sociale et économiquea.
Ces transformations ont été si percutantes et profondes queet les chercheurs plus sensibles à la génétique sociale ils parlent d'un véritable changement du mode de production capitaliste, pour reprendre une expression inventée par Marx objectif définir un système historique d'organisation des relations humaines à tous les niveaux.
l'étudeso israélien Yuval Noé Harari, l'un des esprits les plus brillants de notre temps, parlé d'un transformation du capitalisme en réataïsme, C'est, in un modèle de contrôle des moyens de production et des ressources basé sur la collecte, le traitement et l'utilisation des données, la nouvelle matière première du développement humain.
Ceux qui ont observé directement le modèle capitaliste dans son expression la plus authentique - comme les savants de l'école de Francfort, partie de la diaspora européenne en Amérique - avaient déjà décrit le modèle de réification et de contrôle social opéré, par exemple, par l'industrie culturelle qui y a amenéà la dialectique deillumination à son point extrême. Mais aujourd'hui, il nous raconte Zuboff la technologie, ou plutôt sa forme actuelle modélisée dans la Silicon Valley, nous a emmenés au-delà de la même réification décrite par la théorie critique, elle nous a conduits au capitalisme de surveillance. Les individus, comme dans les pires cauchemars de Huxley, sont des corps capables d'être comprimés, sans le savoir. e par des mécanismes qui leur sont étrangers, de leur essence et de leur vie privée pour alimenter une finalité bien définie : aujourd'hui maîtriser leurs choix et leurs orientations de consommateurs de biens et de services et demain qui sà quoi d'autre. Une fois que le modèle est opérationnel, il devient spontanément universel.
Zuboff dans une intervention sur "Financial Times » bien illustré sa pensée et sa théorie sur le capitalisme de surveillance. Nous sommes heureux d'offrir la traduction italienne de ce discours.
Il modèle de surveillance
Récemment, Mark Zuckerberg a été attaqué par Roger McNamee, un de ses anciens collaborateurs. McNamee, qui avait déjà critiqué le PDG de Facebook, fortement blâmé Zuckerberg et sa société pour les incessants appropriation des données des utilisateurs avec des méthodes de plus en plus illicites et destructrices. McNamee a écrit : « Pour alimenter son intelligence artificielle et ses algorithmes, Facebook a récolté des données partout où il pouvait les trouver. En peu de temps, Facebook a réussi à espionner tout le monde, y compris le ppersonnes qui n'utilisent pas Facebook. Ces opérations - ha ajoutée - ils ont été perfectionnés pour manipuler les utilisateurs dans des pratiques qui ont finalement profité aux méchants sujets qui avaient l'intention / entrer furtivement en conscience public et défigurer le discours politique.
McNamee a récemment publié un livre intitulé zucked. Se réveiller face à la catastrophe de Facebook, dont le titre est déjà un plan de l'ouvrage. Le livre a eu un fort écho, a été commenté et commenté par tous les grands médias du monde et a été présenté pendant des semaines dans le Best-seller du New York Times L.
L'analyse de McNamee mettre en œuvre, mais, una sous-estimation d'échelle. C'est vrai que le gouvernement russe e que le ploutocrate Robert Mercer, Maître de la défunte Cambridge Analytica e grand donateur à la campagne présidentielle de Donald Trump, ils ont appris un manipuler la machine secrète complexe que Facebook a construite; le fait est cependant que la méthode Facebook e le modèle de appareil numérique qu'il a construit ne commence ni ne finit avec Facebook. Ce modèle est un élémento clé di une nouvelle logique économique que j'appelle « le capitalisme de surveillance".
C'est un mannequin cil part bien au-delà de Facebook
Ces pratiques ont été inventées par Google, reprises par Facebook, ont englouti la Silicon Valley et se sont depuis étendues à tous les secteurs économiques. Ce serait une grave erreur de supposer qu'il s'agit d'un phénomène réservé à Facebook. Si nous réglementons Facebook, nous le cassons et exigeons un changement de leadership, le capitalisme della pas de surveillance ça va échouer en un clin d'œil. Au lieu de cela, il comblera rapidement ce vide, avec une nouvelle distribution d'acteurs et uno nuovo adaptation de scénario.
J'ai commencé à étudier le passagepar le numérique en 1978, en se concentrant surle thème de emplois. Lorsque mon premier livre a été publié, À l'ère de la machine intelligente, dans le 1988, j'ai compris que le chemin vers l'avenir numérique serait semé d'embûches surtout sur qui ont eu accès à de nouvelles connaissances, allez clésse l'autorité de décider et qui avait le pouvoir d'appliquer cette autorité. A présent, ces dilemmes non résolusti ils se sont bien passés au-delà du lieu de travail pour inonder tous les aspects de nos vies. Les technologies de l'information et de la communication sont aujourd'hui plus répandue que l'électricité, atteignants 3 milliards de personnes dans le monde. leur présence imprègne toute la vie quotidienne delle persone, médiatisant presque toutes les formes de participation sociale.
Il m'est vite apparu clairement que le capitalisme de surveillance s'écartait de nombreuses règles et pratiques qu'ils avaient définies il capitalisme classique et au pairtparticulier l'histoire de la démocratie et des économies de marché. Quelque chose d'étonnant et d'inédit avait émergé dont les conséquences allaient façonner l'environnement moral et politique de la société du XXIe siècle et les valeurs mêmes de notre civilisation de l'information.
L'invention de Google
Le capitalisme de surveillance a été inventé après l'éclatement de la bulle dot.com, lorsqu'une nouvelle entreprise, nommé Google, cherchait à augmenter ses revenus publicitaires en utilisant son accès exclusif à une source de données largement ignorées, C'est, le "bûche" laissé par lee recherchehe et de la navigation en ligne des utilisateurs. Google a découvert que ces données pouvaient être analysées sur la base de modèles prédictifs qui fourniraient des indices décisifsvsur les intérêts des utilisateurs. Et c'est allé plus loin : à ces utilisateurs ils pourraientEn fait, être adressé degleur publicités ciblées d'influencer leur comportement en tant que consommateurs. Google aurait ainsi pu réutiliser les données comportementales « excédentaires », par rapport à l'activité normale de recherche, et développer de nouvelles méthodes pour se procurer agressivement de nouvelles sources de accesso pour eux.
Selon ses propres scientifiques, les nouvelles méthodes de Google étaient populaires pour leur capacité à trouver des données que les utilisateurs avaient choisi de garder privées et à déduire de nombreuses informations personnelles qui ils n'étaient pas Etat fornie directement. Ces opérations ont été conçues pour contourner la conscience de l'utilisateur et, par conséquent, éliminer tout "friction" possible. Autrement dit, dès le début, La percée de Google reposait sur un miroir sans tain : la surveillance. Les nouvelles méthodes ont été inventées, appliquées et gardées dans le plus grand secret de 2001 à 2004. Ce n'est que lorsque Google est devenu public en 2004 que le monde a appris que, sur la base de ces nouvelles méthodologies, les revenus de Google avaient augmenté de 3.% 590.
Le tournant historique
Ce changement dans l'utilisation des données comportementales excédentaires a été un tournant historique. Google avait trouvé une ressource révolutionnaire sans frais qui aurait pu être détourné de la simple amélioration du service vers un puissant but commercial. Le modèle du capitalisme de surveillance s'est rapidement étendu à Facebook pour devenir le modèle par défaut d'accumulation de capital dans la Silicon Valley. Était rationalisé comme un quid pro quo pour accéder aux services gratuits, mais ne se limite plus à ce contexte car, il était une fois, arrivé avec production de masse qui, par exemple, était limité à la production du modèle T de Ford. Aujourd'hui, il s'est étendu à un large éventail d'industries, notamment l'assurance, la vente au détail, la santé, la finance, le divertissement, l'éducation, etc. Le capitalisme est littéralement en train de se dépouiller sous nos yeux.
Peut-être le meilleur exemple frappant de ce changement doit être recherché dans le berceau de la production de masse moderne, alla Ford Motor Company. Il y a cent ans, les pionniers de la Capitalemo industriel moderne comme Henri Ford ils ont développé une nouvelle modèle, façonnant la consommation de masse de biens industriels. Ford s'est rendu compte que les agriculteurs et les commerçants voulaient également des voitures à un prix abordable. Dans son monde, les clients et les travailleurs étaient liés dans un cycle de production et de vente qui combinait des biens bon marché avec des salaires. calibré sur la consommation de biens.
En novembre 2018, Jim Hackett, PDG de Ford, a indiqué un nouveau paradigme pour les constructeurs automobiles. Il a déclaré à un intervieweur : « Le point que je veux développer est ce: à l'avenir, nous allons avoir un flot de données provenant de véhicules, d'utilisateurs de ces véhicules, de villes parlant de ces véhicules e dale mêmeles concurrents. Je suppose qu'aujourd'hui, nous avons 100 millions de personnes assises dans un véhicule Ford bleu-ovale. C'est une opportunité seulement pour monétiser çao état de choses face à un concurrent (par exemple Tesla) qui pourrait avoir, disons, 120 200 ou XNUMX XNUMX véhicules sur la route. Comparer un instant l'échelle de deux sujets: de laquelle voudriez-vous obtenir les données ? »
Une fois que les clients ont été réinventés en tant que sources de données, il était facile pour Hackett d'imaginer la prochaine étape où les données en temps réel des voitures sont combinées, par exemple. avec les données de financement de Ford. En fait, il a dit : « Nous savons déjà… ce que font les gens… nous savons où ils travaillent ; nous savons s'ils sont mariés. Nous savons depuis combien de temps ils vivent dans leur maison." Et il conclut : « C'est le levier énorme que nous avons avec les données ». En guise de commentaire, undit un analyste de l'industrie, "Ford pourrait faire fortune en monétisant les données. Ils n'auront pas besoin d'ingénieurs, d'usines ou de revendeurs pour le fabriquerrlo. C'est presque du pur profit."
Si "intelligent" devient le crochet du capitalisme de surveillance
Et ça il monde quand Viviamo. Un monde où chaque produit ou service commençant par le mot « intelligent » ou « personnalisé », chaque appareil ou véhicule connecté à Internet, chaque « assistant numérique » il s'agit d'une interface de la chaîne d'approvisionnement avec le flux non obstrué de données comportementales. Nous savons que le capitalisme évolue en subsumant des choses qui sont en dehors de la dynamique du marché pour les transformer dans les produits du marché, à vendre et à acheter. Le capitalisme de surveillance étend ce modèle en déclarant l'expérience humaine privée un quelque chose qui peut être élaboré et modélisé pour construire des prédictions comportementales pour la production etl'échange. Dans cette logique, le capitalisme de surveillance s'approprie nos comportements et absorbe tout le sens que là dans nos corps, dans nos cerveaux et dans nos cœurs. Tu n'es pas ni "le produit", sei la carcasse abandonnée. Le produit" sont l' les données excédentaires arrachées à votre vie.
Dans ces nouvelles chaînes d'approvisionnement, nous pouvons trouver le suit avec qui vous partagezamo la notre la vie, les secrets que je notre les enfants partagent avec leurs jouets, des conversations au déjeuner, niveaux de décibels dans le salon et points d'exclamation suite à un post Facebook, une fois écrit avec l'innocence et la franchise.
Rien n'est exempt d'être intelligent, à partir de bouteilles de « vodka smart" aux thermomètres rectaux connectés à Internet, car les produits et services de chaque industrie se font concurrence pour les revenus de la surveillance. Quêtee information sont "aspirée » par notre vie quotidienne de manière à rendreci ignorer ce qui se passe. Aux États-Unis, les appareils respiratoires utilisés par les personnes souffrant de asthme ils canalisent secrètement les données à l'assurére qui dort en attendant, souvent pour permettre à l'entreprise de retenir le paiement des soins. Certaines applications de téléphonie mobile enregistrent notre positionner toutes les deux secondes pour le revendre à des tiers. Depuis juillet 2017, l'aspirateur autonome iRobot Roomba, ça l'a fait nouvelles lorsque le PDG de l'entreprise, Colin Angle, a parlé à Reuters de sa stratégie commerciale fondée surla collecte et le traitement des données pour la « maison intelligente ». Si lail dittou quel est le cours de l'action adulte une grande après sa proposition de partager gratuitement les plans d'étage des maisons des clients, nel frattempo cartographié par les nouvelles capacités de poursuite de la robot de nettoyage.
À un moment donné, les capitalistes de la surveillance ont découvert que changement de comportement : et interventions en temps réel par médiation numérique pousser les consommateurs dans la direction souhaité par ces capitalistes. Un scientifiqueiato des données mi il a expliqué que: "Nous pouvons concevoir le contexte autour d'un comportement particulier et forcer le changement dans cella direction... Nous apprenons a Écris la musique, et puis c'est partique la musique les fasse danser ». Les exemples sont si nombreux. ET il place où je Joueurs Pokémon Go aller manger, boire et acheter, c'est-à-dire ces lieux de rencontre qui paye pour jouer dans marchés à terme comportementaux. È l'expropriation impitoyable des données excédentaires des profils Facebook pour des "informations psychologiques" détaillées qui, selon un rapport interne de 2017 de l'entreprise, permettent aux annonceurs de déterminer le moment exact où un adolescent doit "Une injection de confiance".
Les asymétries du savoir
Les capitalistes de la surveillance produisent des asymétries profondément antidémocratiques de connaissances et ils bénéficient de une croissance de leur pouvoir qui vient de la connaissance. Ils savent tout de nous, alors que leurs opérations sont conçues pour être inconnaissables donne une partie aucunestra. Ils prédisent notre avenir et façonnent notre comportement, mais il fannée pour atteindre les objectifs des autres et pour un gain financier.
Ce pouvoir de connaître et de modifier le comportement humain est sans précédent. Souvent confondu avec le "totalitarisme" et redouté comme Big Brother, c'est une nouvelle espèce de pouvoir moderne que j'appelle "instrumentarisme (instrumentarisme)". La puissance instrumentale peut comprendre et changer les comportements des individus, des groupes et des populations au service du capital surveillance. Le scandale de Cambridge Analytica a révélé comment, avec le bon savoir-faire, ces méthodes de puissance instrumentale peuventoaucune faire pivoter vers des objectifs politiques. Mais pas là Nous avons tort, la tactique employée par Cambridge Analytica faisait partie de nombreux et quotidiens opérations routinières du capitalisme dans son action / influencer le comportement de personnes.
Dça aurait du être un autre cosa
Ce n'était pas censé être comme ça. En 2000, certains informaticiens et certains les ingénieurs ont travaillé à un projet appelé Aware Home. Ils ont imaginé la «symbiose homme-maison» dans laquelle les processus animés et inanimés seraient capturés par un réseau de «capteurs sensibles au contexte» installés dans una maison et par les ordinateurs portés par ses habitants. Le système a été conçu comme une simple boucle fermée entièrement contrôlée par les occupants. Vérifié qu'en "surveillant constamment les emplacements et les activités des occupants"... et en interceptant également les conditions médicales de ses habitants", l'équipe a conclu qu'"il est clairement nécessaire de donner aux occupants des connaissances et un contrôle sur la diffusion de ces informations". . Toutes les informations devaient être stockées sur les ordinateurs portablesti occupants pour assurer la confidentialité des renseignements personnels.
Avance rapide jusqu'en 2017, lorsque deux universitaires de l'Université de Londres ont publié une analyse détaillée d'un seul appareil de "maison intelligente", le thermostat Nest appartenant à Google. L'un d'eux a décidé d'entrer dans l'écosystème des appareils et applications connectés, en acceptant les conditions d'utilisation du partage de données de tiers. L'achat d'un seul thermostat Nest signifie que vous devez vous abonner à près d'un millier de soi-disant "clauses“. Si le client refuse d'accepter les dispositions de Nest, les conditions del service, la fonctionnalité et la sécurité du thermostat sont compromise et n'est plus prise en charge par les mises à jour destinées à assurer la fiabilité et la sécurité de l'appareil.
Les capitalistes de la surveillance veulent nous faire croire que leur trajectoire vers l'avenir numérique est inévitable. Mais ce n'est pas le cas. Aujourd'hui, nous pouvons regretter l'innocence d'Aware Home mais, comme un message dans une bouteille du passé, il nous dit quelque chose d'important. Autrefois nous étions les sujets de notre vie, nous en sommes aujourd'hui les objets. Aware Home témoigne de ce que nous avons perdu et de ce que nous devons retrouver : il droiteo di savoir e di décider qui devrait conoscere nos vies et notre avenir. Ces droits ont été et restent le seul fondement possible de la liberté humaine et / une société démocratique ça marche bien.
Le rôle d'Apple
Fin octobre 2018 Tim Cook, PDG d'Apple, devant le Parlement européen, critiqué le « complexe industriel des données », avec ses « stocks de données personnelles » servant uniquement àd « enrichir les entreprises qui les collectent ». Il a souligné que "qsa surveillance donne la possibilité de se connaître mieux que nous ne pouvons nous connaîtresi… Cette crise est réelle. Ce n'est pas quelque chose d'imaginé, ni d'exagéré non plus baiser. Et ceux d'entre nous qui croient au potentiel de la technologie pour le bien de la société n'ont pas à fuir cette réalité".
Sans surprise, certains sont assez scepenser à la sincerità de l'engagement de Cook à « ne pas baissez votre garde sur cette question“. Ils voient un sorta campagne de marketing visant à éloigner l'entreprise dudans la région dehombre où il est tombé il secteur technologique. Autres, ils ont cité Les incohérences d'Apple au cours de la dernière décennie: L 'iPhone qui utiliser le Recherche Google, stockage des données utilisateur suserveurs chinois, la manque de transparence su de nombreuses pratiques et systèmes de protectionet donner collecté à partir de Apple et bien d'autres contradictions. Tim Bradshaw et Mehreen Khan, du Ftemps financiers, ils notent que c'est plus facile pour Apple avoir une position forte politique de confidentialité lorsque les revenus de l'entreprise dépendent de la vente de ses appareils, et non de la publicité ciblée.
Le paradoxe de la vie privée
Ce sont toutes des critiques bien fondées, mais pour beaucoup, la position de Cook instille un fort sentiment d'espoir, la perception que quelqu'un dans l'industrie abbia enfin le courage de parler. Dans 46 des 48 meilleurs sondages d'opinion menés aux États-Unis et en Europe entre 2008 et 2017, il y avait des majorités substantielles en faveur de mesures visant à améliorer la vie privée et le contrôle desutilisateurs sur les données personnelles. Les premières enquêtes étaient moins significatives, car de nombreux répondants ne comprenaient pas comment ou quelles informations personnelles étaient collectées. Une importante enquête de 2009 a révélé que lorsque les gens sont Découvrez comment les entreprises collectentlgono des données pour des publicités en ligne ciblées, le 73% réponse une telle utilisation des données à des fins publicitaires. Une enquête de 2015 a révélé que 91 % des personnes interrogées n'étaient pas d'accord sur le fait que la collecte d'informations personnelles "à leur insu" est un compromis équitable contre une réduction de prix.
Les entreprises technologiques rejettent généralement ces conclusions, mettant l'accent sur le comportement actuel des utilisateurs et les résultats spectaculaires que cet état produit di des choses comme la justification du statu quo. Rappelez-vous le tristement célèbre limogeage de 2009 de l'ancien PDG de Google, Eric Schmidt :« Si vous n'avez rien à cacher, vous n'avez pas à vous inquiéter. Si non vouloir non qu'on le sache, ne fais pas ça“. Les experts définissent l'écart entre les attitudes et i comportements « le paradoxe de la vie privée», mais en réalité ce n'est pas un paradoxe. C'est la conséquence exigible ala bataille rangée entre l'offre et la demande, exprimée dans l'écart entre ce que le capitalisme de la surveillance nous dicte et ce que nous voulons vraiment.
L'écart historique actuel entre l'offre et la demande est un appel à l'action pour les chefs d'entreprise qui ont la prévoyance et la conviction d'aller à contre-courant. Résister au capitalisme de surveillance n'est pas simplement « la bonne chose à faire ». Presque tous ceux qui sont connectés à Internet ils appellent à une voie alternative vers l'avenir numérique, qui répond à nos besoins sans compromettre notre vie privée, et sans usurper nos décisions et diminuer notre autonomie. Compte tenu des forces en jeu, la personne ayant les meilleures chances de forger une alternative a besoin d'un poids commercial et politique considérable derrière lui. Cet pourrait être le contexte dans lequel Tim Cook entre en scène.
Une étude de 2017 sur les rendements boursiers a conclu qu'Apple ha generato le plus grand rendre pour les investisseurs di Qualsiasi autre société américaine en 20° et 21 ° siècle. Soi Tim Cook veut vraiment agir régulièrement avec ses paroles à Bruxelles, Apple dovrebbe ouvrir la voie une voie alternative vers l'avenir numérique, riunparifier capitalisme avec les gens qu'il est censé servir. Cook a dit que i les prétendus conflits entre vie privée et profit ou entre vie privée et innovation sont thèse faux. En fait, le modèle historique suggère que le'actuel disjonctione entre l'offre et la demande ouvre une opportunité très important pour un saut de qualitéou développement du capitalisme.
Le combat pour un capitalisme du peuple
Dans le passé unnous avons nous avons déjà fait face à des situations similaires et nous avons déjà été au bord du précipice. "Nous sommes allé un peu» à tâtons, à la recherche de gérer une nouvelle commande avec des voies anciennes, mais nous devons commencer façonner ça monde nouveau". C'était en 1912 lorsque Thomas Edison a exposé sa vision d'une nouvelle civilisation industrielle dans une lettre à Henry Ford. Edison craignait le potentiel de l'industrialisme au service du progrès de l'humanité pourrait être gêné par la puissance du barons voleurs e par les monopoleurs que puis gouvernéaucune l'économie. Il a critiqué le statu quo caractérisé par le "gaspillage" et la "cruauté" du capitalisme Américain. Edison et Ford ont compris que la civilisation industrielle moderne, pour lequel ils se sont nourris beaucoup espoire, il filait vers un avenir marqué par la misère du plus grand nombre et la prospérité solo pour peu. Ils ont également compris ce que serait la vie morale de la civilisation industrielle trop façonné par les pratiques du capitalisme sauvage.
Tout est à réinventer : les nouvelles technologies, oui, mais celles-ci doivent refléter de nouvelles façons de répondre aux besoins des gens ; un nouveau modèle économique qui pourrait se transformer en ressources économiques ces nouvelles pratiques ; et un nouveau contrat social qui pourrait tout sous-tendre le système. Citoyens, consommateurs, gestionnaires, travailleurs, législateurs, avocats, universitaires, journalistes, gestionnaires et fonctionnaires, qui ont entrepris cet effort, ils sont entrés dans un territoire inconnu.
Notre époque appelle ce genre de saut créatif dans l'inconnu il peut infléchir la trajectoire de l'avenir numérique vers les gens. Sans une réponse créative et courageuse, le capitalisme de surveillance continuera à combler ce vide. Si le capitalisme de surveillance doit être perturbé, domestiqué, voire interdit, nous aurons besoin de nouvelles lois, réglementations et formes d'action collective adaptées à ses mécanismes spécifiques. Pour ces raisons et mille autres, je demande à Tim Cook et à d'autres chefs d'entreprise de se tailler une nouvelle route vers la maison. Ils ne seront pas seuls. Ceux d'entre nous qui vivent dans l'espace entre la maison et l'exil ne ils vont soustraire. La lutte pour un avenir humain nous appartient à tous.
* * *
Shoshana Zuboff est professeur émérite al Charles Edouard Wilson Institut à la Harvard Business School. L'ère du capitalisme de surveillance : la lutte pour l'avenir à la nouvelle frontière du pouvoir a été publié le 31 janvier par Profile Books
