Shoshana Zuboff, profesora emérita de Harvard Business School y autora de El capitalismo de la vigilancia. (Luiss University Press) es una celebridad que va más allá de la academia y la élite intelectual. Ahora se habla del capitalismo de vigilancia en los programas de entrevistas en horario de máxima audiencia.
En este breve ensayo, que publicamos en la traducción al italiano, Zukoff explica con rara claridad cómo nació y se desarrolló esta forma de capitalismo extractivo, casi invisible para las masas que están felices de beneficiarse de sus servicios.
los protagonistas de capitalismo de vigilancia son tres: los que la practican sin preocuparse por las consecuencias generales en beneficio propio y de los accionistas, el público que se contenta con donar sus datos personales por un par de caramelos y finalmente los legisladores que miran para otro lado miedo a tomar decisiones impopulares.
GRACIAS JACK DORSEY
Estos días Jack Dorsey ha dimitido de la dirección de Twitter. Gracias a él, Twitter no ha entrado en las filas de las leonas de la nueva economía que practican el capitalismo de vigilancia. De hecho, muchos, especialmente en Wall Street, se preguntan cómo puede existir una paradoja como Twitter.
Es decir, el de una red social que, siendo una de las más autorizadas con sus 250 millones de usuarios activos, tiene unos ingresos y unos beneficios tan magros. Simple: porque Twitter hizo lo correcto desde el punto de vista del interés general: se mantuvo al margen de las prácticas lucrativas del capitalismo de vigilancia.
Si te quedas dentro tu capitalización puede llegar al billón, si te quedas fuera difícilmente puede superar la 1/20 de esa cifra. Entonces, el capitalismo de vigilancia multiplica 20 veces el valor “natural” de un servicio web gratuito.
Pero, ¿qué es este tipo de capitalismo y cómo surgió? Bien lo explica Zuboff, que lleva 20 años estudiando el fenómeno de la economía digital. Aquí está su ensayo
LA NUEVA INDUSTRIA EXTRACTIVA
Facebook no es una empresa cualquiera. Ha alcanzado el estado de un billón de dólares en solo una década gracias a la lógica de lo que llamo capitalismo de vigilancia, un sistema económico basado en la extracción y manipulación encubierta de los datos de las personas, que aspira a conectar al mundo entero. Facebook y otras importantes entidades capitalistas de vigilancia ahora controlan los flujos de información y la infraestructura de comunicaciones en todo el mundo.
Estas infraestructuras son esenciales para una sociedad democrática; sin embargo, nuestras democracias han permitido que estas empresas posean, operen y medien en nuestros espacios de información sin estar regidas de ninguna manera por la ley pública. El resultado ha sido una revolución oculta en la forma en que se produce, circula y procesa la información. Una cascada de revelaciones desde 2016 hasta hoy, confirmada por la documentación y el testimonio personal de la denunciante Frances Haugen, da testimonio de las consecuencias de esta revolución.
Las democracias liberales del mundo ahora enfrentan la tragedia de lo "poco común", es decir, los espacios de información que las personas asumen como públicos y que, en cambio, están estrechamente vinculados a intereses comerciales privados destinados a la búsqueda del máximo beneficio.
NO HAY SALIDA?
Internet como mercado autorregulado ha resultado ser un experimento fallido. El capitalismo de vigilancia deja un rastro de devastación social: la destrucción de la privacidad, la intensificación de la desigualdad social, el endurecimiento del discurso público con información desactualizada, la demolición de las normas sociales y el debilitamiento de las instituciones democráticas.
Estos daños sociales no son accidentales. Estos efectos están estrictamente relacionados con la etapa de progreso de las operaciones económicas. Cada daño allana el camino para el siguiente y depende de lo que lo precedió.
No hay escapatoria a los sistemas automáticos que nos vigilan, ya sea que estemos de compras, conduciendo o caminando por el parque. Todas las vías de participación económica y social ahora pasan por el territorio del capitalismo de vigilancia maximizador de ganancias, una condición intensificada durante casi dos años de pandemia global.
¿La violencia digital de Facebook finalmente despertará el compromiso de recuperar lo "poco común"? ¿Abordaremos las preguntas fundamentales ignoradas durante mucho tiempo de una civilización de la información? ¿Cómo debemos organizar y gobernar los espacios de información y comunicación del siglo digital de una manera que apoye y promueva los valores y principios democráticos?
TODO COMENZÓ CON GOOGLE
Facebook, tal como lo conocemos hoy, se basa en una rama de Google. La startup de Mark Zuckerberg no inventó el capitalismo de vigilancia. Fue Google quien lo hizo. En el año 2000, cuando solo el 25 % de la información mundial se almacenaba digitalmente, Google era una pequeña empresa emergente con un gran producto de búsqueda, pero pocos ingresos.
En 2001, en medio de la crisis de las puntocom, los líderes de Google idearon una serie de inventos que transformarían la industria de la publicidad. Su equipo comenzó a combinar flujos masivos de datos e información personal con análisis computacional avanzado para predecir dónde un anuncio podría obtener la mayor cantidad de clics.
Las previsiones se calcularon inicialmente analizando los rastros que los usuarios habían dejado sin saberlo en los servidores de la empresa mientras navegaban o buscaban en las páginas de Google. Los científicos de Google han aprendido a extraer metadatos predictivos de este "stock de datos" y usarlos para analizar patrones probables de comportamiento futuro.
EL MODELO PREDICTIVO
La predicción fue el primer imperativo que impulsó el segundo imperativo: la minería de datos. Los pronósticos lucrativos requerían flujos de datos en una escala casi inimaginable. Poco sospechaban los usuarios que sus datos se recopilaban en secreto de todos los rincones de Internet y, más tarde, de aplicaciones, teléfonos inteligentes, dispositivos conectados a Internet, cámaras y sensores. La ignorancia del usuario fue el quid del éxito del proyecto. Cada nuevo producto era un medio para lograr un mayor "compromiso", un eufemismo utilizado para disfrazar las operaciones mineras ilícitas.
Cuando se le preguntó "¿Qué es Google?", el cofundador Larry Page respondió en 2001, según un relato detallado de Douglas Edwards (el primer gerente de marca de Google) en su libro Me siento afortunado: “El almacenamiento es barato. Las cámaras son baratas. Las personas generarán cantidades masivas de datos. Todo lo que se haya visto o experimentado se podrá buscar. Toda la vida se podrá buscar".
En lugar de cobrar a los usuarios por el servicio de búsqueda, Google sobrevivió al convertir su motor de búsqueda en una herramienta de vigilancia sofisticada para capturar datos personales. Los ejecutivos de la compañía han trabajado para mantener estas operaciones en secreto, escondidas de los usuarios, reguladores y competidores. Page se opuso a cualquier cosa que pudiera "agitar la olla de la privacidad y poner en peligro nuestra capacidad de recopilar datos", escribió Edwards.
EL NACIMIENTO DE UN NUEVO EDIFICIO ECONÓMICO
Las operaciones mineras a gran escala fueron la piedra angular del nuevo edificio económico y reemplazaron otros propósitos, empezando por la calidad de la información, porque en la lógica del capitalismo de vigilancia, la integridad de la información no tiene relación con los ingresos.
Este es el contexto económico en el que ha surgido la desinformación. En 2017, Eric Schmidt, presidente ejecutivo de la empresa matriz de Google, Alphabet, reconoció el papel de las operaciones de clasificación algorítmica de Google en la difusión de información engañosa.
"Hay una línea que realmente no podemos cruzar", dijo. “Es muy difícil para nosotros entender la verdad. Una empresa con la misión de organizar y hacer accesible toda la información del mundo utilizando los algoritmos más sofisticados no puede distinguir la información correcta de la información incorrecta”.
FACEBOOK, EL PRIMER SEGUIDOR
Mark Zuckerberg comenzó su carrera empresarial en 2003 cuando estudiaba en Harvard. Su sitio web, Facemash, invitaba a los visitantes a calificar el atractivo sexual de sus compañeros de estudios. El sitio causó indignación entre sus compañeros y fue cerrado. Luego vino TheFacebook en 2004 y Facebook en 2005, cuando Zuckerberg adquirió los primeros inversores profesionales.
El número de usuarios de Facebook creció rápidamente; sus ingresos no. Al igual que Google unos años antes, Zuckerberg no pudo convertir la popularidad en ingresos y ganancias.
Fue de un despiste en otro y las constantes violaciones a la privacidad de los usuarios provocaron fuertes reacciones públicas, peticiones y demandas colectivas.
Zuckerberg pareció entender que la respuesta a sus problemas era extraer datos personales sin consentimiento y venderlos a los anunciantes, pero la complejidad de la lógica de esto se le escapaba.
Así que recurrió a Google en busca de respuestas.
En marzo de 2008, Zuckerberg trajo a Facebook a la jefa de publicidad global en línea de Google, Sheryl Sandberg, como su segunda al mando. Sandberg se unió a Google en 2001 y desempeñó un papel clave en la revolución del capitalismo de vigilancia. Había encabezado la construcción del motor publicitario de Google, AdWords, y su programa AdSense, que en conjunto representaron la mayor parte de los ingresos de 16,6 millones de dólares de la empresa en 2007.
AQUÍ VIENE SHERYL SANDBERG
Ya multimillonaria en Google, en el momento en que Zuckerberg se acercó a ella, Sandberg se dio cuenta de las inmensas oportunidades de Facebook para extraer datos predictivos ricos. “Tenemos mejor información que nadie. Sabemos el género, la edad, la ubicación y son datos reales en lugar de lo que otras personas infieren", dijo Sandberg, según David Kirkpatrick, autor del libro. El efecto de facebook.
La empresa tenía "mejores datos" y "datos reales" porque tenía un asiento de primera fila en lo que Page había llamado "toda su vida".
Con nuevas políticas de privacidad a finales de 2009, Facebook fue pionera en la economía de la vigilancia. Electronic Frontier Foundation había notado que la nueva configuración "Todos" eliminaría todas las opciones para limitar la visibilidad de los datos personales, en lugar de tratarlos como información disponible públicamente.
TechCrunch resumió bien la estrategia de la empresa: “Facebook está obligando a los usuarios a elegir nuevas opciones de privacidad para promover la actualización 'Todos' y librarse de cualquier posible abuso de datos en el futuro. En exoneración parcial de la empresa, se puede argumentar que los usuarios han elegido voluntariamente compartir su información con todos.
Semanas después, Zuckerberg defendió estos movimientos en una entrevista de TechCrunch. “Muchas empresas habrían quedado atrapadas por las costumbres y su herencia”, se jactó. "Pero decidimos que estas serían las nuevas normas sociales aquí y ahora, y seguimos este camino".
Zuckerberg "se fue literalmente por este camino" porque no había leyes que le impidieran unirse a Google en la destrucción total de la privacidad. Si los legisladores quisieran sancionarlo como un despiadado maximizador de ganancias listo para usar su red social contra la sociedad, entonces 2009-2010 habría sido un buen momento.
UN ORDEN ECONÓMICO ABRUMADOR
Facebook fue el primer seguidor de Google, pero no el último. Google, Facebook, Amazon, Microsoft y Apple son imperios de vigilancia privada, cada uno con distintos modelos de negocio. Google y Facebook son puras empresas capitalistas de vigilancia. Los otros tienen varias líneas de negocios que incluyen datos, servicios, software y productos físicos. A partir de 2021, estos cinco gigantes tecnológicos estadounidenses representan cinco de las seis empresas más grandes que cotizan en bolsa por capitalización de mercado.
A medida que avanzamos en la tercera década del siglo XXI, el capitalismo de vigilancia es la institución económica dominante de nuestro tiempo. En ausencia de leyes de equilibrio, este sistema media con éxito en casi todos los aspectos de la relación de las personas con la información digital. La promesa del dividendo que trae la vigilancia ha llegado para llevar la economía de vigilancia a la economía "normal", en seguros, comercio minorista, banca y finanzas, agricultura, fabricación de automóviles, educación, atención médica y muchos otros sectores. Hoy en día, todas las aplicaciones y el software, sin importar cuán benignos parezcan, están diseñados para maximizar la recopilación de datos.
Históricamente, las grandes concentraciones de poder corporativo han causado daños económicos. Pero cuando los datos personales son la materia prima y las predicciones del comportamiento de las personas son el producto, entonces los daños son sociales y no económicos. La dificultad es que estos nuevos percances generalmente se ven como problemas separados, incluso no relacionados, lo que los hace difíciles de solucionar. En cambio, cada nueva etapa de daño crea las condiciones para la siguiente etapa de daño.
LA EXTRACCIÓN ASIMÉTRICA
Todo comienza con la extracción. Un orden económico fundado en la extracción secreta a gran escala de datos personales presupone la destrucción de la privacidad como condición esencial de sus operaciones comerciales. Con la privacidad fuera del camino, los datos personales obtenidos ilícitamente se convierten en activos de las corporaciones privadas, donde se entienden como activos corporativos para ser utilizados a voluntad.
El efecto social es una nueva forma de desigualdad reflejada en la colosal asimetría entre lo que estas empresas saben de nosotros y lo que nosotros sabemos de ellas. El tamaño de esta brecha de conocimiento surge en un documento filtrado de 2018 de Facebook, que describía su centro de inteligencia artificial, que engulle billones de datos de comportamiento todos los días y produce seis millones de predicciones de comportamiento por segundo.
Posteriormente, estos datos personales se utilizan como algoritmos de orientación, diseñados para maximizar la extracción y dirigidos a sus fuentes desprevenidas para aumentar su compromiso. Los mecanismos de focalización cambian la vida real, a veces con graves consecuencias. Por ejemplo, los archivos de Facebook muestran a Zuckerberg usando sus algoritmos para imponer o bloquear el comportamiento de miles de millones de personas. La ira es recompensada o ignorada. Las noticias se vuelven más confiables o más incoherentes. Los editores florecen o se marchitan. El discurso político se vuelve más radical o más moderado. La gente vive o muere.
EL DAÑO FINAL
De vez en cuando, la niebla se aclara para revelar el daño final: el poder creciente de los gigantes tecnológicos que quieren usar su control sobre las infraestructuras de la información para competir con los legisladores elegidos democráticamente por el dominio de la sociedad.
Al principio de la pandemia, por ejemplo, Apple y Google se negaron a adaptar sus sistemas operativos para adaptarse a las aplicaciones de rastreo de contactos desarrolladas por las autoridades de salud pública y respaldadas por funcionarios electos. En febrero, Facebook cerró varias de sus páginas en Australia como señal de su falta de voluntad para negociar un pago por contenido y uso de noticias con el Parlamento australiano.
Por eso, cuando se trata del triunfo de la revolución capitalista de la vigilancia, son los legisladores de toda democracia liberal, especialmente de Estados Unidos, quienes tienen la mayor responsabilidad. Han permitido que el capital privado gobierne nuestros espacios de información durante dos décadas de crecimiento espectacular, sin promulgar leyes que lo regulen.
Hace cincuenta años, el economista conservador Milton Friedman exhortó a los líderes estadounidenses a "comprometerse en actividades destinadas a aumentar las ganancias siempre con el supuesto obvio de respetar las reglas del juego, es decir, la obligación de participar en una competencia abierta y libre, sin engaños". y sin fraude.
DAÑOS COLATERALES
Las sociedades democráticas plagadas de desigualdad económica, crisis climática, exclusión social, racismo, emergencias sanitarias e instituciones debilitadas tienen un largo camino hacia la recuperación. No podemos resolver todos nuestros problemas a la vez, pero nunca resolveremos ninguno de ellos si no reclamamos la santidad de la integridad de la información y la comunicación confiable. La abdicación de nuestros espacios de información y comunicación en favor del capitalismo de vigilancia se ha convertido en la metacrisis de toda democracia, porque se interpone en el camino de las soluciones a todas las demás crisis.
Ni Google, ni Facebook, ni ningún otro actor empresarial en este nuevo orden económico se ha propuesto destruir la sociedad, como tampoco la industria de los combustibles fósiles se ha propuesto destruir la tierra. Pero al igual que el calentamiento global, los gigantes tecnológicos y sus compañeros de viaje han tratado los efectos destructivos de sus acciones sobre las personas y la sociedad como daños colaterales, el desafortunado pero inevitable subproducto de acuerdos comerciales perfectamente legales que han producido algunas de las corporaciones más ricas y poderosas del mundo. en la historia del capitalismo.
LA CONTRARREVOLUCIÓN DE LA DEMOCRACIA
¿Adónde nos lleva todo esto? La democracia es el único orden institucional que se opone al autoritarismo y es el poder legítimo para cambiar el curso de la historia. Si el ideal del autogobierno es sobrevivir al siglo digital, entonces todas las soluciones apuntan a un camino: una contrarrevolución democrática. En lugar de las habituales listas de remedios, los legisladores deben proceder con una comprensión clara del adversario: que se enfrentan a un conjunto único de causas económicas y daños sociales.
No podemos deshacernos de los daños sociales posteriores a menos que proscribamos las causas económicas subyacentes. Esto significa que debemos ir más allá del enfoque actual en cuestiones posteriores, como la moderación de contenido y el control de contenido ilegal.
Estos “remedios” tratan solo los síntomas sin cuestionar la ilegitimidad de la minería de datos personales que alimenta el control privado sobre los espacios de información de la sociedad. De manera similar, las soluciones estructurales como “deshacerse” de los gigantes tecnológicos pueden ser valiosas en algunos casos, pero no tocarán las operaciones económicas subyacentes del capitalismo de vigilancia.
Más bien, la discusión sobre la regulación de las grandes tecnologías debería centrarse en la base de la economía de la vigilancia: la extracción encubierta de datos personales de áreas de la vida que alguna vez se llamaron "privadas". Los remedios que se enfocan en regular la minería de datos son de contenido neutral y no lo alteran. No amenazan la libertad de expresión. En cambio, liberan el discurso social y los flujos de información de la "selección artificial" de operaciones comerciales de maximización de ganancias que favorecen la corrupción de la información en lugar de su integridad. Restauran la santidad de la comunicación social y la expresión individual.
LA INICIATIVA DE LOS LEGISLADORES
Ninguna minería encubierta significa que no hay recolección ilegítima ni concentración de conocimiento en las personas. Sin concentración de conocimiento significa que no hay algoritmos de orientación. No focalizar significa que las corporaciones ya no pueden controlar y curar los flujos de información y el discurso social o moldear el comportamiento personal para promover sus intereses. Regular la minería eliminaría el dividendo de la vigilancia y con él el interés financiero en la vigilancia.
A medida que las democracias liberales han comenzado a enfrentar los desafíos de regular los espacios de información de propiedad privada de la actualidad, la verdad es que necesitamos legisladores listos para participar en una exploración de una vez por siglo de cuestiones muy fundamentales como las siguientes: ¿cómo debemos estructurar y gobernar? información, conexión y comunicación en un siglo digital democrático? ¿Qué nuevas declaraciones de derechos, marcos legislativos e instituciones se necesitan para garantizar que la recopilación y el uso de datos satisfagan las necesidades reales de las personas y la sociedad? ¿Qué medidas protegerán a los ciudadanos del poder irresponsable sobre la información, ya sea ejercido por empresas privadas o gobiernos?
Las democracias liberales deben tomar la iniciativa porque tienen el poder y la legitimidad para hacerlo. Pero deben saber que sus aliados y colaboradores son personas que luchan contra un futuro distópico.
Facebook puede cambiar su nombre o sus líderes, pero no cambiará voluntariamente su economía.
¿El llamado a "regular Facebook" disuadirá a los legisladores de lidiar con algo más profundo? ¿O inducirá un mayor sentido de urgencia? ¿Seremos finalmente capaces de rechazar las viejas respuestas y liberarnos para hacer las nuevas preguntas, comenzando con esta: ¿Qué se necesita hacer para asegurar que la democracia sobreviva al capitalismo de vigilancia?
De: Shoshana Zuboff, eres objeto de una operación de extracción secreta, The New York Times, 12 de noviembre de 2021
