La lógica oscura de la nueva economía
Shoshana Zuboff ella es una académica social desde hace mucho tiempo. En tiempos desprevenidos si está ocupado el impacto de las nuevas herramientas informáticas y de conocimiento en el modelo económico capitalista y en la sociedad en su conjunto. Su primer trabajo sobre máquinas inteligentes data de 1988. En ese estudio se centró en el impacto de la ofimática en el lugar de trabajo que ya identificó como trascendentale y destructivoo de todos los activos históricamente determinado. Esto es lo que realmente sucedió en los años posteriores a la publicación de libro, no solo en el ámbito laboral, sino en todos los rincones de la vida social y económicaa.
Estas transformaciones han sido tan impactantes y profundas quey académicos más sensibles a la genética social están hablando de un cambio real en el modo de producción capitalista, para usar una expresión acuñada por Marx propósito definir un sistema histórico de organización de las relaciones humanas en todos los niveles.
El estudioso israelí Yuval Noah Harari, una de las mentes más brillantes de nuestro tiempo, habló de un transformación del capitalismo en dataísmo, Es decir, in un modelo de control de los medios de producción y recursos basado en la recolección, procesamiento y uso de datos, la nueva materia prima del desarrollo humano.
Quienes han observado directamente el modelo capitalista en su expresión más genuina -como los estudiosos de la escuela de Frankfurt, parte de la diáspora europea en América- ya habían descrito el modelo de cosificación y control social operado, por ejemplo, por la industria cultural. que trajo allía la dialéctica deiluminación para su punto extremo. Pero hoy nos dice la Zuboff la tecnología, o más bien su forma actual modelada en Silicon Valley, nos ha llevado más allá de la misma cosificación descrita por la Teoría Crítica, nos ha llevado al capitalismo de vigilancia. Los individuos, como en las peores pesadillas de Huxley, son cuerpos susceptibles de ser exprimidos, sin saberlo e a través de mecanismos ajenos a ellos, de su esencia y de su intimidad para alimentar un propósito bien definido: hoy controlar sus elecciones y sus orientaciones como consumidores de bienes y servicios y mañana quién sa que mas. Una vez que el modelo está en funcionamiento, se convierte en espontáneamente universal.
Zuboff en una intervención sobre "Financial Times" ilustra bien sus pensamientos y su teoría sobre el capitalismo de vigilancia. Nos complace ofrecer la traducción al italiano de este discurso.
Il modelo de vigilancia
Recientemente, Mark Zuckerberg fue atacado por Roger McNamee, un antiguo colaborador suyo. McNamee, que tenía ya criticó al CEO de Facebook, culpó enérgicamente a Zuckerberg y su empresa por el incesante apropiación de los datos de los usuarios con métodos cada vez más ilícitos y destructivos. McNamee escribió: “Para potenciar su inteligencia artificial y sus algoritmos, Facebook recolectó datos dondequiera que pudiera encontrarlos. En poco tiempo, Facebook logró espiar a todos, incluido el ppersonas que no usan Facebook. Estas operaciones – ha agregado - fueron perfeccionados para manipular a los usuarios en prácticas que finalmente beneficiaron a los malos sujetos que tenían la intención para colarse en en conciencia público y desfigurar el discurso político.
McNamee publicó recientemente un libro titulado zucado Despertar a la catástrofe de Facebook, cuyo título es ya un plano de la obra. El libro tuvo un fuerte eco, fue reseñado y discutido por todos los principales medios del mundo y ha sido destacado durante semanas en el Éxito de ventas del New York Times Les.
El análisis de McNamee implementar, pero, una subestimación de escala. Es cierto que el gobierno ruso e que el plutócrata Robert Mercer, hotelero de la extinta Cambridge Analytica e gran donante de la campaña presidencial de Donald Trump, aprendieron una manipular la compleja máquina secreta que ha construido Facebook; el hecho es, sin embargo, que el método de Facebook e el modelo de dispositivo digital que él construyó no comienza ni termina con Facebook. Este modelo es un elementoso clave di una nueva lógica económica que yo llamo “capitalismo de la vigilancia".
el es un modelo cel va bien más allá de facebook
Estas prácticas fueron inventadas por Google, recogidas por Facebook, engulleron a Silicon Valley y desde entonces se han extendido a todos los sectores económicos. Sería un grave error suponer que este es un fenómeno exclusivo de Facebook. Si regulamos Facebook, lo rompemos y exigimos un cambio de liderazgo, el capitalismo dElla vigilancia no fallará En un parpadeo. En cambio, llenará rápidamente ese vacío, con un nuevo elenco de actores y uno nuevoo adaptación de guión.
comencé a estudiar el pasoa través de digital en 1978, centrándose enel tema de trabajos. Cuando se publicó mi primer libro, En la era de la máquina inteligente, en el 1988, entendí que el camino hacia el futuro digital estaría lleno de conflictos especialmente en que tuvo acceso a nuevos conocimientos, vamos llavesse la autoridad para decidir y sobre quien tenia el poder para hacer cumplir esa autoridad. Por ahora, estos dilemas sin resolverti les fue bien más allá del lugar de trabajo para inundar todos los aspectos de nuestras vidas. Las tecnologías de la información y la comunicación son hoy más extendido que la electricidad, alcanzandos 3 mil millones de personas en el mundo. su presencia impregna toda la vida diaria delle persone, mediando casi cualquier forma de participación social.
Pronto me quedó claro que el capitalismo de vigilancia se apartaba de muchas reglas y prácticas que habían definido il capitalismo clásico y a la partparticular la historia de la democracia y las economías de mercado. Había surgido algo asombroso y sin precedentes cuyas consecuencias moldearían el entorno moral y político de la sociedad del siglo XXI y los valores mismos de nuestra civilización de la información.
La invención de Google
El capitalismo de vigilancia se inventó después de que estallara la burbuja de las puntocom, cuando una nueva empresa, llamado google, buscó aumentar los ingresos publicitarios utilizando su acceso exclusivo a una fuente de datos en gran parte ignorados, Es decir, el "tronco" dejado por ele investigaciónhe y de la navegación en línea de los usuarios. Google descubrió que estos datos podrían analizarse en base a modelos predictivos que proporcionarían pistas decisivasvsobre los intereses de los usuarios. Y fue más allá: a estos usuarios ellos podríanDe hecho, ser abordado degellos anuncios dirigidos influir en su comportamiento como consumidores. Google podría haber reutilizado los datos de comportamiento "excesivos", en comparación con la actividad investigadora normal, y desarrollar nuevos métodos para adquirir agresivamente nuevas fuentes de acceso a ellos.
Según sus propios científicos, los nuevos métodos de Google fueron populares por su capacidad para encontrar datos que los usuarios habían decidido mantener en privado y para inferir una gran cantidad de información personal que ellos no eran estado suministradoe directamente. Estas operaciones han sido diseñadas para eludir la conciencia del usuario y, por lo tanto, eliminar cualquier posible "fricción". En otras palabras, desde el principio, El avance de Google se basó en un espejo unidireccional: la vigilancia. Los nuevos métodos se inventaron, aplicaron y mantuvieron en estricto secreto entre 2001 y 2004. Solo cuando Google se hizo público en 2004, el mundo supo que, con base en estas nuevas metodologías, los ingresos de Google habían aumentado en 3.590%.
El punto de inflexión histórico
Este cambio en el uso del exceso de datos de comportamiento ha sido un punto de inflexión histórico. Google había encontrado un recurso revolucionario sin costo alguno que podría haberse desviado de la mera mejora del servicio hacia un poderoso propósito comercial. El modelo de capitalismo de vigilancia pronto se extendió a Facebook para convertirse en el modelo predeterminado para la acumulación de capital en Silicon Valley. Era racionalizado como un quid pro quo para acceder a los servicios gratuitos, pero ya no se limita a ese contexto como, una vez, sucedió con producción masiva que, por ejemplo, se limitó a la producción del Modelo T de vado. Hoy, se ha expandido a una amplia gama de industrias, que incluyen seguros, comercio minorista, atención médica, finanzas, entretenimiento, educación y más. El capitalismo se está mudando literalmente de piel ante nuestros ojos.
Quizás el mejor ejemplo eclatante de este cambio debe buscarse en el lugar de nacimiento de la producción en masa moderna, alla Ford Motor Company. Hace cien años, los pioneros de los capital esmo industrial moderno como henry ford Ellos Desarrollaron un nuevo modelo, configurando el consumo masivo de bienes industriales. Ford se dio cuenta de que los agricultores y comerciantes también querían automóviles a un precio que pudieran pagar. En su mundo, clientes y trabajadores estaban vinculados en un ciclo de producción y ventas que combinaba bienes baratos con salarios. calibrado sobre el consumo de bienes.
En noviembre 2018, Jim Hackett, presidente ejecutivo de Ford, ha indicado un nuevo paradigma para los fabricantes de automóviles. Dijo a un entrevistador: “El punto que quiero desarrollar es esto: en el futuro vamos a tener una avalancha de datos provenientes de vehículos, de usuarios de estos vehículos, de ciudades hablando de estos vehículos e dael mismolos competidores. Supongo que hoy tenemos 100 millones de personas sentadas en un vehículo Ford azul ovalado. esta es una oportunidad única. para monetizar estoo estado de cosas contra un competidor (por ejemplo, Tesla) que podría tener, digamos, 120 o 200 vehículos en la carretera. Comparar un momento la escala de dos sujetos: ¿De cuál te gustaría obtener los datos?”
Una vez que los clientes se reinventaron como fuentes de datos, a Hackett le resultó fácil imaginar el siguiente paso en el que se combinan los datos en tiempo real de los automóviles, por ejemplo. con los datos de financiación de Ford. De hecho, dijo: “Ya sabemos… lo que hace la gente… sabemos dónde trabaja; sabemos si están casados. Sabemos cuánto tiempo han estado viviendo en su casa". Y concluye: “Esta es la palanca enorme que tenemos con los datos”. Como comentario, undice un analista de la industria, "Ford podría hacer una fortuna monetizando los datos. No necesitarán ingenieros, fábricas o distribuidores para hacerlo.rlo. Es casi pura ganancia".
Si es "inteligente" se convierte en la ganzúa del capitalismo de vigilancia
Y esto il mundo cuando vivimos. Un mundo donde cada producto o servicio que comienza con la palabra “inteligente” o “personalizado”, cada dispositivo o vehículo conectado a Internet, cada “asistente digital” es una interfaz de la cadena de suministro para el flujo sin obstrucciones de datos de comportamiento. Sabemos que el capitalismo evoluciona subsumiendo cosas que están fuera de la dinámica del mercado para transformarlos en productos de mercado, para la venta y para la compra. El capitalismo de vigilancia amplía este modelo al declarar privada la experiencia humana un algo que se puede elaborar y modelar para construir predicciones de comportamiento para la producción yel intercambio. En esta lógica, el capitalismo de vigilancia se apropia de nuestros comportamientos y absorbe todo el significado que hay en nuestros cuerpos, en nuestros cerebros y en nuestros corazones. Usted no ni "el producto", sei el cadáver abandonado. El producto" son los exceso de datos arrancados de su vida.
En estas nuevas cadenas de suministro podemos encontrar le rastrea con quién compartesamo la nuestro la vida, los secretos que yo nuestro los niños comparten con sus juguetes, conversaciones en el almuerzo, niveles de decibelios en la sala de estar y signos de exclamación después de una publicación de Facebook, una vez escrita con inocencia y franqueza.
Nada está exento de ser inteligente, de botellas de “vodka inteligente" hasta termómetros rectales conectados a Internet, ya que los productos y servicios de cada industria compiten por los ingresos de vigilancia. Búsquedae información son "aspiradoe" por la nuestro la vida diaria en formas diseñadas para hacerci ignorar lo que está pasando. En los Estados Unidos, las máquinas respiratorias utilizadas por personas que sufren de asma secretamente canalizan datos al aseguradore quien duerme mientras tanto, a menudo para permitir que la empresa retenga el pago de la atención. Algunas aplicaciones de teléfonos móviles registran la nuestro posición cada dos segundos para venderlo a terceros. A partir de julio de 2017, la aspiradora autónoma iRobot Roomba, lo hizo noticia cuando el CEO de la empresa, Colin Angle, ha habla a Reuters de su estrategia comercial basada enla recogida y el tratamiento de datos para la “casa inteligente”. Si elél diceto cuál es el precio de las acciones creciendo una gran cantidad de después de su propuesta de compartir planos de planta gratuitos de las casas de los clientes, nel frattempo mapeado por las nuevas capacidades de rastreo de los robot de limpieza.
En algún momento, los capitalistas de vigilancia descubrieron que cambio de comportamiento: y intervenciones en tiempo real mediadas digitalmente empujar a los consumidores en la dirección deseado por esos capitalistas. Un científicoiato de los datos mi él explicó que: “Podemos diseñar el contexto en torno a un comportamiento y fuerza particular el cambio en esolla dirección... Estamos aprendiendo a escribir la música, y luego vamos a cque la música los haga bailar”. Los ejemplos son tantos Y il lugar donde Jugadores de Pokémon Go ir comer, bebe y compra, es decir, esos lugares de reunión quien paga para jugar en los mercados de futuros conductuales. È la expropiación despiadada del exceso de datos de los perfiles de Facebook para obtener "percepciones psicológicas" detalladas que, según un informe interno de la empresa de 2017, permiten a los anunciantes identificar el momento exacto en que un adolescente necesita "una inyección de confianza".
Las asimetrías del conocimiento.
Los capitalistas de vigilancia producen asimetrías profundamente antidemocráticas de conocimiento y se benefician de un crecimiento de su poder que proviene del conocimiento. Saben todo sobre nosotros, mientras que sus operaciones están diseñadas para ser incognoscibles. lado noStra. Predicen nuestro futuro y dan forma a nuestro comportamiento, pero faño para alcanzar las metas de otros y para obtener ganancias financieras.
Este poder de conocer y cambiar el comportamiento humano no tiene precedentes. A menudo confundido con "totalitarismo" y temido como Gran Hermano, es una nueva especie de poder moderno que llamo "instrumentarismo (instrumentismo)". El poder instrumental puede comprender y cambiar el comportamiento de individuos, grupos y poblaciones al servicio del capital de vigilancia. El escándalo de Cambridge Analytica ha revelado cómo, con el conocimiento adecuado, estos métodos de poder instrumental puedenono hacer girar hacia objetivos políticos. pero no allí estamos equivocados, la táctica empleada por Cambridge Analytica fue parte de muchos y diarios operaciones rutinarias del capitalismo en su acción para influir en el comportamiento de la gente.
Dtenia que ser otra cosa
No se suponía que fuera así. En 2000, algunos informáticos y algunos los ingenieros tienen trabajado a un proyecto llamado Aware Home. Imaginaron la "simbiosis casa-hombre" en la que los procesos animados e inanimados serían capturados por una red de "sensores sensibles al contexto" instalados en una casa y por los ordenadores que llevan sus habitantes. El sistema fue diseñado como un circuito cerrado simple controlado en su totalidad por los ocupantes. Verificado que mediante el “monitoreo constante de las ubicaciones y actividades de los ocupantes”… y también interceptando las condiciones médicas de sus habitantes”, el equipo concluyó que “existe una clara necesidad de dar a los ocupantes conocimiento y control sobre la distribución de esta información”. . Toda la información tenía que almacenarse en las computadoras que se usabanti ocupantes para asegurar la privacidad de la información de un individuo.
Un avance rápido hasta 2017 cuando dos académicos de la Universidad de Londres publicaron un análisis detallado de un solo dispositivo de "hogar inteligente", el termostato Nest propiedad de Google. Uno de ellos decidió ingresar al ecosistema de dispositivos y aplicaciones conectados, aceptando los términos de servicio para compartir datos de terceros. Comprar un solo termostato Nest significa que debe suscribirse a casi mil de los llamados "cláusulas“. Si el cliente se niega a aceptar las disposiciones de Nest, los términos del servicio, la funcionalidad y seguridad del termostato son comprometido y ya no es compatible con actualizaciones destinadas a garantizar la confiabilidad y seguridad del dispositivo.
Los capitalistas de vigilancia quieren que creamos que su trayectoria hacia el futuro digital es inevitable. Pero no lo es. Hoy podemos lamentar la inocencia de Aware Home pero, como un mensaje en una botella del pasado, nos dice algo importante. Una vez fuimos los sujetos de nuestra vida, hoy somos sus objetos. Aware Home da testimonio de lo que hemos perdido y de lo que debemos recuperar: il bieno di saber e di decidir quien debería conoscere nuestra vida y nuestro futuro. Tales derechos han sido y siguen siendo la única base posible para la libertad humana y para una sociedad democrática eso funciona bien.
El papel de Apple
A finales de octubre de 2018 Tim Cook, CEO de Apple, frente al Parlamento Europeo, criticó el “complejo industrial de datos”, con sus "reservas de datos personales" sirviendo solo parad “enriquecer a las empresas que los recogen”. Hizo hincapié en que "qlo suyo es vigilancia da la posibilidad de conocernos mejor de lo que podemos conocernos a nosotros mismossi… Esta crisis es real. No es algo imaginado, ni tampoco exagerado loca. Y aquellos de nosotros que creemos en el potencial de la tecnología para el bien de la sociedad, no debemos rehuir esta realidad.".
Como era de esperar, algunos son bastante scepensar en el sincerità del compromiso de Cook de “no baje la guardia en este tema“. ellos ven uno especie campaña de marketing dirigida a distanciar a la empresa de laen el área deombra donde cayó il sector de la tecnología. Otros, citaron Las inconsistencias de Apple en la última década: L 'iPhone que usa el Búsqueda de Google, almacenamiento de datos de usuario suservidores chinos, la falta de transparencia su muchas practicas y sistemas de protecciony adquirir recogido por Apple y muchas otras contradicciones. Tim Bradshaw y Mehreen Khan, de la Ftiempos financieros, señalan que es más fácil para Apple avere un puesto fuerte política de privacidad cuando los ingresos de la empresa dependen de la venta de sus dispositivos, no de la publicidad dirigida.
La paradoja de la privacidad
Todas estas son críticas bien fundadas, pero para muchos, la posición de Cook infunde un fuerte sentido de esperanza, la percepción de que alguien en la industria abbia finalmente el coraje de hablar. En 46 de las 48 principales encuestas de opinión realizadas en Estados Unidos y Europa entre 2008 y 2017, hubo mayorías sustanciales a favor de medidas para mejorar la privacidad y el control de lausuarios sobre datos personales. Las primeras encuestas fueron menos significativas, porque muchos encuestados no entendían cómo o qué información personal se recopilaba.. Una importante encuesta de 2009 encontró que cuando las personas son Conozca las formas en que las empresas cobranlógono datos para anuncios en línea dirigidos, el 73% volver a pinchar dicho uso de datos con fines publicitarios. Una encuesta de 2015 encontró que el 91% de los encuestados no estaba de acuerdo con que recopilar información personal "sin su conocimiento" es una compensación justa por un descuento en el precio.
Las empresas tecnológicas suelen descartar estos hallazgos, enfatizando el comportamiento actual de los usuarios y los espectaculares resultados que produce este estado. di cosas como la justificación del statu quo. Recuerde el infame despido de 2009 del ex CEO de Google, Eric Schmidt:“Si no tienes nada que esconder, no tienes que preocuparte. Si no desear no que se sepa, no lo hagas“. Los expertos definen la brecha entre la actitudes y i comportamientos “la paradoja de la privacidad“, pero en realidad no es una paradoja. es la consecuencia debido ala batalla campal entre la oferta y la demanda, expresada en la diferencia entre lo que el capitalismo de la nos dicta la vigilancia y lo que realmente queremos.
La brecha histórica actual entre la oferta y la demanda es un llamado a la acción para los líderes empresariales que tienen la previsión y la convicción de ir contra la corriente. Resistirse al capitalismo de vigilancia no es simplemente “lo correcto”. Casi todos los que están conectados a Internet piden un camino alternativo hacia el futuro digital, que satisface nuestras necesidades sin comprometer nuestra privacidad, y sin usurpar nuestras decisiones y menoscabar nuestra autonomía. Dadas las fuerzas en juego, la persona con la mejor oportunidad de forjar una alternativa necesita una considerable influencia comercial y política detrás de él. este podría ser el contexto en el que Tim Cook entra en escena.
Un estudio de 2017 sobre los rendimientos del mercado de valores concluyó que Apple ha generado el más alto rendir para inversores di cualquier otra empresa estadounidense en 20° y 21 ° siglo. Ser Tim Cook realmente quiere actuar consecuentemente con sus palabras en Bruselas, Apple debería guía el camino un camino alternativo hacia el futuro digital, riunbyificando el capitalismo con la gente a la que se supone que debe servir. cocinero dijo que i supuestos conflictos de privacidad versus ganancias o privacidad versus innovación son tesis equivocado. De hecho, el patrón histórico sugiere que el'actual disyuncióne entre oferta y demanda abre una oportunidad muy importante por un salto de calidado desarrollo del capitalismo
la lucha por un capitalismo del pueblo
En el pasado untenemos ya nos hemos enfrentado a situaciones similares y ya hemos estado al borde del precipicio. "Somos fue un poco" a tientas, Buscando administrar un nuevo orden con maneras antiguas, pero tenemos que empezar dar forma a esto mundo nuevo". Fue en 1912 cuando Thomas Edison expuso su visión de una nueva civilización industrial en una carta a Henry Ford. Edison temía el potencial del industrialismo para servir al progreso de la humanidad. podría ser obstaculizado por el poder del barones ladrones e por monopolistas que allora gobernóno la economía. Criticó el statu quo caracterizado por el "despilfarro" y la "crueldad" del capitalismo Americano. Tanto Edison como Ford entendieron que la civilización industrial moderna, por lo que se alimentaban muchos esperanzae, se precipitaba hacia un futuro marcado por la miseria para muchos y la prosperidad solo para pocos También entendieron cuál sería la vida moral de la civilización industrial. también formado por las prácticas del capitalismo salvaje.
Todo debe reinventarse: nuevas tecnologías, sí, pero estas deben reflejar nuevas formas de satisfacer las necesidades de las personas; un nuevo modelo económico que podría transformarse en recursos económicos estas nuevas prácticas; y un nuevo contrato social que podría sustentar todo el sistema. Ciudadanos, consumidores, administradores, trabajadores, legisladores, abogados, académicos, periodistas, administradores y funcionarios públicos, que han emprendido este esfuerzo, han entrado en territorio desconocido.
Nuestro tiempo exige este tipo de salto creativo hacia lo desconocido. puede inclinar la trayectoria del futuro digital hacia las personas. Sin una respuesta creativa y valiente, el capitalismo de vigilancia seguirá llenando este vacío. Si el capitalismo de vigilancia va a ser interrumpido, domesticado e incluso ilegalizado, necesitaremos nuevas leyes, reglamentos y formas de acción colectiva adaptadas a sus mecanismos específicos. Por estas razones y mil más, le pido a Tim Cook ya otros líderes empresariales que abran un nuevo camino a casa. No estarán solos. Quienes vivimos en el espacio entre el hogar y el exilio no ellos restarán. La lucha por un futuro humano nos pertenece a todos.
* * *
Shoshana Zuboff es profesora emérita al Carlos Eduardo Wilson Innovadora en la Escuela de Negocios de Harvard. La era del capitalismo de vigilancia: la lucha por el futuro en la nueva frontera del poder fue lanzado el 31 de enero por Profile Books
