Шошана Зубофф, почетный профессор Гарвардской школы бизнеса и автор книги Капитализм надзора (Luiss University Press) — знаменитость, выходящая за рамки академической и интеллектуальной элиты. О капитализме слежки сейчас говорят на ток-шоу в прайм-тайм.
В этом коротком эссе, которое мы публикуем в итальянском переводе, Зукофф с редкой ясностью объясняет, как зародилась и развилась эта форма добывающего капитализма, почти невидимая для масс, которые счастливы пользоваться его услугами.
Главные герои надзорный капитализм их трое: те, кто практикует это, не беспокоясь об общих последствиях для своей выгоды и интересов акционеров, общественность, которая довольствуется пожертвованием своих личных данных за пару конфет, и, наконец, законодатели, которые смотрят в другую сторону страх сделать непопулярный выбор.
СПАСИБО ДЖЕК ДОРСИ
На днях Джек Дорси ушел из руководства Twitter. Благодаря ему Twitter не вошел в ряды львиц новой экономики, практикующих слежку за капитализмом. На самом деле многие, особенно на Уолл-стрит, задаются вопросом, как может существовать такой парадокс, как Твиттер.
То есть социальной сети, которая, будучи одной из самых авторитетных с ее 250 миллионами активных пользователей, имеет такие скудные доходы и прибыль. Просто: потому что Твиттер поступил правильно с точки зрения общих интересов: он остался в стороне от прибыльной практики слежки за капитализмом.
Если вы останетесь внутри, ваша капитализация может составить триллион, если вы останетесь снаружи, она вряд ли превысит 1/20 этой цифры. Таким образом, капитализм слежки умножает «естественную» ценность бесплатного веб-сервиса в 20 раз.
Но что такое этот тип капитализма и как он возник? Хорошо объясняет Зубофф, который уже 20 лет занимается изучением феномена цифровой экономики. Вот его сочинение
НОВАЯ ДОБЫВАЮЩАЯ ПРОМЫШЛЕННОСТЬ
Facebook — это не просто компания. Всего за одно десятилетие он вырос до триллиона долларов благодаря логике того, что я называю капитализмом наблюдения — экономической системы, построенной на скрытом извлечении и манипулировании данными людей, — которая стремится соединить весь мир. Facebook и другие крупные капиталистические структуры наблюдения теперь контролируют информационные потоки и коммуникационную инфраструктуру по всему миру.
Эти инфраструктуры необходимы для демократического общества, однако наши демократии позволили этим компаниям владеть, управлять и посредничать в наших информационных пространствах без какого-либо регулирования публичного права. Результатом стала скрытая революция в способах производства, распространения и обработки информации. Каскад разоблачений с 2016 года по сегодняшний день, подтвержденный документами и личным свидетельством разоблачителя Фрэнсис Хауген, свидетельствует о последствиях этой революции.
Либеральные демократии мира сейчас сталкиваются с трагедией «необычных», то есть информационных пространств, которые люди воспринимают как общедоступные, но которые вместо этого тесно связаны с частными коммерческими интересами, направленными на погоню за максимальной прибылью.
НЕТ ВЫХОДА?
Интернет как саморегулирующийся рынок оказался неудачным экспериментом. Капитализм слежки оставляет за собой след социального опустошения: разрушение частной жизни, усиление социального неравенства, ужесточение публичного дискурса дефактуализированной информацией, разрушение социальных норм и ослабление демократических институтов.
Эти социальные потери не случайны. Эти эффекты строго связаны со стадией хода хозяйственных операций. Каждое повреждение прокладывает путь для следующего и зависит от того, что ему предшествовало.
Невозможно избежать автоматических систем, которые следят за нами, когда мы делаем покупки, едем за рулем или гуляем в парке. Все пути экономического и социального участия теперь проходят через территорию стремящегося к максимизации прибыли надзорного капитализма, состояние, обострившееся почти за два года глобальной пандемии.
Пробудит ли, наконец, цифровое насилие Facebook стремление вернуть «необычное»? Будем ли мы решать давно игнорируемые фундаментальные вопросы информационной цивилизации? Как нам организовать информационное и коммуникационное пространство цифрового века и управлять им таким образом, чтобы поддерживать и продвигать демократические ценности и принципы?
ВСЕ НАЧИНАЛОСЬ С GOOGLE
Facebook, каким мы его знаем сегодня, создан по образцу ответвления Google. Стартап Марка Цукерберга не изобретал капитализм слежки. Это сделал Google. В 2000 году, когда только 25% мировой информации хранилось в цифровом формате, Google был небольшим стартапом с отличным поисковым продуктом, но с небольшим доходом.
В 2001 году, в разгар кризиса доткомов, руководители Google сделали ряд изобретений, которые изменили рекламную индустрию. Их команда начала объединять огромные потоки данных и личной информации с расширенным вычислительным анализом, чтобы предсказать, где реклама может получить наибольшее количество кликов.
Первоначально прогнозы рассчитывались путем анализа следов, которые пользователи неосознанно оставляли на серверах компании при просмотре или поиске страниц Google. Ученые Google научились извлекать прогнозные метаданные из этого «накопления данных» и использовать их для анализа вероятных моделей поведения в будущем.
ПРОГНОЗИРУЮЩАЯ МОДЕЛЬ
Прогнозирование было первым императивом, определяющим второй императив: интеллектуальный анализ данных. Прибыльные прогнозы требовали потоков данных в почти невообразимых масштабах. Пользователи и не подозревали, что их данные тайно собирают из каждого уголка и закоулка Интернета, а позже — с помощью приложений, смартфонов, подключенных к Интернету устройств, камер и датчиков. Невежество пользователей было ключом к успеху проекта. Каждый новый продукт был средством для достижения большей «вовлеченности» — эвфемизма, используемого для маскировки незаконных операций по добыче полезных ископаемых.
На вопрос «Что такое Google?» соучредитель Ларри Пейдж ответил в 2001 году, согласно подробному отчету Дугласа Эдвардса (первого бренд-менеджера Google) в его книге. Я чувствую удачу: «Хранение дешево. Камеры дешевые. Люди будут генерировать огромные объемы данных. Все, что когда-либо было увидено или пережито, станет доступным для поиска. Вся жизнь будет доступна для поиска».
Вместо того, чтобы взимать плату с пользователей за службу поиска, Google выжил, превратив свою поисковую систему в сложный инструмент наблюдения для сбора личных данных. Руководители компании старались держать эти операции в секрете от пользователей, регулирующих органов и конкурентов. Пейдж выступал против всего, что могло «расшевелить котёл конфиденциальности и поставить под угрозу нашу способность собирать данные», — написал Эдвардс.
РОЖДЕНИЕ НОВОГО ЭКОНОМИЧЕСКОГО ЗДАНИЯ
Крупномасштабные операции по добыче полезных ископаемых были краеугольным камнем нового экономического здания и заменили другие цели, начиная с качества информации, поскольку в логике надзорного капитализма целостность информации не имеет отношения к доходам.
Таков экономический контекст, в котором возникла дезинформация. В 2017 году Эрик Шмидт, исполнительный председатель материнской компании Google Alphabet, признал роль операций алгоритмического ранжирования Google в распространении вводящей в заблуждение информации.
«Есть черта, которую мы действительно не можем пересечь», — сказала она. «Нам очень трудно понять правду. Компания с миссией организовать и сделать доступной всю информацию в мире с помощью самых сложных алгоритмов не может отличить правильную информацию от неправильной».
FACEBOOK, ПЕРВЫЙ ПОДПИСЧИК
Марк Цукерберг начал свою предпринимательскую карьеру в 2003 году, будучи студентом Гарварда. Его веб-сайт Facemash предлагал посетителям оценить сексуальную привлекательность однокурсников. Сайт вызвал возмущение среди сверстников и был закрыт. Затем появился TheFacebook в 2004 году и Facebook в 2005 году, когда Цукерберг приобрел первых профессиональных инвесторов.
Количество пользователей Facebook быстро росло; его дохода нет. Как и Google несколькими годами ранее, Цукерберг не смог превратить популярность в доход и прибыль.
Это переходило от одной оплошности к другой, а постоянные нарушения конфиденциальности пользователей вызывали бурную общественную реакцию, петиции и коллективные иски.
Цукерберг, казалось, понимал, что ответом на его проблемы является извлечение личных данных без согласия и продажа их рекламодателям, но сложность логики этого ускользала от него.
Поэтому он обратился к Google за ответами.
В марте 2008 года Цукерберг перевел главу глобальной онлайн-рекламы Google Шерил Сандберг в Facebook в качестве своего заместителя. Сэндберг присоединилась к Google в 2001 году и сыграла ключевую роль в революционном преобразовании капитализма слежки. Он возглавил создание рекламного движка Google, AdWords, и его программы AdSense, которые в совокупности принесли большую часть дохода компании в 16,6 млрд долларов в 2007 году.
А вот и ШЕРИЛ СЭНДБЕРГ
Уже будучи мультимиллионером в Google, в тот момент, когда к ней обратился Цукерберг, Сандберг осознала огромные возможности Facebook для получения богатых прогностических данных. «У нас есть лучшая информация, чем у кого-либо еще. Мы знаем пол, возраст, местонахождение, и это реальные данные, а не то, что делают другие люди», — сказал Сэндберг, по словам Дэвида Киркпатрика, автора книги. The Facebook Effect.
У компании были «лучшие данные» и «реальные данные», потому что она занимала место в первом ряду по отношению к тому, что Пейдж назвал «вся ваша жизнь».
С новой политикой конфиденциальности в конце 2009 года Facebook стал пионером в экономике слежки. Фонд Electronic Frontier Foundation отметил, что новая настройка «Все» удалит все параметры ограничения видимости личных данных, вместо этого рассматривая их как общедоступную информацию.
TechCrunch хорошо подытожил стратегию компании: «Facebook заставляет пользователей выбирать новые параметры конфиденциальности, чтобы продвигать обновление «Все» и избавляться от любого потенциального злоупотребления данными в будущем. При частичном оправдании компании можно утверждать, что пользователи добровольно сделали выбор поделиться своей информацией со всеми.
Несколько недель спустя Цукерберг защищал эти шаги в интервью TechCrunch. «Многие компании оказались бы в ловушке из-за обычаев и своего наследия», — хвастался он. «Но мы решили, что это будут новые социальные нормы здесь и сейчас, и пошли по этому пути».
Цукерберг «буквально пошел по этому пути», потому что не было законов, которые мешали бы ему присоединиться к Google в деле тотального уничтожения частной жизни. Если бы законодатели хотели наказать его как безжалостного максимизатора прибыли, готового использовать свою социальную сеть против общества, то 2009-2010 годы были бы подходящим временем.
НЕПРЕВЗОЙДЕННЫЙ ЭКОНОМИЧЕСКИЙ ПОРЯДОК
Facebook был первым последователем Google, но не последним. Google, Facebook, Amazon, Microsoft и Apple — частные империи наблюдения, каждая из которых имеет свою бизнес-модель. Google и Facebook — это чисто наблюдательные капиталистические компании. У других есть различные направления бизнеса, которые включают данные, услуги, программное обеспечение и физические продукты. По состоянию на 2021 год эти пять американских технологических гигантов представляют пять из шести крупнейших публичных компаний по рыночной капитализации.
По мере того как мы приближаемся к третьему десятилетию 21-го века, капитализм наблюдения становится доминирующим экономическим институтом нашего времени. В отсутствие балансирующих законов эта система успешно опосредует почти каждый аспект отношений людей с цифровой информацией. Обещание дивидендов, которые приносит слежка, принесло экономику слежки в «нормальную» экономику, в страхование, розничную торговлю, банковское дело и финансы, сельское хозяйство, производство автомобилей, образование, здравоохранение и многие другие сектора. Сегодня все приложения и программное обеспечение, какими бы безопасными они ни казались, предназначены для максимального сбора данных.
Исторически сложилось так, что большая концентрация корпоративной власти наносила экономический ущерб. Но когда личные данные являются исходным материалом, а прогнозы поведения людей — продуктом, тогда вред носит социальный, а не экономический характер. Сложность в том, что эти новые сбои обычно рассматриваются как отдельные, даже не связанные между собой проблемы, что затрудняет их исправление. Вместо этого каждый новый этап повреждения создает условия для следующего этапа повреждения.
АСИММЕТРИЧНАЯ ЭКСТРАКЦИЯ
Все начинается с добычи. Экономический порядок, основанный на крупномасштабном тайном извлечении личных данных, предполагает разрушение частной жизни как существенное условие его коммерческих операций. Когда конфиденциальность исключена, незаконно полученные личные данные становятся активами частных корпораций, где они понимаются как корпоративные активы, которые можно использовать по своему усмотрению.
Социальный эффект — это новая форма неравенства, выражающаяся в колоссальной асимметрии между тем, что эти компании знают о нас, и тем, что мы знаем о них. Размер этого пробела в знаниях раскрывается в просочившейся статье 2018 года из Facebook, в которой описывается его центр искусственного интеллекта, который ежедневно поглощает триллионы поведенческих данных и производит шесть миллионов поведенческих прогнозов каждую секунду.
Впоследствии эти личные данные используются в качестве алгоритмов таргетинга, разработанных для максимального извлечения и нацеленных на их ничего не подозревающие источники для повышения их вовлеченности. Механизмы таргетинга меняют реальную жизнь, иногда с серьезными последствиями. Например, файлы Facebook изображают Цукерберга, использующего свои алгоритмы, чтобы навязывать или блокировать поведение миллиардов людей. Гнев либо вознаграждается, либо игнорируется. Новости становятся более достоверными или более бессвязными. Издатели процветают или увядают. Политический дискурс становится более радикальным или более умеренным. Люди живут или умирают.
ПОСЛЕДНИЙ ПОВРЕЖДЕНИЕ
Время от времени туман рассеивается, чтобы выявить главный ущерб: растущую мощь технологических гигантов, которые хотят использовать свой контроль над информационными инфраструктурами, чтобы конкурировать с демократически избранными законодателями за господство в обществе.
Например, в начале пандемии Apple и Google отказались адаптировать свои операционные системы для размещения приложений для отслеживания контактов, разработанных органами здравоохранения и поддерживаемых выборными должностными лицами. В феврале Facebook закрыл несколько своих страниц в Австралии в знак нежелания вести переговоры об оплате контента и использования новостей с австралийским парламентом.
Вот почему, когда дело доходит до триумфа капиталистической революции, именно законодатели любой либеральной демократии, особенно в Соединенных Штатах, несут наибольшую ответственность. Они позволили частному капиталу управлять нашим информационным пространством в течение двух десятилетий впечатляющего роста, не принимая законов для его регулирования.
Пятьдесят лет назад консервативный экономист Милтон Фридман призывал американских лидеров «заниматься деятельностью, направленной на увеличение прибыли, всегда с очевидным предположением о соблюдении правил игры, то есть обязательстве участвовать в открытой и свободной конкуренции, без обмана». и без обмана.
СОПУТСТВУЮЩИЙ УЩЕРБ
Демократическим обществам, страдающим от экономического неравенства, климатического кризиса, социальной изоляции, расизма, чрезвычайных ситуаций в области здравоохранения и ослабленных институтов, предстоит долгий путь к восстановлению. Мы не можем решить все наши проблемы сразу, но мы никогда не решим ни одну из них, если не восстановим неприкосновенность целостности информации и надежной связи. Отречение от нашего информационного и коммуникационного пространства в пользу капитализма наблюдения стало метакризисом любой демократии, потому что оно стоит на пути решения всех других кризисов.
Ни Google, ни Facebook, ни любой другой бизнес-игрок в этом новом экономическом порядке не намеревались разрушить общество, так же как индустрия ископаемого топлива не намеревалась уничтожить Землю. Но, как и в случае с глобальным потеплением, технологические гиганты и их попутчики рассматривали разрушительные последствия своих действий для людей и общества как побочный ущерб — досадный, но неизбежный побочный продукт совершенно законных деловых сделок, которые породили некоторые из самых богатых и могущественных корпораций в мире. в истории капитализма.
КОНТРРЕВОЛЮЦИЯ ДЕМОКРАТИИ
Куда все это нас ведет? Демократия — единственный институциональный порядок, который противостоит авторитаризму и является законной силой, способной изменить ход истории. Если идеал самоуправления состоит в том, чтобы выжить в цифровом веке, то все решения ведут к одному пути: демократической контрреволюции. Вместо обычных списков средств правовой защиты законодатели должны исходить из четкого понимания противника: что перед ним стоит единый набор экономических причин и социального вреда.
Мы не можем избавиться от последующего социального вреда, если не объявим вне закона лежащие в его основе экономические причины. Это означает, что нам нужно выйти за рамки текущего внимания к нижестоящим вопросам, таким как модерация контента и контроль за незаконным контентом.
Эти «лекарства» лечат только симптомы, не ставя под сомнение нелегитимность интеллектуального анализа личных данных, который подпитывает частный контроль над информационным пространством общества. Точно так же структурные решения, такие как «разделение» технологических гигантов, могут быть ценными в некоторых случаях, но они не затрагивают основные экономические операции капитализма наблюдения.
Скорее, дискуссия о регулировании больших технологий должна быть сосредоточена на основе экономики слежки: скрытом извлечении личных данных из областей жизни, которые когда-то назывались «личными». Средства правовой защиты, направленные на регулирование интеллектуального анализа данных, являются нейтральными по отношению к содержанию и не изменяют его. Они не угрожают свободе слова. Вместо этого они освобождают социальный дискурс и информационные потоки от «искусственного отбора» максимизирующих прибыль бизнес-операций, которые способствуют искажению информации, а не ее целостности. Они восстанавливают святость социального общения и индивидуального самовыражения.
ИНИЦИАТИВА ЗАКОНОДАТЕЛЕЙ
Отсутствие скрытого майнинга означает отсутствие незаконного сбора и концентрации знаний на людях. Отсутствие концентрации знаний означает отсутствие алгоритмов таргетинга. Отсутствие таргетинга означает, что корпорации больше не могут контролировать и курировать информационные потоки и социальный дискурс или формировать личное поведение для продвижения своих интересов. Регулирование майнинга устранило бы дивиденды от наблюдения, а вместе с ним и финансовую заинтересованность в слежке.
Поскольку либеральные демократии начали заниматься проблемами регулирования сегодняшних частных информационных пространств, правда заключается в том, что нам нужны законодатели, готовые заняться раз в столетие исследованием очень фундаментальных вопросов, таких как следующие: как мы должны структурировать и управлять информация, связь и общение в демократическом цифровом веке? Какие новые билли о правах, законодательные рамки и институты необходимы для обеспечения того, чтобы сбор и использование данных служили реальным потребностям людей и общества? Какие меры защитят граждан от безответственной власти над информацией, независимо от того, осуществляется ли она частными компаниями или правительствами?
Либеральные демократии должны взять на себя инициативу, потому что у них есть для этого сила и легитимность. Но они должны знать, что их союзники и сотрудники — это люди, борющиеся против антиутопического будущего.
Facebook может изменить свое название или руководителей, но добровольно не изменит свою экономику.
Сможет ли призыв «регулировать Facebook» отговорить законодателей от решения чего-то более серьезного? Или это вызовет большее чувство безотлагательности? Сможем ли мы, наконец, отказаться от старых ответов и освободиться, чтобы задать новые вопросы, начиная с этого: что нужно сделать, чтобы демократия выжила при надзорном капитализме?
От: Шошана Зубофф, Вы являетесь объектом секретной операции по извлечению, Нью-Йорк Таймс, 12 ноября 2021 г.
