Shoshana Zuboff, Harvard Business School'da fahri profesör ve şu kitabın yazarı: Sürveyansın kapitalizmi (Luiss University Press), akademi ve entelektüel seçkinlerin ötesine geçen bir ünlüdür. Gözetleme kapitalizmi artık prime-time talk şovlarında konuşuluyor.
İtalyanca çevirisiyle yayınladığımız bu kısa makalede Zukoff, onun hizmetlerinden yararlanmaktan mutlu olan kitleler için neredeyse görünmez olan bu sömürücü kapitalizm biçiminin nasıl doğup geliştiğini ender bir açıklıkla açıklıyor.
kahramanları gözetim kapitalizmi üç tane var: kendi çıkarları ve hissedarların çıkarları için genel sonuçlarını düşünmeden uygulayanlar, kişisel verilerini birkaç şekerleme için bağışlamakla yetinen halk ve son olarak da görmezden gelen yasa koyucular. popüler olmayan seçimler yapmaktan korkmak.
JACK DORSEY'E TEŞEKKÜR EDERİM
Bugünlerde Jack Dorsey, Twitter liderliğinden istifa etti. Onun sayesinde Twitter, gözetim kapitalizmini uygulayan yeni ekonominin dişi aslanlarının saflarına girmedi. Aslında pek çok kişi, özellikle Wall Street'tekiler, Twitter gibi bir paradoksun nasıl var olabileceğini merak ediyor.
Yani 250 milyon aktif kullanıcısı ile en yetkili sosyal medyalar arasında yer alan bu kadar ciro ve kâra sahip bir sosyal medya. Basit: çünkü Twitter genel çıkar açısından doğru olanı yaptı: gözetim kapitalizminin kazançlı uygulamalarının dışında kaldı.
İçeride kalırsanız sermayeniz bir trilyona ulaşabilir, dışarıda kalırsanız bu rakamın 1/20'sini zar zor geçebilir. Dolayısıyla gözetim kapitalizmi, ücretsiz bir web hizmetinin "doğal" değerini 20 kat artırıyor.
Peki bu tür bir kapitalizm nedir ve nasıl ortaya çıktı? 20 yıldır dijital ekonomi olgusunu inceleyen Zuboff bunu çok iyi açıklıyor. İşte onun yazısı
YENİ KAZANÇ ENDÜSTRİSİ
Facebook herhangi bir şirket değildir. Tüm dünyayı birbirine bağlamayı amaçlayan, insanların verilerinin gizlice çıkarılması ve manipüle edilmesi üzerine kurulu bir ekonomik sistem olan gözetim kapitalizmi dediğim şeyin mantığı sayesinde sadece on yıl içinde trilyon dolarlık statüye yükseldi. Facebook ve diğer büyük gözetim kapitalist kuruluşları artık dünya çapında bilgi akışlarını ve iletişim altyapısını kontrol ediyor.
Bu altyapılar demokratik bir toplum için gereklidir, ancak demokrasilerimiz bu şirketlerin hiçbir şekilde kamu hukuku tarafından yönetilmeden bilgi alanlarımıza sahip olmasına, bunları işletmesine ve aracılık etmesine izin vermiştir. Sonuç, bilginin üretilme, dolaşıma girme ve işlenme biçiminde gizli bir devrim oldu. İhbarcı Frances Haugen'in belgeleri ve kişisel tanıklığıyla doğrulanan, 2016'dan bugüne bir dizi ifşaat, bu devrimin sonuçlarına tanıklık ediyor.
Dünyanın liberal demokrasileri artık "alışılmadık" trajediyle, yani insanların kamu olarak varsaydığı ve bunun yerine maksimum kâr peşinde koşmayı amaçlayan özel ticari çıkarlara sıkı sıkıya bağlı olan bilgi alanlarının trajedisiyle karşı karşıya.
ÇIKIŞ YOK?
Kendi kendini düzenleyen bir pazar olarak İnternet başarısız bir deney olduğunu kanıtladı. Gözetim kapitalizmi bir toplumsal yıkım izi bırakıyor: mahremiyetin yok edilmesi, toplumsal eşitsizliğin yoğunlaşması, olgusal olmayan bilgilerle kamusal söylemin sıkılaşması, toplumsal normların yıkılması ve demokratik kurumların zayıflaması.
Bu sosyal zararlar tesadüfi değildir. Bu etkiler, ekonomik faaliyetlerin ilerleme aşamasıyla sıkı sıkıya bağlantılıdır. Her hasar bir sonrakinin yolunu açar ve ondan önce gelene bağlıdır.
Alışveriş yaparken, araba kullanırken veya parkta yürürken bizi gözetleyen otomatik sistemlerden kaçış yok. Ekonomik ve sosyal katılımın tüm yolları, neredeyse iki yıllık küresel bir salgın sırasında artan bir koşul olan, kârı maksimize eden gözetim kapitalizminin topraklarından geçiyor.
Facebook'un dijital şiddeti sonunda "alışılmadık" olanı geri alma taahhüdünü uyandıracak mı? Bir bilgi medeniyetinin uzun süredir göz ardı edilen temel sorularını ele alacak mıyız? Dijital yüzyılın bilgi ve iletişim alanlarını demokratik değer ve ilkeleri destekleyecek ve ilerletecek şekilde nasıl düzenlemeli ve yönetmeliyiz?
HER ŞEY GOOGLE İLE BAŞLADI
Bugün bildiğimiz şekliyle Facebook, Google'ın bir yan ürünü olarak modellenmiştir. Mark Zuckerberg'in girişimi gözetim kapitalizmini icat etmedi. Bunu yapan Google'dı. 2000 yılında, dünyadaki bilgilerin yalnızca %25'i dijital olarak depolandığında, Google harika bir arama ürünü olan, ancak çok az geliri olan küçük bir girişimdi.
2001 yılında, dot-com krizinin ortasında, Google liderleri reklamcılık endüstrisini dönüştürecek bir dizi buluşla ortaya çıktı. Ekipleri, bir reklamın en fazla tıklamayı nereden alabileceğini tahmin etmek için devasa veri ve kişisel bilgi akışlarını gelişmiş hesaplamalı analizle birleştirmeye başladı.
Tahminler başlangıçta, kullanıcıların Google sayfalarında gezinirken veya arama yaparken farkında olmadan şirketin sunucularında bıraktıkları izlerin analiz edilmesiyle hesaplanıyordu. Google bilim adamları, bu "veri stoğundan" tahmine dayalı meta verileri çıkarmayı ve bunu gelecekteki olası davranış kalıplarını analiz etmek için kullanmayı öğrendiler.
ÖNGÖRÜ MODELİ
Tahmin, ikinci zorunluluğu yönlendiren ilk zorunluluktu: veri madenciliği. Kârlı tahminler, neredeyse hayal edilemeyecek bir ölçekte veri akışları gerektiriyordu. Kullanıcılar, verilerinin internetin her köşesinden ve daha sonra uygulamalar, akıllı telefonlar, internete bağlı cihazlar, kameralar ve sensörler tarafından gizlice toplandığından çok az şüpheleniyordu. Kullanıcı cehaleti, projenin başarısının en önemli noktasıydı. Her yeni ürün, yasadışı madencilik operasyonlarını gizlemek için kullanılan bir örtmece olan, daha fazla "ilişki" elde etmenin bir yoluydu.
Douglas Edwards'ın (Google'ın ilk marka yöneticisi) kitabında ayrıntılı bir anlatımına göre, kurucu ortak Larry Page 2001'de "Google nedir?" Şanslı hissediyorum: “Depolama ucuz. Kameralar ucuz. İnsanlar büyük miktarda veri üretecek. Şimdiye kadar görülen veya deneyimlenen her şey aranabilir hale gelecek. Hayatın tamamı aranabilir olacak."
Google, arama hizmeti için kullanıcılardan ücret almak yerine, arama motorunu kişisel verileri yakalamak için gelişmiş bir gözetleme aracına dönüştürerek hayatta kaldı. Şirket yöneticileri, bu işlemleri kullanıcılardan, düzenleyicilerden ve rakiplerden gizli tutmak için çalıştı. Edwards, Page'in "gizlilik potasını karıştırabilecek ve veri toplama yeteneğimizi tehlikeye atabilecek" her şeye karşı olduğunu yazdı.
YENİ BİR EKONOMİK BİNANIN DOĞUŞU
Büyük ölçekli madencilik faaliyetleri, yeni ekonomik yapının temel taşıydı ve başta bilgi kalitesi olmak üzere diğer amaçların yerini aldı, çünkü gözetim kapitalizminin mantığında bilgi bütünlüğünün gelirlerle hiçbir bağlantısı yok.
Dezenformasyonun ortaya çıktığı ekonomik bağlam budur. 2017'de Google'ın ana şirketi Alphabet'in yönetim kurulu başkanı Eric Schmidt, Google'ın algoritmik sıralama işlemlerinin yanıltıcı bilgilerin yayılmasındaki rolünü kabul etti.
“Gerçekten geçemeyeceğimiz bir çizgi var” dedi. "Gerçeği anlamamız çok zor. Dünyadaki tüm bilgileri en gelişmiş algoritmalarla düzenlemek ve erişilebilir kılmak misyonuna sahip bir şirket, doğru bilgiyi yanlış bilgiden ayırt edemez”.
FACEBOOK, İLK TAKİPÇİ
Mark Zuckerberg, girişimcilik kariyerine 2003 yılında Harvard'da öğrenciyken başladı. Web sitesi Facemash, ziyaretçileri diğer öğrencilerin cinsel çekiciliğini değerlendirmeye davet etti. Site, akranlar arasında öfkeye neden oldu ve kapatıldı. Ardından 2004'te TheFacebook ve 2005'te Zuckerberg ilk profesyonel yatırımcıları satın aldığında Facebook geldi.
Facebook kullanıcılarının sayısı hızla arttı; geliri yok. Birkaç yıl önceki Google gibi, Zuckerberg de popülerliği gelire ve kara çeviremedi.
Bir gaftan diğerine gitti ve kullanıcı mahremiyetinin sürekli ihlal edilmesi, kamuoyunda güçlü tepkilere, dilekçelere ve toplu davalara yol açtı.
Zuckerberg, sorunlarının cevabının kişisel verileri izinsiz olarak almak ve reklamcılara satmak olduğunu anlamış görünüyordu, ancak bunun mantığının karmaşıklığı onu atlattı.
Bu yüzden cevaplar için Google'a döndü.
Mart 2008'de Zuckerberg, Google'ın küresel çevrimiçi reklamcılık başkanı Sheryl Sandberg'i ikinci komutanı olarak Facebook'a getirdi. Sandberg, Google'a 2001 yılında katıldı ve gözetim kapitalizminde devrim yaratmada önemli bir rol oynadı. Google'ın reklam motoru AdWords'ün ve şirketin 16,6'deki 2007 milyar dolarlık gelirinin çoğunu oluşturan AdSense programının oluşturulmasına öncülük etmişti.
İŞTE SHERYL SANDBERG GELİYOR
Halihazırda Google'da bir multimilyoner olan Sandberg, Zuckerberg'le görüştüğü anda, Facebook'un zengin tahmine dayalı verileri inceleme konusundaki muazzam fırsatlarını fark etti. “Herkesten daha iyi bilgiye sahibiz. Kitabın yazarı David Kirkpatrick'e göre Sandberg, "Cinsiyeti, yaşı, yeri biliyoruz ve diğer insanların çıkarsadığı şeylerin aksine gerçek veriler" dedi. Facebook Etkisi.
Şirket "daha iyi verilere" ve "gerçek verilere" sahipti çünkü Page'in "tüm hayatınız" dediği şeyin ön sıralarında yer alıyordu.
2009'un sonlarında yeni gizlilik politikalarıyla Facebook, gözetim ekonomisine öncülük etti. Electronic Frontier Foundation, yeni "Herkes" ayarının, kişisel verilerin görünürlüğünü sınırlamak için tüm seçenekleri kaldıracağını, bunun yerine bunları halka açık bilgi olarak ele alacağını belirtmişti.
TechCrunch, şirketin stratejisini çok iyi özetledi: "Facebook, kullanıcıları 'Herkes' güncellemesini tanıtmak ve gelecekteki olası veri kötüye kullanımından kurtulmak için yeni gizlilik seçenekleri seçmeye zorluyor. Şirketin kısmen aklanmasında, kullanıcıların bilgilerini herkesle paylaşmayı gönüllü olarak tercih ettikleri ileri sürülebilir.
Haftalar sonra Zuckerberg, TechCrunch röportajında bu hareketleri savundu. "Pek çok şirket gelenekler ve mirasları tarafından tuzağa düşürülürdü" diye böbürlendi. "Ama bunların burada ve şimdi yeni sosyal normlar olacağına karar verdik ve bu yola girdik."
Zuckerberg "kelimenin tam anlamıyla bu yola girdi" çünkü mahremiyetin tamamen yok edilmesinde Google'a katılmasını engelleyen hiçbir yasa yoktu. Milletvekilleri, sosyal ağını topluma karşı kullanmaya hazır, kârını maksimize eden acımasız bir kişi olarak onu cezalandırmak isteseydi, o zaman 2009-2010 iyi bir zaman olurdu.
BÜYÜK BİR EKONOMİK DÜZEN
Facebook, Google'ın ilk takipçisiydi ama sonuncusu değildi. Google, Facebook, Amazon, Microsoft ve Apple, her biri farklı iş modellerine sahip özel gözetim imparatorluklarıdır. Google ve Facebook tamamen gözetim-kapitalist şirketlerdir. Diğerleri, veri, hizmet, yazılım ve fiziksel ürünleri içeren çeşitli iş kollarına sahiptir. 2021 itibariyle, bu beş Amerikan teknoloji devi, piyasa değerine göre halka açık en büyük altı şirketten beşini temsil ediyor.
21. yüzyılın üçüncü on yılına girerken, gözetim kapitalizmi zamanımızın baskın ekonomik kurumu. Dengeleme yasalarının yokluğunda bu sistem, insanların dijital bilgiyle olan ilişkisinin neredeyse her yönüne başarılı bir şekilde aracılık eder. Gözetlemenin getirdiği temettü vaadi, gözetim ekonomisini "normal" ekonomiye, sigorta, perakende, bankacılık ve finans, tarım, otomobil üretimi, eğitim, sağlık, sağlık ve diğer birçok sektöre getirmeye geldi. Bugün, ne kadar zararsız görünürlerse görünsünler, tüm uygulamalar ve yazılımlar, veri toplamayı en üst düzeye çıkarmak için tasarlanmıştır.
Tarihsel olarak, büyük kurumsal güç yoğunlaşmaları ekonomik hasara neden olmuştur. Ancak kişisel veriler hammadde olduğunda ve insanların davranışlarına ilişkin tahminler ürün olduğunda, o zaman zararlar ekonomik olmaktan çok sosyaldir. Zorluk, bu yeni aksiliklerin genellikle ayrı, hatta ilgisiz sorunlar olarak görülmesi ve bunların düzeltilmesini zorlaştırmasıdır. Bunun yerine, her yeni hasar aşaması, bir sonraki hasar aşaması için koşulları yaratır.
ASİMETRİK ÇIKARMA
Her şey çıkarma ile başlar. Kişisel verilerin büyük çapta gizli olarak çıkarılmasına dayanan bir ekonomik düzen, ticari faaliyetlerinin temel bir koşulu olarak mahremiyetin yok edilmesini öngörür. Gizliliğin ortadan kalkmasıyla, yasa dışı olarak elde edilen kişisel veriler, istenildiği zaman kullanılacak kurumsal varlıklar olarak anlaşıldıkları özel şirketlerin varlıkları haline gelir.
Sosyal etki, bu şirketlerin bizim hakkımızda bildiklerimizle bizim onlar hakkında bildiklerimiz arasındaki devasa asimetride yansıyan yeni bir eşitsizlik biçimidir. Bu bilgi boşluğunun boyutu, her gün trilyonlarca davranışsal veriyi silip süpüren ve her saniye altı milyon davranışsal tahmin üreten AI merkezini açıklayan Facebook'tan sızdırılmış bir 2018 makalesinde ortaya çıkıyor.
Daha sonra, bu kişisel veriler, çıkarımı en üst düzeye çıkarmak için tasarlanmış ve katılımlarını artırmak için şüphelenmeyen kaynakları hedef alan hedefleme algoritmaları olarak kullanılır. Hedefleme mekanizmaları, bazen ciddi sonuçlarla gerçek hayatı değiştirir. Örneğin, Facebook'un dosyaları, milyarlarca insanın davranışını zorlamak veya engellemek için algoritmalarını kullanan bir Zuckerberg'i tasvir ediyor. Öfke ya ödüllendirilir ya da görmezden gelinir. Haberler daha güvenilir veya daha saçma hale gelir. Yayıncılar gelişir veya solar. Politik söylem daha radikal veya daha ılımlı hale gelir. İnsanlar yaşar veya ölür.
SON HASAR
Zaman zaman sis dağılır ve nihai zarar ortaya çıkar: Bilgi altyapıları üzerindeki kontrollerini kullanarak demokratik olarak seçilmiş milletvekilleriyle topluma hakim olmak için rekabet etmek isteyen teknoloji devlerinin artan gücü.
Örneğin, pandeminin başlarında Apple ve Google, işletim sistemlerini halk sağlığı yetkilileri tarafından geliştirilen ve seçilmiş yetkililer tarafından desteklenen temas izleme uygulamalarına uyarlamayı reddetti. Şubat ayında Facebook, Avustralya Parlamentosu ile içerik ve haber kullanımı için bir ödeme müzakere etme konusundaki isteksizliğinin bir işareti olarak Avustralya'daki birkaç sayfasını kapattı.
Bu nedenle, gözetim kapitalist devriminin zaferi söz konusu olduğunda, en büyük sorumluluğu taşıyanlar, özellikle Amerika Birleşik Devletleri'ndeki her liberal demokrasinin yasa koyucularıdır. Özel sermayenin, onu düzenleyecek yasalar çıkarmadan yirmi yıllık muhteşem büyüme boyunca bilgi alanlarımızı yönetmesine izin verdiler.
Elli yıl önce muhafazakar iktisatçı Milton Friedman, Amerikan liderlerini "her zaman oyunun kurallarına saygı göstermenin bariz varsayımıyla, yani aldatma olmaksızın açık ve serbest bir rekabete girme zorunluluğuyla, kârları artırmayı amaçlayan faaliyetlerde bulunmaya" teşvik etti. ve dolandırıcılık olmadan.
TALİ HASAR
Ekonomik eşitsizlik, iklim krizi, sosyal dışlanma, ırkçılık, acil sağlık sorunları ve zayıflamış kurumlarla boğuşan demokratik toplumların iyileşmek için uzun bir yolu var. Bilgi bütünlüğünün ve güvenilir iletişimin kutsallığını geri kazanmazsak, tüm sorunlarımızı bir kerede çözemeyiz, ancak hiçbirini de asla çözemeyeceğiz. Bilgi ve iletişim alanlarımızın gözetim kapitalizmi lehine feragat edilmesi, diğer tüm krizlerin çözümünün önünde durduğu için her demokrasinin meta-krizine dönüştü.
Bu yeni ekonomik düzende ne Google, ne Facebook ne de başka herhangi bir iş dünyası, toplumu yok etmek için yola çıkmadı, tıpkı fosil yakıt endüstrisinin dünyayı yok etmek için yola çıkmadığı gibi. Ancak, küresel ısınma gibi, teknoloji devleri ve yol arkadaşları, eylemlerinin insanlar ve toplum üzerindeki yıkıcı etkilerini tali hasar olarak gördüler - dünyanın en zengin ve güçlü şirketlerinden bazılarını yaratan tamamen yasal iş anlaşmalarının talihsiz ama kaçınılmaz yan ürünü. Kapitalizmin tarihinde.
DEMOKRASİNİN KARŞI DEVRİMİ
Bütün bunlar bizi nereye götürüyor? Demokrasi, otoriterliğe karşı çıkan ve tarihin akışını değiştirebilecek meşru güç olan tek kurumsal düzendir. Özyönetim ideali dijital yüzyılda hayatta kalmaksa, o zaman tüm çözümler tek bir yola işaret ediyor: demokratik bir karşı devrim. Olağan çare listeleri yerine, kanun koyucular hasmı net bir şekilde anlayarak ilerlemelidir: Tek bir dizi ekonomik neden ve sosyal zararla karşı karşıyadırlar.
Altta yatan ekonomik nedenleri ortadan kaldırmadıkça, sonraki sosyal zararlardan kurtulamayız. Bu, içerik moderasyonu ve yasa dışı içerik kontrolü gibi aşağı akış sorunlarına yönelik mevcut odağın ötesine geçmemiz gerektiği anlamına gelir.
Bu “çareler”, toplumun bilgi alanları üzerinde özel denetimi besleyen kişisel veri madenciliğinin meşruiyetini sorgulamadan yalnızca semptomları tedavi eder. Benzer şekilde, teknoloji devlerini "parçalamak" gibi yapısal çözümler bazı durumlarda değerli olabilir, ancak gözetim kapitalizminin altında yatan ekonomik işlemlere dokunmayacaklardır.
Bunun yerine, büyük teknolojilerin düzenlenmesi hakkındaki tartışma gözetim ekonomisinin temeline odaklanmalıdır: kişisel verilerin hayatın bir zamanlar "özel" olarak adlandırılan alanlarından gizlice çıkarılması. Veri madenciliğini düzenlemeye odaklanan çözümler, içerikten bağımsızdır ve onu değiştirmez. İfade özgürlüğünü tehdit etmezler. Bunun yerine, bilginin bütünlüğünden çok bozulmasını destekleyen, karı maksimize eden iş operasyonlarının "yapay seçiliminden" kaynaklanan sosyal söylemi ve bilgi akışını serbest bırakırlar. Sosyal iletişimin ve bireysel ifadenin kutsallığını geri kazandırırlar.
YASA KORUYUCULARININ GİRİŞİMİ
Hiçbir gizli madencilik, yasadışı bilgi toplama ve insanlar üzerinde yoğunlaşma olmaması anlamına gelir. Bilgi konsantrasyonu yok, hedefleme algoritması yok demektir. Hedefleme olmaması, şirketlerin artık bilgi akışlarını ve sosyal söylemi kontrol edip düzenleyemeyeceği veya çıkarlarını ilerletmek için kişisel davranışları şekillendiremeyeceği anlamına gelir. Madenciliği düzenlemek, gözetim temettüsünü ve bununla birlikte gözetimdeki mali çıkarı ortadan kaldıracaktır.
Liberal demokrasiler, günümüzün özel sektöre ait bilgi alanlarını düzenlemenin zorluklarıyla uğraşmaya başladıkça, gerçek şu ki, aşağıdakiler gibi çok temel konuların yüzyılda bir kez keşfedilmesine hazır kanun koyuculara ihtiyacımız var: nasıl yapılandırmalı ve yönetmeliyiz? bilgi, bağlantı ve iletişim demokratik bir dijital yüzyılda? Verilerin toplanması ve kullanılmasının bireylerin ve toplumun gerçek ihtiyaçlarına hizmet etmesini sağlamak için hangi yeni haklar beyannamesine, yasal çerçevelere ve kurumlara ihtiyaç var? İster özel şirketler ister hükümetler tarafından uygulansın, vatandaşları bilgi üzerindeki sorumsuz güçten hangi önlemler koruyacak?
Liberal demokrasiler liderliği ele almalı çünkü bunu yapacak güce ve meşruluğa sahipler. Ancak müttefiklerinin ve işbirlikçilerinin distopik bir geleceğe karşı savaşan insanlar olduğunu bilmeliler.
Facebook adını veya liderlerini değiştirebilir, ancak ekonomisini gönüllü olarak değiştirmez.
"Facebook'u düzenleme" çağrısı, milletvekillerini daha derin bir şeyle boğuşmaktan caydıracak mı? Yoksa daha büyük bir aciliyet duygusu uyandıracak mı? Sonunda eski cevapları reddedebilecek ve şu sorudan başlayarak yeni soruları sormak için kendimizi özgürleştirebilecek miyiz: Demokrasinin gözetim kapitalizminden sağ kurtulmasını sağlamak için ne yapılması gerekiyor?
Gönderen: Shoshana Zuboff, Gizli Bir Çıkarma Operasyonunun Hedefisiniz, New York Times, 12 Kasım 2021
