Shoshana Zuboff, profesor emeritus di Harvard Business School dan penulis Kapitalisme pengawasan (Luiss University Press) adalah selebritas yang melampaui akademisi dan elit intelektual. Kapitalisme pengawasan sekarang sedang dibicarakan di acara bincang-bincang prime-time.
Dalam esai singkat ini, yang kami terbitkan dalam terjemahan Italia, Zukoff menjelaskan dengan sangat jelas bagaimana bentuk kapitalisme ekstraktif ini lahir dan berkembang, hampir tidak terlihat oleh massa yang senang mendapatkan keuntungan dari jasanya.
Protagonis dari kapitalisme pengawasan ada tiga: mereka yang mempraktikkannya tanpa khawatir tentang konsekuensi umum untuk keuntungan mereka sendiri dan pemegang saham, publik yang puas menyumbangkan data pribadi mereka untuk beberapa permen dan terakhir legislator yang mencari jalan keluar. takut membuat pilihan yang tidak populer.
TERIMA KASIH JACK DORSEY
Hari-hari ini Jack Dorsey telah mengundurkan diri dari kepemimpinan Twitter. Berkat dia, Twitter tidak masuk dalam jajaran singa betina ekonomi baru yang mempraktikkan pengawasan kapitalisme. Nyatanya, banyak orang, terutama di Wall Street, bertanya-tanya bagaimana paradoks seperti Twitter bisa ada.
Artinya, media sosial yang termasuk yang paling otoritatif dengan 250 juta pengguna aktifnya, memiliki pendapatan dan keuntungan yang sangat kecil. Sederhana: karena Twitter melakukan hal yang benar dari sudut pandang kepentingan umum: Twitter tidak mengikuti praktik kapitalisme pengawasan yang menguntungkan.
Jika Anda tetap di dalam kapitalisasi Anda bisa mencapai satu triliun, jika Anda tetap di luarnya hampir tidak bisa melebihi 1/20 dari angka itu. Jadi kapitalisme pengawasan melipatgandakan nilai "alami" dari layanan web gratis sebanyak 20 kali lipat.
Tapi apa jenis kapitalisme ini dan bagaimana hal itu terjadi? Zuboff menjelaskannya dengan baik, yang telah mempelajari fenomena ekonomi digital selama 20 tahun. Ini esainya
INDUSTRI EKSTRAKTIF BARU
Facebook bukan sembarang perusahaan. Ini telah meningkat menjadi status triliunan dolar hanya dalam satu dekade berkat logika dari apa yang saya sebut kapitalisme pengawasan – sebuah sistem ekonomi yang dibangun di atas ekstraksi rahasia dan manipulasi data orang – yang bercita-cita untuk menghubungkan seluruh dunia. Facebook dan entitas kapitalis pengawasan utama lainnya sekarang mengendalikan arus informasi dan infrastruktur komunikasi di seluruh dunia.
Infrastruktur ini sangat penting untuk masyarakat demokratis, namun demokrasi kita telah mengizinkan perusahaan-perusahaan ini untuk memiliki, mengoperasikan, dan memediasi ruang informasi kita tanpa diatur dengan cara apa pun oleh hukum publik. Hasilnya adalah revolusi tersembunyi dalam cara informasi diproduksi, diedarkan, dan diproses. Serangkaian pengungkapan dari 2016 hingga hari ini, dikonfirmasi oleh dokumentasi dan kesaksian pribadi dari pelapor Frances Haugen, menjadi saksi atas konsekuensi dari revolusi ini.
Demokrasi liberal dunia kini menghadapi tragedi yang “tidak biasa”, yaitu ruang informasi yang dianggap publik sebagai ruang publik yang justru terikat erat dengan kepentingan komersial swasta yang bertujuan mengejar keuntungan sebesar-besarnya.
TIDAK ADA JALAN KELUAR?
Internet sebagai pasar yang mengatur dirinya sendiri telah terbukti sebagai eksperimen yang gagal. Kapitalisme pengawasan meninggalkan jejak kehancuran sosial: penghancuran privasi, intensifikasi ketidaksetaraan sosial, pengetatan wacana publik dengan informasi yang tidak faktual, penghancuran norma sosial dan melemahnya institusi demokrasi.
Kerusakan sosial ini tidak disengaja. Efek ini terkait erat dengan tahap kemajuan operasi ekonomi. Setiap kerusakan membuka jalan untuk kerusakan berikutnya dan bergantung pada apa yang mendahuluinya.
Tidak ada jalan keluar dari sistem otomatis yang mengawasi kita, apakah kita sedang berbelanja, mengemudi, atau berjalan di taman. Semua jalan partisipasi ekonomi dan sosial sekarang melewati wilayah kapitalisme pengawasan yang memaksimalkan keuntungan, suatu kondisi yang meningkat selama hampir dua tahun pandemi global.
Akankah kekerasan digital Facebook akhirnya membangkitkan komitmen untuk mengambil kembali yang "tidak biasa"? Akankah kita menjawab pertanyaan mendasar yang telah lama diabaikan dari peradaban informasi? Bagaimana seharusnya kita mengatur dan mengatur ruang informasi dan komunikasi abad digital dengan cara yang mendukung dan memajukan nilai dan prinsip demokrasi?
SEMUANYA DIMULAI DENGAN GOOGLE
Facebook seperti yang kita kenal sekarang dimodelkan pada cabang Google. Startup Mark Zuckerberg tidak menciptakan kapitalisme pengawasan. Itu adalah Google yang melakukannya. Pada tahun 2000, ketika hanya 25% informasi dunia yang disimpan secara digital, Google adalah perusahaan rintisan kecil dengan produk pencarian yang bagus, tetapi pendapatannya kecil.
Pada tahun 2001, di tengah krisis dot-com, para pemimpin Google menghasilkan serangkaian penemuan yang akan mengubah industri periklanan. Tim mereka mulai menggabungkan aliran data dan informasi pribadi yang sangat besar dengan analisis komputasi tingkat lanjut untuk memprediksi di mana sebuah iklan mungkin mendapatkan klik-tayang paling banyak.
Prakiraan awalnya dihitung dengan menganalisis jejak yang tanpa sadar ditinggalkan pengguna di server perusahaan saat mereka menjelajahi atau menelusuri halaman Google. Ilmuwan Google telah belajar mengekstrak metadata prediktif dari "stok data" ini dan menggunakannya untuk menganalisis kemungkinan pola perilaku di masa mendatang.
MODEL PREDIKTIF
Prediksi adalah keharusan pertama yang mendorong keharusan kedua: penambangan data. Prakiraan yang menguntungkan membutuhkan aliran data pada skala yang hampir tak terbayangkan. Sedikit yang diduga pengguna bahwa data mereka diambil secara diam-diam dari setiap sudut dan celah internet dan, kemudian, oleh aplikasi, smartphone, perangkat yang terhubung ke internet, kamera, dan sensor. Ketidaktahuan pengguna adalah inti dari kesuksesan proyek. Setiap produk baru merupakan sarana untuk mencapai "keterlibatan" yang lebih besar, sebuah eufemisme yang digunakan untuk menyamarkan operasi penambangan ilegal.
Ketika ditanya "Apa itu Google?" salah satu pendiri Larry Page menjawab pada tahun 2001, menurut penjelasan terperinci oleh Douglas Edwards (manajer merek pertama Google) dalam bukunya Saya merasa beruntung: “Penyimpanan itu murah. Kamera itu murah. Orang akan menghasilkan data dalam jumlah besar. Segala sesuatu yang pernah dilihat atau dialami akan dapat dicari. Semua kehidupan akan dapat dicari."
Alih-alih menagih pengguna untuk layanan pencarian, Google bertahan dengan mengubah mesin pencarinya menjadi alat pengawasan canggih untuk menangkap data pribadi. Eksekutif perusahaan telah bekerja untuk merahasiakan operasi ini, tersembunyi dari pengguna, regulator, dan pesaing. Page menentang apa pun yang dapat "mengobarkan privasi dan membahayakan kemampuan kami untuk mengumpulkan data," tulis Edwards.
LAHIRNYA BANGUNAN EKONOMI BARU
Operasi penambangan skala besar adalah batu kunci bangunan ekonomi baru dan menggantikan tujuan lain, dimulai dengan kualitas informasi, karena dalam logika pengawasan kapitalisme, integritas informasi tidak ada hubungannya dengan pendapatan.
Ini adalah konteks ekonomi di mana disinformasi telah muncul. Pada 2017, Eric Schmidt, ketua eksekutif perusahaan induk Google, Alphabet, mengakui peran operasi pemeringkatan algoritmik Google dalam menyebarkan informasi yang menyesatkan.
"Ada garis yang benar-benar tidak bisa kita lewati," katanya. “Sangat sulit bagi kami untuk memahami kebenaran. Sebuah perusahaan dengan misi untuk mengatur dan membuat semua informasi dunia dapat diakses dengan menggunakan algoritma yang paling canggih tidak dapat membedakan informasi yang benar dari informasi yang salah”.
FACEBOOK, PENGIKUT PERTAMA
Mark Zuckerberg memulai karir kewirausahaannya pada tahun 2003 saat menjadi mahasiswa di Harvard. Situs webnya, Facemash, mengundang pengunjung untuk menilai daya tarik seks sesama siswa. Situs tersebut menyebabkan kemarahan di antara rekan-rekan dan ditutup. Kemudian datanglah TheFacebook pada tahun 2004 dan Facebook pada tahun 2005, ketika Zuckerberg mengakuisisi investor profesional pertama.
Jumlah pengguna Facebook berkembang pesat; pendapatannya tidak. Seperti Google beberapa tahun sebelumnya, Zuckerberg tidak dapat mengubah popularitas menjadi pendapatan dan keuntungan.
Itu berubah dari satu kejanggalan ke kejanggalan lainnya dan pelanggaran terus-menerus terhadap privasi pengguna memicu reaksi publik yang kuat, petisi, dan tuntutan hukum class action.
Zuckerberg tampaknya memahami bahwa jawaban atas masalahnya adalah mengekstraksi data pribadi tanpa persetujuan dan menjualnya kepada pengiklan, tetapi kerumitan logika ini menghindarinya.
Jadi dia beralih ke Google untuk mendapatkan jawaban.
Pada bulan Maret 2008, Zuckerberg membawa kepala periklanan online global Google, Sheryl Sandberg, ke Facebook sebagai wakilnya. Sandberg bergabung dengan Google pada tahun 2001 dan memainkan peran kunci dalam merevolusi kapitalisme pengawasan. Dia memelopori pembangunan mesin periklanan Google, AdWords, dan program AdSense-nya, yang bersama-sama menyumbang sebagian besar pendapatan perusahaan sebesar $16,6 miliar pada tahun 2007.
DI SINI DATANG SHERYL SANDBERG
Sudah menjadi multijutawan di Google, saat dia didekati oleh Zuckerberg, Sandberg menyadari peluang besar Facebook untuk menambang data prediktif yang kaya. “Kami memiliki informasi yang lebih baik daripada orang lain. Kami tahu jenis kelamin, usia, lokasi, dan itu data nyata yang bertentangan dengan hal-hal yang disimpulkan orang lain," kata Sandberg, menurut David Kirkpatrick, penulis buku tersebut. Efek Facebook.
Perusahaan itu memiliki "data yang lebih baik" dan "data nyata" karena memiliki posisi paling depan dari apa yang Page sebut sebagai "seluruh hidup Anda".
Dengan kebijakan privasi baru pada akhir 2009, Facebook memelopori ekonomi pengawasan. Electronic Frontier Foundation telah mencatat bahwa pengaturan "Semua Orang" yang baru akan menghapus semua opsi untuk membatasi visibilitas data pribadi, alih-alih memperlakukannya sebagai informasi yang tersedia untuk umum.
TechCrunch menyimpulkan strategi perusahaan dengan baik: “Facebook memaksa pengguna untuk memilih opsi privasi baru untuk mempromosikan pembaruan 'Semua Orang' dan untuk melepaskan diri dari potensi penyalahgunaan data di masa mendatang. Dalam pembebasan sebagian perusahaan, dapat dikatakan bahwa pengguna secara sukarela membuat pilihan untuk membagikan informasi mereka dengan semua orang.
Beberapa minggu kemudian, Zuckerberg membela langkah ini dalam wawancara TechCrunch. “Banyak perusahaan akan terjebak oleh kebiasaan dan warisan mereka,” sesumbarnya. "Tapi kami memutuskan bahwa ini akan menjadi norma sosial baru di sini dan sekarang, dan kami menempuh jalan ini."
Zuckerberg "benar-benar menempuh jalan ini" karena tidak ada undang-undang yang mencegahnya bergabung dengan Google dalam penghancuran total privasi. Jika anggota parlemen ingin memberikan sanksi kepadanya sebagai pemaksimal keuntungan yang kejam yang siap menggunakan jejaring sosialnya untuk melawan masyarakat, maka 2009-2010 akan menjadi saat yang tepat.
TATA EKONOMI YANG LUAR BIASA
Facebook adalah pengikut pertama Google, tetapi bukan yang terakhir. Google, Facebook, Amazon, Microsoft, dan Apple adalah kerajaan pengawasan pribadi, masing-masing dengan model bisnis yang berbeda. Google dan Facebook adalah perusahaan kapitalis pengawasan murni. Yang lain memiliki berbagai lini bisnis yang meliputi data, layanan, perangkat lunak, dan produk fisik. Pada tahun 2021, lima raksasa teknologi Amerika ini mewakili lima dari enam perusahaan publik terbesar berdasarkan kapitalisasi pasar.
Saat kita memasuki dekade ketiga abad ke-21, kapitalisme pengawasan adalah institusi ekonomi yang dominan di zaman kita. Dengan tidak adanya hukum keseimbangan, sistem ini berhasil memediasi hampir setiap aspek hubungan masyarakat dengan informasi digital. Janji dividen yang dibawa oleh pengawasan telah datang untuk membawa ekonomi pengawasan ke dalam ekonomi "normal", ke dalam asuransi, ritel, perbankan dan keuangan, pertanian, manufaktur mobil, pendidikan, perawatan kesehatan, dan banyak sektor lainnya. Saat ini semua aplikasi dan perangkat lunak, tidak peduli seberapa baik tampilannya, dirancang untuk memaksimalkan pengumpulan data.
Secara historis, konsentrasi besar kekuatan korporasi telah menyebabkan kerusakan ekonomi. Namun ketika data pribadi menjadi bahan mentah dan prediksi perilaku orang adalah produknya, maka kerugiannya lebih bersifat sosial daripada ekonomi. Kesulitannya adalah kecelakaan baru ini biasanya dilihat sebagai masalah yang terpisah, bahkan tidak terkait, sehingga sulit untuk diperbaiki. Sebaliknya, setiap tahap kerusakan baru menciptakan kondisi untuk tahap kerusakan berikutnya.
EKSTRAKSI asimetris
Semuanya dimulai dengan ekstraksi. Tatanan ekonomi yang didasarkan pada ekstraksi rahasia data pribadi berskala besar mengandaikan penghancuran privasi sebagai syarat penting dari operasi komersialnya. Dengan tidak adanya privasi, data pribadi yang diperoleh secara ilegal menjadi aset perusahaan swasta, di mana mereka dipahami sebagai aset perusahaan untuk digunakan sesuka hati.
Efek sosial adalah bentuk baru ketidaksetaraan yang tercermin dalam asimetri kolosal antara apa yang diketahui perusahaan-perusahaan ini tentang kita dan apa yang kita ketahui tentang mereka. Ukuran kesenjangan pengetahuan ini muncul dalam makalah 2018 yang bocor dari Facebook, yang menggambarkan hub AI-nya, yang melahap triliunan data perilaku setiap hari dan menghasilkan enam juta prediksi perilaku setiap detik.
Selanjutnya, data pribadi ini digunakan sebagai algoritme penargetan, yang dirancang untuk memaksimalkan ekstraksi dan ditargetkan pada sumber yang tidak menaruh curiga untuk meningkatkan keterlibatan mereka. Mekanisme penargetan mengubah kehidupan nyata, terkadang dengan konsekuensi serius. Misalnya, file Facebook menggambarkan Zuckerberg menggunakan algoritmenya untuk menegakkan atau memblokir perilaku miliaran orang. Kemarahan dihargai atau diabaikan. Berita menjadi lebih dipercaya atau lebih bertele-tele. Penerbit berkembang atau layu. Wacana politik menjadi lebih radikal atau lebih moderat. Orang hidup atau mati.
KERUSAKAN TERAKHIR
Kadang-kadang kabut menghilang untuk mengungkap kerusakan utama: kekuatan raksasa teknologi yang tumbuh yang ingin menggunakan kontrol mereka atas infrastruktur informasi untuk bersaing dengan pembuat undang-undang yang dipilih secara demokratis untuk mendapatkan dominasi masyarakat.
Di awal pandemi, misalnya, Apple dan Google menolak mengadaptasi sistem operasi mereka untuk mengakomodasi aplikasi pelacakan kontak yang dikembangkan oleh otoritas kesehatan masyarakat dan didukung oleh pejabat terpilih. Pada bulan Februari, Facebook menutup beberapa halamannya di Australia sebagai tanda keengganannya untuk menegosiasikan pembayaran penggunaan konten dan berita dengan Parlemen Australia.
Itulah sebabnya, ketika sampai pada kemenangan revolusi kapitalis pengawasan, para pembuat undang-undang dari setiap demokrasi liberal, terutama di Amerika Serikat, yang memikul tanggung jawab terbesar. Mereka telah membiarkan modal swasta menguasai ruang informasi kita selama dua dekade pertumbuhan yang spektakuler, tanpa memberlakukan undang-undang untuk mengaturnya.
Lima puluh tahun yang lalu, ekonom konservatif Milton Friedman menasihati para pemimpin Amerika untuk "terlibat dalam kegiatan yang ditujukan untuk meningkatkan keuntungan selalu dengan asumsi yang jelas untuk menghormati aturan permainan, yaitu kewajiban untuk terlibat dalam persaingan yang terbuka dan bebas, tanpa penipuan. dan tanpa penipuan.
KERUSAKAN TAMBAHAN
Masyarakat demokratis yang dilanda ketimpangan ekonomi, krisis iklim, pengucilan sosial, rasisme, darurat kesehatan, dan institusi yang melemah memiliki jalan panjang menuju pemulihan. Kami tidak dapat menyelesaikan semua masalah kami sekaligus, tetapi kami tidak akan pernah menyelesaikan salah satu dari mereka, jika kami tidak mengklaim kembali kesucian integritas informasi dan komunikasi yang andal. Pengalihan ruang informasi dan komunikasi kita demi pengawasan kapitalisme telah menjadi meta-krisis setiap demokrasi, karena ia menghalangi solusi untuk semua krisis lainnya.
Baik Google, maupun Facebook, maupun pelaku bisnis lainnya dalam tatanan ekonomi baru ini tidak berencana untuk menghancurkan masyarakat, seperti halnya industri bahan bakar fosil yang berencana untuk menghancurkan bumi. Namun seperti pemanasan global, raksasa teknologi dan rekan seperjalanan mereka telah memperlakukan efek destruktif dari tindakan mereka terhadap orang dan masyarakat sebagai kerusakan jaminan – produk sampingan yang tidak menguntungkan namun tak terelakkan dari kesepakatan bisnis legal sempurna yang telah menghasilkan beberapa perusahaan terkaya dan kuat di dunia. dalam sejarah kapitalisme.
KONTRA-REVOLUSI DEMOKRASI
Kemana semua ini membawa kita? Demokrasi adalah satu-satunya tatanan institusional yang menentang otoritarianisme dan merupakan kekuatan yang sah untuk mengubah jalannya sejarah. Jika cita-cita pemerintahan sendiri adalah untuk bertahan di abad digital, maka semua solusi mengarah ke satu jalan: kontra-revolusi demokratik. Alih-alih daftar pemulihan yang biasa, pembuat undang-undang harus melanjutkan dengan pemahaman yang jelas tentang musuh: bahwa mereka dihadapkan pada satu rangkaian penyebab ekonomi dan kerugian sosial.
Kita tidak dapat menghilangkan kerugian sosial berikutnya kecuali kita melarang penyebab ekonomi yang mendasarinya. Ini berarti bahwa kami perlu bergerak melampaui fokus saat ini pada masalah hilir seperti moderasi konten dan kontrol konten ilegal.
“Operasi” ini hanya mengobati gejala tanpa mempertanyakan ketidakabsahan penambangan data pribadi yang mendorong kontrol swasta atas ruang informasi masyarakat. Demikian pula, solusi struktural seperti "memecah" raksasa teknologi mungkin berharga dalam beberapa kasus, tetapi mereka tidak akan menyentuh operasi ekonomi yang mendasari kapitalisme pengawasan.
Sebaliknya, diskusi tentang regulasi teknologi besar harus fokus pada landasan ekonomi pengawasan: ekstraksi rahasia data pribadi dari area kehidupan yang dulu disebut "pribadi". Perbaikan yang berfokus pada pengaturan penambangan data bersifat netral konten dan tidak mengubahnya. Mereka tidak mengancam kebebasan berekspresi. Sebaliknya, mereka membebaskan wacana sosial dan arus informasi dari "seleksi artifisial" dari operasi bisnis yang memaksimalkan keuntungan yang mendukung korupsi informasi daripada integritasnya. Mereka mengembalikan kesucian komunikasi sosial dan ekspresi individu.
INISIATIF LEGISLATOR
Tidak ada penambangan rahasia berarti tidak ada pengumpulan dan pemusatan pengetahuan yang tidak sah pada orang-orang. Tidak ada konsentrasi pengetahuan berarti tidak ada algoritma penargetan. Tidak ada penargetan berarti bahwa perusahaan tidak dapat lagi mengontrol dan mengatur arus informasi dan wacana sosial atau membentuk perilaku pribadi untuk memajukan kepentingan mereka. Mengatur penambangan akan menghilangkan dividen pengawasan dan dengan itu kepentingan keuangan dalam pengawasan.
Ketika demokrasi liberal mulai terlibat dengan tantangan untuk mengatur ruang informasi yang dimiliki secara pribadi saat ini, kebenarannya adalah bahwa kita membutuhkan pembuat undang-undang yang siap untuk terlibat dalam eksplorasi sekali dalam satu abad terhadap isu-isu yang sangat mendasar seperti berikut: bagaimana seharusnya kita menyusun dan mengatur informasi, koneksi, dan komunikasi di abad digital yang demokratis? Undang-undang hak, kerangka kerja legislatif, dan lembaga baru apa yang diperlukan untuk memastikan bahwa pengumpulan dan penggunaan data melayani kebutuhan nyata individu dan masyarakat? Tindakan apa yang akan melindungi warga negara dari kekuasaan yang tidak bertanggung jawab atas informasi, baik yang dilakukan oleh perusahaan swasta atau pemerintah?
Demokrasi liberal harus memimpin karena mereka memiliki kekuatan dan legitimasi untuk melakukannya. Tetapi mereka harus tahu bahwa sekutu dan kolaborator mereka adalah orang-orang yang berjuang melawan masa depan distopia.
Facebook dapat mengubah nama atau pemimpinnya, tetapi tidak akan secara sukarela mengubah ekonominya.
Akankah panggilan untuk "mengatur Facebook" menghalangi anggota parlemen untuk bergulat dengan sesuatu yang lebih dalam? Atau akankah itu menimbulkan rasa urgensi yang lebih besar? Akankah kita akhirnya dapat menolak jawaban lama dan membebaskan diri kita untuk mengajukan pertanyaan baru, dimulai dengan pertanyaan ini: Apa yang perlu dilakukan untuk memastikan bahwa demokrasi bertahan dari pengawasan kapitalisme?
Dari: Shoshana Zuboff, Anda Adalah Objek Operasi Ekstraksi Rahasia, The New York Times, 12 November 2021
