Bukan kiamat maupun utopia tentang masa depan kecerdasan buatan dan kemajuan teknologi: inilah pendekatan yang diambil. Kekuatan digital, buku menarik karya profesor itu Luisa Torchia, seorang mahasiswa Sabino Cassese dan profesor penuh Hukum Administrasi di Universitas Roma Tre, baru-baru ini menerbitkan esai di il Mulino. Esai tersebut secara sistematis namun mudah dibaca membahas semua isu yang sangat aktual seputar AI dan peluang serta risiko kemajuan teknologi. Tetapi apa sebenarnya Kekuatan Digital itu? "Itu adalah kekuatan swasta, terkonsentrasi di tangan beberapa perusahaan Amerika dan Tiongkok yang telah mencapai ukuran sedemikian rupa sehingga mereka dapat mendominasi pasar dan bersaing dengan negara" dan bahkan lebih jauh lagi. Kekuatan yang sangat besar yang membutuhkan regulasi yang efektif, justru hal yang tidak diinginkan oleh Amerika di bawah pemerintahan Trump. Tetapi tantangannya belum berakhir. Berikut adalah argumen Torchia dalam wawancara dengan PERTAMA daring.
Profesor Torchia, khususnya bab terakhir buku Anda "Digital Power" dibuka dengan topik yang sangat penting dan menarik perhatian saat ini, dan berjudul Masa depan digital antara kiamat, utopia, dan realisme.Sepertinya Anda lebih condong ke opsi ketiga, tetapi bagaimana sebenarnya Anda melihat masa depan kekuatan digital?
Masa depan itu belum tertulis dan sangat bergantung pada beberapa faktor. Pertama dan terutama, masa depan itu bergantung pada kemauan masyarakat, negara, organisasi internasional, komunitas ilmiah, dan individu untuk tidak, bisa dikatakan, "dilucuti" oleh prospek apokaliptik, yang, seperti dalam semua apokaliptik, menimbulkan kecemasan besar dan menghambat semua tindakan, karena prediksi apokaliptik tidak hanya mengasumsikan bahwa dunia akan segera berakhir, tetapi juga bahwa akhir ini tidak dapat dihindari. Dan, seperti yang diamati dengan cerdas oleh Christian Friedrich Hebbel hampir dua abad yang lalu, "Ada orang yang bahkan akan merasa terhibur dengan akhir dunia, asalkan mereka telah memprediksinya.“Oleh karena itu, perspektif apokaliptik juga, secara paradoks, bersifat menghibur, karena membenarkan ketidakmampuan atau keengganan untuk bertindak dan bereaksi.”
Jadi, apa yang dibutuhkan?
Pada saat yang sama, kita tidak boleh tertipu oleh janji-janji manfaat masa depan yang besar dan luar biasa bagi semua orang. Visi utopis tentang perkembangan teknologi dibantah oleh banyak janji yang tidak terpenuhi. Tidak ada obat atau perawatan baru yang menyelamatkan nyawa untuk kanker dan penyakit degeneratif yang telah ditemukan, tidak ada solusi yang ditemukan untuk perubahan iklim, tidak ada sumber energi murah yang telah diidentifikasi, tidak ada seni baru, atau sastra baru, atau musik baru dengan kualitas yang sebanding dengan produksi manusia yang telah "dihasilkan." Dan orang mungkin bertanya-tanya apakah pernyataan perusahaan teknologi besar tentang "kekayaan yang luar biasa dan progresif" dari perkembangan teknologi—yang selalu ditetapkan beberapa tahun atau bahkan beberapa dekade dari sekarang—bukanlah sekadar pesan iklan yang bertujuan untuk menarik modal yang dibutuhkan untuk investasi besar yang pengembaliannya juga ditunda ke masa depan yang tidak pasti.
Bagaimana menurutmu?
Saya percaya bahwa pendekatan realistis tidak hanya mungkin, tetapi juga perlu. Pendekatan ini tidak menyangkal keuntungan dan manfaat besar dari kemajuan teknologi, tetapi berfokus terlebih dahulu pada keuntungan nyata, bukan janji-janji. Kemudian, pendekatan ini mempertimbangkan baik risiko yang dibawa oleh teknologi baru, maupun distribusi keuntungan dan risiko yang sama sekali tidak merata. Ada kelompok dan perusahaan yang sebagian besar memanfaatkan keuntungan tersebut dan mengalihkan semua risiko dan kerugian kepada kelompok dan komunitas lain. Persepsi tentang fenomena ini tersebar luas saat ini dan menjelaskan meningkatnya ketidakpercayaan terhadap perusahaan teknologi besar, penentangan terhadap pembangunan pusat data, yang sekarang sangat kuat bahkan di Amerika Serikat, dan maraknya tuntutan hukum terhadap platform atas pelanggaran hukum persaingan, hak kekayaan intelektual, privasi, dan atas kerusakan kesehatan mental kaum muda.
Jalan yang sulit untuk ditempuh?
Jelas ini adalah jalan yang sulit untuk ditempuh, tetapi perusahaan-perusahaan teknologi besar sendiri mulai merasakan tekanan dari opini publik yang semakin bermusuhan dan jelas melihat risiko tanggung jawab yang terus meningkat—dan mahal—yang dapat dikaitkan dengan mereka. Secara paradoks, tetapi tidak sepenuhnya paradoks, mereka melihat solusi dalam intervensi publik, baik regulasi maupun keuangan, yang semakin banyak dianjurkan oleh mereka yang selama ini dengan keras menentang upaya regulasi eksternal, dengan tegas menyatakan bahwa pengaturan diri sendiri sudah cukup. Aturan yang diberlakukan negara juga dapat disalahgunakan untuk mengurangi persaingan di antara pemain besar dan merugikan pemain yang lebih kecil, sekaligus meningkatkan hambatan masuk bagi pendatang baru. Oleh karena itu, aturan harus ditetapkan dengan sangat hati-hati dan akurat serta ditinjau untuk memastikan efektivitasnya dan memungkinkan koreksi yang cepat.
Apa saja ciri-ciri dominan dari kekuatan digital?
“Dengan merangkum hasil analisis yang dilakukan dalam buku saya, kekuatan digital dapat didefinisikan sebagai kekuatan yang bersifat pribadi, global, terstruktur platform, ekstraktif, normatif, konformatif dan konformis, persuasif dan mer pervasive.”
Ini, pertama dan terutama, adalah kekuatan swasta, yang terkonsentrasi di tangan beberapa perusahaan Amerika dan Tiongkok, yang telah mencapai ukuran sedemikian rupa sehingga memungkinkan mereka untuk mendominasi pasar dan bersaing dengan negara-negara."
Impresif.
Dengan demikian, ini adalah kekuatan dengan cakupan global, beroperasi tanpa batas teritorial dan menawarkan atau menjual produk dan layanan yang telah menjadi penting bagi kehidupan individu dan kolektif di seluruh dunia. Ini adalah kekuatan yang terstruktur menurut model platform, sebagai tempat pertemuan antara penawaran dan permintaan, untuk informasi, barang, dan jasa, yang telah menjadi sangat penting bagi pengguna komersial dan pengguna akhir sehingga mencegah atau setidaknya membuat sangat sulit untuk keluar dari platform dominan, sebagian karena kurangnya alternatif. Sistem yang berbasis pada LLM juga terintegrasi ke dalam platform yang ada (seperti Gemini untuk Google) atau mengikuti model platform, menawarkan berbagai layanan terintegrasi yang semakin luas yang tidak dapat diakses secara terpisah. Ini adalah kekuatan 'ekstraktif', yang berupaya memperoleh sumber daya yang diperlukan untuk pelaksanaannya tanpa menanggung biaya dan dengan mengambil alih pendapatan secara ekstrem. Ini adalah kekuatan normatif, karena menetapkan aturan untuk interaksi di platform dan, dengan aplikasi terbaru, juga aturan tentang bagaimana aktivitas medis, perbankan, atau keuangan dipraktikkan. Ini adalah kekuatan yang konformis dan cenderung konformis, karena melalui model-model tersebut ia mengurangi keragaman realitas dan kemudian mengembalikan versi yang disederhanakan dan seragam, berdasarkan pada tatanan statistik semata dan bukan tatanan moral, etika, atau sosial. Ini adalah kekuatan yang persuasif dan meluas di tingkat ekonomi, politik, dan sosial, karena teknologi yang menjadi dasarnya kini telah menjadi bagian integral dari kehidupan sehari-hari, dengan meningkatnya penggunaan tidak hanya aplikasi khusus, tetapi mungkin bahkan lebih lagi AI generatif yang mampu berinteraksi melalui bahasa alami.
Dalam buku Anda, Anda menggambarkan dengan sangat jelas bagaimana kekuatan digital telah menjadi kekuatan politik dan bagaimana kapitalisme digital telah menjadi lebih kuat daripada negara dan membahayakan demokrasi itu sendiri: apakah ini tantangan yang telah kita kalahkan selamanya, atau dapatkah kita berharap untuk menyeimbangkan kembali kekuatan antara kekuatan digital dan kekuatan demokrasi?
Salah satu elemen khas dan karakteristik kekuatan digital adalah konsentrasi: konsentrasi yang begitu kuat dan tak tertembus sehingga baik pasar maupun negara belum mampu, setidaknya untuk saat ini, menghasilkan langkah-langkah redistribusi yang efektif. Kekuatan terkonsentrasi secara berbahaya menyerupai kekuatan tak terbatas, dan kekuatan tak terbatas hampir secara definisi adalah kekuatan sewenang-wenang. Namun, seperti semua kekuatan, kekuatan digital juga membutuhkan legitimasi, dan legitimasi ini saat ini tidak dapat hanya didasarkan pada kekuatan: perusahaan teknologi juga perlu menjual produk dan jasa di pasar, untuk meyakinkan konsumen bahwa produk dan jasa mereka bermanfaat dan bahkan penting, sama seperti mereka perlu mengumpulkan modal dan memenuhi janji pengembalian, untuk meyakinkan masyarakat agar mengakomodasi pusat data mereka, untuk meyakinkan negara bahwa mereka tidak membahayakan kedaulatan mereka. Bukan suatu kebetulan bahwa para 'bos' perusahaan teknologi besar sering berfantasi tentang planet baru atau wilayah di planet ini yang dikhususkan untuk mereka.
Mengapa mereka melakukannya?
Karena mereka memandang masyarakat dan aturannya sebagai batasan yang tidak ingin mereka patuhi, batasan yang ingin mereka bebaskan diri darinya. Namun, ini adalah perspektif yang sepenuhnya ilusi, seperti yang ditunjukkan oleh dua reaksi yang berbeda. Di negara-negara otokratis, seperti Tiongkok, negara menjalankan kendali yang kuat atas perusahaan teknologi dan penggunaan serta penyebaran teknologi. Saya tentu tidak ingin menjadikan otokrasi sebagai contoh, tetapi hal itu menunjukkan bahwa kekuasaan publik, jika ada kemauan, bukanlah sesuatu yang tidak berdaya. Memang, dalam kasus Tiongkok, negara mensyaratkan bahwa model kecerdasan buatan mencerminkan 'nilai-nilai' sosialisme, menunjukkan bahwa teknologi bukanlah sesuatu yang netral. Di negara-negara demokratis, terdapat peningkatan intoleransi dan ketidakpercayaan terhadap inovasi teknologi yang menghancurkan lapangan kerja, menciptakan ketidaksetaraan dan diskriminasi, memperburuk kemiskinan dan marginalisasi seluruh kelompok dan komunitas. Demokrasi, dengan kapasitas inklusif, pluralistik, dan deliberatifnya, merupakan penawar yang mungkin dan dapat diperkuat justru sebagai alat yang memungkinkan masyarakat modern untuk membela diri dan melestarikan nilai-nilai dan tujuan kolektif. Oleh karena itu, harapan itu mungkin, tetapi harus dipupuk, dipraktikkan, dan dipertahankan, dan ini adalah tugas yang menjadi tanggung jawab kita masing-masing, sebagai warga negara dari negara-negara demokrasi."
Untuk mengatur kekuatan digital tanpa menghambat inovasi teknologi, namun tanpa kewalahan, Anda berpendapat bahwa regulasi adalah kuncinya. Dalam hal ini, Eropa lebih maju, sementara AS di bawah pemerintahan Trump enggan melakukannya. Tetapi jika regulasi kekuatan digital tidak dapat diperluas ke pasar domestik, tampaknya tidak dapat dihindari bahwa efektivitasnya akan terbatas. Atau tidak? Bagaimana ketidaksesuaian antara Eropa dan AS ini dapat diatasi?
"Pertama-tama, ini bisa jadi ketidaksesuaian yang bersifat kontingen: hal ini sangat bergantung pada apa yang terjadi dalam pemilihan Amerika yang dimulai pada bulan November dan di AS selama dua tahun ke depan. Mengatur inovasi itu sulit karena pokok bahasan aturan terus berubah, dan karena alasan inilah, pendekatan regulasi Eropa terhadap kecerdasan buatan pada dasarnya berbasis risiko: risiko tidak dapat dihindari, tetapi dapat dikurangi dan, yang terpenting, lebih dipahami jika ada sistem kontrol yang mendeteksinya. Regulasi Eropa dapat dikritik karena bebannya—dan upaya penyederhanaan sedang dilakukan dengan Digital Omnibus—tetapi memiliki keuntungan penting: tidak ada perusahaan teknologi besar yang dapat meninggalkan pasar Eropa, salah satu pasar terbesar dan terkaya di dunia. Dan karena itu, terlepas dari banyak kritik dan penolakan, tidak ada perusahaan teknologi besar yang meninggalkan Eropa, terlepas dari regulasi tersebut. Oleh karena itu, ketidaksesuaian antara AS dan Uni Eropa memang ada tetapi tidak menghalangi penerapan aturan Eropa, di dalam Eropa dan terkadang bahkan di luar perbatasannya, karena banyak sistem hukum yang menyatu di sekitar jenis prinsip dan alat yang sama untuk mengatur dan mengendalikan kecerdasan buatan. Selain itu, argumen bahwa regulasi menghambat inovasi Hal ini menjadi kurang meyakinkan ketika inovasi muncul dari tahap embrioniknya, seperti yang kini terjadi dengan kecerdasan buatan. Regulasi adalah alat utama yang dapat digunakan suatu industri untuk menjamin keamanan produknya dan mendapatkan kepercayaan konsumen: tidak seorang pun akan naik pesawat atau membeli obat kecuali mereka cukup yakin bahwa perjalanan dan pengobatan tersebut aman dan bebas risiko.
Menurutmu, pilihan mana yang terbaik?
Tentu saja, pilihan terbaik adalah regulasi global, yang diikuti oleh banyak negara dan organisasi internasional. Konvergensi ini bukan hal yang mustahil. Dalam buku saya, saya memberikan dua contoh di mana konvergensi ini telah terjadi: energi atom dan kloning. Perbedaan antara kedua contoh ini jelas: tenaga atom cenderung dimiliki oleh negara, sementara kemampuan kloning muncul di laboratorium penelitian. Dalam kasus pertama, negara-negara telah menggunakan perjanjian internasional, sementara dalam kasus kedua, telah terjadi konvergensi pada pilihan, yang diadopsi secara individual oleh setiap negara, untuk melarang kloning reproduksi. Namun, dalam kedua kasus tersebut, persepsi tentang bahaya dan risiko yang terlibat—dalam kasus bom atom, yang secara dramatis ditunjukkan di Hiroshima dan Nagasaki—bersama dengan keyakinan bahwa solusi nasional yang terisolasi akan sama sekali tidak sesuai—telah menyebabkan adopsi aturan bersama yang telah diterima oleh negara dan peneliti dan yang, setidaknya untuk saat ini, belum dilanggar atau, dalam kasus kemungkinan pelanggaran, seperti di Iran terkait energi atom, telah dikenakan mekanisme penegakan kontrol internasional. Dalam kedua kasus tersebut, sederhananya, ini adalah aturan yang pada dasarnya didasarkan pada larangan dan penerimaan oleh pihak-pihak yang terlibat terhadap pelaksanaan kewenangan untuk memantau kepatuhan terhadap larangan tersebut oleh otoritas atau badan nasional atau internasional.
Namun, apakah upaya untuk mencapai konvergensi pada AI telah dilakukan?
G7 juga berupaya menetapkan prinsip-prinsip panduan internasional dan aturan perilaku bersama terkait inovasi teknologi pada tahun 2023, dengan mengadopsi prinsip-prinsip yang diberi nama Proses AI Hiroshima. Prinsip-prinsip panduan internasional ini harus berlaku untuk seluruh siklus hidup AI (dan oleh karena itu untuk semua pemangku kepentingan yang terlibat dalam berbagai fase), dan Kode Etik Internasional memberikan pedoman yang dapat dipatuhi secara sukarela oleh para pengembang AI. Implementasi Proses AI Hiroshima dipercayakan kepada OECD, yang menetapkan kerangka kerja untuk laporan pemantauan pada Februari 2025.
Tantangan terhadap kekuatan digital sedang berlangsung, seperti yang juga ditunjukkan dalam buku Anda, di tingkat internasional, tetapi apa yang dapat dilakukan Italia di Eropa untuk menempatkan dirinya pada posisi terbaik untuk memainkan permainan ini?
Italia tidak memiliki modal investasi atau sumber daya alam yang besar, tetapi memiliki universitas-universitas yang sangat baik, dan mampu melatih para peneliti yang hebat—yang kemudian pergi ke luar negeri untuk mencari keberuntungan: kita melatih mereka dan kemudian mewariskan warisan ini ke negara lain. Italia memiliki tradisi budaya dan keahlian teknis yang, meskipun banyak pengalaman industri telah hancur dalam beberapa tahun terakhir, masih tetap bertahan. Jika, alih-alih menyebarkan kekayaan budaya dan keahlian ini, kekayaan tersebut dipusatkan di pusat-pusat penelitian dan produksi, dibiarkan tumbuh hingga mencapai massa kritis, dan dihubungkan dengan sistem manufaktur dan sektor publik, kita dapat memberikan kontribusi yang signifikan.
