Kekhawatiran perusahaan teknologi besar tentang perkembangan yang tidak terkendalikecerdasan buatan Dalam beberapa hari terakhir, isu ini telah memicu berbagai tanggapan, posisi, interpretasi, dan bahkan reaksi politik. Pesan yang disampaikan bersama adalah perlunya kehati-hatian yang lebih besar. Namun kemudian, Presiden AS Donald Trump turun tangan dengan tegas, mencoba menggambarkan—dengan caranya sendiri—permainan yang dimainkan Amerika Serikat dengan China. terutama dan, pada gilirannya, dengan seluruh dunia. Namun, masalah ini terus muncul sebagai serangkaian pernyataan yang kurang membantu, bahkan cenderung mengecewakan, dalam memahami fenomena tersebut. Dapatkah AI benar-benar mengancam umat manusia? Dan di tengah dualisme yang kuat antara Washington dan Beijing, jalan mana yang dapat ditempuh Eropa? Haruskah Eropa mempercepat atau memperlambat perkembangan kecerdasan buatan? Tetapi masalah sebenarnya terletak di tempat lain, dan itu adalah regulasi.
Di sini, dalam wawancara ini dengan PERTAMA daring, bagaimana menurutmu? Marco Bentivogli, mantan sekretaris jenderal Fim Cisl dan sekarang menjadi guru dan penasihat senior dari Sekolah Pascasarjana Manajemen Universitas Politeknik MilanSebagai seorang ahli di bidang pekerjaan, inovasi, AI, dan industri, Bentivogli adalah koordinator nasional dari Berbasis di Italia dan melaksanakan kegiatan penelitian tentang dampak AI terhadap pekerjaan dan tentang strategi produktivitas dan adopsi di industri manufaktur. "Mengatakan bahwa AI akan segera di luar kendali bukanlah pengakuan kelemahan. Itu adalah demonstrasi kekuatan," kata Bentivogli. "Itu adalah cara paling efektif untuk memberi tahu pasar bahwa produk Anda sangat ampuh hingga menakutkan, dan oleh karena itu harus dibeli sekarang, sebelum pesaing, sebelum terlambat."
Amodei, Altman, dan Musk: satu demi satu CEO perusahaan teknologi besar AS memilih untuk mengekspos diri mereka sendiri dan membunyikan alarm tentang AISeolah-olah teknologi telah mengalahkan masa depan umat manusia. Memang benar bahwa persaingan dengan Tiongkok telah mencapai tingkat yang sangat tinggi, sebagian berkat pelatihan ekstensif Beijing yang didasarkan pada model Amerika, dan jelas menjadi perlu untuk meminta Amerika Serikat untuk campur tangan guna menghentikan Tiongkok. Tetapi pertanyaannya, Bentivogli, adalah: apakah alarm-alarm ini sekarang juga "buatan," atau, sebaliknya, dibenarkan menurut pendapat Anda? Apa tujuan sebenarnya?
Peringatan yang dilontarkan oleh mereka yang membangun teknologi perlu dibaca dua kali. Pertama untuk isinya, kedua untuk pengirimnya. Amodei, Altman, dan Musk bukanlah pengamat dari luar. Mereka adalah protagonis dari perlombaan yang bernilai ratusan miliar dolar, dan mereka memiliki kepentingan untuk menetapkan aturan sebelum orang lain melakukannya. Kita hidup di era di mana rasa takut telah menjadi alat penjualan yang paling ampuh. Ini berlaku untuk keselamatan, kesehatan, keuangan, dan terlebih lagi untuk AI. Pembicaraan tentang kiamat, berakhirnya kendali manusia, dan mesin yang lepas dari penciptanya justru bertujuan untuk hal ini.
Jadi, apakah ini unjuk kekuatan?
Mengatakan bahwa AI akan segera tak terkendali bukanlah pengakuan kelemahan. Itu adalah demonstrasi kekuatan. Itu adalah cara paling efektif untuk memberi tahu pasar bahwa produk Anda sangat ampuh hingga menakutkan, dan oleh karena itu harus dibeli sekarang, sebelum pesaing Anda, sebelum terlambat. Tidak ada penjual penyedot debu yang pernah memperingatkan bahwa alatnya dapat menghancurkan umat manusia. Mereka yang menjual kecerdasan melakukannya karena rasa takut membuktikan kekuatan, dan kekuatan membenarkan harga. Mengumumkan bencana adalah kampanye iklan terbaik yang pernah ada, dengan keuntungan gratis dan diperkuat setiap hari oleh surat kabar.
Dan permintaan untuk menghentikan pengembangannya?
“Bahkan permintaan untuk menghentikan pengembangan AI, yang secara berkala muncul dalam surat terbuka para pakar, secara teknis adalah sebuah leluconSiapa yang akan memantau penutupan sistem? Apakah itu akan memengaruhi semua perusahaan? Dan apa yang akan terjadi sementara itu di laboratorium? Tidak ada jawaban, karena proposal ini adalah tipuan, murni pemasaran. Mari kita fokus pada peningkatan kesadaran luas tentang alat-alat ini dan kurangi perhatian pada para pakar. Saat ini mereka memiliki masalah serius; model bisnis mereka belum stabil. Mereka mengalami kesulitan keuangan yang sangat besar untuk mempertahankan perlombaan, dan masalah etika berfungsi untuk menutupi masalah keuangan tersebut.
Apa aspek politik dari keseluruhan cerita ini?
Ada juga tujuan kedua, yaitu tujuan politik. Mereka yang secara terbuka menyatakan bahaya tersebut mengklaim diri mereka sebagai satu-satunya yang mampu mengelolanya dan menuntut agar para politisi melindungi kepentingan mereka sendiri, dengan penghalang terhadap chip, energi, dan data, serta dengan aturan yang disesuaikan untuk mereka yang sudah berada di dalam. Logika yang sama berlaku di pihak Tiongkok. Ketika lembaga-lembaga Amerika melaporkan melemahnya protokol keamanan dalam model DeepSeek dan Gedung Putih menuduh Alibaba mendukung aparat militer Beijing, kita berada dalam pertempuran yang tampaknya hanya bersifat teknis. Seperti semua pertempuran semantik tentang AI, terbuka, aman, berdaulat, tak terkendaliHal ini menyembunyikan perebutan kekuasaan. Peringatan-peringatan itu bukan palsu. Itu hanya untuk kepentingan diri sendiri. Dan risiko sebenarnya bukanlah teknologi yang mengalahkan umat manusia. Melainkan umat manusia yang menyerah dalam pengambilan keputusan dan mendelegasikan arahan kepada mereka yang telah memutuskan sendiri. Bahaya AI bukanlah penggantian, melainkan hilangnya tanggung jawab. Ini berlaku untuk bisnis, pemerintah, dan bahkan ketiga CEO tersebut.
Trump berkata: “Kita adalah pemimpin dibandingkan dengan China, dan terus terang, saya ingin kita terus menjadi pemimpin, karena siapa pun yang menang dalam AI akan menang.” Apakah itu benar-benar terjadi?
Ini adalah seruan untuk bersatu. Dan bahkan itu pun kurang tepat menggambarkan permainan yang dimainkan Amerika Serikat. Dunia AI sedang mengorganisir dirinya menjadi dua aliansi, inisiatif kerja sama global Tiongkok Waico di satu sisi dan blok Barat yang dipimpin Amerika 'Pax Silica' di sisi lain. Yang pertama menampilkan dirinya sebagai kerja sama universal dan mendekati negara-negara Selatan Global. Yang kedua membangun jaringan sekutu yang selektif, dengan pasar untuk semua kecuali perbatasan yang dikhususkan untuk mereka yang setia. Ada paradoks yang seharusnya membuat kita berpikir. Masyarakat terbuka menghasilkan model tertutup, masyarakat tertutup mendistribusikan beban kepada semua orang. Tapi hati-hati dengan kata-kata Anda. Model Tiongkok adalah... beban terbukatidak open sourceDeepSeek, Qwen, dan Kimi menyediakan bobot, yaitu parameter yang telah dilatih, dan tidak lebih dari itu. Tidak ada data pelatihan, tidak ada kode, tidak ada informasi tentang filter dan pilihan budaya. Ini adalah kotak hitam portabel, lebih baik daripada kotak hitam yang berada di cloud orang lain, tetapi tetap saja kotak hitam. Tidak satu pun dari blok tersebut yang benar-benar open source dalam pengertian yang ditetapkan oleh Open Source Initiative, dan siapa pun yang mencampuradukkan kedua hal tersebut justru menguntungkan keduanya."
Jadi, apa itu pembukaan Tiongkok?
“Keterbukaan China bukanlah kemurahan hati, melainkan komoditisasiBayangkan air minum kemasan versus air keran. Selama air bersih masih langka, siapa pun yang menjualnya akan mengendalikan harganya. Jika seseorang menyediakannya secara gratis untuk semua orang, bisnis penjualnya akan runtuh dan kekuasaan akan beralih ke siapa pun yang mengendalikan jaringan pipa. China tidak dapat mengalahkan Amerika dalam hal profitabilitas model tertutup, jadi mereka mencoba untuk menghapusnya untuk semua orang, seperti yang dilakukan Google dengan Android. Dengan mengurangi bobotnya, Anda akan menaklukkan standarnya. Singapura membangun model nasionalnya berdasarkan Qwen, Huawei menghadirkan DeepSeek ke cloud di negara-negara Afrika.
Kemudian?
Jadi, siapa pun yang menang dalam model tersebut tidak memenangkan segalanya. Nilainya bergeser ke chip, komputasi awan, aplikasi, standar, dan yang terpenting, adopsi—yaitu, kemampuan sistem produksi untuk mengintegrasikan teknologi ke dalam proses dan organisasi kerja. Trump benar tentang satu hal: ini adalah persaingan antar sistem. Tetapi pemenangnya adalah orang yang mengubah teknologi menjadi produktivitas, upah, dan barang publik. Bukan orang yang memiliki model terbesar.
Meskipun persaingan AI saat ini dicirikan sebagai persaingan dua kuda antara AS dan Tiongkok, memang benar bahwa Eropa juga memiliki "juara benua" mereka sendiri, seperti perusahaan rintisan Prancis, Mistral. Namun, kesenjangan tersebut tetap tak terbantahkan: apakah kita berisiko tetap menjadi penonton? Apakah permainan ini sudah kalah bagi kita?
Ini bukan pertempuran yang kalah. Ini adalah pertempuran yang kita lalui dengan setengah sadar. Risiko terbesar bagi Eropa bukanlah penundaan. Melainkan kepatuhan pasif terhadap model industri yang diputuskan di tempat lain, dengan aturan yang sangat baik untuk teknologi yang tidak kita kendalikan. Mistral adalah kisah yang hebat, tetapi itu bukan jawaban Eropa jika kita mengukurnya dengan standar Amerika. Mencoba meniru OpenAI atau Anthropic dengan program nasional secara ekonomi tidak masuk akal. Itu membutuhkan puluhan atau ratusan miliar dan infrastruktur serta keahlian yang sangat besar yang tidak kita miliki.
Namun…
Namun, intinya berbeda. Untuk mendapatkan peran utama di antara kedua blok, kita setidaknya harus menggunakan teknologi, dan di sinilah kesenjangan Eropa, dan Italia, sangat besar. Adopsi masih sangat rendah. Menurut survei ISTAT terbaru, 16,4 persen perusahaan Italia dengan setidaknya sepuluh karyawan menggunakan setidaknya satu teknologi AI. Angka ini dua kali lipat dari tahun sebelumnya, tetapi tetap di bawah rata-rata Eropa sebesar 20 persen, dengan kesenjangan yang semakin lebar antara perusahaan besar, lebih dari satu dari dua, dan perusahaan kecil dan menengah, hanya sedikit di atas satu dari enam. Hampir 60 persen perusahaan yang mempertimbangkan investasi dan kemudian meninggalkannya menunjukkan kurangnya keterampilan. Dan di sektor manufaktur, kita sebagian besar terjebak dengan para perintis. Anda tidak dapat bernegosiasi dengan kekuatan super AI dari posisi tidak menggunakan teknologi. Tindakan kedaulatan pertama adalah belajar menggunakan alat-alat ini dalam proses produksi, bukan mengumumkan model nasional. Dan ada masalah yang lebih berbahaya karena terjadi setiap hari dan tidak terlihat.
Apa?
Siapa yang kita latih saat kita bekerja? Jutaan perusahaan dan pekerja menggunakan AI berbasis cloud setiap hari. Setiap perintah, setiap dokumen yang diunggah, setiap koreksi adalah materi yang, dalam versi gratisnya hampir selalu, menjadi bahan baku bagi model masa depan penyedia layanan. Perusahaan membayar untuk menggunakan AI dan dalam tindakan yang sama memberikan pengetahuan mereka sendiri: pengetahuan proses, jargon industri, kasus yang telah dipecahkan, kesalahan yang dikoreksi oleh para ahli. Modal kognitif yang terakumulasi selama beberapa dekade bermigrasi ke luar negeri tanpa ada yang memutuskan untuk memberikannya secara cuma-cuma. Industri manufaktur kita adalah tambang emas, dan kita membiarkannya ditambang secara gratis.
Jadi, jalur Eropa itu tidak ada?
Jalur Eropa memang ada, tetapi berbeda. Kemandirian relatif, bukan kedaulatan penuh. Infrastruktur dan daya komputasi, keahlian industri yang khas, kemampuan untuk beralih dengan cepat ke model sumber terbuka buatan sendiri, dan hubungan yang dinegosiasikan dengan kekuatan super AI, bukan ilusi untuk menggantikan mereka. Dan mari kita berhenti menganggap pengumuman sebagai strategi. Banyak model "kedaulatan" nasional muncul tanpa ambisi untuk bersaing; mereka hanya berfungsi untuk menunjukkan bahwa "kami juga memiliki model." Itu hanyalah latihan pencitraan bagi para politisi yang mencari hasil simbolis. Kesenjangan yang paling serius bukanlah kesenjangan teknologi. Melainkan kesenjangan budaya manajerial dan politik.
Mengukur keuntungan ekonomi: Menurut pernyataan dari tokoh-tokoh Silicon Valley seperti Alex Karp, CEO Palantir, dan Satya Nadella, CEO Microsoft, banyak perusahaan membayar harga tinggi untuk menggunakan model bahasa AI tanpa mencapai peningkatan produktivitas yang sebanding dengan investasi tersebut. Apakah ini benar-benar terjadi?
Ya, itu benar, dan itu bukan hal yang mengejutkan. Ini adalah paradoks Solow yang berulang tepat waktu dengan setiap gelombang teknologi. Anda melihat teknologi di mana-mana kecuali dalam statistik produktivitas. Banyak perusahaan telah membeli lisensi, meluncurkan proyek percontohan, menunjuk manajer inovasi. Kemudian mereka membiarkan semuanya seperti semula. Proses yang sama, hierarki yang sama, organisasi kerja yang sama. Itulah yang saya sebut mengadopsi AI tanpa mengubah apa pun. Apa ROI dari AI? Produktivitas tidak ada di dalam model. Produktivitas ada dalam reorganisasi yang dimungkinkan oleh model tersebut. Perusahaan yang menggunakan LLM untuk menulis email lebih cepat tidak mendapatkan apa pun. Perusahaan yang mendesain ulang alur antara kantor teknis, produksi, dan pemeliharaan di sekitar data yang diproses AI melakukan sesuatu yang lain. Adopsi AI membutuhkan ide, pekerjaan, dan arsitek organisasi untuk mendampingi transformasi. Sebagian besar perusahaan Italia paling banyak membeli lisensi dan kemudian mengeluh bahwa produktivitas tidak meningkat. Ketika Karp dan Nadella mengatakan bahwa perusahaan membayar tanpa mendapatkan hasil yang proporsional, mereka mengatakan yang sebenarnya, tetapi mereka menunjuk pada masalah yang salah.”
Masalah apa yang tepat untuk diindikasikan?
Masalahnya bukan pada harga teknologi. Masalahnya adalah tidak ada seorang pun di dalam perusahaan yang memiliki mandat dan keterampilan untuk mengubah teknologi menjadi cara kerja yang berbeda. Inilah mengapa saya menekankan peran arsitek pekerjaan dan tim pendukung transisi. AI tanpa rencana organisasi adalah biaya, bukan investasi. Dan ada juga risiko sebaliknya, yang saya sebut "AI yang melakukannya," artinya AI digunakan sebagai alasan untuk keputusan manajerial yang tidak ada hubungannya dengan AI.
Terlepas dari kontras antara antusiasme dan skeptisisme, ada satu bidang yang tidak boleh diremehkan: penerapan AI dalam perawatan kesehatan. Serikat dokter, Anaao-Assomed, dalam sebuah laporan yang disusun oleh pusat penelitiannya, menekankan bahwa "adopsi sistematis kecerdasan buatan dan digitalisasi menawarkan potensi penghematan hingga €22 miliar. Untuk menyelamatkan perawatan kesehatan publik, sumber daya ini dan waktu yang dibebaskan untuk para profesional harus dikelola secara strategis melalui infrastruktur publik dan transparan, daripada mengakibatkan pemotongan atau privatisasi." Bagaimana pendapat Anda?
Laporan Anaao mengatakan sesuatu yang benar dan menyiratkan sesuatu yang layak didiskusikan. Hal yang benar adalah bahwa AI dalam perawatan kesehatan membebaskan waktu dan sumber daya, dan waktu tersebut harus dikembalikan ke hubungan perawatan, bukan diubah menjadi pemotongan. Dokter yang menghabiskan banyak waktunya untuk dokumentasi dan birokrasi adalah pemborosan yang dapat dikurangi oleh AI. Saya sepenuhnya setuju dengan ini. Di negara-negara maju, dokter memiliki dasbor canggih untuk setiap pasien dengan data yang dapat dioperasikan yang melindungi privasi. Di sini, mereka menulis dengan pena. Sistem rekam medis masih belum berfungsi di semua wilayah. Yang perlu didiskusikan adalah gagasan bahwa infrastruktur publik dan transparan sudah cukup untuk memastikan bahwa penghematan diarahkan ke arah yang benar.
Dalam artian itu belum cukup?
Tidak, itu tidak cukup. Infrastruktur adalah prasyarat, bukan jaminan. Waktu luang tidak akan terdistribusi dengan sendirinya. Kita membutuhkan reorganisasi pekerjaan perawatan kesehatan yang saat ini belum direncanakan siapa pun, dengan melibatkan para profesional dalam prosesnya, bukan hanya di tahap selanjutnya. Jika tidak, penghematan akan berakhir di tempat yang selalu terjadi: dalam anggaran, dan dokter akan berakhir dengan lebih banyak pasien dan jam kerja yang sama.
Kemudian ada satu poin yang harus disampaikan oleh serikat dokter sebelum pihak lain. AI dalam perawatan kesehatan akan berhasil jika data klinis dikelola sebagai barang publik. Rekam medis elektronik, setelah dua puluh tahun, masih dalam tahap pengembangan. Sebelum membicarakan penghematan sebesar €22 miliar, mari kita bicarakan bagaimana membuat data tersebut dapat digunakan, aman, dan dapat dioperasikan. Tanpa ini, AI dalam perawatan kesehatan akan tetap menjadi sekadar konferensi.
Menurut Bill Gates, solusinya bukanlah menghentikan AI, tetapi "bersiap untuk mengatur" AI. Hal ini selalu dikatakan setiap kali kita menjumpai fenomena baru yang mengesankan dalam jumlah dan cakupannya. Mudah diucapkan, singkatnya, tetapi sulit untuk dipraktikkan. Apa yang harus dilakukan untuk mengatur AI?
Gates benar, tetapi pernyataan itu terlalu umum sehingga tidak mengikat siapa pun. Mengatur AI berarti empat hal konkret, yang tidak satupun merupakan hukum. Yang pertama adalah mengatur pekerjaan. AI mengubah tugas, keterampilan, dan hierarki. Jika perubahan ini diputuskan semata-mata oleh penyedia teknologi, atau semata-mata oleh manajemen puncak, hal itu akan menyebabkan penolakan dan kegagalan. Transisi perlu dikelola bersama, dengan pekerja dan perwakilan mereka terlibat dalam proses perancangan, bukan diberitahu setelah kejadian.
Yang kedua?
Yang kedua adalah tata kelola data, berdasarkan kontrak dan organisasi. Versi perusahaan dengan klausul larangan pelatihan yang eksplisit sudah ada dan seharusnya diwajibkan. Penggunaan akun gratis secara sembarangan oleh karyawan, yang disebut AI bayangan, saat ini merupakan saluran utama terjadinya kebocoran pengetahuan perusahaan. Dan berhati-hatilah agar tidak mengacaukan lokasi server dengan kedaulatan. Kasus OVHcloud, yang dipaksa oleh pengadilan Kanada untuk menyerahkan data yang disimpan di Prancis, menunjukkan bahwa siapa yang mengendalikan perusahaan, hukum apa yang berlaku, dan bagaimana infrastruktur dirancang itu penting. Kedaulatan digital bukanlah sekadar titik di peta.
Yang ketiga adalah mengelola keterampilan. Kita tidak membutuhkan jutaan programmer. Kita membutuhkan orang-orang yang tahu bagaimana mempertanyakan teknologi, menafsirkan hasilnya, dan memahami di mana letak kesalahannya. Di Italia, pendidikan orang dewasa termasuk yang terendah di Eropa. Tidak ada tata kelola AI yang dapat berdiri di atas dasar ini."
Yang keempat hilang.
Yang keempat adalah mengatur adopsi. Undang-Undang AI mengatur risiko, dan itu bagus. Tetapi tidak ada kebijakan adopsi industri untuk ratusan ribu usaha kecil dan menengah yang tidak memiliki ilmuwan data Dan mereka tidak akan pernah memilikinya. Kita membutuhkan dukungan lokal dan para profesional yang diakui, untuk membuka Sekolah AI, dan untuk fokus pada transfer teknologi dan keterampilan. Pilihan antara cloud, open weights, dan open source bukanlah keputusan TI yang dapat didelegasikan kepada departemen TI atau kepada politisi yang tidak memahami perbedaannya. Ini adalah pilihan tentang organisasi kerja, tentang pelestarian pengetahuan kolektif, tentang kekuasaan. Jangan hanya bertanya pada diri sendiri seberapa terbuka modelnya. Mari kita bertanya pada diri sendiri seberapa terbuka dan tereksploitasi kita tetap berada, tanpa kita sadari.