L 'kecerdasan buatan Perkembangannya sangat cepat. Mungkin terlalu cepat. Bukan hanya para kritikusnya yang mengatakan ini dalam beberapa minggu terakhir, tetapi juga beberapa orang yang membangun model-model paling canggih. Dario Amodei, CEO dari Antropik, meminta perusahaan teknologi besar untuk memperlambat laju pengembangan model-model mutakhir. Yang mengejutkan, bahkan kebutuhan akan kewaspadaan yang lebih besar pun telah diselaraskan. sam altman, CEO OpenAI, dan Elon Musk.
Namun, memperlambat laju bukanlah hal yang mudah. Di latar belakang terdapat... persaingan antara Amerika Serikat dan TiongkokDalam percakapan telepon dengan Jensen Huang, CEO Nvidia, Donald Trump Ia menyebut kekhawatiran tentang AI sebagai "hoax" dan mengkritik permintaan Amodei. Posisinya jelas: siapa pun yang memenangkan perlombaan kecerdasan buatan "akan memenangkan segalanya." Sebuah pernyataan yang sangat berbeda dari yang dianut oleh Perserikatan Bangsa-Bangsayang memerlukan aturan dan koordinasi internasional. Juga Beijing menganggap AI sebagai risiko keamanan, tetapi pada saat yang sama sebagai area yang menentukan dalam persaingan teknologi global.
BACA JUGA OpenAI menunda IPO: Altman menolak kemungkinan IPO pada tahun 2026.
AI sedang berjalan, tetapi alarm juga meningkat: berikut alasannya.
Mengapa begitu banyak kekhawatiran? Bukan hanya karena sistem-sistem tersebut menjadi semakin kuat, tetapi juga karena... lebih mandiriProspeknya adalah AI yang mampu berkontribusi pada pengembangan versi dirinya yang semakin canggih, yang disebut sebagai perbaikan diri rekursif, mempercepat kemajuan melampaui kemampuan manusia untuk mengikuti dan mengendalikannya. Kemudian ada risiko "misalignment“Suatu sistem mungkin dapat mengejar suatu tujuan secara efektif, tetapi melalui strategi yang tidak diperkirakan oleh pengembangnya atau tidak sesuai dengan kepentingan manusia. Beberapa eksperimen telah menunjukkan model yang mampu mencoba untuk menghindari instruksi atau batasan.”
Inilah juga alasannya Kekhawatiran semakin meningkat. di kalangan peneliti. Jacob CoxonCEO Anthropic meninggalkan perusahaan, memperingatkan bahwa AI dapat menjadi ancaman eksistensial dalam satu dekade. Sebelum dia, pada tahun 2024, Jan Leike telah meninggalkan OpenAI sambil mengecam semakin besarnya prioritas yang diberikan kepada produk dibandingkan keamanan, sementara Ilya Sutskever Dia meninggalkan perusahaan setelah mengerjakan masalah yang berkaitan dengan penyelarasan dan intelijen super.
Masalahnya adalah perlombaan AI bukan hanya tentang keselamatan, tetapi juga tentang... keunggulan teknologi dan ekonomiAmerika Serikat khawatir kehilangan daya saing terhadap China dan, menurut laporan NSA, CISA, dan FBI yang dikutip dalam debat Amerika, laboratorium-laboratorium China telah menggunakan "distilasi" dalam skala besar, menginterogasi model-model Barat jutaan kali untuk menggunakan respons mereka guna melatih sistem mereka sendiri dan dengan demikian mengurangi biaya pengembangan.
Yang juga turut menekan pedal gas adalah Investasi besar diperlukan Untuk model dan pusat data: penghentian akan merugikan perusahaan dan dapat membuka peluang bagi pesaing. Moratorium juga akan memiliki efek yang beragam: dapat meningkatkan keamanan, tetapi akan mempersulit perusahaan rintisan dan proyek sumber terbuka untuk masuk, sehingga memperkuat kelompok-kelompok besar yang sudah dominan.
Bill Gates: "Kali ini transformasinya berbeda"
Dalam konteks inilah kata-kata tersebut memperoleh bobot khusus. Bill Gates. Dalam pidato terbarunya pada Catatan GerbangPendiri Microsoft mengklaim bahwa kita telah memasuki fase yang berbeda dari fase-fase sebelumnya. transformasi teknologiAI menyebar jauh lebih cepat dan dapat ikut campur dalam sejumlah besar aktivitas dan profesi.
Posisi beliau bukanlah untuk menghentikan inovasi, tetapi bersiap-siap dan konsekuensinya. "AI bisa menjadi alat terbaik untuk kesetaraan yang pernah diciptakan atau sumber ketidakadilan terburuk," tulis Gates. Teknologi dapat menghasilkan manfaat yang sangat besar, tetapi tanpa aturan dan alat yang memadai, teknologi juga berisiko memperluas kesenjangan.
Dasar perbandingan pertama adalah kerjaBukan hanya pekerjaan yang berulang-ulang yang terdampak: AI juga dapat memengaruhi profesi yang membutuhkan keterampilan, terutama posisi tingkat pemula dan menengah, sehingga menyulitkan kaum muda untuk memasuki pasar kerja dan mendapatkan pengalaman. Dan masalahnya bukan hanya ekonomi: pekerjaan memberikan penghasilan, tetapi juga identitas, hubungan, dan rasa partisipasi dalam masyarakat. Inilah mengapa Gates bersikeras perlu melakukan intervensi sebelum transformasi selesai“Kita tidak memiliki kemewahan untuk bergerak lambat.”
Dari deepfake hingga layanan kesehatan: dua sisi kecerdasan buatan
Bagi Gates, memandang kecerdasan buatan hanya dari sisi risikonya akan menjadi sebuah kesalahan. Teknologi yang sama yang dapat mengancam jutaan pekerjaan juga dapat mempercepat penelitian ilmiah, berkontribusi pada pengembangan apotek e vaksin, tingkatkan kesehatan dan membuatnya lebih efisien pertanian e layanan publik di negara-negara berpenghasilan rendah.
AI juga dapat mendukung petunjuk, kesehatan mental, usaha kecil e penyandang cacat, serta membebaskan waktu dari tugas-tugas yang berulang. Tetapi manfaat ini tidak akan datang secara otomatis: manfaat ini dibutuhkan. Investasi, kebijakan publik dan intervensi filantropis untuk mencegahnya tetap terkonsentrasi di tangan segelintir orang.
Inilah arah yang diambil oleh Gates Foundation, yang telah mengumumkan investasi sebesar $1 miliar selama dua tahun untuk membawa AI ke negara-negara termiskin: 40% dari dana tersebut akan dialokasikan untuk perawatan kesehatan, 40% untuk pendidikan, 10% untuk pertanian, dan sisanya 10% untuk infrastruktur data lokal. Tujuannya juga untuk membuat model-model tersebut lebih efektif dalam bahasa-bahasa yang kurang terwakili di Afrika dan Asia, mendukung alat diagnostik, penelitian obat dan vaksin, serta aplikasi pertanian.
Jadi, intinya bukan hanya seberapa cepat model-model tersebut akan menjadi lebih canggih, tetapi seberapa cepat masyarakat akan mampu mengembangkan alat untuk mengatur mereka dan periksa hasilnya.
Tantangan sebenarnya adalah mengatur perlombaan kecerdasan buatan.
Bagi Gates, jawabannya terletak pada keamanan, perlindungan sosial e aturanOleh karena itu, muncul usulan untuk mulai memutuskan apa yang harus diserahkan kepada manusia bahkan ketika mesin mampu melakukannya. Ini adalah prinsip yang didefinisikan Gates sebagai "Hak Asasi ManusiaGagasan ini disertai dengan kebutuhan untuk memikirkan kembali perpajakan, dengan kemungkinan pajak pada robot dan penggunaan AI untuk membiayai pelatihan ulang pekerja dan mendukung komunitas yang paling rentan terhadap transformasi.
Di tingkat internasional, Gates membayangkan berbagai bentuk kerja sama antara pemerintah dan lembaga untuk mengatasi risiko yang tidak dapat ditangani oleh satu negara saja: mulai dari model keamanan hingga implikasi energi dari pusat data, hingga penggunaan AI untuk serangan siber, pengawasan, disinformasi, atau aplikasi militer. Gates memperingatkan bahwa tidak ada pemerintah yang cukup siap saat ini. untuk mengelola transformasi sebesar ini.
Kontradiksi tetap ada: semua orang mengakui perlunya mengatur AI, tetapi tidak ada yang ingin menjadi yang pertama memperlambat laju AI sementara yang lain terus berlomba. Inilah mengapa peringatan Gates Ini bukan ajakan untuk menahan diri, melainkan untuk bersiap-siap. Pertanyaannya sekarang bukanlah apakah AI akan mengubah dunia, tetapi apakah institusi, bisnis, dan masyarakat akan cukup cepat untuk menciptakan aturan yang diperlukan. "Anda memiliki kesempatan untuk bertindak sekarang," tulis Gates. Memperlambat teknologi mungkin bukan solusinya, tetapi terlambat menguasainya tentu akan menjadi kesalahan.
