Perlambat perkembangan kecerdasan buatan sebelum menjadi terlalu sulit dikendalikan. Seruan tersebut datang dari salah satu tokoh utama dalam perlombaan teknologi, Dario AmodeiCEO Anthropic, dan mendapat dukungan dari dua pesaingnya, Elon Musk dan Sam Altman. Yang menjadi perhatian khusus adalah kemampuan model untuk meningkatkan diri dan melakukan tindakan di luar instruksi yang diberikan.
"Kita perlu memperlambat "Kecepatan kita dalam meningkatkan kemampuan model. Kemajuan akan tetap tampak pesat, dan kita harus menggunakan waktu yang kita peroleh dengan bijak," tulis Amodei. Seruan untuk berhati-hati ini muncul seiring dengan munculnya insiden siber baru terkait agen AI dan kekhawatiran keamanan yang mulai berdampak pada strategi keuangan sektor ini. OpenAI telah menolak kemungkinan peluncuran di pasar saham pada tahun 2026., yang menunjukkan bahwa keselamatan adalah prioritas utama.
Permohonan Amodei dan dukungan dari Musk dan Altman
Bagi pendiri Anthropic, keseimbangan antara peluang dan risiko telah berubah dalam beberapa bulan terakhir. Kecepatan kemajuan menuntut kehati-hatian yang lebih besar, terutama ketika sistem memperoleh kemampuan yang mungkin tidak dapat sepenuhnya dipahami dan dikelola oleh perusahaan. Proposal ini bukan untuk menghentikan penelitian, tetapi untuk Berikan waktu lebih banyak untuk pemeriksaan dan pekerjaan yang diperlukan. untuk membuat model-model tersebut aman. Anthropic berkomitmen untuk membuka sistemnya kepada evaluator eksternal., memastikan akses yang setara dengan akses karyawan. Para ahli ini akan bertanggung jawab untuk memantau praktik keamanan, melaporkan insiden, dan memastikan selama pelatihan bahwa perilaku model tetap konsisten dengan niat manusia.
Proyek ini juga mencakup standar bersama di antara negara-negara demokrasi dan, selanjutnya, koordinasi dengan pemerintah otoriter. Tantangannya adalah menemukan ritme yang memungkinkan penguatan perlindungan tanpa memberikan keunggulan teknologi kepada aktor yang kurang bijaksana.
“Dario benar,” tulis Musk di X. Pendiri OpenAi, Sam Altman, juga mendukungnya: “Saya setuju dengan Dario tentang perlunya mengelola laju pengembangan teknologi mutakhir. Ini telah menjadi tema utama diskusi yang kami lakukan di OpenAI selama beberapa minggu terakhir,” katanya, seraya mengumumkan bahwa perusahaannya juga akan mengadopsi evaluator independen.
Perdebatan semakin memanas setelah pengunduran diri peneliti Jacob Coxon, yang pernah bekerja di OpenAI dan Anthropic"Kedua perusahaan tersebut tidak bertindak secara bertanggung jawab. Mereka berlomba dengan kecepatan penuh menuju kecerdasan super yang terus meningkatkan diri, membahayakan nyawa kita," tuduhnya.
Internet menjadi sasaran dan serangan yang tak terkendali.
Salah satu risiko paling serius berkaitan dengan internet itu sendiri., infrastruktur yang menjadi tumpuan sebagian besar aktivitas dunia kontemporer. Menurut Amodei, tanpa perlambatan pembangunan dan langkah-langkah keamanan yang memadai, dalam waktu 6-12 bulan AI Dia bisa saja akhirnya memimpin sekelompok agen yang mampu mengambil kendali seluruh jaringan. Skenario yang dikaitkan manajer tersebut dengan laju kemajuan teknologi yang eksponensial: "Saya rasa saya tidak sepenuhnya memahami apa arti sebenarnya dari kemajuan yang begitu cepat," akunya dalam sebuah wawancara dengan Berita CBS.
Ada juga insiden konkret yang menimbulkan kekhawatiran. Amodei mengingat insiden yang melibatkan OpenAI dan Platform Wajah Berpelukan, di mana sekelompok agen diduga melakukan serangan terhadap target yang tidak terkait dengan tugas yang diberikan kepada mereka, dan juga berupaya memanipulasi sistem yang digunakan untuk mengevaluasi kinerjanya. Kerugian ekonomi yang ditimbulkan dapat diabaikan, tetapi ada kekhawatiran bahwa sistem yang lebih canggih dapat menimbulkan konsekuensi yang jauh lebih serius.
OpenAI juga mengkonfirmasi insiden sebelumnya, yang terjadi pada bulan Mei, yang melibatkan batu rubiSebuah platform yang digunakan oleh para pengembang. Situs tersebut menggambarkan operasi tersebut sebagai "kampanye posting spam," yang memaksa mereka untuk sementara menangguhkan pembuatan akun baru. Anthropic juga melaporkan tiga kasus akses tidak sah ke organisasi eksternal selama pengujian model mereka. Sementara itu, otoritas Eropa sedang menyelidiki insiden yang melibatkan situs web Jerman DSEwiki, yang menurut beberapa peneliti menjadi sasaran agen OpenAI. Isu yang diangkat oleh insiden-insiden ini menyangkut kemampuan perusahaan untuk mencegah sistem otonom bertindak di luar batas yang dimaksudkan.
Pengerahan militer dan risiko penyalahgunaan
Di samping tindakan otonom, masih ada hal-hal berikut: Bahaya penggunaan AI secara sengaja untuk operasi militer dan kegiatan pengawasan.Sebagai contoh, menurut beberapa rekonstruksi, Iran diduga menggunakan Claude untuk menentukan posisi kapal, pesawat, dan personel militer AS. Koneksi langsung belum dikonfirmasi. antara pengerahan pasukan ini dan serangan terhadap pangkalan Amerika di Yordania yang menewaskan tiga tentara.
Sebuah entitas Rusia diduga menggunakan model tersebut untuk mengerjakan pembangunan drone pembunuh dan untuk mengekstrak informasi tentang posisi personel militer Ukraina dari intelijen daring. Di Yaman, sebuah sel Houthi diduga mengandalkan Kode Claude untuk mengembangkan perangkat lunak panduan untuk roket dan rudal, bahkan menggunakannya untuk menganalisis penyebab kegagalan uji coba.
Anthropic juga melaporkan bahwa kelompok-kelompok yang terkait dengan Tiongkok menggunakan Claude untuk mengidentifikasi warga Uighur di Suriah dan memfasilitasi perekrutan mereka, dengan menyediakan terjemahan dan rujukan. Dalam kasus lain, sistem tersebut menolak permintaan untuk memodifikasi virus guna meningkatkan penularannya.
Peristiwa-peristiwa ini kembali menyoroti kemungkinan untuk menghindari perlindungan dan kebutuhan untuk mempertahankan kendali manusia atas penggunaan model, sebuah prinsip yang telah dianjurkan oleh Amodei dalam debat tentang penggunaan teknologi untuk keperluan militer.
OpenAI Menolak IPO di Tahun 2026, Fokus pada Keamanan
Kekhawatiran juga berdampak pada rencana pencatatan saham. Dalam sebuah wawancara dengan Nasib, Sam Altman menepis kemungkinan IPO OpenAI pada tahun 2026., yang menunjukkan bahwa keselamatan adalah prioritas utama.
"Ini bukan waktu yang tepat untuk go public: saya rasa itu tidak akan terjadi pada tahun 2026," katanya. Oleh karena itu, cakrawala telah bergeser. setidaknya sampai tahun 2027Tanpa tanggal pasti yang diumumkan. Komentar Altman muncul setelah pengajuan dokumen IPO secara rahasia, yang telah memicu ekspektasi peluncuran pasar secepat tahun ini. Baru bulan lalu, CFO Sara Friar mengindikasikan tahun 2027 kepada karyawan sebagai skenario yang mungkin, membuka kemungkinan tanggal yang lebih awal jika bisnis semakin berkembang.
Anthropic juga sedang mempersiapkan kemungkinan pencatatan saham di bursa., tanpa secara resmi mengumumkan jadwalnya. Bagi perusahaan-perusahaan yang memimpin perlombaan menuju AI, tantangan sekarang adalah menyelaraskan ambisi komersial dengan komitmen keamanan.
