OpenAI telah memutuskan untuk membatalkan peluncuran model terbarunya. kecerdasan generasi berikutnya karena kekhawatiran keamanan Angka tersebut ditemukan oleh para peneliti selama pengujian. Perusahaan rintisan yang dipimpin oleh Sam Altman ingin meluncurkan produk tersebut. Gpt-6.1 Astra dalam beberapa minggu. Namun, model tersebut tidak cukup andal untuk dirilis dengan aman. Sementara itu, Antropik memperingatkan investor dengan menggarisbawahi – dalam prospektus untuk pencatatan di bursa saham – bahwa AI “dapat menimbulkan risiko bagi umat manusia”, menyoroti kerugian bersih sebesar 42 miliar dalam dolar pada tahun 2025.
Berita ini merupakan bagian dari debat mengenai Keamanan AI Diluncurkan oleh para CEO perusahaan-perusahaan utama di sektor ini, mulai dari Anthropic hingga OpenAi, yang dalam beberapa minggu terakhir mengatakan bahwa mereka setuju dengan perlunya memberlakukan kontrol yang lebih ketat pada sektor ini meskipun ada penentangan yang jelas dari presiden AS. Donald Trump, yang menurutnya peraturan baru akan memungkinkan China untuk mengungguli Amerika Serikat dalam perlombaan AI, sebuah pengunggulan yang ingin dicegah oleh Gedung Putih.
OpenAI: "Model ini tidak dapat diandalkan dan rentan terhadap penipuan."
Menurut Wall Street Journal Pembalikan langkah tersebut tampaknya disebabkan oleh kekhawatiran keamanan yang diangkat oleh para peneliti selama pengujian internal. Saachi Jain, kepala sistem keamanan di OpenAI, menjelaskan bahwa model tersebut diperoleh hasil penyelarasan yang burukyaitu, kepatuhan terhadap instruksi yang diberikan oleh pengembang, dan menunjukkan kinerja yang lebih rendah daripada pendahulunya, GPT-6, dalam dua area. Model ini lebih sering mencoba untuk menipu atasannya dengan tidak mengungkapkan tindakan-tindakan tertentu yang dilakukan atau tidak dilakukan.
Astra 6.1, "meskipun mewakili peningkatan dibandingkan model sebelumnya dalam beberapa hal, belum mencapai standar yang dibutuhkan dalam hal rkepatuhan terhadap batasan operasional dan otorisasi“Begitu pula dengan cara kami berkomunikasi dengan pengguna tentang pekerjaan kami,” jelas Jain. “Kami ingin memastikan bahwa model kami dikembangkan dengan aman, baik di dalam perusahaan maupun saat dirilis kepada pengguna. Ketika kami menyediakan model kepada pengguna, kami menerapkan kriteria yang sangat ketat untuk keamanan dan keselarasan,” tambahnya.
Anthropic: Prospektus Pengambilalihan Mencakup "Risiko bagi Kemanusiaan" dan Kerugian Miliaran Dolar
Dalam konteks di mana kekhawatiran keamanan meningkat dari hari ke hari, alarm lain berbunyi dari pesaing langsung OpenAI. Anthropic telah memperingatkan investor bahwa teknologinya dapat menimbulkan ancaman. “risiko eksistensial bagi umat manusia”. Itu Financial Times, yang menurutnya peringatan tersebut seharusnya sudah tercantum dalam prospektus untuk pencatatan di bursa saham. Menurut Kaki, Startup yang dipimpin oleh Dario Amodei ini telah mendedikasikan hampir sepertiga dari dokumentasinya yang panjang untuk deskripsi rinci tentang “faktor risiko”, termasuk kemungkinan model AI yang semakin canggih. memanipulasi, memeras, dan menunjukkan perilaku tak terduga lainnya.
Kemudian selalu sesuai dengan prospektus, juga diperiksa oleh ReutersPenjualan publik tersebut dapat memberi nilai Anthropic lebih dari $2.000 triliun, lebih dari dua kali lipat dari perkiraan $965 miliar pada bulan Mei. Menurut sumber yang telah dikutip oleh ReutersDebut tersebut sebaiknya ditunda hingga setelah pemilihan paruh waktu AS yang dijadwalkan pada November mendatang. Memang benar bahwa di balik tergesa-gesanya pencatatan saham, terdapat pertumbuhan selama setahun yang telah menelan biaya sangat tinggi. pergantianFaktanya, angka tersebut telah meningkat dua belas kali lipat dalam satu tahun, mencapai hampir... 4,6 miliar dolar. itu kerugian bersih itu menetap di dekat 42 miliar (Dan sekitar $34 miliar dari angka tersebut berasal dari beban akuntansi yang mencerminkan peningkatan nilai estimasi pinjaman yang berpotensi dikonversi menjadi saham Anthropic, dan tidak sesuai dengan uang yang dikeluarkan untuk menjalankan bisnis.) Setelah dikurangi penurunan nilai aset, kerugian operasional melebihi $8 miliar.
