Bentrokan baru antara Antropik e pemerintah ASPerusahaan rintisan tersebut mengumumkan tinggal global dari model-modelnya yang paling ampuh, Fabel 5 dan Mitologi 5, setelah menerima arahan federal yang melarang penggunaan oleh warga negara asing, baik di dalam maupun di luar Amerika Serikat.
Langkah tersebut, yang diadopsi berdasarkan peraturan Amerika tentang pengendalian ekspor teknologi sensitif, dibenarkan oleh Washington dengan alasan "keamanan nasional“Akibatnya, produksi kedua model tersebut langsung dan sepenuhnya dihentikan, hanya tiga hari setelah peluncurannya.
Antropik memblokir model baru setelah pembatasan pemerintah AS
Menurut perusahaan, arahan tersebut tidak hanya memengaruhi pengguna internasional: arahan itu juga memblokir akses bagi warga negara non-AS mana pun, termasuk karyawan asing Anthropic sendiri, tanpa memandang lokasi.
Suatu kondisi yang, pada kenyataannya, membuat penerapan pembatasan selektif menjadi tidak mungkin. Oleh karena itu, perusahaan memutuskan untuk sepenuhnya menangguhkan Fable 5 dan Mythos 5 secara global, dengan mengklarifikasi bahwa Model lain dari keluarga Claude tidak terlibat. dan tetap beroperasi. Perintah tersebut tiba di Washington pada Jumat sore (sekitar pukul 23 malam waktu Italia) dan mewajibkan penerapan tindakan tersebut segera.
Fable 5 dan Mythos 5: Model "Perbatasan" Anthropic
Kedua sistem tersebut mewakili generasi model terbaru yang dikembangkan oleh Anthropic dan didasarkan pada Pratinjau Claude Mythos, Sebuah model eksperimental yang dirancang untuk penelitian keamanan siber tingkat lanjut. Sistem ini dapat menganalisis kode perangkat lunak dan infrastruktur untuk mengidentifikasi kerentanan, kesalahan, dan potensi kelemahan keamanan, menjadikannya alat yang sangat sensitif dari perspektif geopolitik.
Versi pratinjau awalnya hanya dapat diakses oleh sekelompok perusahaan dan pusat penelitian terpilih sebagai bagian dari program Project Glasswing, sebuah inisiatif yang didedikasikan untuk pengujian keamanan AI tingkat lanjut. Menurut hasil awal yang dibagikan, model tersebut membantu mengidentifikasi banyak masalah kritis dalam sistem nyata, mempercepat aktivitas perbaikan dan audit.
Fable 5, khususnya, adalah model pertama dari generasi baru ini yang dibuat. tersedia dalam bentuk komersial dalam skala besar. Anthropic telah mempresentasikannya sebagai sistem dengan kemampuan canggih dan langkah-langkah keamanan terintegrasi baru, yang dirancang untuk mengurangi risiko penyalahgunaan.
Keamanan, keterbatasan, dan masalah "jailbreak"
Sejak diluncurkan, Anthropic telah berfokus pada sistem perlindungan yang diperkuat untuk membatasi penggunaan model yang tidak tepat, terutama di area sensitif seperti... keamanan cyber ofensif. Namun, langkah-langkah ini juga telah memicu. kritis oleh pengguna, yang dalam beberapa kasus menganggapnya berlebihan. bersifat membatasi e menghukum untuk penggunaan yang sah.
Perusahaan tersebut juga menyadari adanya batasan struktural di seluruh sektor: tidak ada model kecerdasan buatan yang dapat dianggap sepenuhnya kebal dari “jailbreak", atau upaya untuk menghindari perlindungan keamanan. Tujuan yang dinyatakan bukanlah untuk menghilangkan risiko sepenuhnya, tetapi untuk membuat serangan-serangan ini sangat sulit dilakukan atau sangat mahal, dengan menggabungkan pertahanan teknis dengan pemantauan berkelanjutan dan sistem intervensi cepat."
Perusahaan yang didirikan dan dipimpin oleh Dario Amodei Anthropic menentang keputusan pemerintah AS, dengan mengatakan bahwa mereka tidak setuju dengan gagasan bahwa sekadar dugaan adanya celah keamanan terbatas dapat menyebabkan penghapusan model dari pasaran. "Pemerintah seharusnya dapat campur tangan dalam sistem yang tidak aman, tetapi hanya melalui proses yang transparan dan adil berdasarkan data teknis yang dapat diverifikasi," kata Anthropic, menambahkan bahwa keputusan tersebut melanggar prinsip-prinsip ini.
Tekanan regulasi dan konflik terbuka dengan Washington
Kasus ini muncul di tengah meningkatnya tekanan dari pemerintah AS terhadap sektor kecerdasan buatan, yang semakin dianggap strategis untuk keamanan nasional dan persaingan geopolitik global.
Anthropic, yang baru-baru ini secara rahasia mengajukan prospektusnya kepada SEC sebagai persiapan untuk... pencatatan di Bursa Saham New York, sudah menjadi pusat ketegangan dengan pihak berwenang Amerika. Segi lima memang mengklasifikasikan perusahaan sebagai potensi risiko rantai pasokan, sebuah sebutan langka di sektor teknologi swasta dan biasanya hanya diberikan kepada entitas yang dianggap sensitif terhadap keamanan nasional. Sebagai tanggapan terhadap langkah-langkah ini, startup tersebut juga telah meluncurkan gugatan hukum menentang pemerintahan Amerika, masih sedang berlangsung.
