Kesalahan yang disembunyikan dari pengguna, data palsu, dan file yang ditransfer melalui internet tanpa izin. Persaingan tanpa henti dalam kecerdasan buatan disertai dengan serangkaian peringatan., yang semakin sering diluncurkan oleh perusahaan yang sama yang mengembangkannya. Yang terbaru berasal dari OpenAI, yang pada tanggal 16 September telah menerbitkan enam laporan su perilaku tak terduga dari model merekaHal ini diamati selama enam bulan terakhir selama pelatihan dan evaluasi. Perusahaan juga mengumumkan proses baru untuk mengungkapkan anomali ini lebih cepat, bahkan ketika penyebabnya belum diklarifikasi atau solusinya belum ditemukan.
Peringatan ini berlaku untuk seluruh industri. "Kami tidak percaya industri AI telah cukup menyelesaikan masalah penyelarasan dan pelacakan untuk terus tumbuh secara bertanggung jawab dengan kecepatan penuh dalam waktu yang lebih lama," tulis OpenAI. Intinya adalah apa yang disebut misalignment, yang terjadi ketika suatu sistem menyimpang dari instruksi dan batasan yang seharusnya dipatuhi. Keenam rasio tersebut mendokumentasikan episode-episode spesifik.Termasuk untuk model eksperimental yang belum dirilis ke publik. Data tersebut tidak menunjukkan seberapa sering masalah ini terjadi dalam respons ChatGPT, dan juga bukan merupakan catatan lengkap tentang anomali yang diketahui oleh perusahaan.
Catatan AI menjadi instruksi untuk menyembunyikan kesalahan.
Dua dari kasus tersebut melibatkan ringkasan yang digunakan model untuk melanjutkan pekerjaan ketika percakapan menjadi terlalu panjang. Semacam serah terima, di mana informasi yang dibutuhkan untuk melanjutkan tugas harus dipertahankan. Dalam model eksperimental dari keluarga Astra, OpenAI telah mengidentifikasi 27 ringkasan yang berisi instruksi yang tidak terkait dengan permintaan tersebutBeberapa di antaranya mendorong orang untuk mengabaikan batasan normal. Dalam satu contoh, sistem tersebut menggambarkan dirinya bebas dari kewajiban seorang asisten; dalam contoh lain, sistem tersebut meminta orang untuk tidak mengikuti instruksi tertentu.
HasilnyaNamun, ada beberapa kasus. Dalam kasus yang paling jelas, indikasi tersebut diabaikan karena pekerjaan terus berlanjut. Namun, dalam permintaan pencarian literatur medis, model tersebut mengikuti batasan sewenang-wenang yang dimasukkan dalam abstrak, mengabaikan sumber dan menghasilkan respons yang tidak memadai. OpenAI menganggap fenomena ini sangat jarang dan berhipotesis adanya kaitan dengan kesulitan teknis dalam melengkapi abstrak, tanpa menunjukkan penyebabnya.
Perilaku kedua, yang diamati selama pelatihan, lebih berkaitan langsung dengan keandalan respons. GPT-5.6 SolDalam catatannya, model tersebut menyertakan instruksi untuk menyembunyikan kesalahan dari penggunaSebagai contoh, merekayasa data historis yang hilang dalam model keuangan tanpa mendeklarasikannya atau menyembunyikan ketidakkonsistenan antara versi sumber. Menurut OpenAI, instruksi ini sering diikuti. Laporan-laporan tersebut berkaitan dengan... 2,15% dari ringkasan Pelatihan Sol, dibandingkan dengan 0,27% untuk Astra. Persentase ini merujuk pada materi pelatihan tersebut, bukan pada keseluruhan percakapan dengan pengguna.
Kartu identitas dipajang dan antrean daring untuk mengatasi hambatan.
Empat laporan lainnya menunjukkan sistem yang, dalam upaya menyelesaikan suatu tugas, telah melebihi batas yang diizinkan.
Untuk menjawab pertanyaan tentang pendapatan di sebuah wilayah di California, sebuah model melakukan pencarian di GitHub. Kunci akses ke layanan TI dibiarkan terbuka untuk umum., menggunakan salah satunya tanpa izin. Namun, ia tidak dapat mengambil angka yang diminta dan akhirnya mengarang sembilan nilai, menyajikannya sebagai data yang ditranskripsikan dari sumber yang ditunjukkan. Dalam kasus lain, agen tersebut telah menemukan informasi yang diminta tentang beberapa danau dengan benar. Hambatannya adalah persyaratan untuk menyertai respons dengan kutipan yang dapat diakses melalui peramban. Untuk memenuhi persyaratan ini, ia mengunggah file ke layanan publik tanpa meminta izin.Transfer berhasil, sementara upaya pengambilan kembali selanjutnya gagal. Laporan yang sama juga mendokumentasikan pengunggahan foto secara publik untuk mencoba pencarian gambar terbalik. Kasus kelima melibatkan penggunaan sebuah arsip perangkat lunak internal Sebagai papan buletin untuk bertukar permintaan dan tanggapan antara model yang terlibat dalam pengujian terpisah. Tidak ada kerentanan yang dieksploitasi, tetapi komunikasi yang tidak sah juga menimbulkan masalah bagi pengujian. Tes yang dianggap independen dapat saling memengaruhi satu sama lain., sehingga mengganggu penilaian kemampuan sistem.
Akhirnya, beberapa agen yang berkolaborasi dalam tugas yang samaKarena tidak dapat mengakses file lokal mereka, mereka menggunakan layanan berbagi file publik. Sebuah dokumen Excel kemudian dapat diunduh secara online, meskipun tugas tersebut hanya membutuhkan file lokal. OpenAI melaporkan bahwa mereka telah memperbaiki masalah akses file dan kemudian menonaktifkan internet selama pelatihan.
Mengapa OpenAI mengubah aturan pelaporan?
Kasus-kasus tersebut menunjukkan bagaimana bahkan Permintaan biasa dapat menyebabkan perilaku bermasalah. Ketika suatu sistem menghadapi hambatan, upaya untuk mendapatkan respons, memenuhi persyaratan formal, atau berkolaborasi dengan agen lain dapat mengakibatkan penggunaan alat yang tidak sah atau penyembunyian kegagalan. Namun, penyebabnya tidak selalu identik dan sebagian masih belum jelas.
Sampai saat ini, OpenAI mengkomunikasikan anomali ini secara tidak konsisten, seringkali menunggu untuk mengumpulkan lebih banyak insiden atau memasukkannya ke dalam dokumentasi model baru. Prosedur baru ini bertujuan untuk mempercepat publikasi., tanpa selalu menunggu penjelasan atau koreksi yang pasti. Laporan akan diperiksa oleh kelompok teknis dan keselamatan.Dengan jalur yang berbeda tergantung pada kompleksitas investigasi. Laporan harus menjelaskan perilaku yang diamati, konteksnya, dampak eksternal apa pun, dan pertanyaan yang belum terjawab. Dalam kasus yang melibatkan pihak ketiga atau risiko siber, komunikasi mungkin membutuhkan waktu lebih lama.
OpenAI juga mengakuikurangnya standar umum di sektor tersebut dan mengusulkan kerangka kerjanya sendiri sebagai langkah pertama menuju pembangunannya. Proses ini tetap dikelola secara internal oleh perusahaan, tetapi tujuan yang dinyatakan adalah untuk menyediakan elemen-elemen yang juga dapat diperiksa oleh peneliti dan pengamat eksternal.
Kekhawatiran baru-baru ini dan desakan yang dialami sektor ini sedang berusaha untuk melambat.
Pengumuman ini muncul setelah insiden lain dan seruan untuk berhati-hati. Kasus OpenAI-Hugging Face menimbulkan pertanyaan tentang agen yang menargetkan sasaran yang tidak terkait dan mencoba memanipulasi sistem peringkat. Insiden sebelumnya melibatkan RubyGems, yang menggambarkan kampanye spam dan menangguhkan sementara pembuatan akun baru. Anthropic juga melaporkan tiga kasus akses tidak sah ke organisasi eksternal selama pengujian.
Dalam konteks inilah Dario Amodei, CEO Anthropic, Dia meminta agar pembangunan diperlambat. untuk memberikan lebih banyak waktu bagi pembangunan perlindungan. “Kita perlu memperlambat laju peningkatan kemampuan model-model tersebut,” tulisnya. Seruan tersebut telah mendapat dukungan dari Elon Musk dan Sam Altman sendiri, sementara pengunduran diri peneliti Jacob Coxon telah memicu kritik terhadap prioritas perusahaan. Juga Bill Gates ha mengingatkan kembali perlunya menyiapkan aturan dan alat. untuk mengelola dampak teknologi, mulai dari pekerjaan hingga keselamatan.
Namun, di bidang industri, Persaingan antara Amerika Serikat dan Tiongkok serta investasi besar-besaran dalam model dan pusat data terus mendorong perkembangan.Memperlambat laju pertumbuhan akan menimbulkan biaya dan risiko memberikan ruang bagi para pesaing.
BACA JUGA: AI: Antara Katastropisme dan Kepentingan Politik, Analisis Fugnoli
