Eropa telah mencapai kesepakatan yang akan menjadi undang-undang mengenai regulasi Kecerdasan Buatan: Eropa adalah negara pertama di dunia yang menetapkan aturan untuk AI. Saya enam adalah larangan utama dapat diidentifikasi dalam teks "tindakan IA“, paket aturan yang harus dipatuhi oleh produsen dan pengguna perangkat lunak yang menggunakan teknologi ini. Larangan yang tidak berlaku pada lembaga penegak hukum, beberapa badan publik yang beroperasi di sektor keamanan dan, dalam keadaan luar biasa, beberapa badan peradilan.
Il larangan pertama, yang – jika diinginkan – mungkin cukup untuk mencakup semua hal lainnya, inilah yang menghalangi penggunaan sistem pengenalan biometrik yang menggunakan, untuk kategorisasi, apa yang disebut "data sensitif“, yaitu: asal ras dan etnis, keyakinan agama, filosofi atau politik, keanggotaan partai, serikat pekerja atau asosiasi, kondisi kesehatan, orientasi seksual, data genetik atau biometrik. Oleh karena itu, tidak mungkin mengidentifikasi seseorang secara otomatis dengan mengumpulkan jenis data ini.
Il larangan kedua mengatur ketidakmungkinan pengumpulan data dari Internet atau sumber video lainnya untuk tujuan pembuatan database wajah pengakuan (sebagai gantinya dapat digunakan dalam kasus-kasus yang ditargetkan), memanfaatkan kemampuan kecerdasan buatan. Ini pada dasarnya adalah pengecualian spesifik dari salah satu penerapan pertama teknologi AI.
In terza batuta, tidak mungkin memanfaatkan kemampuan AI untuk pengakuan emosi (kira-kira disimpulkan melalui parameter yang diambil dari perolehan tertentu gambar dan video seseorang, seperti suhu tubuh, pelebaran pupil, seringai di wajah, nada suara), keduanya dalam lingkungan kerja, baik di lapangan sekolah.
Hambatan keempat: The klasifikasi sosial berdasarkan kebiasaan atau karakteristik pribadi.
Kelima: The manipulasi perilaku manusia. Ya, karena saat ini sistem kecerdasan buatan dapat membingungkan seseorang hingga mempengaruhi keinginan bebasnya. Hal ini dapat dilakukan melalui reproduksi gambar dan video yang terlihat nyata, mengubah realitas dan menipu orang agar mendengar atau melihat sesuatu yang hanya dibuat-buat.
Larangan terakhir itulah yang akan mencegah mengeksploitasi kecerdasan buatan dalam semua kasus di mana pengguna dari hasil teknologi tersebut diidentifikasi sebagai subjek yang rentan, yaitu dikondisikan oleh usia, kecacatan, situasi sosial atau ekonomi seseorang.
Faktanya, semua larangan tersebut dapat diringkas dalam satu hambatan: penggunaan kecerdasan buatan untuk katalogisasi data sensitif, terkait dengan data pribadi lainnya. Cukup jelas bahwa melalui data pribadi, bersama dengan data pendapatan – sebagai contoh saja – sudah dimungkinkan untuk mengambil sampel subjek yang rentan. Perubahan realitas juga terjadi berdasarkan data milik seseorang, yang direproduksi oleh AI, sebagian sebagaimana adanya dan sebagian diperkaya dengan gerak tubuh yang tidak pernah dilakukan dan kata-kata yang tidak pernah diucapkan. Pada hakikatnya peraturan tersebut diterjemahkan ke dalam beberapa batasan mengenai “database” dan tentang penggunaan AI untukekstraksi hubungan di dalamnya tidak dapat diidentifikasi.
Pengecualian terhadap larangan Eropa
Dewan Eropa telah memperkenalkan beberapa pengecualian dalam semua kasus ancaman terorisme, mencari korban e berperang melawan kejahatan (meskipun tingkat kejahatan harus ditentukan dengan lebih baik). Oleh karena itu pengecualian total terhadap larangan bagi polisi ketika mereka menangani kegiatan-kegiatan tersebut di atas, tetapi dengan kemungkinan intervensi untuk membatasi penggunaannya atau untuk mewajibkan transparansioleh legislator nasional. Penggunaan database berisiko tinggi untuk mengoperasikan sistem kecerdasan buatan akan – dalam hal apa pun – bergantung pada izin hukum.
Selain itu, semua pemasok dan badan publik yang menggunakan sistem ini harus melaporkan transaksi dalam a Basis data UE, sehingga tujuan dan keadaan yang menentukan penggunaannya selalu dapat ditelusuri. Untuk kepolisian dan badan pengawasan imigrasi, akan ada bagian khusus non-publik, yang hanya dapat diakses oleh otoritas pengawas independen.
Keraguan terhadap efektivitas undang-undang tersebut dan dampaknya terhadap perekonomian negara-negara Eropa
Pengenalan undang-undang tersebut direncanakan secara bertahap. Diperlukan waktu hingga 2 tahun sebelum diberlakukan sepenuhnya. Sementara itu, siapa pun dapat memanfaatkan waktu yang lama ini dan mengeksploitasi AI untuk melakukan segala hal yang tidak diperbolehkan oleh peraturan, setelah diterapkan.
Tampaknya Eropa belum memperhitungkan seluruh dunia open source dari kecerdasan buatan. Intinya, hukum komunitas memerlukan penerapan aturan keamanan TI secara ex ante, transparansi proses pelatihan, dan pembagian dokumentasi teknis sebelum diterapkan di pasar. Jadi, dalam semua kasus dimana produk akhir itu tidak dimaksudkan untuk pasar, namun untuk penelitian, aturan tersebut tidak berlaku. Dalam kondisi ini, dunia open source, yang sebagian besar merupakan hasil kolaborasi antar individu untuk berbagi pengetahuan, dapat dieksploitasi untuk menghindari keharusan tunduk pada larangan apa pun. Penting juga untuk memahami maksud Eropa mengenai regulasikecerdasan buatan generatif, yaitu apakah produk akhir AI juga akan diatur, yaitu apa yang dihasilkan AI, bagian hilir dari data katalog yang digunakan untuk "pelatihan" dan - ya - tunduk pada kewajiban dan larangan. Saat ini tampaknya Eropa hanya bermaksud memaksa pengembang untuk memastikan bahwa suara, gambar, dan teks yang dihasilkan benar jelas diidentifikasi sebagai buatan.
Kita harus ingat bahwa Eropa menerapkan batasan dalam wilayahnya, namun Internet, seperti yang kita ketahui, tidak memiliki batas, jadi, seperti yang mereka katakan: begitu undang-undang dibuat, penipuan akan ditemukan. Satu saja sudah cukup VPN dan taruhannya akan dielakkan. VPN adalah jaringan pribadi virtual yang "menipu" orang-orang yang menyediakan layanan, membuat mereka percaya bahwa pengguna yang memintanya berasal dari negara yang bukan negara asal permintaan tersebut. Dengan cara ini teknologi akan dapat dieksploitasi secara sempurna tanpa adanya larangan apa pun. Perusahaan AI terbesar antara lain berada di Amerika Serikat. Tidak ada raksasa seperti Microsoft, Google, Databricks, Anduril atau Antrophic di Eropa, bahkan tidak ada raksasa berukuran menengah.
Namun, ada pula yang berpendapat demikian undang-undang Eropa yang baru dapat merugikan perusahaan-perusahaan dari benua lama, karena di luar Eropa semua orang akan dapat mengembangkan dan menguji semua jenis teknologi berbasis AI, sementara di sini perusahaan harus menghadapi peraturan Eropa yang ketat.
