“Kita perlu merenungkan apa yang telah kita buat dan mengapa.” Mereka adalah kata-kata dari Nello Cristianini, fisikawan, profesor, dan peneliti Kecerdasan Buatan di Universitas Bristol, selama edisi ketiga puluh enam Reading of the Mill berjudul “Mesin cerdas. Pahami mereka untuk bisa hidup bersama mereka”.
Dari tahun 50-an hingga 90-an, pendekatan kecerdasan buatan sangat "matematis": orang bertanya-tanya apa aktivitas intelektual tertinggi yang dapat dilakukan manusia dan jawabannya tampaknya "membuktikan teorema", dia memulai sebagai dosen Bristol." Gagasan bahwa kecerdasan adalah deduksi logis, dan aturan aksiomatik sangat populer pada masa itu, dan semua upaya yang dilakukan untuk mencoba menciptakan mesin cerdas dalam aliran ini tidak membuahkan hasil. Titik baliknya adalah pengabaian pendekatan ini demi metode statistik: "pergeseran paradigma" ini memungkinkan para penerjemah pertama. Singkatnya, kami telah beralih dari mencoba mendefinisikan aturan yang tepat dan melanjutkan dengan deduksi logis menjadi mengikuti model perilaku yang dipandu oleh inferensi statistik.
Kami telah menghindari mengambil manusia sebagai model kecerdasan: idenya adalah tertarik pada perilaku cerdas daripada kecerdasan itu sendiri, yang juga bisa menjadi tipikal sistem. Konsepnya adalah meniru perilaku yang berguna, belajar dari contoh, mengesampingkan upaya untuk memecahkan "masalah kecerdasan", juga meninggalkan pertanyaan memberi label pada konsep itu sendiri atau mendefinisikannya dengan tegas. Amazon berhasil menasihati tanpa memahami model kepribadian, dengan cara yang sama dimungkinkan untuk memblokir email yang tidak diinginkan.
Namun, selain semua keuntungan yang dibawa mesin ini, ada risiko nyata dan konkret tidak hanya terhadap keberadaan dan kebebasan kita, tetapi juga terhadap privasi. “Opini publik itu sendiri dikondisikan oleh algoritma” Cristianini menggarisbawahi. “Kami telah menciptakan mesin yang tidak dapat kami lakukan lagi tanpanya dan kami masih belum memiliki norma budaya, hukum, dan nilai untuk hidup bersama”. Ini adalah masalah struktur budaya yang sangat topikal. Ada kebutuhan bagi orang-orang yang "melukis" masalah baru untuk mewariskan kesadaran akan risiko ini kepada generasi mendatang, dan tugas ini, bagi Nello, adalah bagian dari politik.
Ini adalah masalah mengatur perubahan sambil menyadari banyak implikasinya: di bidang pendidikan, di tingkat sosial, tetapi juga di pikiran kita. Mesin adalah alat yang kuat dan penting, pikirkan saja banyak pencapaian yang dicapai di bidang medis, industri, dan ilmiah. Namun, kita perlu memikirkan tentang konsekuensi etis dan budaya yang akan ditimbulkan oleh penggunaan mesin cerdas dalam skala besar. Ini menyiratkan perlunya perubahan legislatif untuk memperjelas peran dan tanggung jawab.
Masalahnya bukan mesinnya, tetapi manusia itu sendiri jika dia tidak menangani masalah dari perspektif yang benar. Orang bertanya-tanya apakah dalam proses penggantian manusia ini, apa konsekuensi etis dan budaya pada tingkat global. Dan risiko bagi manusia untuk kehilangan sebagian dari identitasnya, mereduksi keberadaannya menjadi apa yang dapat dilakukan mesin dan untuk kepuasan kebutuhan baru yang sebagian besar disebabkan.
Parlemen Eropa telah menyatakan dirinya tentang masalah ini: "Penggunaankecerdasan buatan (AI) itu harus mencegah prasangka gender, sosial dan budaya dan melindungi keragaman bahasa, landasan hak-hak dasar dan nilai-nilai masyarakat kita". Dengan 623 suara mendukung dari anggota yang ingin menggarisbawahi pentingnya nilai-nilai etika Eropa sebagai dasar penggunaan, di bidang pendidikan dan budaya, teknologi yang dikembangkan berkat AI.
Dengan resolusi ini, Parlemen Eropa “mengundang Komisi Eropa dan semua Negara Anggota untuk mempertimbangkan aspek etika, termasuk dari perspektif gender, dalam pengembangan kebijakan dan undang-undang tentang AI dan, jika perlu, menyesuaikan undang-undang saat ini, termasuk Program serikat pekerja dan pedoman etika tentang penggunaan AI".
Secara khusus, anggota parlemen menyerukan pengembangan indikator khusus untuk mengukur keragaman dan memastikan bahwa rekomendasi yang terkandung dalam algoritme, terutama dalam layanan streaming audio dan video, tidak berdampak negatif terhadap keragaman budaya dan bahasa Perhimpunan.
Perhatian juga ditempatkan pada difusi berita palsu, topik hangat yang juga digarisbawahi oleh Profesor Cristianini selama acara berlangsung. Kita perlu menetapkan bagaimana teknologi kecerdasan buatan digunakan oleh media dan mewaspadai penyalahgunaan teknologi ini untuk menyebarkan berita palsu.
