Saat itu tahun 2012: Project Debater lahir
Tujuh tahun setelah penampilan Watson, yang mampu memukau dengan mengalahkan jagoan darah daging dari game Jeopardy!, IBM kembali mencoba memukau dengan menghadirkan makhluk barunya: IBM Project Debater.
Setelah sukses gemilang di tahun 2011, tiba saatnya bagi Big Blue untuk mendirikan usaha baru. “Setiap orang dari ribuan peneliti… menerima email yang sama yang menanyakan kepada mereka apa tantangan besar AI berikutnya untuk Riset IBM,” kenang Noam Slonim, anggota pusat riset IBM di Haifa (Israel). Tidak ada spesifikasi yang tepat, namun proyek baru harus memenuhi karakteristik tertentu, di atas segalanya «… menarik dan merangsang secara ilmiah dan harus memiliki nilai komersial. Sesuatu yang besar, sesuatu yang akan membuat perbedaan." Slonim sendiri yang mengusulkan untuk mengejar tujuan menciptakan dan melatih kecerdasan buatan yang mampu berdebat secara bermakna dengan rekan manusia. Pada awalnya, hanya saran biasa yang, akhirnya, setahun kemudian berhasil memenangkan proposal pesaing lainnya dan menjadi tantangan baru yang diputuskan oleh IBM Research untuk difokuskan.
Hasil kerja selama enam tahun oleh tim IBM yang dikoordinasikan oleh laboratorium Haifa di Israel, proyek tersebut bertujuan untuk mengembangkan AI yang mampu berinteraksi penuh dengan manusia. Tapi, "Apa itu Pendebat Proyek?" Pertanyaan tersebut diajukan oleh Big Blue sendiri, yang juga memberikan jawaban: «Sistem yang membawa kecerdasan buatan ke dalam seni debat». Intinya, seperti yang ditunjukkan perusahaan dengan hati-hati, «Project Debater adalah sistem kecerdasan buatan pertama yang mampu mendiskusikan topik kompleks dengan manusia».
Fakta-fakta
Watson West di San Francisco Juni lalu adalah tempat dua debat yang tidak biasa antara pakar manusia dan keajaiban terbaru yang dibuat oleh IBM. Skema perbandingan yang dipilih memberikan total sepuluh menit kepada pembicara, menurut urutan ini: empat menit untuk mempresentasikan tesisnya sendiri, empat menit untuk menjawab dan menyanggah tesis lawan, dua menit untuk pernyataan konklusif.
Pokok bahasan kontradiktif pertama adalah: "Haruskah kita mensubsidi eksplorasi ruang angkasa?". Melawan Noa Ovadia, juara debat Israel tahun 2016, mendukung mesin.
Pendebat Proyek memperdebatkan tesisnya dengan alasan bahwa mendukung eksplorasi ruang angkasa membantu memajukan sains, membuka pikiran generasi baru, dan menjadi sumber inspirasi bagi mereka: «... ini menginspirasi anak-anak kita untuk mengejar pelatihan dan karier di bidang sains, teknologi, dan matematika". Dia bahkan menambahkan notasi yang menunjukkan keagungan AS: "... memiliki program eksplorasi ruang angkasa adalah elemen mendasar untuk menjadi kekuatan besar." Apakah dia mencoba memikat penonton yang hadir?
Menurut Noa Ovadia, bagaimanapun, dana tersebut dapat digunakan untuk bidang penelitian lain, di bumi ini. Replika mesin menghindari tabrakan langsung dan berfokus pada fakta bahwa dampak investasi dalam eksplorasi ruang angkasa, manfaat teknologi dan ekonomi yang diinginkan yang akan diperoleh darinya, akan lebih besar daripada biaya yang dikeluarkan: «Ini agak mudah untuk mengatakan bahwa ada tempat paling penting untuk menginvestasikan uang, dan saya tidak membantahnya. Tidak ada yang mengklaim ini adalah satu-satunya barang di daftar belanja kami. Tapi bukan itu intinya. Karena mensubsidi eksplorasi ruang angkasa pasti akan menguntungkan masyarakat, saya pikir itu adalah sesuatu yang harus dikejar oleh pemerintah."
Debat kedua mengadu AI IBM melawan Dan Zafir, pakar Israel lainnya, dengan topik: "Haruskah kita meningkatkan penggunaan telemedicine?". Dalam kedua diskusi tersebut, Pendebat memamerkan "persiapannya" dan banyaknya sumber yang dia ambil, dengan kutipan mulai dari "... seorang syekh dari Uni Emirat Arab, hingga jumlah pekerjaan yang akan dihasilkan oleh eksplorasi ruang angkasa - menurut Menteri Urusan Ekonomi Jerman.'
Di akhir jawabannya, robot itu mengandalkan lelucon: «Saya adalah pendukung sejati kekuatan teknologi … sebagaimana mestinya». Apakah dia melakukannya untuk menutupi kesulitan dalam menanggapi pernyataan yang dibuat oleh lawan bicaranya, seperti yang disarankan oleh Dieter Bohn, atau untuk mencoba mengambil hati penonton, sulit untuk dipastikan. Namun, ironi dari mesin itu tidak disengaja, atau karena kebetulan atau kesalahan, tetapi merupakan hasil karya teknisi IBM. Dalam beberapa kesempatan, AI sebenarnya telah berkelana ke lelucon atau lelucon, kadang berhasil, kadang kurang.
Putusan
Penting untuk dicatat bahwa Pendebat, «… selain pengantar singkat», sebelumnya tidak diinstruksikan, juga tidak mengikuti naskah yang telah disiapkan sebelumnya. Ed Arvind Krishna, Kepala Riset di IBM, ingin menggarisbawahi hal ini: «Untuk demonstrasi pertama teknologi baru ini, kami membuat pilihan dari daftar topik terpilih untuk memastikan diskusi yang bermakna. Namun Project Debater tidak pernah dilatih tentang topik tersebut». Subjek perdebatan sebenarnya dipilih dari daftar yang terdiri dari sekitar seratus topik, yang IBM yakini bahwa AI, berdasarkan data yang disimpan dalam memorinya, mampu mengukur dirinya sendiri terhadap manusia. Noam Slonim, «...memperkirakan bahwa teknologi dapat mempertahankan debat yang "bermakna" pada 100 topik tersebut 40% dari waktu».
Jumlah informasi yang dapat diandalkan oleh Pendebat Proyek sangatlah banyak. Ini mencakup beberapa ratus juta dokumen dari jenis yang paling berbeda: dari halaman Wikipedia hingga artikel dan esai, serta materi audio dan video, «... kumpulan 300 juta artikel, berita, dan karya akademis, yang sebelumnya diindeks untuk keperluan cepat mencari". Diindeks dan diperiksa secara ketat oleh para insinyur IBM.
Di akhir kedua perbandingan tersebut, audiensi jurnalis dan analis dipanggil untuk memutuskan pemenang berdasarkan dua kategori mendasar: penyajian argumen dan pengayaan pengetahuan yang dibawa oleh para pesaing. Singkatnya, "juri" yang diimprovisasi mengakui bahwa makhluk IBM telah terbukti memiliki elemen pengetahuan yang relevan tentang masalah yang diangkat, meskipun lawan berdarah-darah lebih unggul dalam eksposisi. Sementara di debat pertama kemenangan jatuh ke tangan manusia, di debat kedua AI dianggap lebih persuasif. Jika Noa Ovadia berhasil mendapatkan dua penonton di sisinya, sembilan orang mengaku telah mengubah pendapat mereka tentang penggunaan telemedicine berkat argumen yang diberikan oleh Project Debater. Meskipun, seperti dicatat oleh Guardian, «… ada banyak anggota staf IBM di ruangan itu dan mereka mungkin mendukung kreasi mereka sendiri», kali ini kami belum menyaksikan kemenangan AI yang menghancurkan, tetapi kami dapat berbicara tentang seri . Dasi yang bahkan dekat dengan kita manusia.
Dan pameran kedua, yang diadakan pada bulan Juli di Israel di depan audiensi jurnalis, membuktikannya. Mesin IBM yang diadu dengan dua pakar debat Israel, Yaar Bach dan Hayah Goldlist Eichler, tampil kurang cemerlang. Isu-isu yang dibahas masing-masing adalah: pengawasan massal dan rekayasa genetika. Seperti pada acara sebelumnya yang diselenggarakan di San Francisco, otomat IBM mampu mengalahkan lawan-lawannya secara langsung dalam hal informasi dan pengetahuan. Namun, sekali lagi, dia gagal dalam mengemukakan argumennya dan, seolah-olah, dalam penekanan eksposisi. Kesimpulannya, "sistem dan Bach imbang, namun di babak kedua kemenangan jatuh ke tangan Goldlist Eichler, yang berhasil mengubah pikiran lebih banyak orang di antara penonton, meskipun mendapat skor lebih rendah dalam pengetahuan subjek» .
Sehari setelah
“Pikirkan sejenak. Sistem AI terlibat dengan seorang pakar manusia dalam debat, mendengarkan argumennya dan secara meyakinkan menanggapi dengan alasan tanpa naskahnya sendiri untuk membujuk audiens untuk mempertimbangkan posisinya pada topik yang kontroversial. Arvind Krishna tiba-tiba memproyeksikan kita ke dimensi lain yang, hingga saat ini, menjadi tempat berburu film fiksi ilmiah atau dokumenter tentang masa depan yang masuk akal, kurang lebih di masa depan. Kedua, bahkan dengan semua ketidakpastian dan kekurangan yang ditunjukkan oleh mesin, masa depan seperti itu sebagian telah menjadi kenyataan. Faktanya, berapa banyak, dikecualikan oleh penggemar teknologi, yang akan mengarahkan atau hanya percaya kemungkinan kinerja kecerdasan buatan yang serupa dalam jangka pendek? Meski ditonjolkan keterbatasan, tampilan daun AI justru membuat takjub. Sebuah "teknologi luar biasa", adalah komentar Chris Reed, seorang profesor di Universitas Dundee.
Ovadia sendiri terkesan: "Saya terkejut... Teknologi benar-benar membingungkan dalam hal berapa banyak kapasitas kognitif manusia yang dapat dilakukannya secara bersamaan". Juara Israel memiliki kesempatan untuk bersaing dengan robot IBM selama beberapa bulan, untuk menyelesaikan sistem: «Awalnya saya kagum, baik dengan bahasa yang sederhana, tetapi juga dengan konstruksi argumen ... Itu kemampuan untuk mendengarkan dan kemudian memberikan tanggapan yang berarti terhadap apa yang saya katakan.
Justru "kualitas" aneh yang ditunjukkan oleh Ovadia adalah salah satu karakteristik utama yang menjadikan Project Debater, "teknologi yang cukup istimewa ... tonggak penting dalam pengembangan teknologi Kecerdasan Buatan", seperti yang dinyatakan oleh Daniel Melka, CEO dan Negara manajer IBM Israel. Intinya, orisinalitas Pendebat didasarkan pada tiga keterampilan inovatif, «… tiga keterampilan penting, yang masing-masing membuka cakrawala baru di bidang AI».
1) Pertama-tama menulis dan memaparkan pidato berdasarkan data yang tersedia. "Usaha pertama adalah pembuatan komputer yang mampu menghasilkan opini - mirip dengan editorial surat kabar - dibangun di atas data dan mengekspresikannya dalam kalimat lengkap".
2) Kedua, mendengarkan jawaban lawan bicara, untuk mengenali dan mengekstrapolasi konsep yang paling penting. “Kemampuan kedua memungkinkan robot untuk mendengar dan memahami lawannya, memungkinkannya mengidentifikasi pernyataan kunci yang tersembunyi dalam bahasa lisan yang panjang dan terus menerus.”
3) Terakhir, pembuatan grafik pengetahuan tunggal, terkait dengan keraguan yang diungkapkan oleh manusia, untuk memungkinkan penalaran "etis". Prestasi ketiga adalah memberi komputer kemampuan untuk mengungkapkan dilema manusia secara ringkas dan dengan argumen berprinsip.
Namun, performa Debater bukan tanpa kekurangan. Selain mengulangi konsep yang sama beberapa kali dengan kata-kata yang berbeda, pada satu titik, selama perdebatan tentang eksplorasi ruang angkasa, dia berpendapat bahwa ini «... lebih penting daripada [memiliki] jalan yang bagus atau sekolah yang lebih baik atau perawatan kesehatan sekolah menengah" . Argumen yang tidak benar-benar bisa dibagikan …
Terlepas dari beberapa ketidakpastian linguistik, dalam beberapa kasus kami mendapat kesan bahwa konstruksi kalimat tidak sepenuhnya "alami": terkadang segmen awal ucapan tidak diikuti oleh bagian kedua yang tampak cair; kadang-kadang, anekdot dan kutipan tampak hampir biasa saja. Pada satu titik, di tengah kalimat, penyisipan "sulih suara" mengungkapkan bahwa mesin telah menyadap transkrip video.
Meskipun demikian, "mirabilia" baru IBM bertahan. Seperti yang ditunjukkan Chris Reed, kami telah menyaksikan kinerja yang menunjukkan kemajuan yang tidak berarti: «Ini benar-benar langkah maju yang signifikan… Saya pikir yang mengejutkan saya adalah kombinasi teknik Kecerdasan Buatan. Melakukan sesuatu seperti debat bukanlah hal yang berhasil atau gagal. … Anda harus mampu memecahkan banyak masalah dan kemudian menyatukan semua masalah itu menjadi solusi yang direkayasa.
Kesimpulan
Mesin tersebut telah menunjukkan kurangnya empati, telah mengungkapkan batasan penelitian saat ini di bidang kecerdasan buatan dan telah secara fatal memberikan bahan lebih lanjut untuk diskusi tentang masa depan dan fungsi AI. Selain itu, terlepas dari banyak proklamasi yang menekankan kolaborasi yang semakin dekat antara manusia dan mesin, dengan AI, kita diberitahu, memainkan peran pendukung yang nyata, hantu persaingan muncul kembali dengan sombong. Bagian apa yang akan dimainkan manusia dalam semua ini, fungsi apa yang akan dimainkannya? Akankah ia mampu mempertahankan "kegunaannya", akankah ia mempertahankan ruang keberadaannya sendiri, suatu keunikan yang khas dalam batas yang tampak semakin kecil setiap hari, atau akankah ia menjadi elemen marjinal, bahkan mubazir?
Akhirnya, jika diamati lebih dekat, Project Debater juga mengungkap sisi gelapnya sendiri …
IBM membayangkan peran penasihat masa depan untuk Pendebat Proyek. “Kami yakin ada potensi positif yang sangat besar dalam kecerdasan buatan yang mampu memahami kita sebagai manusia,” kata Krishna. Seorang konselor bebas dari prasangka, bebas dari emosi dan oleh karena itu kebal terhadap suasana hati dan pengaruh lingkungan, mampu memberikan pandangan objektif tentang suatu topik. “Ini dapat meningkatkan tingkat pengambilan keputusan berbasis bukti,” catat Chris Reed.
Sebuah alat bahkan mampu menawarkan sekaligus pro dan kontra yang melekat pada sebuah keputusan. "Seiring waktu, dan dalam lingkungan bisnis yang kompatibel dengan aplikasi ini, kami akan semakin bergerak ke arah penggunaan sistem AI ini untuk memfasilitasi penalaran, penyelesaian masalah, pada masalah yang belum terselesaikan", dia ingin sekali menegaskan kembali IBM.
Tentu saja, sangat ditekankan dalam beberapa kesempatan bahwa peran mesin tidak akan mengambil keputusan (menggantikan manusia), melainkan berkontribusi pada diskusi, «… bertindak sebagai suara lain di meja». Fungsi Project Debater, menurut Big Blue, “akan menjadi 'fasilitator' dalam membuat pemikiran, pendapat, sudut pandang dan refleksi beredar lebih baik untuk sampai pada sintesis yang efektif dan efisien ... seorang 'Pemikir' untuk melayani daging dan darah pemikir tulang".
Prospek yang menggairahkan, bahkan meyakinkan. Tapi mari kita bayangkan, sejenak, dimensi lain. Masa depan distopia, berbeda dan jauh dari "keberuntungan luar biasa dan progresif" yang dijanjikan oleh narasi kemajuan teknologi yang tak terbendung. Mari kita bayangkan dunia yang dipenuhi dengan data, penuh dengan berita, dengan informasi mencekam yang membingungkan. Informasi yang diisi dan diganggu oleh berita palsu …
Bagaimana jika kualitas alat seperti Pendebat Proyek digunakan alih-alih untuk menertibkan berita dan memilah kekacauan informasi, sebenarnya untuk meningkatkan kekacauan ini, serta mengarahkan opini ke satu arah daripada yang lain? Bagaimana jika, alih-alih mengidentifikasi dan mengungkapkan berita palsu, itu digunakan untuk membuat yang baru, membanjiri jaringan, dan tidak hanya, dengan berita palsu atau terdistorsi, menggantikan yang benar dengan yang mungkin? Mungkinkah? Dapat diduga bahwa itu dan bahkan tanpa usaha yang besar, terutama di dunia media sosial, di mana komunikasi dan berita tidak perlu disempurnakan atau diartikulasikan secara khusus.
Alat semacam itu bisa menjadi semacam Pemikir "à la carte". Lebih buruk lagi, Think thank, karena ada banyak, tetapi otomatis, yang mampu membuat saran dan "pengaturan" dalam aliran yang berkelanjutan, mempengaruhi, mengarahkan, membujuk. Instrumen yang mampu menyusun fakta dan elemen dengan presisi busana, menggabungkan dan memisahkan, terlebih lagi, dengan kecepatan yang tak terbayangkan oleh manusia. Realitas yang jauh dari kita, terlalu distopia? Mungkin …
