Il Tengai vakasıFIRSonline'da da kapsamlı bir şekilde tartıştığımız , yapay zeka ile donatılmış araçlarla ilişkimiz hakkında bazı genel değerlendirmeler yapmamızı istiyor. Tengai gerçekten de yapay zekanın sosyal kullanımının bir paradigma örneği olabilir.
Herhangi bir işi ortadan kaldırmazHerhangi bir aileyi yoksullaştırmaz, bir sosyal kontrol aracı değildir, Çin hükümetinin işine gelmez. Kısacası, gelecek kaygısıyla ilgili olarak, giderek daha geniş bir kamuoyunda bu kadar çok endişe uyandıran bileşenlerin hiçbirine sahip değil.
Tengai şüphesiz sosyal-ilişkisel bağlama uygulanan bir yapay zeka hizmetidir. Keyfi eylemlerle şartlandırılabilen ve ayrımcı tutumlardan muzdarip bir faaliyeti daha iyi gerçekleştirmeye yardımcı olur. Yani personel seçimi. Personeli değerlendirirken Tengai, adayın liyakatini, yeterliliğini, motivasyonunu ve ilgili olduğu görevi yerine getirme yeteneğini işinin tek parametresi olarak kabul ederek objektif olma eğilimindedir.
Teknolojinin bilim adamlarının, mucitlerin ve araştırma ekiplerinin çalışmalarından tarafsız doğabileceğini söylemek tamamen yanlış değil, ancak piyasanın hayvani ruhuyla karşılaştığında bu tarafsızlık, bataklık bir deltadaki büyük bir nehir gibi ayrılma eğilimi gösteriyor. Tengai örneğinde, bu tür bir ekosistem için tipik olan bu evrim, şu an için gerçekleşmekten çok uzak görünüyor. Hala iyi durumdayız.
Bilim kurgudan gerçeğe
Yakın zamana kadar, bir iş görüşmesini yürüten bir otomat bilimkurguya ayrılmış bir konuydu. Bugün Tengai ile bu bir gerçek oldu. Furhat'ın robotu hakkında zaten kapsamlı bir şekilde tartıştık, yine de Tengai'nin ne yapması gerektiğini ve seçim sürecindeki rolünün ne olacağını kendimize somut olarak sormanın zamanı geldi.
(Aksi belirtilmedikçe bundan sonraki tüm alıntılar siteden alınmıştır. www.tengai-unbiased.com)
TNG işe alım çözümünü şu şekilde tanıtıyor:
Tengai Select, robot kör görüşmeleri, veriye dayalı görüşme analizi [tarih-tahrik] ve görüşmelerin transkriptleri. Tengai Select ayrıca işverenler için daha güvenilir bir marka [temsil ederek] ve zaman ve maliyet açısından verimli olarak aday deneyimini geliştirmeye yardımcı olacaktır. Mülakat robotu, ilk mülakat aşamasının bir parçası olarak entegre edilmiştir ve kör mülakatlar yürütür, bu da tüm adayların aynı beceriye dayalı soruları ve muameleyi alması anlamına gelir. Ayrıca, daha fazla adayın mülakat yapmasına izin verecek ve tüm mülakatların yazıya dökülmesi sağlanacaktır.
Etkileşim
Tengai'nin ilk hedefi, adayla biraz empati kurmaktır.
Furhat'ın otomatı bu nedenle görüşmelerin ilk aşamasında, beceriye dayalı tarama aşamasında kullanılacaktır. Adaylar, özellikle söz konusu sayılar önemliyse, muhtemelen bir ön seçimi çoktan geçmiş olacaklardır. Bu nedenle Tengai'nin dahil olacağı mülakatlar, adayların belirli bir iş pozisyonu için becerilerini belirlemeyi amaçlar. Bazı açılardan rutin ama önemsiz olmayan bir görev.
KTH Stockholm'de profesör ve Furhat Robotics'te Tengai projesinin Baş Bilim İnsanı olan Gabriel Skantze şöyle açıklıyor:
Tengai işe alım görevlilerine yardımcı olacak ve iş gereklilikleri ve profiline dayalı olarak becerilerini ve yeterliliklerini değerlendirmek için adaylarla görüşmeler yapacaktır.
Robotun çalışmasının nihayetinde bir insanınkinden pek farklı olmayacağının altını çizerek devam ediyor: "Robot, görüşmeyi bir insan işe alım görevlisine çok benzer bir şekilde, yetkinliğe dayalı sorular kullanarak yürütecek".
Ve burada Tengai'nin tuhaflığı, yani robotun önündeki kişiyi harekete geçirme, uyandırma ve muhtemelen empatik bir ilişki kurma becerisinde yatmaktadır: "Robot sırayla geri bildirimde bulunacaktır (başını sallayarak, gülümseyerek ve "mhm" diyerek) adayı ayrıntılı cevaplar vermeye teşvik etmek," diye devam ediyor Skantze. Tengai adayla diyalog kuracak ve gerekirse daha derinlemesine bir tartışma da yapacaktır: "Yanıt çok belirsizse, robot adaydan örneğin daha somut örnekler vermesini isteyebilir."
Son olarak, Furhat'ın Baş Bilimcisi sözlerini bitiriyor:
Röportajdan sonra robot, röportajın bir özetini ve bazı nesnel tavsiyeleri sunacak (nesnel) böylece bir insan adaya karar verir.
Öngörülemezlik ve belirsizlik
Tengai, beklenmedik durumları bile işlemeye çalıştığı için Siri gibi sesli asistanlardan çok farklıdır.
Tengai'ye emanet edilen görevin günlük konuşma dili doğası ve çağrıldığı belirgin etkileşim, onu öngörülemeyen durum ve olaylarla uğraşmak zorunda bırakır. Bu, şu anda iletişim kurduğumuz diğer cihazlardan (örneğin, çeşitli dijital cihazların kişisel yardımcılarını veya hatta GPS navigatörünü düşünün) çok daha büyük ölçüde gerçekleşecek; çevre.
Gabriel Skantze aradaki farkı açıklıyor:
Siri söz konusu olduğunda, insan kullanıcı bir soru sorar ve Siri ilgili bilgileri arar ve bunu eğlenceli ve sosyal bir şekilde sunar. için Ancak şu anda Siri'nin programlanması, programlanmasından daha kolay görünüyor. Tengai. Görevimiz çok daha karmaşık. Bizim durumumuzda, edinilmiş bir insan davranışını, daha önce insan sosyal etkileşimi konusunda tam olarak sıfır deneyimi olan bir robota aktarmamız gerekiyor.
İkincisi, bir iş görüşmesi yapmanın nasıl çok daha talepkar olduğunu ve kaçınılmaz olarak önceden tanımlanamayan senaryolara yol açtığını belirtiyor. Bu belirsizliği ele almak ve yönetmek için, en yeni nesil yapay zekanın tahmine dayalı doğası kullanılıyor ve aslında makine öğrenimine güveniyoruz:
Bu amaç için, Tengai makine öğrenimi kullanılarak geliştirilecektir; bu, önyargı potansiyelinin mümkün olduğu kadar düşük olduğu, insanlar tarafından yürütülen görüşmelerden veri toplayacağımız ve ardından sistemi insan işe alan kişinin konuşma davranışını çoğaltmak üzere eğiteceğimiz anlamına gelir.
belirsizlik
Dil, biyolojik olmayan bir zeka için çok belirsiz olabilir.
Tengai, belirsizlikle günlük olarak uğraşmak zorunda kalacak ve aynı zamanda sürekli olarak belirsizlikle mücadele edecek. Gerçekten de, otomatın üstesinden gelmesi gereken en zorlu zorluklardan biri tam da muğlaklıktan kaynaklanmaktadır. Dil ve onun sayısız yönüyle ilgili olan ve iletişim kurmak için kullandığımız çoklu kodların anlaşılmasında içkin olan.
Tengai projesinin proje yöneticisi ve robot eğitmeni Sinisa Strbac bunu çok iyi biliyor:
Robotun sorması gereken soruları analiz etmek için çok çaba harcadık. Soruların olabildiğince açık ve somut olmasına çok önem verildiği ortaya çıktı. Tengai belirsizlikle mücadele eder, bu nedenle bir adayın yanıtı ne kadar belirsiz olursa o kadar iyidir Tengai yetkinlik karışımının değerlendirilmesi ve onaylanmasında.
İnsan işe alım görevlileri gibi robot, doğrulanmış bir yeterlilik çerçevesi içinde birleştirilmiş bir soru modelini takip edecektir (Doğrulanmış yeterlik yapı) adaylara sunulacaktır. Bununla birlikte, AI'nın görüşmeye hangi yönde devam edeceğine karar vermek için ikincisinin cevaplarını tam olarak anlayabilmesi gerekecektir.
Hala Strbac'ı algılıyor
Bir adayın yanıtı, akla gelebilecek herhangi bir durumu tanımlayabilir, sayısız farklı yolla ve bireysel sözcük seçimiyle anılabilir. Robot bu bilgiyi anlamalı ve analiz etmeli ve ardından hangi ek sorunun daha alakalı olduğunu belirlemelidir.
Röportajı tamamen özerk bir şekilde yürütebilmek için Tengai, yapay zeka, konuşma tanıma alanındaki en son teknoloji, doğal dil anlayışı ve dilin altında yatan anlam açısından en son kazanımlarla donatıldı. Bu sayede robot, muhatabıyla konuşarak önemli miktarda bilgi toplayabilir ve bunları karlı bir şekilde işleyebilir:
İşe alımlarda bilgi sağlanmasına ve toplanmasına özel önem verilmektedir. Ve bu aynı zamanda için de geçerlidir Tengai. [İş] görüşmesi, nasıl yapılacağı hakkında diyalog şeklinde bilgi paylaşıyor ve sonunda cevapları topluyor. Bilgileri yakalarken, kullanılan kelime ve kelime öbeklerinin sayısı ne olursa olsun adayın ne söylediğini anlar. Yani evet, açık uçlu soruları ve belirsiz cevapları işleyebilir.
Bununla birlikte, dil ve insan etkileşimi söz konusu olduğunda, bilinmeyenlerin sayısız olduğu ortaya çıkıyor. Herhangi bir hata veya yanlış anlama, makinenin en çok aranan nesnelliğini bile etkileyebilir. Gabriel Skantze bunun farkında:
Yabancı aksanlı veya belirli bir cinsiyete sahip konuşmacılar için konuşma tanımanın (konuşmayı kelimelere çeviren) arızalanma riski olabilir. Bu, potansiyel olarak görüşmenin sonucunu etkileyebilir.
veri ve eğitim
Tengai, "Oz Büyücüsü" adlı bir yöntemle veri elde etmek için tasarlanmıştır. Bu yöntem, sürecin kontrolünü bir kişinin eline verir.
Tengai'yi eğitimden önce ve hatta eğitimden daha verimli hale getirmek için makine eğitim sürecinde kullanılan veriler esastır.
Gabriel Skantze, verilerin ilk olarak nasıl elde edildiğini açıklıyor. “ adı altında devam eden bir metodolojidir.Oz Büyücüsü”, robotun kontrolünü bir insana bırakıyor, ancak makine ile etkileşime girenler bundan habersiz.
Tengai başlangıçta başka bir odada oturan ve robotun davranışını tetikleyen, insan-robot görüşme verilerini kaydetmemize izin veren bir insan işe alım görevlisi tarafından izlendi. Bu veriler şimdi iki farklı model geliştirmek için kullanılacaktır: biri görüşme sırasında Sihirbazın davranışını taklit edebilen, diğeri ise görüşmelerin değerlendirmesini daha sonra gerçekleştirebilen.
Skantze, çeşitliliğin, bilinçsiz olsalar bile herhangi bir önyargıdan kaçınmak için geçici olarak Tengai'nin kontrolünü ele geçirenleri de içerdiğinin altını çiziyor: «[Tengai], belirli bir davranışa sahip olmamak için farklı işe alım görevlilerinden öğreniyor. bireysel işe alım görevlisi'.
Robotun bu kez insan muadili ile karşılaştırıldığında çeşitliliği, otomatın davranışı üzerinde uygulanabilecek titiz kontrolle ilgili olarak da ifade ediliyor: ağzın köşesindeki mikro hareketlere,” diye belirtiyor Skantze.
Veri toplama ve makine eğitimi aşaması aylar sürdü ve ötesinde sayıldı Duecento kobay olarak sunulan gönüllülerle röportajlar.
Tüm mimikler, sesler ve yüz ifadeleri, farklı işe alım uzmanlarıyla yapılan birkaç yüz görüşme incelenip filme alınarak tasarlandı, böylece iş arayanların daha akıcı, anlaşılır ve yenilikçi bir aday deneyimi için kendilerini güvende ve rahat hissettikleri bir etkileşim yaratıldı.
Aslında, Tengai'nin özelliğinin, otomatın muhatabıyla tam anlamıyla etkileşime girme yeteneğinde yattığını unutmayalım.
misafirperverlik
Azınlık Raporu, bilimkurgudan gerçeğe dönüşecek bir şeyi az çok tahmin ettiğinden, bu yüzden Onu/O, Joaquin Phoenix'in oynadığı Spike Jonze'nin filmi, uzak olmayan başka bir gelişi öngörüyor. Tengai zaten duyuru yapan bir şey olabilir Onu.
Bir robotun karşısına oturmak ve onunla sohbet etmek (hala) başlı başına sıra dışı bir deneyim. İş aramak gibi çıkar önemliyse bu daha da önemlidir. Arabanın varlığından bağımsız olarak ve öncesinde bile bir stres ve gerilim kaynağı olan bir durum.
Strbac'ı Algıla:
Adaylarımızdan kendilerini alışılmadık bir duruma sokmalarını istiyoruz: sadece bir robotun olduğu bir odada oturup sohbet etmek. Bir soru sorulduğunda, onu elinizden gelen en iyi şekilde yanıtlayarak ve sonra devam ederek.
Tepkiler açıkça çok çeşitlidir ve kişiden kişiye değişir. Tengai'nin robot eğiticisini gözlemleyin.
Bazı insanlar ilk başta şüpheyle yaklaşır, ancak bunun ne kadar doğal olduğunu görünce şaşırırlar. Tengai konuşmayı yönetir. Diğerleri, robotun insan tutumlarını taklit etme ve doğal konuşma becerisine ilişkin yüksek beklentileri olduğundan, görüşmeden sonra bile şüphelerini koruyorlar; Tengai yolda olsa bile bunu henüz mükemmel bir şekilde yapamıyor. Sosyaldir ama insan gibi değildir.
Sonra konseptten yana olan ancak görüşmeden önce gerginleşen başkaları da var. Ne de olsa, hareketlerini izleyen ve tepkilerini kaydeden bir makinenin önünde 'performans göstermeleri' isteniyor.
Strbac devam ediyor
Bunda garip bir şey yok, gerçekten; insan da aynı şeyi yapar. Ancak [adayların] hissettikleri, robotun bir insandan çok daha fazlası olduğu yönünde. Kelimenin tam anlamıyla "yanıtlarımı kaydediyor!" Yaptıkları yorum bu."
Kabul
Efsanevi Mechanical Turk'te olduğu gibi, röportaj makine ile bir tür satranç oyunudur.
Gerçekten de, bazı farklar var. Belki de hem insan psikolojisinde hem de AI'nın şimdi elde ettiği derin ve çok yönlü analiz yeteneğinde bulunur. Otomat, doğru ya da yanlış, kandırılması ya da dilerseniz ikna edilmesi ve "yönetilmesi" bir insana kıyasla çok daha zor bir özne olarak algılanır. Makineyle karşı karşıya kalındığında pek çok kesinlik kaybolur.
Son olarak, bazı kişilerin karşı karşıya kaldıkları muhatap hakkında haklı olma yeteneklerine veya en azından onu tuzağa düşürme olasılığına duydukları güven. Makine duygusuzdur ve duygusal bileşen, kişilerarası ilişkilerde kullanmak için güçlü bir maniveladır. Robot ile oyun tamamen farklı bir seviyede oynanır.
Dahası, yapay zeka artık bireysel olarak ele alındığında bir insanın yeteneklerini çok aşan analitik niteliklere sahip. Üstelik bunlar o kadar çok açıdan ve o kadar ayrıntılı olarak uygulanıyor ki, tek bir kişinin bunları bir bütün olarak ele alması ve alanda değerlendirmesi pek mümkün değil.
O halde, her şeyin titizlikle ve amansızca kaydedildiği makinelerin tanınmış verimliliğinden bahsetmiyorum bile... Bu ayrıcalıklar korkutucu: «bazı insanlar kendilerini gözetleniyormuş gibi hissetmekten kendilerini alamıyorlar ve bu nedenle kendilerini aşırı derecede rahatsız buluyorlar".
Her ne kadar TNG'nin geri bildirimi devletler Tengai'nin gelişimi sırasında edinilen bilgiler genel olarak olumlu olmaktan çok daha fazla görünüyor, bir deneyde, hatta belki de tekil bir deneyde kobay olmanın bir şey olduğu söylenmelidir, kişinin geleceğini riske atması tamamen başka bir şeydir. Aday rolünü oynamak ve yükü taşımak tamamen başka bir şeye dönüşebilir: "Günün sonunda, orada oturup bir bilgisayarla nihai olarak gerçek hayatta sonuçları olacak karmaşık bir konuşma yapıyorlar."
Strbac iyimser ve Tengai'nin niteliklerine güveniyor:
Öte yandan, çoğu insan tartışmanın doğallığına şaşırır; görüşme ne kadar uzun sürerse, bir robotla konuştukları gerçeğini o kadar az düşünürler. Röportajın başka bir bileşeni haline gelir.
esrarengiz vadi
Japon bilim adamı Masahiro Mori'ye göre, robotlara olan güven, onlar daha fazla insani özellik kazandıkça artıyor.
Nihayetinde, otomat kişinin muhatabı tarafından kabul edilmelidir. Ve sadece bazıları tarafından değil, konunun psikolojisi, hassasiyeti ve fikirleri ne olursa olsun herkes tarafından. Furhat'ta etkileşim başkanı Joe Mendelson, doğrudan konuya giriyor: "İnsanlar, toplumdaki bu yeni tür rollerde (bir iş görüşmesinde görüşmeci), eğlencenin ve hatta bilginin ötesine geçen robotları kabul edecekler. iş aramak?"
Sonra devam ediyor:
Bu, bazı insanlar için büyük bir sıçrama olacak - bu nedenle, farklı insan türlerinin bu tür etkileşim hakkında nasıl hissettiğini anlamayı umuyorum.
Furhat'ın robotuna tepkiler ortak olmadı. Bir süre önce Amerikalı podcast yayıncısı Joel Cheesman bunu tanımladı "ürpertici” (ürkütücü, ürkütücü). İkincisi, aslında, daha sonra incontrato Tatech Europe 2019'da Tengai ve algı kısmen değişti, biraz "cool"a (cool) doğru ilerledi. O vesileyle açıklanana göre, test aşamasında birkaç yüz görüşmeden sonra adayların 3/4'ü Tengai ile tekrar görüşmekten yana olduklarını söylüyor. Kesinlikle yüksek bir yüzde!
Bir robotla, özellikle de insan tutum ve davranışlarını taklit eden (antropomorfik) bir robotla etkileşim kurduğunuzda, soru çok daha karmaşık hale gelir. Şu anda, bilim adamları, otomatların etten kemikten benzerleri tarafından yabancı cisimler olarak algılanmamasını sağlayan sihirli formülü henüz bulamadılar. Bu, makinenin insanda bir sıkıntı ve huzursuzluk duygusu yaratmasına neden olan ve daha sonra kesin bir reddiye yol açabilen, hala kısmen tartışmalı bir olgudur.
Bu gibi durumlarda bahsettiğimiz esrarengiz vadi. Japon bilim adamı tarafından formüle edilmiş bir hipotezdir. Masahiro Mori 1970 yılında, hala evrensel olarak tanınmadı. Mori'ye göre antropomorfik cihazlara ve otomatlara karşı duyulan kabullenme ve rahatlık hissi, insanlara benzedikçe daha da artıyor. Yine de belli bir eşiğe kadar. Bu eşiğin ötesinde, aşırı gerçekçilik hoş olmayan hisler üretir, rahatsızlığa neden olur ve reddedilmeye yol açabilir.
hatası Tengai
Bir kabul olarak, Tengai, etkileyici sayıda konu hakkında tartışma düzenleyebilen yapay zeka sistemi olan IBM Project Debater düzeyine girme eğilimindedir.
Muhtemelen Edinburgh'da (çok İtalyan) süpermarket zinciri tarafından işe alınan robot Fabio ile olan buydu. Margiotta Yemek ve Şarap. Fabio, işbirliğiyle tanıtılan bir deneyi temsil etti. Heriot-Watt Üniversitesi diziden Edinburgh'un BBC'nin Altı Robotu ve ABD.
Luisa Margiotta, "Maalesef Fabio umduğumuz gibi çalışmadı" dedi. «Performans beklendiği gibi değildi, insanlar bundan kaçındı, müşterileri korkuttu». Otomat bu nedenle ateşlendi.
Çıkışında da benzer hisler artmış gibi görünüyor. İngilizce Yapay Zeka Çapaarasındaki işbirliğinden ortaya çıkan hologram, Xinhua, Çin devlet haber ajansı e Sogou. Çoğu kişiye "robotik" göründü ama "biraz korkunç" diyenler de var. ayin "gerçekten korkutucu".
Ve belki de yaşadığı rahatsızlık da aynı fenomene kadar izlenebilir. dieter bohn ya doğruIBM Proje Tartışmacısı2018 yazında San Francisco'da düzenlenen en son IBM mucizesinin sunumu vesilesiyle:
Açıkçası bu beni biraz tedirgin etti ama “robotlar bilinçlenip işi devralacak” ya da “Yapay zeka gelip işlerimizi [çalmaya] geliyor” gibi olağan endişelerden değil. Daha incelikli ve kavranması zor bir şeydi. Belki de ilk defa bir yapay zekanın kılık değiştirmeye çalıştığını hissettim. Yalan söylediğini görmedim, bizi kandırmaya çalıştığını da düşünmüyorum, ancak bir tartışma taktiğine girdi, eğer ona bir insan tarafından teşebbüs edildiğini görseydiniz, o insana biraz daha az güvenirdiniz. Bilişsel açıdan biraz uyumsuz bir andı. Bahsedildiği gibi, ürkütücü.
Kabullenme, Furhat'ın robotunun üstesinden gelmesi için çağrılacağı birçok sınavdan sadece biri olacaktır. Yapay zeka alanında yenilikçi bir deneyi temsil ediyor olmasının yanı sıra etkileşim için otomatın özel mesleği, gerçekten de Tengai ve proje üyelerinin kendilerini ölçmek zorunda kalacakları çok sayıda zorluk teşkil ediyor.
En önemli karşılaştırmalardan bazılarına algoritmik önyargı denir; kara kutu ve açıklanabilir AI; hesap verebilirlik ve denetimin yanı sıra, son olarak, çokça övülen ve aranan adaletin gerçekten adil olduğunu kanıtlaması ve birkaç kişiden ziyade herkesin yararına olması. Bunlar yakın gelecekte ele alacağımız konular olacak.
