Il дело Тенгая, который мы также широко обсуждали на FIRSTonline, побуждает нас высказать некоторые общие соображения о нашем отношении к инструментам, оснащенным искусственным интеллектом. Tengai действительно может быть парадигмой социального использования искусственного интеллекта.
Это не отнимает никаких рабочих мест, это не обедняет ни одну семью, это не инструмент социального контроля, это не работает на китайское правительство. Словом, в нем нет ни одного из тех компонентов, которые вызывают во все более широком общественном мнении столько беспокойства, как тревога за будущее.
Tengai, несомненно, является службой искусственного интеллекта, применяемой в социально-реляционном контексте. Это помогает лучше выполнять деятельность, которая может быть обусловлена произвольными действиями и страдать от дискриминационного отношения. Что касается подбора персонала. При оценке персонала Тэнгай стремится быть объективным, принимая за единственные параметры своей работы заслуги, компетентность, мотивацию и способность кандидата выполнять поставленную перед ним задачу.
Не совсем неправильно говорить, что технология может быть рождена нейтральной в результате работы ученых, изобретателей и исследовательских групп, но когда она встречается с животным духом рынка, эта нейтральность имеет тенденцию разделяться, как большая река в болотистой дельте. В случае Тенгаи эта эволюция, типичная для этого типа экосистемы, на данный момент кажется далекой от реальности. Мы по-прежнему в хорошем состоянии.
От научной фантастики к реальности
До недавнего времени автомат, проводящий собеседование при приеме на работу, был предметом научной фантастики. Сегодня с Tengai это стало реальностью. Мы уже подробно обсуждали робота Фурхата, тем не менее пришло время задаться конкретным вопросом, к чему призван Тэнгай и какова его роль в процессе отбора.
(Все приведенные ниже цитаты, если не указано иное, взяты с сайта www.tengai-unbiased.com)
TNG продвигает свое решение по подбору персонала таким образом:
Tengai Select предлагает клиентам качественный отбор кандидатов с помощью роботизированных слепых интервью, анализа интервью на основе данных [дата-управляемый] и стенограммы интервью. Tengai Select также поможет улучшить опыт кандидатов, [представляя] более надежный бренд для работодателей, а также экономит время и деньги. Робот для собеседования интегрируется как часть начального этапа собеседования и проводит слепые собеседования, что означает, что все кандидаты получают одинаковые вопросы, основанные на навыках, и лечение. Это также позволит провести интервью с большим количеством кандидатов, и все интервью будут расшифрованы.
Взаимодействие
Первая цель Тенгая — вызвать сочувствие к кандидату.
Таким образом, автомат Фурхата будет использоваться на начальном этапе собеседований, на этапе отбора на основе навыков. Кандидаты, скорее всего, уже прошли предварительный отбор, особенно если на кону стоят важные цифры. Таким образом, собеседования, в которых будет участвовать Tengai, направлены на выявление навыков кандидатов на конкретную должность. Задача в некотором роде рутинная, но нетривиальная.
Габриэль Сканце, профессор KTH Stockholm и главный научный сотрудник проекта Tengai в Furhat Robotics, объясняет:
Tengai будет помогать рекрутерам и проводить собеседования с кандидатами для оценки их навыков и компетенций на основе требований к должности и профиля.
Далее он подчеркивает, что работа робота в конечном итоге не будет сильно отличаться от работы человека: «Робот будет проводить собеседование так же, как рекрутер-человек, используя вопросы, основанные на компетентности».
И в этом заключается особенность Тэнгая, а именно в способности робота вызывать, пробуждать и, возможно, устанавливать эмпатические отношения с человеком перед ним: чтобы побудить кандидата давать развернутые ответы», — продолжает Сканце. Tengai проведет диалог с кандидатом и, если необходимо, также произведет более углубленное обсуждение: «Если ответ будет слишком расплывчатым, робот может попросить кандидата, например, привести более конкретные примеры».
Наконец, заключает главный ученый Фурхата:
После интервью робот представит резюме интервью и некоторые объективные рекомендации (цель), чтобы человек определился с кандидатом.
Непредсказуемость и неопределенность
Tengai сильно отличается от голосовых помощников, таких как Siri, тем, что Tengai пытается обрабатывать даже неожиданные ситуации.
Именно разговорный характер задачи, возложенной на Тэнгая, и заметное взаимодействие, к которому он призван, заставляют его сталкиваться с непредсказуемыми ситуациями и событиями. Это произойдет в гораздо большей степени, чем с другими устройствами, с которыми мы в настоящее время общаемся (подумайте, например, о персональных помощниках различных цифровых устройств или даже о GPS-навигаторе), где разговор остается в основном в пределах четко ограниченного пространства. периметр.
Габриэль Сканце объясняет разницу:
В случае с Siri пользователь-человек задает вопрос, а Siri ищет соответствующую информацию и представляет ее в веселой и социальной форме. К Однако на данный момент Siri программировать легче, чем Tengai. Наша задача значительно сложнее. В нашем случае нам нужно передать наработанное человеческое поведение роботу, который имеет ровно нулевой предыдущий опыт человеческого социального взаимодействия.
Последний отмечает, что проведение собеседования при приеме на работу требует гораздо больше усилий и неизбежно приводит к возникновению неопределимых сценариев априори. Чтобы справиться с этой неопределенностью и управлять ею, используется прогностический характер искусственного интеллекта последнего поколения, и мы фактически полагаемся на машинное обучение:
Для этого Tengai будет разработан с использованием машинного обучения, что означает, что мы будем собирать данные из интервью, проводимых людьми, где вероятность предвзятости будет минимально возможной, а затем обучать систему воспроизводить разговорное поведение рекрутера.
Двусмысленность
Язык может быть очень двусмысленным для небиологического интеллекта.
Тенгаю придется ежедневно сталкиваться с неопределенностью, а также постоянно бороться с двусмысленностью. Действительно, одна из самых сложных задач, которую должен преодолеть автомат, состоит именно из двусмысленности. Тот, что касается языка и его бесчисленных граней, и тот, что связан с пониманием множества кодов, которые мы используем для общения.
Синиса Штрбак, руководитель проекта и тренер роботов проекта Tengai, хорошо это знает:
Мы приложили немало усилий для анализа вопросов, которые должен задавать робот. Оказалось очень важным, чтобы вопросы были максимально четкими и конкретными. Tengai борется с двусмысленностью, поэтому чем менее расплывчатым будет ответ кандидата, тем лучше Tengai при оценке и подтверждении набора компетенций.
Робот, как и рекрутеры-люди, будет следовать сводной схеме вопросов в рамках проверенной системы компетенций (проверено правомочность рамки), которые будут представлены кандидатам. Тем не менее, ИИ должен быть в состоянии полностью понять ответы последних, чтобы решить, в каком направлении продолжать интервью.
Он все еще обнаруживает Strbac
Ответ кандидата может описывать любую вообразимую ситуацию, упоминаться бесчисленным множеством различных способов и в индивидуальном выборе слов. Робот должен понять и проанализировать эту информацию, а затем определить, какой дополнительный вопрос является более актуальным.
Чтобы иметь возможность проводить интервью в полной автономии, Tengai был оснащен самыми последними достижениями в области искусственного интеллекта, новейшими достижениями в области распознавания речи, понимания естественного языка и смысла, лежащего в основе языка. Благодаря этому робот способен собирать значительный объем информации и выгодно ее обрабатывать, общаясь со своим собеседником:
При подборе персонала особое внимание уделяется предоставлению и сбору информации. И это относится и к Tengai. Он делится информацией в форме диалога о собеседовании [при приеме на работу], как оно будет проходить и, наконец, собирает ответы. По мере сбора информации он понимает, что говорит кандидат, независимо от количества используемых слов и фраз. Так что да, он может обрабатывать открытые вопросы и неопределенные ответы.
Тем не менее, когда дело доходит до языка и человеческого взаимодействия, неизвестное оказывается бесчисленным. Любые ошибки или недоразумения могут даже повлиять на столь желанную объективность машины. Габриэль Сканце знает об этом:
Может существовать риск того, что распознавание речи (которое переводит речь в слова) может работать со сбоями для говорящих с иностранным акцентом или для представителей определенного пола. Это может повлиять на исход интервью.
данные и обучение
Tengai был разработан для сбора данных с помощью метода под названием «Волшебник страны Оз». Этот метод передает управление процессом в руки одного человека.
Чтобы сделать Tengai эффективным до и даже больше, чем обучение, данные, используемые в процессе машинного обучения, имеют основополагающее значение.
Габриэль Сканце объясняет, как впервые были получены данные. Это методология, которая носит название «Волшебник страны Оз», что оставляет контроль над роботом человеку, хотя те, кто взаимодействует с машиной, не знают об этом.
Tengai Первоначально за этим наблюдал рекрутер-человек, сидящий в другой комнате, который инициировал поведение робота, что позволило нам записать данные интервью человека и робота. Эти данные теперь будут использоваться для разработки двух разных моделей: одна из них может воспроизвести поведение фокусника во время интервью, а другая может выполнять оценку интервью после него.
Разнообразие, подчеркивает Сканце, касалось и тех, кто временно взял под свой контроль Tengai, чтобы избежать каких-либо предубеждений, даже если они были бессознательными: «[Tengai] учится у разных вербовщиков, чтобы не приобретать поведение, характерное для определенного индивидуальный рекрутер».
Разнообразие, на этот раз робота по сравнению с человеком, также выражается в отношении тщательного контроля, который может осуществляться над поведением автомата: «В отличие от рекрутера-человека, мы можем контролировать поведение робота в деталях, вплоть до к микродвижениям уголка рта», — отмечает Сканце.
Фаза сбора данных и машинного обучения заняла месяцы и считалась более продолжительной. Duecento интервью с добровольцами, предложенными в качестве подопытных кроликов.
Все мимика, звуки и мимика разработаны путем изучения и съемки нескольких сотен интервью с разными рекрутерами, что создает взаимодействие, в котором соискатели чувствуют себя в безопасности, непринужденно, для более гладкого опыта кандидата, прямолинейного и авангардного.
На самом деле, не будем забывать, что особенность Тенгая заключается в способности автомата полноценно взаимодействовать со своим собеседником.
радушие
Поскольку «Особое мнение» немного предвосхищало то, что из научной фантастики станет реальностью, так Ее/Она, фильм Спайка Джонза с Хоакином Фениксом в главной роли предвосхищает другое, не далекое пришествие. Tengai, возможно, уже что-то объявляет Ее.
Сидеть перед роботом и разговаривать с ним — это (все еще) необычный опыт сам по себе. Тем более, если дело важное, например, поиск работы. Состояние, которое даже до и вне зависимости от наличия автомобиля является источником стресса и напряжения.
Обнаружение Штрбака:
Мы просим наших кандидатов поставить себя в особенно необычную ситуацию: сидеть в комнате, где есть только робот, и вести беседу. Когда вам задают вопрос, отвечая на него как можно лучше, а затем двигайтесь дальше.
Реакции, очевидно, самые разнообразные и варьируются от человека к человеку. Наблюдайте за роботом-тренером Тенгая.
Некоторые люди поначалу относятся скептически, но удивляются тому, насколько это естественно. Tengai ведет разговор. Другие сохраняют свой скептицизм даже после интервью, поскольку они возлагают большие надежды на способность робота имитировать поведение человека и говорить естественно, что Tengai он еще не в состоянии сделать это в совершенстве, даже если он уже в пути. Он социален, но не так, как человек.
Есть и другие, которые поддерживают эту концепцию, но нервничают перед интервью. В конце концов, их просят «выступить» перед машиной, которая отслеживает их движения и записывает их ответы.
Штрбац продолжает
На самом деле в этом нет ничего странного; люди делают то же самое. Но их [кандидаты] считают, что робот — это гораздо больше, чем человек. Он буквально «записывает мои ответы!» Это комментарий, который они делают».
принятие
Как и в легендарном «Механическом турке», интервью — это своего рода игра в шахматы с машиной.
Действительно, есть некоторая разница. Возможно, она заключается как в человеческой психологии, так и в глубоких и многогранных аналитических способностях, которых теперь достиг ИИ. Автомат воспринимается, правильно или неправильно, как гораздо более сложный предмет для обмана или, если хотите, уметь убеждать и «управлять», по сравнению с человеком. Когда сталкиваешься с машиной, многих определенностей не хватает.
Наконец, что не менее важно, это доверие, которое некоторые люди возлагают на свою собственную способность быть правыми в отношении собеседника, с которым они сталкиваются, или, по крайней мере, на возможность поймать его в ловушку. Машина лишена эмоций, а эмоциональная составляющая является мощным рычагом в межличностных отношениях. С роботом игра ведется на совершенно другом уровне.
Кроме того, искусственный интеллект в настоящее время обладает аналитическими качествами, которые в отдельности намного превосходят возможности человека. Кроме того, они применимы к столь многим аспектам и с такой детализацией, что один человек вряд ли сможет охватить и оценить их в поле в целом.
Не говоря уже о признанной эффективности машин, где все дотошно и неумолимо, по сути, записывается... Эти прерогативы пугают: «некоторые люди не могут не чувствовать себя немного так, как будто они находятся под наблюдением и поэтому оказываются чрезмерно неудобными».
Хотя отзывы о том, что ТНГ говорит полученные в ходе разработки Tengai, в целом выглядят более чем позитивно, надо сказать, что одно дело быть подопытным кроликом в эксперименте, возможно, даже единичном, и совсем другое — ставить на карту свое будущее. Играть роль кандидата и нести бремя может оказаться совсем другим: «В конце концов, они сидят и ведут сложный разговор с компьютером, который в конечном итоге будет иметь последствия в реальной жизни».
Штрбак настроен оптимистично и доверяет качествам Тенгая:
С другой стороны, большинство людей удивляет естественность обсуждения; чем дольше длится интервью, тем меньше они думают о том, что разговаривают с роботом. Это становится просто еще одним компонентом интервью.
сверхъестественный долина
По словам японского ученого Масахиро Мори, доверие к роботам растет по мере того, как они приобретают все больше и больше человеческих черт.
В конечном итоге автомат должен быть принят собеседником. И не только некоторыми, но и всеми, какова бы ни была психология, чувствительность и представления рассматриваемого субъекта. Джо Мендельсон, руководитель отдела взаимодействия в Furhat, переходит прямо к делу: «Люди примут роботов в этих новых типах ролей в обществе (интервьюер на собеседовании), которые выходят за рамки развлечения или даже информации, в рамках довольно серьезной территории. Поиск работы?"
Затем он продолжает:
Для некоторых людей это будет настоящим скачком, поэтому я надеюсь научиться понимать, как разные люди относятся к такому типу взаимодействия.
Реакция на робота Фурхата не была единодушной. Некоторое время назад Джоэл Чизман, американский подкастер, определил это как «пресмыкающийся(жуткий, жуткий). Последний, по сути, тогда incontrato Tengai на Tatech Europe 2019 и восприятие частично изменилось, немного сдвинувшись в сторону «круто» (cool). Согласно тому, что было заявлено по этому поводу, после нескольких сотен собеседований на тестовом этапе 3/4 кандидатов заявили, что выступают за повторную встречу с Тенгаем. Определенно высокий процент!
Когда вы взаимодействуете с роботом, и в частности с (антропоморфным) роботом, который имитирует человеческие отношения и поведение, вопрос становится значительно сложнее. На данный момент учеными еще не найдена волшебная формула, позволяющая не воспринимать автоматы как инородные тела их собратьями из плоти и крови. Это явление, до сих пор отчасти спорное, приводит к тому, что машина вызывает у человека чувство раздражения и беспокойства, которое затем может привести к твердому отказу.
В таких случаях говорят о зловещая долина. Это гипотеза, выдвинутая японским ученым Масахиро Мори в 1970 году, до сих пор не общепризнан. По словам Мори, принятие и чувство комфорта по отношению к антропоморфным устройствам и автоматам растет тем больше, чем больше они похожи на людей. Но до определенного порога. За этим порогом чрезмерный реализм производит неприятные ощущения, вызывает дискомфорт и может вызвать неприятие.
Ошибка Tengai
Как признание, Tengai, как правило, находится на уровне IBM Project Debater, системы искусственного интеллекта, способной вести дебаты по впечатляющему количеству тем.
Вероятно, именно это произошло в Эдинбурге с роботом Фабио, нанятым сетью супермаркетов (очень итальянской). Марджотта Еда и вино. Фабио представлял эксперимент, продвигаемый в сотрудничестве с Университет Хериот-Ватт Эдинбург, из серии Шесть роботов BBC и США.
«К сожалению, Фабио не сработал так, как мы надеялись, — пояснила Луиза Марджотта. «Спектакль был не таким, как ожидалось, люди его избегали, это пугало клиентов». Поэтому автомат сгорел.
Подобные ощущения, похоже, вызвал и его дебют. Английский ИИ-якорь, голограмма, полученная в результате сотрудничества между Синьхуа, китайское государственное информационное агентство e Sogou. Большинству он показался «роботизированным», но есть и те, кто назвал его «немного ужасным», а кто-то считается "действительно страшно".
И, возможно, дискомфорт, испытываемый им, также следует отнести к тому же явлению. Дитер Бон навстречуУчастник дебатов по проектам IBM, по случаю презентации новейшего чуда IBM, состоявшейся в Сан-Франциско летом 2018 года:
Честно говоря, это заставило меня чувствовать себя немного неловко, но не из-за обычных опасений, таких как «роботы обретут самосознание и возьмут верх» или «ИИ придет [украсть] наши рабочие места». Это было что-то более тонкое и трудное для понимания. Возможно, впервые я почувствовал, что ИИ пытается замаскироваться. Я не видел, как она лгала, и не думаю, что она пыталась нас обмануть, но она прибегла к тактике обсуждения, и если бы вы видели, как на нее покушается человек, вы бы меньше верили этому человеку. Это был несколько диссонансный момент с познавательной точки зрения. Как говорится, жутковато.
Приемка будет лишь одним из многих испытаний, которые предстоит преодолеть роботу Фурхата. Тот факт, что он представляет собой инновационный эксперимент в области искусственного интеллекта, а также особое призвание автомата к взаимодействию, действительно создают множество проблем, с которыми Тенгай и участники проекта должны будут справиться.
Некоторые из наиболее важных сравнений называются алгоритмическими ошибками; черный ящик и объяснимый ИИ; подотчетности и аудита, а также, что не менее важно, что столь восхваляемая и востребованная справедливость действительно оказывается справедливой и приносит пользу всем, а не избранным. Это будут темы, которые мы рассмотрим в ближайшем будущем.
