«Нам нужно подумать о том, что мы создали и почему». Это слова о Нелло Кристианини, физик, профессор и исследователь искусственного интеллекта в Бристольском университете, во время тридцать шестого издания Reading of the Mill под названием «Интеллектуальные машины. Поймите их, чтобы иметь возможность жить с ними».
С 50-х по 90-е годы подход к искусственному интеллекту был очень «математическим»: кто-то задавался вопросом, что такое высшая интеллектуальная деятельность, которую может выполнять человек, и ответ казался «доказательством теорем», — начал он бристольского лектора». Идея о том, что разум есть логическая дедукция и аксиоматические правила, была очень популярна в те дни, и все усилия, затраченные на попытки создания разумных машин в этом ключе, не привели ни к чему. Поворотным моментом стал отказ от этого подхода в пользу статистических методов: этот «сдвиг парадигмы» позволили первые переводчики. Таким образом, мы перешли от попыток определить точные правила и логического вывода к следованию поведенческой модели, основанной на статистических выводах.
Мы избегали рассматривать человека как модель интеллекта: идея состоит в том, чтобы интересоваться разумным поведением, а не самим интеллектом, что также может быть типичным для системы. Концепция состоит в том, чтобы подражать полезному поведению, учиться на примерах, оставляя в стороне попытки решить «проблему интеллекта», а также отказываясь от вопроса о присвоении ярлыка самому понятию или его однозначном определении. Amazon удается советовать, не понимая модели личности, точно так же можно блокировать нежелательные электронные письма.
Однако помимо всех преимуществ, которые принесли эти машины, существуют реальные и конкретные риски не только для нашего существования и свободы, но и для частной жизни. «Само общественное мнение обусловлено алгоритмами», — подчеркнул Кристианини. «Мы создали машины, без которых больше не можем обходиться, и у нас до сих пор нет культурных норм, законов и ценностей, с которыми можно жить». Это очень актуальная проблема культурной структуры. Нужны люди, которые «рисуют» новые проблемы, чтобы передать будущим поколениям осознание этих рисков, и эта задача, по Нелло, принадлежит политике.
Это вопрос управления изменениями с осознанием многих последствий: в образовательной сфере, на социальном уровне, а также в нашем сознании. Машины — мощный и необходимый инструмент, только подумайте о многих достижениях, достигнутых в медицинской, промышленной и научной областях. Однако нам нужно подумать об этических и культурных последствиях широкомасштабного использования интеллектуальных машин. Это подразумевает необходимость внесения законодательных изменений для уточнения ролей и обязанностей.
Проблема не в машине, а в самом человеке, если он не подходит к проблемам с правильной точки зрения. Интересно, каковы этические и культурные последствия этого процесса замены человека на глобальном уровне? И риск для человека потерять часть своей идентичности, сведя свое существование к тому, что может делать машина, и к удовлетворению новых, в основном индуцированных потребностей.
Европейский парламент высказался по этому поводу: «Использованиеискусственный интеллект (AI) она должна предотвращать гендерные, социальные и культурные предрассудки и защищать языковое разнообразие, краеугольные камни основных прав и ценностей нашего общества». С 623 голосами за членов, которые хотят подчеркнуть важность европейских этических ценностей в основе использования в сфере образования и культуры технологий, разработанных благодаря ИИ.
Настоящей резолюцией Европарламент «призывает Европейскую комиссию и все государства-члены учитывать этические аспекты, в том числе с гендерной точки зрения, при разработке политики и законодательства в области ИИ и, при необходимости, адаптировать действующее законодательство, в том числе Программы Союза и этические рекомендации по использованию ИИ».
В частности, парламентарии призывают к разработке конкретных показателей для измерения разнообразия и обеспечения того, чтобы рекомендации, содержащиеся в алгоритмах, особенно в сервисах потокового аудио и видео, не оказывали негативного влияния на культурное и языковое разнообразие Союза.
Внимание также уделяется распространению поддельные новости, горячая тема, которую профессор Кристианини также подчеркнул во время мероприятия. Нам необходимо установить, как технологии искусственного интеллекта используются средствами массовой информации, и проявлять бдительность в отношении неправомерного использования этих технологий для распространения ложных новостей.
