Monito премьер-министра Великобритании Риши Сунак на риски и опасности искусственного интеллекта накануне первого глобального саммита по искусственному интеллекту, сильно желанный для него, который пройдет 1 и 2 ноября в историческом технологическом центре Блетчли-Парк. На самом деле здесь Алан Тьюринг, математик и предшественник информационных технологий, сумел расшифровать «Энигму», машину, которую немцы использовали для шифрования и расшифровки сообщений во время Второй мировой войны.
Искусственный интеллект приведет к «новым знаниям, новым возможностям экономического роста, новым достижениям в человеческих возможностях и возможности решения проблем, которые мы когда-то считали неразрешимыми», но также и к «новым опасностям и новым страхам», сказал Сунак в своей речи в Лондоне. объявляя создание первого в мире института безопасности искусственного интеллекта.
Опасности искусственного интеллекта
В правительственном докладе, составленном 50 экспертами, подчеркивается, что ИИ может представлять собой «экзистенциальная угроза» в будущем. Поэтому Сунак считает, что необходимо устранить эти опасения уже сейчас, чтобы обеспечить «максимальное спокойствие» гражданам.
Это связано с тем, что ИИ может использоваться не только для мошенничества и кибератак, но к 2025 году он сможет повысить потенциал террористических группировок в разработке оружия, планировании нападений и распространении пропагандистских материалов.
«Если мы ошибаемся, — говорит Сунак, — искусственный интеллект может облегчить создание химического или биологического оружия. Террористические группы могут использовать ИИ для распространения страха и разрушений в еще больших масштабах. Преступники могут использовать его для кибератак, дезинформации, мошенничества или даже сексуального насилия над детьми. А в самых маловероятных и крайних случаях существует даже риск того, что человечество может полностью потерять контроль из-за того типа ИИ, который иногда называют сверхинтеллектом».
А к 2030 году риски будут также включать «массовую дезинформацию» и поддержку террористов в разработке биологического оружия.
Великобритания: создан первый в мире центр безопасности искусственного интеллекта
Таким образом, он родится в Соединенном Королевстве первый мировой центр кто будет работать над тем, как сделать искусственный интеллект безопасным. Центр сосредоточится на анализе, оценке и тестировании новых моделей искусственного интеллекта, чтобы внести вклад в глобальные знания по этой теме.
Новый институт «будет расширять мировые знания о безопасности ИИ и тщательно изучать, оценивать и тестировать новые типы ИИ, чтобы понять, на что способна каждая новая модель. В институте мы будем изучать все риски, возникающие в результате социального ущерба, такого как предрассудки и дезинформация, вплоть до самых экстремальных рисков, которые коснутся всех нас», - заявил Риши. Сунак.
Сунак стремится сделать Великобританию лидером в области искусственного интеллекта
Создание первого центра безопасности и следующий всемирный саммит по ИИ имеют вполне конкретную задачу: сделать стать Соединенным Королевством il мировой лидер в регулировании ИИ. Цель четко сформулирована премьер-министром Великобритании Сунаком. Однако еще неизвестно, насколько велика поддержка этих намерений.
Великобритания прогнозирует значительные инвестиции в области технологий, признавая значительные потенциальные выгоды, особенно в медицинской и научной областях, но в первую очередь необходимо сделать их безопасной средой.
Цели Саммита
В Глобальном саммите по искусственному интеллекту, который пройдет 1 и 2 ноября в Блетчли-Парке, примут участие учреждения, международные партнеры, эксперты по искусственному интеллекту, технологические компании и гражданское общество. будет примерно 1Гости 00 включая генерального директора Google DeepMind, Демис Хассабиси вице-президент США Камала Харрис. Наверху они должны китайцы тоже примут участие потому что, как и в случае с климатом, «мы не можем игнорировать Пекин. Невозможно иметь серьезную стратегию без участия Китая, даже если это не так-то просто сделать», — сказал Сунак. Китай это было там первая нация, принявшая правила по искусственному интеллекту. Л'Евросоюз с л 'К актамоднако находится в процессе определения.
Английское правительство определило пять ключевых целей саммита:
- Общее понимание рисков, связанных с ИИ, и необходимость действий.
- Расширенный процесс международного сотрудничества в области безопасности ИИ и способов поддержки национальных и международных рамок.
- Соответствующие меры, которые отдельные организации должны принять для повышения безопасности ИИ
- Области потенциального сотрудничества в исследованиях безопасности ИИ, включая оценку возможностей модели и разработку новых стандартов для поддержки управления.
- Демонстрация того, как обеспечение безопасного развития ИИ позволит использовать ИИ в полезных целях во всем мире.
ООН создает комитет по искусственному интеллекту
Также "ООН берет поле по теме, создавая Комитет по искусственному интеллекту около 40 экспертов из разных областей, с целью разработать общие правила на ИИ. Комитет возглавляет Амандип Сингх Гилл, посланника ООН по технологиям, и включает в себя экспертов из области исследований, политики и третьего сектора. В комитете также присутствуют итальянцы. отец Паоло Бенанти, профессор Папского Григорианского университета.
Комитет столкнутся с проблемами, связанными с разными точками зрения, включая различные ценности и формации, пытаясь написать широкую стратегию по ИИ. Одна из целей — оценить риски и преимущества ИИ, а также то, как он может способствовать достижению целей устойчивого развития и развитию международного сотрудничества.
На будущее предстоит уточнить, примет ли Комитет по ИИ постоянную форму, аналогичную Агентству по атомной энергии, или же он останется группой экспертов высокого уровня, аналогичной Межправительственной группе экспертов по изменению климата.
