L 'искусственный интеллект Развитие идет стремительно. Возможно, слишком стремительно. Об этом в последние недели говорят не только критики, но и некоторые из тех, кто разрабатывает самые передовые модели. Дарио Амодей, Генеральный директор Антропныйпризвали крупные технологические компании замедлить темпы разработки передовых моделей. Удивительно, но даже необходимость большей осторожности оказалась согласованной. Сэм Альтмангенеральный директор OpenAI и Elon Musk.
Однако замедлиться непросто. На заднем плане происходит следующее: конкуренция между Соединенными Штатами и КитаемВ телефонном разговоре с Дженсеном Хуангом, генеральным директором Nvidia, Дональд Трамп Он назвал опасения по поводу ИИ «обманом» и раскритиковал просьбу Амодеи. Его позиция ясна: тот, кто выиграет гонку за искусственный интеллект, «выиграет всё». Это позиция далека от позиции... Организация Объединенных Нацийкоторые призывают к разработке правил и международной координации. Также Пекин ИИ рассматривается как угроза безопасности, но в то же время как решающая область глобальной технологической конкуренции.
ПРОЧИТАТЬ ТАКЖЕ Компания OpenAI откладывает IPO: Альтман исключает возможность проведения IPO в 2026 году.
Искусственный интеллект работает, но и тревога усиливается: вот почему.
Почему столько беспокойства? Не только потому, что системы становятся все мощнее, но и потому, что более автономныйПерспектива заключается в том, что искусственный интеллект сможет вносить вклад в разработку всё более совершенных версий самого себя, так называемых рекурсивное самосовершенствование, ускоряя прогресс, который выходит за рамки человеческих возможностей следить за ним и контролировать его. Затем возникает риск "смещение«Система может эффективно достигать цели, но с помощью стратегий, не предусмотренных ее разработчиками или несовместимых с интересами человека. Некоторые эксперименты уже показали, что модели способны пытаться обходить инструкции или ограничения».
Вот почему Тревога нарастает среди исследователей. Джейкоб КоксонГлава компании Anthropic, Антропик, покинул компанию, предупреждая, что искусственный интеллект может стать экзистенциальной угрозой в течение десяти лет. До него, в 2024 году, Ян Лейке Это привело к тому, что компания OpenAI осудила растущий приоритет, отдаваемый продуктам, а не безопасности, в то время как Илья Суцкевер Он покинул компанию после работы над проблемами, связанными с выравниванием и сверхинтеллектом.
Проблема в том, что гонка за искусственным интеллектом — это не только вопрос безопасности, но и вопрос... технологическое и экономическое преимуществоСоединенные Штаты опасаются потерять позиции в противостоянии с Китаем, и, согласно докладу АНБ, CISA и ФБР, цитируемому в американских дебатах, китайские лаборатории широко используют «дистилляцию», миллионы раз опрашивая западные модели, чтобы использовать их ответы для обучения собственных систем и, таким образом, снизить затраты на разработку.
На педаль акселератора также нажимают следующие лица: Необходимы огромные инвестиции Для моделей и центров обработки данных: остановка будет дорогостоящей для компаний и может освободить место для конкурентов. Мораторий также будет иметь неоднозначный эффект: он может повысить безопасность, но затруднит выход на рынок для стартапов и проектов с открытым исходным кодом, укрепив и без того доминирующие крупные группы.
Билл Гейтс: «На этот раз трансформация будет иной».
Именно в этом контексте слова приобретают особый вес. Билл Гейтс. В своей последней речи о Примечания ГейтсаОснователь Microsoft утверждает, что мы вступили в совершенно иную фазу по сравнению с предыдущими. технологическое преобразованиеИскусственный интеллект распространяется гораздо быстрее и может вмешиваться в огромное количество видов деятельности и профессий.
Его задача не в том, чтобы препятствовать инновациям, а в том, чтобы готовиться и его последствия. «Искусственный интеллект может стать либо величайшим инструментом обеспечения равенства, когда-либо изобретенным, либо худшим источником несправедливости», — пишет Гейтс. Технологии могут принести огромную пользу, но без адекватных правил и инструментов они также рискуют усугубить неравенство.
Первым основанием для сравнения является работатьПроблема затрагивает не только монотонную работу: ИИ может также повлиять на квалифицированные профессии, особенно на должности начального и среднего уровня, затрудняя молодым людям выход на рынок труда и получение опыта. И проблема не только экономическая: работа обеспечивает доход, но также формирует личность, помогает в отношениях и дает чувство причастности к обществу. Именно поэтому Гейтс настаивает на этом. Необходимо вмешаться до завершения трансформации.«У нас нет возможности двигаться медленно».
От дипфейков до здравоохранения: двойственное лицо искусственного интеллекта.
По мнению Гейтса, рассматривать искусственный интеллект только с точки зрения рисков было бы ошибкой. Та же технология, которая может поставить под угрозу миллионы рабочих мест, может... ускорить научные исследованиявнести вклад в развитие наркотиков e вакцин, улучшить здоровье и сделать более эффективными сельское хозяйство e общественные услуги в странах с низким уровнем дохода.
ИИ также может оказывать поддержку. образование, душевное здоровье, малый бизнес e Лица с ограниченными возможностямиа также освободит время от рутинных задач. Но эти преимущества не появятся автоматически: они понадобятся. инвестиции, государственная политика а также благотворительные меры, направленные на предотвращение их концентрации в руках немногих.
Именно в таком направлении движется Фонд Гейтса, объявивший об инвестициях в размере 1 миллиарда долларов в течение двух лет для внедрения ИИ в беднейших странах: 40% средств пойдут на здравоохранение, 40% — на образование, 10% — на сельское хозяйство, а оставшиеся 10% — на местную инфраструктуру данных. Цель также состоит в том, чтобы сделать модели более эффективными на менее распространенных языках в Африке и Азии, поддерживая диагностические инструменты, исследования в области лекарств и вакцин, а также сельскохозяйственные приложения.
Таким образом, вопрос заключается не только в том, насколько быстро модели станут более мощными, но и в том, насколько быстро общество сможет... разработать инструменты для управления ими и проверьте результаты.
Настоящая задача состоит в том, чтобы управлять гонкой искусственного интеллекта.
По мнению Гейтса, ответ кроется в безопасность, защита общественных e ПравилаОтсюда и предложение начать решать, что оставить на усмотрение людей, даже когда машины на это способны. Это принцип, который Гейтс определяет как "Человеческий резервЭта идея сопровождается необходимостью переосмысления налогообложения, с возможным введением налогов на роботов и использованием ИИ для финансирования переподготовки работников и поддержки сообществ, наиболее подверженных преобразованиям.
На международном уровне Гейтс разрабатывает различные формы сотрудничество Взаимодействие между правительствами и учреждениями для решения рисков, с которыми ни одна страна не может справиться в одиночку: от безопасности моделей до энергетических последствий работы центров обработки данных, от использования ИИ для кибератак, слежки, дезинформации до военных целей. Гейтс предупреждает, что Сегодня ни одно правительство не готово в достаточной мере. управлять преобразованиями такого масштаба.
Противоречие сохраняется: все признают необходимость регулирования ИИ, но никто не хочет первым замедлить темпы его развития, в то время как другие продолжают гонку. Именно поэтому Гейтс предупредил об этом. Это не столько призыв к сдерживанию, сколько призыв к подготовке. Сейчас вопрос не в том, изменит ли ИИ мир, а в том, смогут ли институты, предприятия и общества достаточно быстро создать необходимые правила. «У вас есть возможность действовать прямо сейчас», — пишет Гейтс. Замедление развития технологий, возможно, и не является решением, но запоздание в их освоении, безусловно, будет ошибкой.
