Это не апокалипсис и не утопия в отношении будущего искусственного интеллекта и технологического прогресса: именно такой подход используется в данном контексте. Цифровая энергия, интересная книга профессора Луиза ТорчиаЭссе, написанное учеником Сабино Кассезе и профессором административного права в Университете Рома Тре, недавно было опубликовано издательством Il Mulino. В эссе систематически и в доступной форме рассматриваются все актуальные вопросы, касающиеся ИИ, а также возможностей и рисков технологического прогресса. Но что же такое цифровая власть? «Это частная власть, сосредоточенная в руках нескольких американских и китайских компаний, которые достигли таких размеров, что могут доминировать на рынках и конкурировать с государствами» и даже за их пределами. Огромная власть, требующая эффективного регулирования, чего Америка Трампа точно не хочет. Но проблема на этом не заканчивается. Вот что утверждает Торчиа в интервью с FIRSTонлайн.
Профессор Торчиа, что примечательно, последняя глава вашей книги «Цифровая мощь» посвящена актуальной теме, вызывающей большой интерес в наши дни, и называется… Цифровое будущее между апокалипсисом, утопией и реализмом.Похоже, вы склоняетесь к третьему варианту, но каким вы видите будущее цифровой энергетики?
Это будущее, которое еще предстоит написать, и оно в значительной степени зависит от нескольких факторов. В первую очередь, оно зависит от готовности обществ, государств, международных организаций, научных сообществ и отдельных лиц не быть, так сказать, «обезоруженными» апокалиптической перспективой, которая, как и во всех апокалипсисах, вызывает сильную тревогу и препятствует любым действиям, поскольку апокалиптическое предсказание предполагает не только то, что мир вот-вот закончится, но и то, что этот конец неизбежен. И, как проницательно заметил Кристиан Фридрих Геббель почти два века назад, «Есть люди, которых даже конец света утешил бы, если бы они его предсказали.«Поэтому апокалиптическая перспектива, как это ни парадоксально, также является утешительной, поскольку она оправдывает неспособность или нежелание действовать и реагировать».
Итак, что же необходимо?
В то же время, мы не должны обманываться обещаниями великих и необычайных будущих благ для всех. Утопическое видение технологического развития опровергается множеством невыполненных обещаний. Не было открыто ни одного нового лекарства или метода лечения рака и дегенеративных заболеваний, не было найдено решения проблемы изменения климата, не были обнаружены недорогие источники энергии, не было «созданы» новые произведения искусства, литературы или музыки, сопоставимые по качеству с человеческим творчеством. И можно задаться вопросом, не являются ли заявления крупных технологических компаний о «великолепном и прогрессивном будущем» технологического развития — всегда откладываемом на несколько лет или даже десятилетий — просто рекламными сообщениями, направленными на привлечение капитала, необходимого для огромных инвестиций, окупаемость которых также откладывается на неопределенное будущее.
Что вы думаете?
Я считаю, что реалистичный подход не только возможен, но и необходим. Он не отрицает огромных преимуществ и выгод технологического прогресса, но в первую очередь фокусируется на реальных преимуществах, а не на обещаниях. Затем он учитывает как риски, которые несут новые технологии, так и совершенно неравномерное распределение этих преимуществ и рисков. Существуют группы и компании, которые в значительной степени извлекают выгоду из этих преимуществ, перекладывая все риски и недостатки на другие группы и сообщества. Сегодня это явление широко распространено и объясняет растущее недоверие к крупным технологическим компаниям, противодействие строительству центров обработки данных, которое сейчас очень сильно даже в Соединенных Штатах, и распространение судебных исков против платформ за нарушения антимонопольного законодательства, прав интеллектуальной собственности, конфиденциальности и за нанесение вреда психическому здоровью молодежи.
Трудный путь?
Очевидно, что это сложный путь, но сами крупные технологические компании начинают ощущать давление все более враждебного общественного мнения и ясно видят риск постоянно растущей — и дорогостоящей — ответственности, которая может быть на них возложена. Парадоксально, но не совсем парадоксально, что они видят решение в государственном вмешательстве, как регулирующем, так и финансовом, которое все чаще отстаивают те, кто до сих пор яростно противостоял попыткам внешнего регулирования, решительно утверждая, что саморегулирования достаточно. Государственные правила также могут быть использованы не по назначению для снижения конкуренции между крупными игроками и создания невыгодного положения для более мелких, одновременно повышая барьеры для входа новых участников. Поэтому правила должны быть очень тщательно и точно установлены и подлежать пересмотру, чтобы обеспечить их эффективность и возможность быстрой корректировки.
Каковы основные черты цифровой власти?
«Обобщая результаты анализа, проведенного в моей книге, цифровую власть можно определить как частную, глобальную, структурированную на основе платформ, эксплуататорскую, нормативную, конформистскую и конформистскую, убеждающую и всепроникающую власть».
Это, прежде всего, частная власть, сосредоточенная в руках нескольких американских и китайских компаний, которые достигли таких размеров, что позволяют им доминировать на рынках и конкурировать с Соединенными Штатами.
впечатляющий.
Таким образом, это власть глобального масштаба, действующая без территориальных границ и предлагающая или продающая товары и услуги, ставшие неотъемлемой частью индивидуальной и коллективной жизни во всем мире. Это власть, структурированная по платформенной модели, как место встречи спроса и предложения, информации, товаров и услуг, которая стала настолько незаменимой как для коммерческих предприятий, так и для конечных пользователей, что препятствует или, по крайней мере, делает очень сложным выход с доминирующей платформы, отчасти из-за отсутствия альтернатив. Системы, основанные на LLM, также интегрируются в существующие платформы (например, Gemini для Google) или следуют платформенной модели, предлагая все более широкий спектр интегрированных услуг, недоступных по отдельности. Это «добывающая» власть, стремящаяся получить ресурсы, необходимые для ее осуществления, не неся издержек и присваивая доходы в крайней степени. Это нормативная власть, поскольку она устанавливает правила взаимодействия на платформах и, в самых последних приложениях, также правила осуществления медицинской, банковской или финансовой деятельности. Это конформистская и тенденциозно конформистская власть, поскольку посредством моделей она уменьшает многообразие реальности, а затем возвращает упрощенную и единообразную ее версию, основанную исключительно на статистике, а не на моральном, этическом или социальном порядке. Это убедительная и всепроникающая власть на экономическом, политическом и социальном уровнях, поскольку технология, на которой она основана, стала неотъемлемой частью повседневной жизни, с растущим использованием не только специализированных приложений, но, возможно, еще больше — генеративного искусственного интеллекта, способного взаимодействовать посредством естественного языка.
В своей книге вы очень наглядно показываете, как цифровая власть превратилась в политическую власть и как цифровой капитализм стал могущественнее государств, угрожая самой демократии: это вызов, который мы упустили навсегда, или мы все еще можем надеяться восстановить баланс сил между цифровой властью и демократической властью?
Отличительной и характерной чертой цифровой власти является концентрация: концентрация настолько сильная и непроницаемая, что ни рынок, ни государство, по крайней мере пока, не смогли разработать эффективные меры перераспределения. Концентрированная власть опасно напоминает неограниченную власть, а неограниченная власть почти по определению является произвольной властью. Однако, как и любая другая власть, цифровая власть также нуждается в легитимности, и сегодня эта легитимность не может основываться исключительно на силе: технологическим компаниям также необходимо продавать продукты и услуги на рынке, убеждать потребителей в полезности и необходимости своих продуктов и услуг, точно так же, как им необходимо привлекать капитал и выполнять обещания о прибыли, убеждать местные сообщества размещать их центры обработки данных, убеждать государства в том, что они не ставят под угрозу их суверенитет. Неслучайно «боссы» крупных технологических компаний часто фантазируют о новых планетах или районах этой планеты, зарезервированных для них.
Почему они это делают?
Потому что они воспринимают общество и его правила как ограничение, которому не хотят подчиняться, от которого хотели бы освободиться. Однако это совершенно иллюзорная точка зрения, что демонстрируют две разные реакции. В авторитарных странах, таких как Китай, государство осуществляет жесткий контроль над технологическими компаниями, а также над использованием и распространением технологий. Я, конечно, не хочу приводить в пример автократию, но она показывает, что государственная власть, если есть желание, не бессильна. Действительно, в случае Китая государство требует, чтобы модели искусственного интеллекта отражали «ценности» социализма, демонстрируя, что технологии не нейтральны. В демократических странах растет нетерпимость и недоверие к технологическим инновациям, которые уничтожают рабочие места, создают неравенство и дискриминацию, усугубляют бедность и маргинализацию целых групп и сообществ. Демократия, с ее инклюзивным, плюралистическим и совещательным потенциалом, является возможным противоядием и могла бы быть укреплена именно как инструмент, позволяющий современным обществам защищать себя и сохранять ценности и коллективные цели. Таким образом, надежда возможна, но ее необходимо взращивать, проявлять и защищать, и эта задача лежит на каждом из нас, как на гражданах демократических стран.
Вы утверждаете, что для регулирования цифровой власти без подавления технологических инноваций и без чрезмерного давления со стороны государства ключевым фактором является регулирование. В этой области Европа опережает США при Трампе, которые неохотно идут на это. Но если регулирование цифровой власти не может распространяться на внутренний рынок, кажется неизбежным, что его эффективность будет ограничена. Или нет? Как можно преодолеть это несоответствие между Европой и США?
«Во-первых, это может быть условное несоответствие: многое зависит от результатов американских выборов, начинающихся в ноябре, и от ситуации в США в течение следующих двух лет. Регулирование инноваций — сложная задача, поскольку предмет регулирования постоянно меняется, и именно поэтому европейский подход к регулированию искусственного интеллекта по сути основан на оценке рисков: рисков нельзя избежать, но их можно смягчить и, прежде всего, лучше понять, если существует система контроля, которая их выявляет. Европейское регулирование можно критиковать за его обременительность — и попытка упрощения предпринимается с помощью «Цифрового омнибуса» — но у него есть важное преимущество: ни одна крупная технологическая компания не может отказаться от европейского рынка, одного из крупнейших и богатейших в мире. И поэтому, несмотря на критику и сопротивление, ни одна крупная технологическая компания не покинула Европу, несмотря на регулирование. Таким образом, несоответствие между США и ЕС существует, но не препятствует применению европейских правил внутри Европы, а иногда даже за ее пределами, поскольку многие правовые системы сходятся вокруг одних и тех же принципов и инструментов регулирования и контроля искусственного интеллекта». интеллект. Кроме того, аргумент о том, что регулирование препятствует инновациям, становится менее убедительным, когда инновации выходят из зачаточного состояния, как это произошло сейчас с искусственным интеллектом. Регулирование является основным инструментом, с помощью которого отрасль может гарантировать безопасность своей продукции и завоевать доверие потребителей: никто не сядет в самолет или не купит лекарство, если не будет достаточно уверен в безопасности и отсутствии риска во время поездки и лечения.
Какой вариант, по-вашему, будет лучшим?
Естественно, наилучшим вариантом было бы глобальное регулирование, к которому присоединились бы многие государства и международные организации. Такое сближение не исключено. В своей книге я привожу два примера, где такое сближение произошло: атомная энергетика и клонирование. Различия между этими двумя примерами очевидны: атомная энергетика, как правило, принадлежит государствам, в то время как возможности клонирования возникают в исследовательских лабораториях. В первом случае государства прибегли к международным договорам, а во втором произошло сближение в выборе, принятом каждым государством индивидуально, запретить репродуктивное клонирование. Однако в обоих случаях осознание связанных с этим опасностей и рисков — в случае атомной бомбы это наглядно продемонстрировали Хиросима и Нагасаки — вместе с убеждением, что изолированные национальные решения были бы совершенно неприемлемы, привело к принятию общих правил, которые приняли государства и исследователи и которые, по крайней мере пока, не были нарушены или, в случае возможных нарушений, как в Иране в отношении атомной энергетики, подверглись механизмам принудительного исполнения международного контроля. В обоих случаях, говоря простым языком, эти правила в своей основе базируются на запретах и согласии участвующих сторон на осуществление полномочий по контролю за соблюдением этих запретов национальными или международными органами или учреждениями.
Но предпринимались ли попытки конвергенции в области искусственного интеллекта?
В 2023 году «Большая семерка» также попыталась установить международные руководящие принципы и общие правила поведения в отношении технологических инноваций, приняв принципы, получившие соответствующее название «Хиросимский процесс в области ИИ». Эти международные руководящие принципы должны применяться ко всему жизненному циклу ИИ (и, следовательно, ко всем заинтересованным сторонам, участвующим в различных этапах), а Международный кодекс поведения предоставляет руководящие указания, которым разработчики ИИ могут добровольно следовать. Реализация «Хиросимского процесса в области ИИ» поручена ОЭСР, которая в феврале 2025 года определила рамки для отчетов о мониторинге.
Как показывает и ваша книга, противостояние цифровой мощи разворачивается на международном уровне, но что может сделать Италия в Европе, чтобы занять наилучшую позицию в этой игре?
Италия не обладает большими инвестиционными капиталами или природными ресурсами, но у неё есть превосходные университеты и она способна готовить выдающихся исследователей, которые уезжают за границу в поисках лучшей жизни: мы их обучаем, а затем передаём это наследие другим странам. У неё есть традиции культуры и технической экспертизы, которые, несмотря на уничтожение многих промышленных достижений в последние годы, всё ещё сохраняются. Если бы вместо того, чтобы рассеивать это богатство культуры и опыта, его сосредоточили в научно-исследовательских и производственных центрах, позволили бы ему вырасти до критической массы и связали с производственной системой и государственным сектором, мы могли бы внести значительный вклад.
