Как и все великие технологические инновации последних пятидесяти лет, революцияискусственный интеллект вообще начал с запуск. Когда-то это были Apple, Microsoft, Google, Facebook. Сегодня я OpenAi, Антрофический, Перегиб и Мистраль, в Европе, и это лишь некоторые из тысяч людей, обратившихся к этой новой и удивительной технологии.
Утверждение Хайдеггера о том, что последствия технологии не являются технологическими, кажется более верным, чем когда-либо, когда мы сталкиваемся с феноменом ИИ. Последний действительно имеет возможность открыть новый а еще тревожно глава в истории нашей планеты. В перспективе влияние ИИ на все общество кажется настолько огромным, что даже научная фантастика не может сказать нам, где мы будем всего через полвека.
Мы знаем, что наступит время, когда мы сможем говорить о технологической сингулярности, то есть о поворотном моменте, когданабор возможностей, а не просто приложения искусственного интеллекта превышать пропускная способностьколлективный биологический разум. Такое положение дел придает ИИ особый смысл, о котором осознают даже те группы, которые находятся на передовой линии. И среди этих групп вырисовывается четкая дуализм философий общий и оперативный.
Оптимисты и пессимисты
С одной стороны, это ультрас. оптимисты (так называемые бумеры, а также зумеры), то есть те, кто имеет мессианскую веру в способность ИИ улучшить жилищные условия на планете и поэтому параноидально желают ускорить процессы, определяющие ее качественное и количественное развитие. Бумеры придерживаются концепции «эффективного акселерационизма», согласно которой развитие искусственного интеллекта необходимо ускорить.
С другой стороны, есть ультрас пессимисты (так называемые думеры), которые видят в первую очередь опасность того, что эта технология выйдет из-под контроля и приведет, если ей дать возможность развиваться, катастрофические последствия, которые могут уничтожить человечество. Вот почему необходимо вывести ИИ из стихийных механизмов капитализма, отслеживая, ограничивая и направляя его развитие. Многие в лагере «обреченников» находятся под влиянием «эффективного альтруизма» — движения, принципом которого является максимальная полезность для общества индивидуальных инициатив. И они не видят этого принципа в раскрытии искусственного интеллекта.
В середине двух полюсов находится миглиористи которые пытаются стать посредниками между двумя крылами и видят точку баланса в сознательном общественном контроле. Что может утешить дезориентированного наблюдателя в этом хаосе, так это то, что по сравнению с рождением и развитием Интернета существует нечто большее и широкая осведомленность, который также включает технологические авангардисты, в оценке и учете последствий, которые эти события могут иметь для человеческого общества, а также для мира природы.
Социальность и прибыльность
Дуализм между зумерами и думерами отражается и в составе корпоративные структуры стартапов в области искусственного интеллекта и в модели управления, где оба видения, похоже, находят свое место.
Несмотря на разные склонения, некоторые из крупных стартапов ИИ по существу имеют общую черту, которая выражается впереплетение некоммерческих и коммерческих организациймежду коммуникабельностью и прибыльностью и в балансе этих двух аспектов. Социальная цель состоит в том, чтобы разработать общий искусственный интеллект, обладающий характеристиками устойчивости и не выходящий из-под контроля сообщества.
В той или иной степени, такие стартапы, как OpenAI, Antropic и Inflection AI, имеют один гибридная структура, действительно двойной. Он вложил значительные средства в первое Microsoft, второй, основанный беглецами из OpenAI, получает капитал от Google и Amazon, а третий, основанный двумя известными технологами, такими как Рид Хоффман (Linkedin), Мустафа Сулейман (DeepMind), получает поддержку Nvidia. Однако ни одна из этих крупных компаний не является акционером стартапов и не входит в совет директоров со своим членом с правом голоса. Их корпоративный устав этого не позволяет. Давайте посмотрим, как это сделать.
Двойное управление
Организация (т. е. право собственности), которая контролирует деятельность стартапа, не работает с целью получения прибыли, а совет директоров, который им управляет, не является выражением интересов акционеров, а состоит из директоров, т. е. органа, который не несет ответственности на основе экономических результатов, а скорее реагирует на тот факт, что разработаны приложения искусственного интеллекта. являются устойчивыми e они не повреждают интересы сообщества. Парадоксально, но этот орган управления, как пишет «The Economist», реагирует наакционер «человечности».
Однако оказывается, что разработка генеративных приложений ИИ требует высокого уровня знаний. капиталоемкость. Таким образом, эти стартапы, как только вклад основателей исчерпан, должны искать венчурный капитал, чтобы найти необходимые им ресурсы. И они также должны обратиться к рынку услуг и труда, чтобы продолжить свою деятельность. Поэтому им нужна бизнес-структура, как и любому другому бизнесу.
Поэтому с этой целью они начали коммерческое подразделение коммерческий тип, связанный с общей структурой управления некоммерческой организацией и контролируемый ею. Именно деятельность такого рода дочерней компании пойдет в прибыль. погашать инвесторы ограниченным образом. Мера перераспределения доходности не должна превышать стократного вклада вкладчика. Любые квоты, превышающие этот лимит, перейдут в родительскую некоммерческую структуру для повторного использования в разработке ИИ.
Преобладание некоммерческой отрасли
На практике некоммерческое отделение оставляет за собой право реинвестировать всю сверхприбыль до тех пор, пока оно не достиг цели создать общий искусственный интеллект (AGI). И именно совет директоров скажет, когда эта цель будет достигнута. И как только это будет достигнуто, результирующая деятельность нет призваны создать финансовая отдача для участников этапа строительства AGI.
Сам совет также имеет право добавлять или удалять участников внутри него при наличии согласия большинства директоров. На практике этот организм реагирует только на себя. Эта структура управления создана для того, чтобы стартап мог противостоять внешнему давлению со стороны инвесторов, которые могут предпочесть краткосрочную и среднесрочную прибыль развитию безопасного ОИИ для будущего человечества.
Жизнеспособна ли эта модель?
Во время мероприятия в Париже, состоявшегося 10 ноября 2023 года, президент Microsoft Брэд Смит спросил присутствующих: «Что вызывает у вас наибольшую уверенность? Получение технологии от некоммерческой или коммерческой компании, полностью принадлежащей одному человеку?»
Явный намек на ОпенАИ, в которые Microsoft инвестировала на вышеуказанных условиях, и Мета Марк Цукерберг, у которого есть собственное действенное решение в области искусственного интеллекта. Это произошло накануне 17 ноября, когда совет директоров OpenAi по неясным причинам вынес вотум недоверия. Солт Альтман, освободив его от должности генерального директора. Настоящая бомба в пруду, поднявшая многих сомнения в целесообразности двухуровневой схемы управления, которая, однако, была поддерживается даже после восстановления Альтмана в должности три дня спустя и прихода нового совета директоров, в котором из шести предыдущих директоров выжил только один. Комментируя эту историю, «Экономист» написал: «Сдвиг от академического идеализма к большему коммерческому прагматизму может произойти для стартапов в области ИИ повсюду. А для пользователей технологий, к счастью, может быть больше конкуренции и больше выбора».
Кто должен выполнять работу?
Основной вопрос заключается в следующем: если ставки в отношении искусственного интеллекта настолько высоки и экзистенциальны, кто должен выполнять работу чтобы он не сошел с рельсов, как поезд Кассандра Кроссинг? «Экономист» снова пишет: «Не совсем ясно, что дает горстке частных лиц [членов правления OpenAI, уволивших Альтмана] представлять интересы остальных 7,9 миллиардов жителей Земли…».
Они должны быть правительства для выполнения этой работы, заключает лондонский журнал. Верно! Однако многие люди думают, что именно из-за природы искусственного интеллекта должно быть что-то инновационное в структуре управления и контроля этих компаний, которые так важны как для общества, так и для акционеров. Будет еще много частей этой саги, достойной «Игры престолов».
источники:
Большой раскол ИИ похож на религиозный раскол, говорит Генри Фаррелл, «Экономист», 12 декабря 2023 г.
Трипп Микл, Кейд Мец, Майк Исаак и Карен Вайз, «Кризис OpenAI по поводу будущего искусственного интеллекта», «Нью-Йорк Таймс», 9 декабря 2023 г.
Кейд Мец, Карен Вайз, Нико Грант и Майк Айзек, «Эго, страх и деньги: как ИИ» Предохранитель был горит, «Нью-Йорк Таймс», 3 декабря 2023 г.
С возвращением Сэма Альтмана произошел сдвиг в ИИ от идеализма к прагматизму, The Economist, 23 ноября 2023 г.
Внутри странной структуры управления OpenAI, The Economist, 21 ноября 2023 г.
Многочисленные противоречия Сэма Альтмана, «The Economist», 22 ноября 2023 г.
Последствия странностей на OpenAI, The Economist, 22 ноября 2023 г.
