Новое столкновение между антропами e Правительство СШАСтартап объявил о приостановление глобальный масштаб своих самых мощных моделей, Fable 5 и Mythos 5после получения федерального распоряжения о том, что запрещает использование иностранными гражданамикак внутри, так и за пределами Соединенных Штатов.
Мера, принятая на основе американских правил контроля за экспортом чувствительных технологий, оправдывается Вашингтоном следующими причинами:безопасность национальный«В результате производство обеих моделей было немедленно и полностью остановлено всего через три дня после их запуска».
Антропный блокирует новые модели после введения ограничений правительством США
По данным компании, директива затрагивает не только иностранных пользователей: она также блокирует доступ для любых лиц, не являющихся гражданами США, включая собственных иностранных сотрудников Anthropic, независимо от их местонахождения.
Условие, по сути, сделало невозможным применение выборочных ограничений. Поэтому компания приняла решение полностью приостановить поддержку Fable 5 и Mythos 5 по всему миру, уточнив, что Другие модели семейства Клод в этом контексте не участвуют. и оставаться в рабочем состоянии. Распоряжение поступило в Вашингтон в пятницу днем (около 23:00 по итальянскому времени) и требовало немедленного выполнения этой меры.
Fable 5 и Mythos 5: модели «Фронтира» от Anthropic.
Обе системы представляют собой последнее поколение моделей, разработанных компанией Anthropic, и основаны на Предварительный обзор мифов Клода. Экспериментальная модель, разработанная для проведения передовых исследований в области кибербезопасности. Эта система способна анализировать программный код и инфраструктуру для выявления уязвимостей, ошибок и потенциальных недостатков в системе безопасности, что делает ее особенно важным инструментом с геополитической точки зрения.
Предварительная версия изначально была доступна только избранной группе компаний и исследовательских центров в рамках программы Project Glasswing, инициативы, посвященной передовому тестированию безопасности ИИ. Согласно первоначальным опубликованным результатам, модель помогла выявить многочисленные критические проблемы в реальных системах, ускорив мероприятия по их устранению и аудиту.
В частности, Fable 5 стала первой моделью этого нового поколения. доступно в коммерческой форме в больших масштабах. Компания Anthropic представила ее как систему с расширенными возможностями и новыми интегрированными мерами безопасности, разработанными для снижения риска неправомерного использования.
Безопасность, ограничения и проблема «взлома» системы
С момента своего запуска компания Anthropic сосредоточилась на системе усиленной защиты, чтобы ограничить ненадлежащее использование моделей, особенно в таких чувствительных областях, как… информационной безопасности наступательно. Однако эти меры также вызвали... критический пользователями, которые в некоторых случаях считают их чрезмерными. ограничительный e налагающий штраф для законного использования.
Компания также признает структурный предел всего сектора: ни одна модель искусственного интеллекта не может считаться полностью застрахованной от «побег из тюрьмы«или попытки обойти средства защиты. Заявленная цель состоит не в том, чтобы полностью исключить риск, а в том, чтобы сделать эти атаки очень сложными для осуществления или чрезвычайно дорогостоящими, сочетая техническую защиту с системами непрерывного мониторинга и быстрого реагирования.
Компания основана и возглавляется Дарио Амодей Компания Anthropic оспорила решение правительства США, заявив, что не согласна с идеей, что простое предположение об ограниченной уязвимости может привести к изъятию модели с рынка. «Правительство должно иметь возможность вмешиваться в небезопасные системы, но только посредством прозрачного и справедливого процесса, основанного на проверяемых технических данных», — заявила Anthropic, добавив, что это решение нарушает эти принципы.
Регуляторное давление и открытый конфликт с Вашингтоном
Этот случай разразился на фоне растущего давления со стороны правительства США на сектор искусственного интеллекта, который все чаще рассматривается как стратегически важный для национальной безопасности и глобальной геополитической конкуренции.
Компания Anthropic, которая недавно конфиденциально подала свой проспект в Комиссию по ценным бумагам и биржам США в рамках подготовки к... листинг на Нью-Йоркской фондовой биржеСтрана уже находится в центре напряженности в отношениях с американскими властями. Пятиугольник Это действительно имеет классифицированная компания как потенциал риск цепочки поставокЭто редкое обозначение в частном технологическом секторе, обычно применяемое к организациям, считающимся чувствительными к национальной безопасности. В ответ на эти меры стартап также запустил судебный иск против американской администрации, по-прежнему постоянный.
