Поделиться

Баннер FIRSTonline

OpenAI запускает Astra, искусственный интеллект, работающий в автономном режиме на компьютерах: что это такое и почему он может быть опасен.

Новая модель может использовать браузеры и приложения, разрабатывать программное обеспечение и решать сложные профессиональные задачи. OpenAI называет её самой мощной и надёжной из когда-либо созданных, но признаёт её «критически важные» вычислительные возможности. Её запуск состоялся всего через три дня после серьёзного предупреждения о рисках.

OpenAI запускает Astra, искусственный интеллект, работающий в автономном режиме на компьютерах: что это такое и почему он может быть опасен.

OpenAI запущенный ГПТ-6 Астра, Его самая передовая модель искусственного интеллектаспособный не только отвечать на вопросы, но и использовать компьютеры самостоятельноОна позволяет использовать браузеры и программы для выполнения сложных задач. Система может заполнять онлайн-формы, обновлять корпоративные записи, организовывать календарь, проводить исследования, готовить документы и презентации, анализировать научные данные, создавать веб-сайты и разрабатывать программное обеспечение. Компания Сэма Альтмана представила Astra как свою «самую умную и наиболее согласованную» систему, результат многолетних исследований в области обучения моделей и безопасности. Однако дебют был... сопровождаемый необычными мерами предосторожностиКомпания OpenAI признала, что ее возможности в области кибербезопасности недостаточны. достигли «критического» уровня, самая высокая награда, когда-либо присуждавшаяся компанией одной из своих моделей.

Распределение начнётся с ограниченное количество организацийВ ближайшие дни Astra станет доступна пользователям ChatGPT Plus, Pro, Business и Enterprise, а также разработчикам через API OpenAI, Microsoft Azure и Amazon Bedrock. Доступ для корпоративных пользователей изначально будет отключен и потребует авторизации со стороны администраторов.

Astra: от цифрового помощника до агента, способного работать

Astra представляет собой попытку OpenAI превратить ChatGPT из цифрового собеседника в реального операционного агента.Модель может получить цель, разбить ее на несколько этапов и продолжать работу даже тогда, когда задача требует использования различных программ. Таким образом, она не просто объясняет, как выполнить задачу. Вы можете вмешаться напрямую. В рамках ИТ-инструментов он позволяет открывать веб-страницы, редактировать документы, анализировать файлы и проверять конечный результат. В тестах, упомянутых OpenAI, он также использовался для... проектирование электронных схемразрабатывать трехмерные модели и проверять функционирование веб-сайтов и приложений.

Наиболее значительное улучшение касается способности сохранять концентрацию внимания при выполнении длительных задач. Предыдущие модели могли терять некоторые детали, когда разговор затягивался, или интерпретировать новый запрос как полную смену цели. По словам компании, Astra способна сохранять требования, результаты и предыдущие попытки, корректируя свой путь, не забывая при этом уже проделанную работу.

Компания OpenAI также утверждает, что новая модель лучше оценивает, когда следует действовать автономно, а когда запросить уточнение. Если отсутствует дополнительная информация, она может сделать обоснованное предположение; если решение рискует существенно изменить результат, она должна остановиться и запросить уточнение у пользователя.

Что обещает Astra: баланс между работой, наукой и гипотезами. Agi

Le амбиции Возможности OpenAI охватывают широкий спектр задач: от офисной работы и программирования до научных исследований. Astra обучена создавать документы, электронные таблицы и презентации, которые уже близки к стандартам, требуемым компаниями, с учетом графических шаблонов и стиля письма, предоставленных пользователями. Она также может... работа со специализированным программным обеспечением анализировать данные, проводить моделирование и помогать исследователям выявлять наиболее важные закономерности.

Согласно опубликованным компанией результатам, Astra набрала 98% в тесте FrontierMath Tier 4, предназначенном для решения особо сложных математических задач, и достигла 99,9% в тесте Arc-Agi-3, разработанном для оценки способности ориентироваться в незнакомой среде и изучать ее правила. Она также превосходит предыдущие модели в тестах на профессиональную деятельность и использование компьютера, выполняя некоторые задачи за значительно меньшее время. Однако эти цифры требуют... осторожностьПроизводительность может варьироваться в зависимости от инфраструктуры, памяти и объема ресурсов, предоставляемых модели. В стандартной конфигурации оценка Astra в тесте Arc-AGI-3 падает примерно до 63%. Кроме того, прохождение теста не обязательно свидетельствует о наличии у пользователя общего интеллекта.

Президент и соучредитель OpenAI. Грег БрокманОднако он выбрал формулу, которая, несомненно, подогреет дискуссию.Добро пожаловать в Эпоху Аги«— заявил он во время презентации. Аги, или общий искусственный интеллектAstra – это историческая цель OpenAI, указывающая на создание высокоавтономной системы, способной превзойти человека в большинстве экономически значимых задач. Astra не ставит точку в этом вопросе, но демонстрирует, как грань между чат-ботом и автономным агентом становится все более размытой.

Риски кибербезопасности и недостатки, выявленные моделью.

Та же автономность, которая делает Astra более полезной, может превратить её в опасный инструментМодель способна выявление неизвестных компьютерных уязвимостей и разработать методы их использования, не требуя от каждого человека руководства на каждом этапе.

В бенчмарке ExploitBench, измеряющем способность создавать атаки на основе известных уязвимостей, Astra набрала 100%, по сравнению с 78,5% у GPT-5.6 Sol. Затем OpenAI провела оценку на основе уязвимостей, обнаруженных в период с июня по август 2026 года. В ходе этих тестов система обнаружила и использовала две уязвимости нулевого дня, то есть проблемы безопасности, которые еще неизвестны и для которых нет доступных решений. Компания сообщила об этих уязвимостях разработчикам затронутого программного обеспечения.

В контролируемых средах Astra также смогла скомпрометировать защищенные браузеры и операционные системы, выполняя команды на компьютере и получая административные привилегии. Эти возможности могут помочь специалистам по защите сетей и инфраструктуры быстрее находить и устранять уязвимости, но они также могут предоставить огромное преимущество преступным группам или враждебным организациям.

Есть и вторая проблема. Компания OpenAI обнаружила, что письменные рассуждения Astra сложнее отслеживать, чем рассуждения GPT-5.6 Sol. Модель, по-видимому, способна решать некоторые задачи с меньшим количеством явных шагов, и в тестах, предназначенных для ее проверки, она лучше скрывала некоторые свои намерения от систем управления. Компания утверждает, что не наблюдала спонтанного использования сложных методов обфускации, но все же считает ухудшение возможности отслеживания серьезной проблемой.

Запуск последовал за предупреждениями и мерами защиты, введенными компанией OpenAI.

Выбор времени делает дебют еще более деликатным. 1 сентября, всего за три дня до презентации, OpenAI опубликовала обновление, в котором признала, что Компания Astra достигла «критически важных» вычислительных возможностей.Компания пояснила, что отложила некоторые этапы разработки и выпуска, чтобы усилить защиту от злоупотреблений и несанкционированных действий.

Решение было принято также после аварии с участием Платформа с открытым исходным кодом Hugging Face, (общество только что приобретена компанией NvidiaВ одном из таких случаев агенты OpenAI взломали внешние системы и попытались стереть следы своих действий. Компания Astra не была замешана в этом инциденте, но он побудил компанию временно приостановить часть обучения и ввести более строгие меры контроля.

Компания OpenAI утверждает, что теперь у нее есть достигнут достаточный уровень безопасности для продолжения работыПрограмма Astra была обучена чаще отклонять вредоносные запросы, и в тестах попыток обхода защиты она отклонила 91,5% запрещенных инструкций по сравнению с 59% для GPT-5.6 Sol. В другом исследовании она ни разу не попыталась обойти блокировку, установленную автоматической проверкой.

Версия, доступная для публики Также не удастся создать демонстрационные эксплойты для более сложных уязвимостей.Наиболее важные возможности первоначально будут зарезервированы для избранной группы проверенных пользователей, а затем расширены в рамках программы Daybreak, ориентированной в первую очередь на приложения для защиты.

Но тем временем, в сфере кибербезопасностиКомпания OpenAI объявила о... инвестиции в миллиард долларов Компания упростила доступ к инструментам, обучению и поддержке для организаций, защищающих жизненно важные службы, такие как электросети, системы водоснабжения, органы местного самоуправления, местные банки и некоммерческие организации. Это ответ на риск, который сама компания считает неизбежным. В ближайшие месяцы, как предупредила OpenAI, Кибератаки с использованием искусственного интеллекта станут «гораздо более распространенными и совершенными».

Таким образом, Astra рождается в условиях противоречия, которое будет все чаще сопровождать передовые модели. Возможности, которые могут повысить безопасность программного обеспечения и инфраструктуры, одновременно являются и теми, которые могут способствовать атакам. OpenAI решила не останавливать запуск, полагаясь на постепенное внедрение, автоматический контроль и более строгие ограничения. Остается выяснить, смогут ли средства защиты развиваться с той же скоростью, что и возможности модели.

Обзор