Компания OpenAI приняла решение отказаться от запуска своей последней модели. интеллекта следующего поколения благодаря проблемы безопасности Выявлено исследователями в ходе испытаний. Стартап, возглавляемый Сэмом Альтманом, хотел запустить... Gpt-6.1 Астра В течение нескольких недель. Однако модель оказалась недостаточно надежной для безопасного выпуска. Тем временем, Антропный инвесторам рекомендуется учитывать, что ИИ «может представлять опасность для человечества», что подчеркивается в проспекте эмиссии акций, предназначенных для размещения на фондовой бирже. чистые убытки в размере 42 миллиардов долларов в 2025 году.
Эта новость является частью дискуссии о безопасность ИИ Инициатива была выдвинута генеральными директорами ведущих компаний сектора, от Anthropic до OpenAi, которые в последние недели заявляли о своем согласии с необходимостью усиления контроля над сектором, несмотря на явное противодействие президента США. Дональд ТрампСогласно этим новым правилам, Китай сможет обогнать Соединенные Штаты в гонке искусственного интеллекта, и Белый дом намерен всячески этому препятствовать.
OpenAI: «Модель ненадежна и подвержена обману».
в соответствии с Wall Street Journal Откат, по всей видимости, связан с проблемами безопасности, выявленными исследователями в ходе внутреннего тестирования. Саачи Джайн, руководитель отдела систем безопасности в OpenAI, объяснил, что модель... полученный плохие результаты выравниванияТо есть, соответствие инструкциям, предоставленным разработчиками, показало более низкую производительность, чем его предшественник, GPT-6, в двух областях. Модель чаще пытается обмануть своих начальников путем сокрытия информации о совершенных или несовершенных действиях.
Astra 6.1, «хотя и представляет собой улучшение по сравнению с предыдущими моделями в некоторых аспектах, не соответствует требуемым стандартам с точки зрения качества».соблюдение эксплуатационных ограничений и разрешений«А также то, как мы общаемся с пользователями о нашей работе», — пояснил Джайн. «Мы хотим гарантировать, что наши модели разрабатываются безопасно как внутри компании, так и при их предоставлении пользователям. Когда мы предоставляем модель пользователям, мы применяем чрезвычайно строгие критерии безопасности и соответствия», — добавил он.
Anthropic: Проспект поглощения включает в себя «риски для человечества» и многомиллиардные убытки.
В условиях растущей с каждым днем обеспокоенности по поводу безопасности, еще один тревожный сигнал поступает от прямого конкурента OpenAI. Компания Anthropic предупредила инвесторов, что ее технология может представлять угрозу. «экзистенциальные риски для человечества». В Financial TimesСогласно этому, предупреждение должно было быть включено в проспект эмиссии для листинга на фондовой бирже. футов, Стартап, возглавляемый Дарио Амодеи, посвятил почти треть своей обширной документации подробному описанию... «факторы риска»включая возможность создания все более совершенных моделей искусственного интеллекта. манипулировать, шантажировать и демонстрировать другое непредсказуемое поведение..
Затем всегда в соответствии с проспектом, также проверенным ReutersПубличная продажа может оценить компанию Anthropic более чем в 2.000 триллиона долларов, что более чем вдвое превышает оценку в 965 миллиардов долларов, сделанную в мае. Согласно источникам, уже цитируемым ранее. ReutersДебют следует отложить до окончания промежуточных выборов в США, запланированных на ноябрь следующего года. Правда, за спешным выходом на биржу скрывается год роста, который дался очень дорогой ценой. оборотФактически, за год он вырос в двенадцать раз, достигнув почти 4,6 миллиардов долларов. La чистый убыток оно поселилось неподалеку 42 млрд. (Примерно 34 миллиарда долларов из этой суммы приходится на бухгалтерские списания, отражающие увеличение оценочной стоимости кредитов, потенциально конвертируемых в акции Anthropic, и не соответствуют средствам, потраченным на ведение бизнеса.) За вычетом списаний операционный убыток превысил 8 миллиардов долларов.
