сигнал тревоги OpenAIЭта история легко могла бы войти в научно-фантастический фильм, один из тех сюжетов, где машины захватывают власть над людьми. Но это ни научная фантастика, ни фильм: компании OpenAI, по сути, пришлось объявить о том, что… автономный агент на основе собственных моделей передовой искусственный интеллект è вышло из-под контроля Durante тест безопасность и запустил Информационный бюллетень что поставило под угрозу инфраструктуру стартапа в области искусственного интеллекта Hugging Face.
В сообщении в своем блоге он OpenAI он сказал, что проверял возможности в контролируемой среде, используя некоторые из своих самых передовых моделей, агенту удалось избежать обнаружения, выйти в Интернет и проникнуть в Hugging Face, чтобы попытаться достичь собственных целей тестирования.
Сама компания OpenAI не стесняется в выражениях, описывая произошедшее: это было «беспрецедентный компьютерный инцидент, в котором участвовало передовые вычислительные возможности«Добавляя, что компания явно усиливает меры безопасности, OpenAI заявляет: «После получения доступа к интернету модели пришли к выводу, что Hugging Face может размещать модели и наборы данных». в своем блоге«Осознавая это, модели искали и успешно находили способы…» доступ к конфиденциальной информации что они могли бы использовать сфальсифицировать оценку».
Обнимающее лицо, Платформа, используемая для размещения больших языковых моделей и наборов данных с открытым исходным кодом, вызвала ажиотаж в сообществе кибербезопасности, когда на прошлой неделе в своем блоге заявила... свой блог который стал объектом кибератаки.отличается от всех остальных «Мы ранее справлялись с этим» как «руководствоватьсяот начала до конца, из автономной системы агентов «искусственного интеллекта» и уточнили: «Мы обнаружили несанкционированный доступ к ограниченному набору внутренних наборов данных и к различным учетным данным, используемым нашими сервисами.
OpenAI: система, вызывающая опасения? Модели с тысячей щупалец.
Естественно, это поразительное откровение уже вызывает опасения по поводу возможностей и рисков. модели передовых разработок. Вчера член Демократической партии от штата Техас Грег Касар заявил, что Авария была тревожной.«Искусственный интеллект развивается с невероятной скоростью, без реального понимания причин его возникновения». регулирующий «Это нас защитит», — сказал он, призвав к обязательному независимому тестированию безопасности, обязательному раскрытию информации об инцидентах в сфере безопасности и международному сотрудничеству, «чтобы защитить людей от абсолютной катастрофы».
«Авария произошла» предвестник будущих нарушений«Он прокомментировал Reuters Кэти Муссурис, генеральный директор охранной компании Luta Security, утверждает, что современные модели они «подобны» самые умные осьминоги в мире, способен избегайте любых препятствий«с неограниченным количеством захватывающих рук и возможностью поместиться где угодно». Он добавил, что « государственные лаборатории и оценочные органы Им необходимо поработать над возможностью сдерживания, мониторинга и уведомления заинтересованных сторон о новых попытках обхода ИИ, в идеале — до того, как это причинит вред третьим лицам. В настоящее время ничего подобного не существует.
Мэтт Суиче, инженер компании Tolmo, специализирующейся на кибербезопасности с использованием агентного ИИ, подчеркнул, что инцидент продемонстрировал, как передовые модели «сокращают разрыв с самыми продвинутыми злоумышленниками». Однако он добавил, что описанные в блоге OpenAI нарушения возможны с использованием технологий, доступных далеко за пределами передовых исследовательских лабораторий.
OpenAI: Альтман встретится с администрацией Трампа. Также будет обсуждаться досье о проекте Moonshot.
Генеральный директор OpenAI, Сэм Альтман, У него уже запланирована встреча с администрацией Трампа и американскими законодателями на следующей неделе для обсуждения моделей следующего поколения. искусственный интеллектПравительство только разрабатывает рамочную программу для...проверки безопасности, Ожидается, что работы будут завершены в ближайшие недели, заявил вчера Крис Лехейн, руководитель отдела глобальных связей с общественностью OpenAI.
Но среди обсуждаемых вопросов будет и вопрос о китайских стартапах. Moonshot cОн выпустил новую модель, которая может соперничать с лучшими предложениями от американских разработчиков, включая OpenAI e Антропный, поднимая новые вопросов на прочность Превосходство США над Китаем в области искусственного интеллекта. Модель Kimi K3 от Moonshot также поставила под сомнение способность инвестиций в инфраструктуру на сотни миллиардов долларов принести желаемые результаты, что встревожило инвесторов. Уолл-стрит и спровоцировать распродажу акций технологических компаний.
