Непрерывный поворот. Альтмана изначально удалили из OpenAI., затем возглавил подразделение искусственного интеллекта в Microsoft и наконец он вернулся, которого громко призвали со многих сторон, чтобы снова руководить своим творением. Всего за четыре дня все произошло. Ряд событий, которые, однако, восстановили ситуацию в том виде, в котором она была до прошлой пятницы, хотя в совете директоров произошло как минимум одно изменение.
Однако один вопрос до сих пор остается без ответа. Что спровоцировало все это?
По мнению некоторых американских СМИ (в первую очередь Reuters), внезапное увольнение Альтмана будет связано с открытие в области искусственного интеллекта, что некоторые исследователи сочли бы «потенциально опасный» для человечества.
Новый искусственный интеллект?
Согласно реконструкции Reuters, перед кратким уходом Альтмана некоторые исследователи компаниинаписал письмо Совету директоров с предупреждением о важном открытии в искусственном интеллекте, который они считают потенциально опасным для человечества.
Письмо, выражающее обеспокоенность по поводу коммерциализации этого ИИ, призывающее сделать паузу и подумать о возможности дальнейшего прогресса.
Проект Q
OpenAI уже некоторое время работает над проектом. проект под названием «Q*», сокращение от Q-Star, которое может стать поворотным моментом в исследованиях компании в областиобщий искусственный интеллект (AGI).
Компания определяет AGI как автономные системы, которые превосходят людей в большинстве экономически ценных задач. Так что своего рода искусственный сверхинтеллект.
Благодаря значительная вычислительная мощность, новая модель смогла решить конкретные математические задачи. Несмотря на то, что Q прошел только математические расчеты на элементарном уровне, прохождение таких тестов вызвало у исследователей большой оптимизм относительно будущего успеха Q.
Риски нового фронтира
Исследователи полагают, что математика представляет собой границу в разработке генеративного искусственного интеллекта.
L 'IA, ток, что порождающий генеративный превосходно пишет и переводит язык, используя статистический прогноз следующего слова, но ответы на один и тот же вопрос могут сильно различаться.
Чтобы обрести способность выполнять математические операции, когда существует только один правильный ответ, потребуется мбольшая способность к человеческому рассуждению. Исследователи полагают, что это можно применить, например, к инновационные научные исследования.
В отличие от калькулятора, ограниченного выполнением определенного количества операций, общий искусственный интеллект обладает способность обобщать, учиться и понимать.
Некоторые исследователи считают, что цель создания общего искусственного интеллекта недостижима, в то время как другие утверждают, что, возможно, предпочтительнее не достигать ее, чтобы избежать риска возможного машинного восстания.
Общий искусственный интеллект стоит за отставкой Альтмана?
Для Альтмана общий искусственный интеллект был бы в пределах досягаемости, и благодаря поддержке Microsoft он вложил в этот проект многочисленные ресурсы. И объявление о ее достижении, возможно, произойдет совсем скоро.
Уже на прошлой неделе Альтман на саммите мировых лидеров в Сан-Франциско предположил, что оптимистично настроен в отношении неизбежного прогресса значим в этой области.
«Четыре раза в истории OpenAI, последний раз за последние две недели, у меня была возможность присутствовать в комнате, когда мы отодвигали завесу невежества назад и продвигали границу открытий, и у меня была возможность сделать это — профессиональная честь всей жизни», — сказал уроженец Чикаго на саммите Азиатско-Тихоокеанского экономического сотрудничества.
L 'обвинение в неискренности что совет директоров, приписываемый Альтману, на самом деле может касаться прогресса, достигнутого в области общего искусственного интеллекта. Фактически, через день после заявления на саммите Альтман был уволен.
