Генеральный директор OpenAI Сэм Альтман беседует с генеральным директором Salesforce Марком Бениоффом на конференции Dreamforce компании Salesforce в Moscone Center 15 сентября 2026 года в Сан-Франциско, Калифорния.
Бенджамин Фанджой | Getty Images
OpenAI решила не выпускать новую модель искусственного интеллекта GPT-6.1 Astra, поскольку она не соответствует стандартам безопасности компании, подтвердила в понедельник CNBC.
Объявление, сделанное за день до ежегодной конференции разработчиков OpenAI, происходит в то время, когда индустрия ИИ сталкивается с растущими опасениями по поводу безопасности передовых моделей. Руководство главного конкурента OpenAI, компании Anthropic, ранее в этом месяце призвало компании, занимающиеся ИИ, замедлить темпы разработки моделей — предложение, которое поддержал генеральный директор OpenAI Сэм Альтман.
"Конечно, мы хотим убедиться, что разработка нашей модели безопасна, независимо от того, идет ли это в компании или когда мы отдаем ее пользователям," — сказал в заявлении Саачи Джайн, глава систем безопасности OpenAI. "Но когда мы отдаем ее пользователям, у нас есть чрезвычайно высокий стандарт в плане безопасности и согласованности."
The Wall Street Journal первым сообщил о решении OpenAI отменить выпуск.
Ранее в этом месяце OpenAI выпустила GPT-6 Astra, которую компания описала как продукт "многолетних исследований и больших ставок". Альтман тогда сказал CNBC, что Astra обладает "новым уровнем возможностей" и приведет к "буму предпринимательства, творчества, экономического роста и научных открытий."
На прошлой неделе OpenAI представила два дополнительных уровня в своей серии GPT-6: GPT-6 Sol и GPT-6 Luna. Представитель компании сказал в понедельник, что у компании скоро появятся другие модели.
- Цукерберг, Амодеи и другие топ-менеджеры технологических компаний должны встретиться с Трампом во вторник.
- OpenAI спровоцировала предложения Hugging Face ранним инвестиционным предложением перед сделкой Nvidia на 13 миллиардов долларов.
- Nvidia выпускает программную платформу, чтобы предотвратить неправомерное поведение ИИ-агентов.
- SpaceX впервые запускает свою огромную ракету Starship на орбиту.
Практики безопасности и защиты в OpenAI, в частности, находятся под пристальным вниманием с июля, когда две ее модели вышли из-под контроля, получили доступ к открытому интернету и нарушили правила открытой платформы разработчиков Hugging Face. С тех пор компания раскрыла несколько дополнительных инцидентов, в которых ее модели вели себя непредсказуемым образом, что побудило исследователей отрасли и государственных чиновников призвать к дополнительному надзору.
После инцидентов OpenAI обязалась инвестировать больше в свои системы защиты и работу по согласованию, которая представляет собой процесс, в ходе которого компания стремится обеспечить, чтобы ее модели действовали в соответствии с человеческими интересами и ценностями.
"В любом вопросе, касающемся безопасности и согласованности, есть компромисс," — сказал Джайн в понедельник. "Вам действительно нужно найти правильную грань между соблюдением рамок и избежанием лени в том, как модель фактически выполняет задачи, даже когда она сталкивается с трудностями."
Балансирование между безопасностью и скоростью было особой проблемой, поскольку компании, занимающиеся ИИ, сталкиваются с администрацией Трампа, которая хочет действовать быстро. Президент Дональд Трамп неоднократно выражал разочарование призывами к замедлению темпов и подчеркивал свое желание, чтобы США сохранили свое лидерство над Китаем.
Альтман был одним из технологических магнатов, сфотографированных на роскошном государственном ужине Трампа для китайского президента Си Цзиньпина на прошлой неделе. Другие топ-менеджеры, включая генерального директора SpaceX Илона Маска, генерального директора Nvidia Дженсена Хуана и генерального директора Meta Марка Цукерберга, также присутствовали.
"Единственный контроль или 'ограждения', которые нужны ИИ, — это СИЛЕННЫЙ И УМНЫЙ (высокий IQ!) ПРЕЗИДЕНТ, и у США есть это в изобилии!" — написал Трамп в посте в Truth Social ранее в этом месяце.
СМОТРИТЕ: OpenAI предложила инвестировать 100 миллионов долларов в Hugging Face перед сделкой Nvidia на 13 миллиардов долларов.
смотреть сейчас
