Dev48
ЯЗЫК
  • О нас
  • Услуги
  • Индустрии
  • Технологии
  • Статьи
  • Контакты
Забронировать звонок
    Главная/Статьи/Dva intsidenta v tsepochke postavok ii pakety python i modeli stavyat pod ugrozu
Dev48
info@dev48.org+375 29 320-40-96WhatsApp@isky_by

© 2026 · Все права защищены.

Два инцидента в цепочке поставок ИИ: пакеты Python и модели ставят под угрозу ваши системы ИИ

Источник: Anaconda•21 ноября 2026 г. в 00:07

Два инцидента в цепочке поставок ИИ: пакеты Python и модели ставят под угрозу ваши системы ИИ

Безопасность цепочки поставок ИИ становится еще более важной после перехвата пакета в PyPI и захвата аккаунта модели. Узнайте, что произошло, и получите пять шагов для защиты вашего ИИ.

Кратко

  • 16 ноября исследователи сообщили, что получили контроль над учетной записью издателя ИИ-модели с почти 13 миллионами загрузок в месяц, зарегистрировав один истекший веб-домен. Пользователям не было выпущено никаких скомпрометированных моделей.
  • 17 ноября в PyPI были опубликованы две вредоносные версии открытого ИИ-пакета. Программа продолжала работать, в то время как скрытый код собирал конфиденциальные данные.
  • Защитите цепочку поставок ИИ: проверяйте поступающие компоненты, продолжайте тестирование во время работы ИИ и превращайте результаты в более надежные средства контроля.

Загрязненный ингредиент

Ваша команда выполнила плановое обновление программного обеспечения. Ничего не сломалось, и все тесты прошли успешно.

Теперь представьте себе оживленный ресторан. Каждое блюдо выглядит правильно, пока поставщик не звонит и не сообщает, что соль, доставленная сегодня утром, вовсе не соль.

К этому моменту она находится на каждом столе в обеденном зале. Именно так выглядит атака на цепочку поставок ИИ, и на этой неделе новости показали два возможных сценария ее начала.

Как создается ИИ сегодня

Цепочка поставок ИИ — это все, из чего состоит ваш ИИ. Представьте себе ресторанную кухню. Вы пишете рецепт. Ингредиенты поступают от поставщиков.

Эти ингредиенты представляют собой пакеты кода с открытым исходным кодом (готовые наборы кода), предобученные модели (обученные файлы, которые генерируют ответы ИИ), наборы данных и плагины, позволяющие ИИ-агентам совершать действия. Они поступают из публичных репозиториев, таких как PyPI для кода на Python и Hugging Face для моделей.

Именно благодаря повторному использованию этих компонентов команды могут быстро создавать и выпускать продукты. Обратной стороной является доверие: вы полагаетесь на каждого поставщика, а они — на своих, поэтому один плохой ингредиент может попасть в каждое блюдо.

Что произошло на этой неделе

Вот две истории за последнюю неделю, о каждой из которых сообщили как минимум два издания.

Доверенный ИИ-пакет был перехвачен

Что произошло? 17 ноября две вредоносные версии agent-framework, пакета Python для Microsoft Agent Framework, были опубликованы в PyPI: 1.26.1 и вскоре после этого 1.26.2. Этот пакет имеет в среднем около 190 000 загрузок в месяц. Множество отчетов свидетельствуют о том, что новые вредоносные версии по-прежнему выполняли свою обычную работу, поэтому использующие их ИИ-агенты продолжали функционировать. При каждом запуске код также похищал конфиденциальные данные, такие как учетные данные облаков и разработчиков для Azure, Amazon Web Services (AWS), GitHub, Docker, Hugging Face и OpenAI, и отправлял их на внешний веб-адрес. Дополнительные сведения см. в разделе GitHub Advisory.

Кто пострадал? Под угрозой находятся все, чьи сборки установили agent-framework версий 1.26.1 или 1.26.2. BleepingComputer сообщает, что вторая вредоносная версия появилась примерно через две с половиной минуты после первой.

Что вам делать? На данный момент неясно, как злоумышленник проник в систему. Были выпущены обновления, поэтому безопасным релизом является agent-framework версии 1.26.0. Все разработчики должны сделать три вещи: выполнить пересборку из чистой среды на его основе, заменить учетные данные, которые могли быть скомпрометированы, и проверить исходящие сетевые логи на предмет захвата и передачи конфиденциальных данных.

Исследователи захватили учетную запись популярной ИИ-модели синтеза речи

Что произошло? Kokoro — это открытая модель преобразования текста в речь. В выходные перед 17 ноября исследовательская группа под руководством Алона Герца зарегистрировала hexgrad.com, веб-домен с истекшим сроком действия. Kokoro — это открытая модель преобразования текста в речь. В публичных примечаниях Kokoro был указан адрес электронной почты на этом домене, поэтому команда сбросила пароль к учетной записи издателя на Hugging Face. Затем они изменили веса модели (числа, содержащие то, чему она научилась) за 87 секунд на игровой видеокарте. Дополнительные сведения см. в BleepingComputer и Tech Times.

Кто пострадал? У Kokoro nearly 13 million monthly downloads on Hugging Face согласно собственному счетчику сайта. В ходе теста команды измененная модель зачитывала слова, отличные от тех, которые ей были переданы. Они запускали ее только на собственном оборудовании и ничего не загружали, и ни один из отчетов не описывает выпуск скомпрометированной версии для пользователей.

Что вам делать? На данный момент Hugging Face не ответила исследователям или СМИ. Если вы используете эту модель, тщательно проверьте свои системы и приложения. Это напоминание о необходимости проверять, кто контролирует учетные записи издателей используемых вами моделей.

Почему это важно для вас

Каждая организация, создающая ИИ, полагается на цепочку поставок пакетов, моделей, навыков и сторонних компонентов. Скомпрометированный компонент или учетная запись издателя могут принести риски непосредственно в ваши ИИ-приложения и рабочие процессы. Независимо от размера организации и сложности ее программы безопасности, защита цепочки поставок может оказаться сложной задачей в экосистеме ИИ при активном использовании открытого исходного кода и появлении десятков новых типов компонентов.

Тестирование безопасности от Enkrypt AI by Anaconda дает представление о масштабах проблемы. По состоянию на 11 ноября 48% из более чем 64 000 просканированных ими серверов для протокола Model Context Protocol (MCP) были подвержены уязвимостям. Это показывает, что почти половина просканированных серверов MCP находится под угрозой. По состоянию на 12 ноября у 10,5% из более чем 99 600 просканированных навыков (упакованных инструкций, обучающих агента определенной задаче) были выявлены проблемы, а 4,25% получили небезопасный вердикт. Вы можете ознакомиться с полными данными сканирования или отправить собственный сервер MCP или навык на сканирование перед тем, как доверять им, в центре сканирования Enkrypt AI.

Именно поэтому безопасность цепочки поставок ИИ сегодня имеет такое критическое значение. Относитесь к каждому новому серверу или навыку MCP так же, как к новому пакету: проверяйте его до того, как он попадет в продакшн.

Вот как плохой ингредиент попадает в бизнес.

  • Утечка данных. Облачные ключи в чужих руках открывают доступ к вашим данным без какого-либо взлома ваших собственных систем.
  • Соответствие требованиям. Аудиторы могут спросить, что входит в ваше программное обеспечение и кто это одобрил. Если вы не можете назвать издателя загруженной модели, вы не можете доказать, откуда она взялась.
  • Простои. Локализация вредоносного компонента может потребовать приостановки развертываний, восстановления доверенных версий и замены скомпрометированных учетных данных, что нарушает работу конвейеров и бизнес-процессов.
  • Доверие. Клиентам вряд ли важно, какой именно поставщик подвел, ведь на программном обеспечении стоит ваше имя.

Обратите внимание, что каждая история наносит ущерб вашей организации по-своему. Первая ставит под угрозу кражи ваши секреты и данные. Вторая может изменить то, что говорит и делает ваш ИИ, с потенциально опасными последствиями.

Как укрепить цепочку поставок ИИ

В обеих историях риск исходил из источника, которому люди доверяли по умолчанию.

Хорошие кухни не пробуют каждое блюдо в самом конце. Они проверяют ингредиенты на входе, ведут учет происхождения каждого из них, а когда что-то идет не так, вносят изменения, чтобы это не повторилось снова.

Anaconda предоставляет проверенные пакеты Python уже более 15 лет, и каждый пакет в наших каналах проходит проверку перед тем, как попасть в вашу среду. Anaconda поддерживает более 50 миллионов пользователей и 1 миллион организаций по всему миру, и наши данные показывают 7,2 миллиарда загрузок проверенных пакетов из каналов Anaconda за последние 12 месяцев. Опираясь на безопасность цепочки поставок ИИ, Enkrypt AI by Anaconda обеспечивает комплексную безопасность ИИ, которая помогает командам защищать весь жизненный цикл ИИ.

Пять шагов для защиты вашей фабрики разработки ИИ:

  • используйте только доверенные источники или сканируйте поступающие данные
  • защищайте ИИ-помощников по написанию кода
  • тестируйте перед запуском
  • защищайте свой ИИ во время его работы
  • храните доказательства, которые запрашивают аудиторы

То, что вы узнаете в продакшене, питает следующий цикл разработки и тестирования.

Пятиэтапный подход обеспечивает непрерывную обратную связь и действия на протяжении всего жизненного цикла ИИ.

Поймать плохой пакет или модель на входе проще, чем разгребать последствия потом. Быстрое реагирование на новые проблемы имеет решающее значение для поддержания скорости конвейера.

Пять вопросов, которые стоит задать о вашей цепочке поставок ИИ сегодня

Начните с этих пяти вопросов:

  • Можем ли мы перечислить каждый пакет, модель, навык, MCP-сервер, набор данных и плагин, которые использует наш ИИ, а также кто их издатель?
  • Блокируем ли мы каждый компонент цепочки поставок на конкретной проверенной версии, или новый релиз попадает прямо в продакшн?
  • Если бы учетная запись поставщика была взломана завтра, как бы мы об этом узнали?
  • К каким секретным данным ИИ-пакет может получить доступ в момент запуска и как быстро мы сможем их заменить?
  • Когда мы обнаруживаем проблему один раз, становится ли это правилом, которое применяется во всех наших проектах?

Ваш следующий шаг

Выберите один вопрос и ответьте на него на этой неделе. Если какой-то ответ вас удивит — это полезно узнать.

Мы считаем, что безопасный ИИ начинается на входе и остается безопасным, когда то, что вы узнаете, возвращается в правила для того, что вы разрешаете. Если вам нужен сторонний взгляд на ваши ответы, мы с радостью поможем. Узнайте больше об AI Artifacts и Enkrypt AI от Anaconda.

Часто задаваемые вопросы

Что такое цепочка поставок ИИ?

Это все, из чего построен ваш ИИ: пакеты кода, предобученные модели, наборы данных, а также плагины и инструменты, которые используют ИИ-агенты. Если вы не написали это сами, это часть вашей цепочки поставок.

Что такое атака на цепочку поставок ИИ?

Злоумышленник манипулирует тем, от чего зависит ваш ИИ, или получает контроль над учетной записью издателя. В результате вред приходит из источника, которому вы уже доверяете.

Проверяются ли пакеты на PyPI на безопасность?

PyPI — это основной публичный репозиторий для пакетов Python, но само по себе наличие там пакета не означает, что он был проверен или одобрен для корпоративного использования. Выбирайте надежный, проверенный источник, такой как Anaconda. Проверяйте происхождение, сканируйте на наличие вредоносного кода и уязвимостей и используйте проверенные версии, даже если пакет поступает от знакомого издателя.

Получал ли кто-нибудь скомпрометированную модель Kokoro?

Ни в одном отчете не сообщается о том, что скомпрометированный релиз дошел до пользователей. Исследователи изменили модель на своем собственном оборудовании и ничего не загружали. Они показали, что просроченного домена было достаточно для сброса пароля издателя.

Что делать, если мы установили затронутую версию пакета?

Проверьте, установили ли ваши сборки версию agent-framework 1.26.1 или 1.26.2. Если да, примите меры для пересборки на версию 1.26.0, замените учетные данные, которые могли быть скомпрометированы, и проверьте журналы исходящего сетевого трафика.

Стоит ли перестать использовать пакеты с открытым исходным кодом и публичные модели?

Нет. Общие компоненты помогают командам двигаться быстро. Проверяйте то, что вы загружаете, ведите учет происхождения и превращайте каждую находку в правило.

С чего начать?

Начните с первого вопроса выше: можете ли вы перечислить каждый пакет, модель, набор данных и плагин, которые использует ваш ИИ, а также кто их издатель?

← Все статьи

О чём эта статья

Ещё в разделе «Разработка ПО»

Все →
Что такое Better Business Bureau? Как работает BBB (2026)
Shopify

Что такое Better Business Bureau? Как работает BBB (2026)

Статистика показателей открываемости email: ориентиры открываемости на 2026 год
Shopify

Статистика показателей открываемости email: ориентиры открываемости на 2026 год

Ценообразование онлайн-курсов: модели и советы для уверенного назначения цен
Teachable

Ценообразование онлайн-курсов: модели и советы для уверенного назначения цен

Анализ тональности контакт-центра: Полное руководство
Sprinklr

Анализ тональности контакт-центра: Полное руководство

Ваш ИИ работает, можете ли вы это доказать?
Sprinklr

Ваш ИИ работает, можете ли вы это доказать?

5 сценариев использования Composer, в которых Klaviyo AI заметил то, что пропустила LLM
Klaviyo

5 сценариев использования Composer, в которых Klaviyo AI заметил то, что пропустила LLM

Ещё от Anaconda

Устранение уязвимостей в Python без сбоев в продакшене
Anaconda

Устранение уязвимостей в Python без сбоев в продакшене

Две атаки на LiteLLM и контрольная точка, которая нужна вашим пайплайнам
Anaconda

Две атаки на LiteLLM и контрольная точка, которая нужна вашим пайплайнам

5 ключевых выводов от экспертов по безопасности на конференции All Day AI 2026
Anaconda

5 ключевых выводов от экспертов по безопасности на конференции All Day AI 2026

Kilo Desktop для Data Science и исследований теперь общедоступен
Anaconda

Kilo Desktop для Data Science и исследований теперь общедоступен

Помогайте своей команде писать код быстрее и исследовать больше с помощью Kilo Desktop
Anaconda

Помогайте своей команде писать код быстрее и исследовать больше с помощью Kilo Desktop

AI Red Teaming: что тестировать и как реагировать на результаты
Anaconda

AI Red Teaming: что тестировать и как реагировать на результаты