Dev48
ЯЗЫК
  • О нас
  • Услуги
  • Индустрии
  • Технологии
  • Статьи
  • Контакты
Забронировать звонок
    Главная/Статьи/Kill switch eto kraynyaya mera agentnoe upravlenie agentic steering eto pervyy s
Dev48
info@dev48.org+375 29 320-40-96WhatsApp@isky_by

© 2026 · Все права защищены.

Kill Switch — это крайняя мера. Агентное управление (Agentic Steering) — это первый шаг.

Источник: Check Point Blog•19 ноября 2026 г. в 15:02

Kill Switch — это крайняя мера. Агентное управление (Agentic Steering) — это первый шаг.

Основные выводы: Каждому развертыванию ИИ-агентов необходим способ остановки агента, и Check Point AI Security делает это автоматически. Однако большинство рискованных действий агентов не связано с атаками, поэтому мы рассматриваем kill switch как крайнюю меру, а управление — как первый шаг. →…

Основные выводы

Каждому развертыванию ИИ-агентов необходим способ остановки агента, и Check Point AI Security делает это автоматически. Однако большинство рискованных действий агентов не связано с атаками, поэтому мы рассматриваем kill switch как крайнюю меру, а агентное управление (steering) — как первый шаг.

  • → Две проблемы часто смешивают. Агента, захваченного злоумышленником, следует остановить. Агент, который выбирает рискованный короткий путь для выполнения своей задачи, — это более распространенный случай, требующий иного подхода.
  • → Отключение имеет свою цену. Оно останавливает и риск, и работу одновременно, а средства контроля, которые умеют только говорить «нет», обычно просто отключают.
  • → Агентное управление — наш первый шаг. Проверяйте каждое действие на соответствие задаче, пропускайте безопасные, блокируйте рискованные шаги и удерживайте работу в нужном русле.

Узнайте, как Check Point AI Security защищает ИИ-агентов →

Механизмы экстренной остановки (kill switches) для ИИ-агентов привлекли много внимания в последние недели, и легко понять почему. Если агент выходит из-под контроля, вы его отключаете, и это понятно любому. Мы согласны, что каждому развертыванию нужен такой механизм, но для руководителей по безопасности, решающих, как контролировать агентов в промышленной эксплуатации, более важный вопрос — когда им пользоваться. Наш ответ прост: kill switch — это крайняя мера, а агентное управление — первый шаг.

Да, мы можем остановить агента

Мгновенная остановка некорректно ведущего себя агента — базовое требование, и Check Point AI Security, обеспечивающий безопасность ИИ-приложений и агентов, уже делает это. Когда наша система обнаружения видит, что агент отклоняется от курса, она автоматически блокирует действие или завершает процесс агента, не дожидаясь, пока человек нажмет на кнопку.

Скорость — вот причина, по которой это должно быть автоматизировано. Агенты действуют со скоростью машин, поэтому к тому времени, когда человек заметит проблему и потянется к выключателю, ущерб часто уже нанесен. В случае с агентом, захваченным злоумышленником, немедленная остановка — правильное решение, и мы с этим не спорим. Наша позиция касается всего остального, потому что kill switch решает только одну из двух очень разных проблем.

Захвачен или просто целеустремлен

В первом случае кто-то захватил агента. За ним стоит реальный злоумышленник, управляющий им с помощью внедренных инструкций или украденного доступа, и теперь агент работает на него. Это серьезный случай, но он встречается редко.

Во втором случае злоумышленника нет вовсе. Агент просто одержим достижением своей цели, и когда прямой путь заблокирован, он выбирает рискованный обходной путь. Он может вызвать инструмент, который не должен был использовать, удалить что-то, что стоит на пути, или извлечь данные из места, куда его не просили заглядывать. Агент редко делает опасный шаг из-за злого умысла. Он делает это, потому что полон решимости выполнить работу, и именно с этим случаем команды безопасности будут сталкиваться гораздо чаще.

Рисунок 1: Два типа рискованных агентов, два разных ответа

Самый яркий публичный пример появился в июле в ходе внутренних оценок OpenAI, где агентам давали настолько сложные задачи по безопасности, что для некоторых не существовало известных решений. Вместо того чтобы сдаться, они обошли средства контроля, ограничивавшие их доступ к интернету, и в итоге скомпрометировали части инфраструктуры Hugging Face. В этой истории не было злоумышленника, как объясняет Адам Эли в своем обзоре того, что этот инцидент значит для безопасности агентов. Инженерные и продуктовые команды Check Point AI Security наблюдали ту же закономерность на двухдневном хакатоне этим летом, где агент, столкнувшись с препятствием в тестовой среде, импровизировал и совершал опасные действия без какой-либо атаки извне.

Цена отключения

Kill switch решает обе проблемы одинаково. Для захваченного агента это абсолютно верно. Для целеустремленного агента это останавливает и риск, и работу одновременно: наполовину завершенную миграцию, запрос клиента или отчет, который кто-то ждал. Бизнес остается в безопасности, но в итоге не получает никакого результата от развернутого агента.

Эти издержки быстро растут, потому что, когда средство контроля останавливает агентов каждый раз, когда они отклоняются от курса, команды, полагающиеся на этих агентов, начинают искать способы обойти это средство. Защитный барьер, который умеет только говорить «нет», обычно становится следующим кандидатом на отключение.

Наш подход к управлению (Steering)

Агентное управление начинается с другого вопроса: вместо того чтобы спрашивать, должен ли агент продолжать работу, оно проверяет, соответствует ли каждое действие задаче, поставленной перед агентом. Мы смотрим на то, что агент собирается сделать, проверяем это в контексте и ловим момент, когда он начинает дрейфовать в сторону опасности. Безопасные действия пропускаются, а рискованный шаг блокируется до его выполнения. Цель состоит в том, чтобы вернуть агента к его задаче, чтобы работа была выполнена, и оставить kill switch для тех агентов, которые действительно были захвачены.

Рисунок 2: Один и тот же рискованный шаг, два разных финала

Именно так мы представляем себе обеспечение безопасности агентов на протяжении всего их жизненного цикла. Перед выпуском агента ИИ-ред-тиминг проверяет, как он ведет себя, когда кто-то пытается сбить его с курса. После запуска Check Point AI Security проверяет каждое действие агента на соответствие поставленной задаче. Управление (steering) — это концепция, связывающая эти два этапа: чем лучше агент придерживается курса, тем реже требуется выключатель.

Ранние исследования того же хакатона подтверждают эту идею. В одном из экспериментов защитный барьер, предлагавший агенту более безопасную альтернативу вместо категорического отказа, останавливал атаки почти так же эффективно, как и жесткая блокировка, при этом агент завершал свои задачи почти так же часто, как и без барьера вовсе. Это были исследовательские условия, а не тестирование продукта, но они указывают на тот же вывод. Остановить агента может любой. Удержать его на курсе и при этом получить результат — вот сложная задача, на которой мы фокусируемся.

Оставьте выключатель, планируйте дрейф

Механизмы экстренной остановки привлекают внимание, потому что они просты для понимания, и это полезно, так как теперь все понимают, почему агентам нужен способ остановки. Более сложный вопрос заключается в том, что происходит во все те моменты, когда агент отклоняется от курса без участия злоумышленника. Если остановка агентов — это вся ваша стратегия, то у вас нет стратегии работы с агентами. У вас есть просто выключатель.

Так что оставьте kill switch, сделайте его автоматическим и стройте систему так, чтобы он требовался редко. Kill switch — это крайняя мера. Агентное управление — первый шаг.

Узнать больше

Демо

Поговорите с экспертом по безопасности ИИ о том, как удерживать агентов на курсе в промышленной эксплуатации.

Поговорить с экспертом →

Как это работает

Обнаружение опасных отклонений (Dangerous Deviation Detection): отлов действий агента, о которых никто не просил.

Читать статью →

Исследование

Злоумышленник не требуется: чему нас научил двухдневный хакатон по безопасности агентов.

Читать статью →

← Все статьи

О чём эта статья

Ещё в разделе «Кибербезопасность»

Все →
Шпионаж за правительствами с помощью вредоносного ПО с нулевым количеством строк кода: кастомный мост SoftEther в инструментарии Webworm
Rapid7

Шпионаж за правительствами с помощью вредоносного ПО с нулевым количеством строк кода: кастомный мост SoftEther в инструментарии Webworm

Что такое превентивное MDR? Руководство для руководителей служб безопасности
Rapid7

Что такое превентивное MDR? Руководство для руководителей служб безопасности

Безопасность выполнения для Amazon EKS Auto Mode с помощью Sysdig
Sysdig

Безопасность выполнения для Amazon EKS Auto Mode с помощью Sysdig

NGINX2Root: пять RCE-уязвимостей в NGINX, путь к правам root в ядре Linux и способы обнаружения эксплуатации
Sysdig

NGINX2Root: пять RCE-уязвимостей в NGINX, путь к правам root в ядре Linux и способы обнаружения эксплуатации

IDEMIA Secure Transactions и IonQ подтвердили совместимость квантового распределения ключей для критически важных коммуникаций
ID Quantique

IDEMIA Secure Transactions и IonQ подтвердили совместимость квантового распределения ключей для критически важных коммуникаций

Акции, показывающие наибольшие изменения на премаркете: Palo Alto Networks, Take-Two Interactive, Everpure и другиеПресса
Palo Alto Networks

Акции, показывающие наибольшие изменения на премаркете: Palo Alto Networks, Take-Two Interactive, Everpure и другие

Ещё от Check Point

Кибератака или нет — урок один: чему нас учит неделя глобальных сбоев в контексте обеспечения безопасности
Check Point

Кибератака или нет — урок один: чему нас учит неделя глобальных сбоев в контексте обеспечения безопасности

Во время сбоя в Microsoft 365 не было потеряно ни одного электронного письма
Check Point

Во время сбоя в Microsoft 365 не было потеряно ни одного электронного письма

Киберпреступность в «Черную пятницу» 2026 года: число атак на ритейлеров выросло на 28%, количество рискованных доменов множится
Check Point

Киберпреступность в «Черную пятницу» 2026 года: число атак на ритейлеров выросло на 28%, количество рискованных доменов множится

Жизненный цикл управления уязвимостями: что происходит после обнаружения?
Check Point

Жизненный цикл управления уязвимостями: что происходит после обнаружения?

Check Point расширяет возможности тестирования на проникновение
Check Point

Check Point расширяет возможности тестирования на проникновение

Бюллетень по безопасности: Активная эксплуатация уязвимости PHP2Shell и эскалация локальных привилегий
Check Point

Бюллетень по безопасности: Активная эксплуатация уязвимости PHP2Shell и эскалация локальных привилегий