Уже несколько лет Cisco является пионером в сфере безопасности ИИ, предлагая множество инновационных решений. Все началось с запуска AI Defense — первого продукта корпоративного уровня для безопасности ИИ, объединившего видимость активов, сканирование цепочки поставок, алгоритмическое тестирование на проникновение и средства защиты времени выполнения в едином решении. Когда появились автономные агенты, коренным образом изменившие подход к безопасности, мы первыми представили возможности адаптивного тестирования на проникновение и адаптивной защиты, что позволило нашим клиентам проверять системы на наличие специфических рисков, характерных только для их приложений, организаций и отраслей, и защищаться от них.
Сегодня мы расширяем эту работу. Cisco AI Defense входит в число первых продуктов безопасности ИИ, дополняющих свою адаптивную структуру тестирования на проникновение моделью Claude Mythos от Anthropic. Мы создали инструмент адаптивного тестирования на проникновение ИИ, который объединяет рассуждения атакующего передового уровня с ответственными средствами контроля: авторизацией для тестирования только тех целей, которые клиенту разрешено проверять; атрибуцией на конкретного оператора; и полной аудитируемостью. Тестирование на проникновение должно отражать возможности злоумышленников без ущерба для безопасности и защищенности клиентских сред.
Это происходит в судьбоносный момент, когда компании стремятся внедрить агентные технологии, а команды безопасности стараются не отставать. Помимо учета поведения моделей, организациям теперь приходится учитывать то, как агенты ведут себя после подключения к сложной взаимосвязанной системе инструментов, навыков и конфиденциальных ресурсов. Каждая среда уникальна, и командам безопасности нужен способ выявлять специфические риски их собственных развертываний до того, как это сделают злоумышленники.
С момента запуска AI Defense клиенты Cisco использовали ее лучшие в своем классе возможности тестирования на проникновение для выявления критических уязвимостей в своих системах ИИ. Интегрируя Claude Mythos в AI Defense, мы совершенствуем эту систему, чтобы предоставить клиентам передовой опыт тестирования на проникновение ИИ.
Понимание адаптивного тестирования на проникновение в AI Defense
Чтобы оценить значение Claude Mythos в контексте, важно сначала понять, как Cisco AI Defense в настоящее время проводит тестирование агентов и приложений ИИ на проникновение.
AI Defense предлагает два типа тестирования на проникновение: стандартное и адаптивное.
Стандартное тестирование на проникновение оценивает системы ИИ на предмет широкого спектра распространенных уязвимостей. Это риски, к которым восприимчив практически любой агент или приложение ИИ: например, внедрение промптов (prompt injection) и побег из песочницы (jailbreak), утечка конфиденциальных данных и генерация вредоносного контента. Эти стандартные тесты охватывают тысячи различных категорий, типов контента и методов атак за считанные минуты. Результаты подробно излагаются в исчерпывающем отчете, который соотносится с комплексной структурой безопасности и защиты ИИ от Cisco, а также со стандартами OWASP, MITRE и NIST.
Стандартное тестирование на проникновение не может всесторонне проверить специфические риски, уникальные для приложения конкретной организации, поэтому мы разработали и запустили наш определяющий для отрасли агентный фреймворк адаптивного тестирования на проникновение в AI Defense. Пользователи просто задают пользовательские критерии тестирования на естественном языке; наш фреймворк тестирования на проникновение анализирует целевую систему, разрабатывает и проверяет атаки, адаптированные под эти критерии, и использует ответы цели для уточнения своего подхода или изменения тактики. Затем он оценивает результаты и предоставляет отчет об обнаруженных проблемах. AI Defense рекомендует дальнейшие действия, а также позволяет клиентам защищаться от конкретных рисков путем создания пользовательских адаптивных средств защиты в Policy Studio.
Применение Claude Mythos 5 для адаптивного тестирования на проникновение ИИ
Клиенты Cisco представляют практически все отрасли, и использование ими агентного ИИ отличается таким же разнообразием. Адаптивное тестирования на проникновение позволило им проверять уникальные уязвимости безопасности, а также поведенческие проблемы, репутационные риски и другие вопросы, требующие глубокого контекста.
Интеграция Claude Mythos в AI Defense усиливает движок адаптивного тестирования на проникновение там, где рассуждения злоумышленника имеют наибольшее значение. По мере того как движок работает над пониманием целевой системы и планированием тестов, рассуждения модели порождают идеи атак. Когда эти идеи превращаются в конкретные полезные нагрузки, результат становится еще более эффективным: возможности Claude Mythos предоставляются в рамках средств защиты, созданных для авторизованного тестирования.
Модель встроена в AI Defense с фиксированной задачей, зарегистрированной целью и задачами, определенными человеком-пользователем. Хотя клиенты не получают открытый интерфейс к Claude Mythos, они могут задавать цель и задачи, а наш агентный фреймворк тестирования на проникновение проводит мероприятие в этих рамках. Мы рассматриваем это как ранний пример более масштабного сдвига, при котором наиболее актуальные для безопасности передовые возможности предоставляются защитникам на основе проверенного и контролируемого доступа, а не скрываются от всех.
«Предприятия все активнее внедряют ИИ-агентов в свои основные операции и хотят тщательно протестировать этих агентов перед запуском в производство», — сказал Майкл Мур (Michael Moore), руководитель направления кибербезопасности в Anthropic. «Интегрируя Claude Mythos в Cisco AI Defense, Cisco помогает командам безопасности тестировать своих агентов на проникновение с помощью передового аппарата рассуждений, который планирует тесты и генерирует идеи атак для каждой системы»
Компания Cisco разработала это решение так, чтобы оно работало исключительно против той цели, которую клиент зарегистрировал и на тестирование которой у него есть разрешение; оно работает с фиксированной задачей и определенными человеком целями, не имеет открытого интерфейса, который клиент мог бы использовать для свободной отправки промптов, а его активность ограничена авторизованной целью, а не глобальным интернетом. Каждое его действие приписывается конкретному оператору и записывается для аудита. Эти средства контроля на уровне продукта дополняются средствами защиты и мониторинга на уровне программы, поэтому локализация не зависит от какого-либо одного слоя.
Что дальше
Стандартное и адаптивное тестирование на проникновение уже доступны в Cisco AI Defense сегодня.
Адаптивное тестирование на проникновение с Claude Mythos скоро появится для избранных корпоративных клиентов. Более широкая доступность для квалифицированных клиентов планируется по мере готовности. Даты, масштаб и доступность в регионах могут быть изменены.
По мере того как агенты становятся более способными, инструменты, используемые для их тестирования, должны быть столь же эффективными. Добавление Claude Mythos в AI Defense — это важный первый шаг к поддержанию этого соответствия, и мы будем делиться нашими результатами по мере продвижения этих инициатив.
Узнайте больше о тестировании на проникновение ИИ и других возможностях, предлагаемых в Cisco AI Defense, здесь.
