Опрос 111 руководителей служб безопасности в организациях с годовым доходом более 100 миллионов долларов также показывает, что беспокоит их больше всего. На вопрос о делегировании решений по безопасности ИИ 47% назвали точность своей главной заботой, в частности ложноотрицательные результаты: реальные уязвимости, которые ИИ-инструмент отклоняет или оценивает неверно, после чего они остаются без внимания. Без процесса их обнаружения такие пропуски могут остаться незамеченными.
В совокупности эти цифры указывают на пробел. Организации доверяют ИИ все больше решений по безопасности, и большинство еще не определилось, кто будет отвечать за результат, даже несмотря на то, что ИИ создает новые поверхности атак в бизнесе.
Ключевые выводы об ИИ из данных за 2026 год
- 39% руководителей служб безопасности заявляют, что вина за ошибку инструмента с поддержкой ИИ с наибольшей вероятностью ляжет на CISO.
- 10% утверждают, что ответственность будет распределена через официальную структуру подотчетности.
- 47% называют точность, в частности риск ложноотрицательных результатов, своей главной проблемой при делегировании решений по безопасности ИИ.
- Более трети руководителей служб безопасности сообщают, что высшее руководство лишь частично понимает разницу между обнаружением, проверкой и устранением.
- Количество проверенных отчетов об уязвимостях в ИИ выросло на 222% за два года, а отчеты об избыточной автономности (Excessive Agency) утроились.
Получите полный отчет
Кто несет ответственность, когда ИИ принимает неверное решение по безопасности?
После CISO руководители безопасности чаще всего называли руководителей операций по безопасности (20,7%) и поставщиков ИИ-инструментов (15,3%). Лишь 1,8% заявили, что сегодня за это никто не отвечает.
Ответственность по умолчанию таит в себе реальный риск. Без единой структуры нет общего стандарта о том, когда ИИ может действовать самостоятельно, когда человек должен проверить его результаты или как проследить источник пропущенной уязвимости. CISO принимает на себя последствия решений, принятых системами, которые он, возможно, никогда не выбирал, не настраивал и не утверждал, в то время как команды, развертывающие эти инструменты, не имеют четкой роли в исходе.
Эта проблема усугубляется на высшем уровне. В более чем трети организаций высшее руководство лишь частично понимает разницу между обнаружением, проверкой и устранением уязвимостей. Когда руководители не видят, на каком этапе этой цепочки ИИ-инструмент принял решение, назначить ответственного за ошибку становится еще сложнее.
Для некоторых руководителей безопасности решение заключается в том, чтобы сделать это распределение ответственности явным и полным. Как объясняет Кайл Барри (Kyle Barry), CISO в CLEAR:
«Ответственность за любую программу или инструмент безопасности должна целиком и полностью лежать на команде безопасности… Они должны контролировать инструменты, процесс и весь опыт от начала до конца».
«Ответственность за любую программу или инструмент безопасности должна целиком и полностью лежать на команде безопасности… Они должны контролировать инструменты, процесс и весь опыт от начала до конца».
Почему руководители безопасности с осторожностью относятся к делегированию задач ИИ?
Точность возглавляет список. Помимо 47% обеспокоенных ложноотрицательными результатами, руководители безопасности отмечают регуляторные риски (41%), потерю человеческого контроля (41%) и состязательные манипуляции с ИИ-агентами (37%).
Фокус на ложноотрицательных результатах вполне обоснован. Ложноположительный результат требует времени аналитика на проверку и отклонение. Ложноотрицательный результат лишает видимости, так как реальная уязвимость никогда не доходит до людей, которые могли бы ее исправить.
Давление с целью делегирования по-прежнему реально. Руководители безопасности сообщают, что на проверку критической находки уходит в среднем 30 часов, и почти 70% говорят, что проверенные уязвимости попадают в бэклог быстрее, чем их команды успевают их устранять — это ключевой драйвер накопления рисков. ИИ обещает ускорить эту работу. Однако без четкого владельца решений ИИ скорость может породить новый вид рисков.
Как ИИ расширяет поверхность атаки?
Вопрос об ответственности выходит за рамки ИИ, используемого внутри систем безопасности. Проверенные отчеты об уязвимостях с участием систем ИИ выросли на 222% за два года, и одна категория напрямую говорит о пробеле в ответственности.
Уязвимости избыточной автономности (Excessive Agency) возникают, когда системы ИИ действуют за пределами установленных лимитов. Количество сообщений о них на платформе H1 утроилось с небольшой базы в период с 2025 по 2026 год. По мере того как модели подключаются к большему числу инструментов, источников данных и бизнес-процессов, вопрос о том, кто одобряет действия ИИ-системы, становится актуальным как для производственных агентов, так и для средств безопасности. Руководители безопасности предвидят это: 60% называют ускоренные с помощью ИИ возможности злоумышленников главной возникающей проблемой, а 42% — агентный ИИ и безопасность MCP.
Хотите узнать больше об ИИ и подотчетности на основе данных 2026 года?
Посмотрите наш вебинар по запросу «Уязвимость проверена. Время пошло. Что дальше?» (The Vulnerability Is Validated. The Clock Is Running. Now What?), чтобы узнать, как ИИ меняет обнаружение уязвимостей и ответственность, и что руководители безопасности могут сделать, чтобы сократить разрыв между поиском риска и его устранением.
Посмотреть вебинар
Как организации могут избежать ситуации, когда вопрос о виновных остается без ответа?
Поскольку ИИ-инструменты принимают все больше решений по безопасности, использующим их организациям необходимы структуры и процессы, определяющие ответственность до того, как что-то пойдет не так. Как минимум, это означает наличие четкого способа оспорить автоматизированное решение и назначение лица, ответственного за его проверку.
На платформе H1 этот принцип воплощен в виде четкого пути эскалации. Автоматизированные системы помогают справляться с объемом отчетов, в то время как команды клиентских программ устанавливают уровень критичности и размеры вознаграждений, а вводные данные ИИ-агентов рассматриваются как рекомендательные. Когда исследователь оспаривает закрытие отчета или сумму, медиация привлекает человека для его проверки, и если отчет заслуживает повторного рассмотрения, HackerOne работает с программой над переоценкой. То, как работают эти системы, задокументировано в принципах ответственного ИИ в HackerOne (Responsible AI at HackerOne).
Что следует предпринять руководителям безопасности в отношении подотчетности ИИ?
Рекомендация отчета прямолинейна: определите ответственность за ИИ до того, как инцидент заставит это сделать. Это означает формальное установление границ для решений автоматизированных инструментов, определение ситуаций, где проверка человеком обязательна, и назначение ответственных за эскалацию. Структура управления рисками ИИ от NIST предлагает базовую структуру из четырех функций: «Управление» (Govern), «Картирование» (Map), «Измерение» (Measure) и «Контроль» (Manage).
На практике работа начинается с четырех вопросов, на которые может ответить каждая команда топ-менеджеров совместно:
- Какие решения по безопасности ИИ-инструменты могут принимать самостоятельно, а где обязательна проверка человеком?
- Кто отвечает за эскалацию, когда инженер или исследователь оспаривает решение с поддержкой ИИ?
- Как обнаруживаются, измеряются и доводятся до сведения высшего руководства ложноотрицательные результаты?
- Какие производственные системы ИИ были протестированы так, как их протестировал бы злоумышленник?
Письменные ответы превращают размытую вину в четко определенную ответственность. Они также дают CISO то, что сегодня есть менее чем у каждого десятого руководителя безопасности: соглашение, утвержденное выше команды безопасности, о том, как управляются риски ИИ.
Когда инструмент с поддержкой ИИ допускает ошибку в находке, кто-то должен будет за нее ответить. Организации, которые заранее решают, кто именно, получают возможность отвечать на собственных условиях.
Следующие шаги: от внедрения ИИ к подотчетности ИИ
Отчет по исследованию безопасности за 2026 год показывает, как ИИ меняет обнаружение уязвимостей, поверхность атаки и сопутствующие вопросы ответственности. Изучите выводы и узнайте, что они означают для вашей стратегии безопасности.
Загрузите отчет об исследованиях безопасности за 2026 год. Получите полные данные об ответственности ИИ, тенденциях уязвимостей ИИ и риске задолженности.
Посмотрите наш вебинар. Узнайте, как эксперты по безопасности анализируют полученные данные и обсуждают, как организации могут управлять решениями по безопасности на базе ИИ.
