ИИ-агенты берут на себя все больше задач в государственном секторе: от внутренних процессов до обслуживания граждан и выполнения критически важных операций. В партнерстве с GovExec компания Okta заказала исследование, чтобы изучить состояние безопасности и контроля идентификационных данных в контексте внедрения агентного ИИ в государственных органах. Полученные результаты выявляют серьезные проблемы с безопасностью и идентификацией в плоскости контроля доступа, из-за которых многие ведомства остаются на этапе пилотных проектов:
- Проблема отсутствия прозрачности: только 16% опрошенных сотрудников уверены, что у них есть полный реестр используемых ИИ-агентов.
- Проблема контроля поведения: только 9% уверены, что знают, чем именно занимаются эти агенты.
Обеспечение безопасности ИИ-агентов при переходе от пилотных проектов к эксплуатации в органах власти штатов и местных органах управления
Респонденты из органов власти штатов и местных органов управления сообщили, что внедряют агентный ИИ для оптимизации услуг, но неуправляемые агенты и риски безопасности часто тормозят прогресс. Скачайте полную инфографику, обобщающую результаты опроса в органах власти штатов и местных органах управления, чтобы узнать больше.
Решение проблем безопасности агентного ИИ в федеральном масштабе
Поскольку ИИ-агенты берут на себя все больше работы в гражданских и оборонных миссиях, федеральные ведомства должны найти баланс между необходимостью повышения безопасности и скоростью выполнения задач. Скачайте полную инфографику, чтобы ознакомиться с мнением руководителей федеральных и оборонных структур о том, как обеспечить безопасность и контроль систем идентификации.
Четыре критических вопроса для обеспечения безопасности агентного ИИ в государственном секторе
Для ведомств, стремящихся перевести ИИ из стадии пилотных проектов в промышленную эксплуатацию, фрагментированные системы идентификации ограничивают возможности контроля. Чтобы создать масштабируемую основу идентификации для государственных активов и услуг для граждан, ведомства должны ответить на четыре критических вопроса:
- Где находятся мои агенты?
- Что они могут делать?
- Что они делают на самом деле?
- Как мне реагировать?
1. Обнаружение и прозрачность: Где находятся мои агенты?
Как государственные ведомства могут обнаруживать и инвентаризировать неуправляемых ИИ-агентов?
Агентный ИИ создает развивающуюся экосистему нечеловеческих идентификаторов, превращая обнаружение в задачу управления жизненным циклом, а не в разовое мероприятие. Согласно исследованию, 80% респондентов из федеральных ведомств не могут полностью отследить всех ИИ-агентов, имеющих доступ к их системам.
2. Управление доступом и правами: Что они могут делать?
Как применять принципы минимальных привилегий к ИИ-агентам?
Как и человеческие идентификаторы, агенты нуждаются в четко определенных ролях, владельцах и правах доступа, регулируемых принципом минимальных привилегий. К сожалению, фрагментация затрудняет этот процесс: 85% опрошенных сотрудников считают интеграцию данных безопасности между инструментами сложной задачей, и только 19% управляют идентификацией через единую платформу. Строгое ограничение доступа гарантирует, что даже если агенты выйдут из-под контроля, они не смогут совершить несанкционированные действия.
«Нельзя обеспечить безопасность того, чем вы не управляете». — Грег Холл, федеральный технический директор и выдающийся стратегический советник, Okta
3. Обнаружение, мониторинг и подотчетность: Что они делают на самом деле?
Как федеральные ведомства могут отслеживать и обнаруживать несанкционированные действия ИИ-агентов в режиме реального времени?
Права доступа определяют, что агент может делать, но ведомства должны постоянно проводить мониторинг, чтобы проверять, что он делает на самом деле во время выполнения. Опрос показал, что 53% ведомств обнаруживали ИИ-инструменты или агентов, получающих доступ к их системам без предварительного одобрения, а 26% сталкивались с инцидентами безопасности или нарушениями соответствия требованиям, связанными с неуправляемыми идентификаторами. Задержка в обнаружении «агентов-изгоев» значительно увеличивает риск и масштаб последствий для организации.
4. Контроль, соответствие требованиям и восстановление: Как мне реагировать?
Какой лучший способ нейтрализовать «агентов-изгоев» и обеспечить восстановление в рамках концепции Zero Trust?
Ведомства испытывают давление, требующее ускорения работы: 68% сообщают о давлении в вопросах внедрения ИИ, а почти две трети откладывают или сокращают инициативы, поскольку средства контроля безопасности не успевают за развитием технологий. Централизованная плоскость контроля идентификации обеспечивает критически важную функцию экстренной остановки, позволяя ведомствам мгновенно разрывать соединения «агента-изгоя» и передавать эту телеметрию в системы управления событиями безопасности (SIEM) и системы автоматизации реагирования (SOAR).
Создание единой основы идентификации
Управление людьми, нечеловеческими идентификаторами и агентами через единую платформу упрощает управление ИИ. Okta for AI Agents расширяет вашу существующую базу управления идентификацией и доступом в регулируемые границы, предоставляя агентам уникальные идентификаторы, ограниченный доступ и средства контроля жизненного цикла.
Будь то модернизация порталов обслуживания граждан или обеспечение безопасности рабочих процессов федеральных ведомств, Okta предоставляет готовую к соблюдению нормативных требований структуру идентификации, необходимую государственному сектору для масштабного внедрения ИИ при сохранении непрерывного аудита и соблюдении принципов Zero Trust. Ведомства, сталкивающиеся с неотложными директивами по модернизации, могут поддерживать надежный уровень защиты, внедряя инновационные агентные рабочие процессы с помощью нейтрализации в реальном времени, реестров агентов и полного аудита автоматизированных конвейеров.
Обеспечьте безопасность своей ИИ-трансформации
Скачайте наше руководство по управлению ИИ-агентами, чтобы ознакомиться с полными результатами опроса и получить больше информации о четырех вопросах, на которые должно ответить каждое ведомство, чтобы преодолеть проблему отсутствия прозрачности в сфере ИИ.
Чтобы помочь вашей организации справиться с рисками неуправляемого ИИ и обеспечить безопасность цифровых услуг, изучите план построения безопасного агентного предприятия, содержащий пошаговую структуру внедрения для установления контроля идентификации, управления жизненным циклом агентов и обеспечения минимальных привилегий для всех ваших ИИ-агентов.
