getty
По мере того как компании спешно внедряют искусственный интеллект, наряду с преимуществами технологии возникают новые риски безопасности. Эти угрозы бросают вызов традиционным методам обеспечения безопасности и создают уязвимости, к выявлению и управлению которыми организации могут быть не готовы. Поскольку ИИ играет все большую роль в повседневных рабочих процессах и принятии решений, руководители должны понимать, как меняется степень подверженности их организаций рискам.
Защита бизнес-систем и конфиденциальной информации требует не просто адаптации существующих средств кибербезопасности, но и учета уникальных рисков, связанных с технологиями ИИ. Ниже члены Forbes Technology Council выделяют риски безопасности ИИ, которые необходимо понимать бизнес-лидерам и техническим руководителям, а также делятся практичными способами их устранения.
Угроза утечки конфиденциальных данных через ИИ-промпты
ИИ-промпты могут незаметно передавать наружу больше конфиденциальной информации, чем себе представляют многие технические руководители. Для любого инструмента ИИ важно понимать, что попадает в базовую LLM, кто ее хостит и какие меры конфиденциальности и безопасности предоставляются. Чем более концентрирована ваша инфраструктура LLM или провайдер, тем выше ваши шансы защитить конфиденциальную информацию вашего бизнеса. -Алекх Джиндал, Tursio
Ускоренные с помощью ИИ эксплойты для нулевого дня
ИИ значительно упрощает поиск и эксплуатацию уязвимостей нулевого дня в операционной системе, гипервизоре или любом другом компоненте инфраструктуры. Это означает, что игра в «убей крота» с экстренным патчингом систем больше не работает. Техническим лидерам необходимо понять, что фокус сместился на предотвращение: ключ к успеху — в защите инфраструктуры таким образом, чтобы даже при наличии уязвимости нулевого дня данные оставались в безопасности. -Аяль Йогев, Anjuna Security
Forbes Technology Council — это закрытое сообщество для ведущих мировых ИТ-директоров, технических директоров и руководителей технологических компаний. Подхожу ли я?
Неконтролируемые полномочия ИИ-агентов
Риск безопасности ИИ, за которым должны следить руководители, — это неконтролируемые полномочия ИИ. Внутри компании, по мере перехода ИИ-агентов от рекомендаций к исполнению, организациям необходимы четкие разрешения, авторизация на основе политик, пороги утверждения и журналы аудита. Внешне ИИ ускоряет эксплуатацию уязвимостей, что делает критически важными более быстрое обновление и непрерывный мониторинг. Цель состоит не в том, чтобы ограничить автономию ИИ, а в том, чтобы обеспечить ее контроль в момент совершения действия. -Шахир Дая, Zafin
Утечка данных через сторонний ИИ
Передача данных, особенно персональных (PII), а также данных, чувствительных к вопросам права и комплаенса, через прямой API или подключение MCP к сторонней модели, такой как OpenAI или Anthropic, создает новую границу доверия. Теперь эти данные проходят через инфраструктуру, которую вы не контролируете. Самостоятельно размещаемые модели удерживают данные и вывод в единой среде, снижая сторонние риски и количество границ доверия, которые могут дать сбой. -Джулия Пенфилд, доктор наук, VelocityEHS
Неконтролируемые инструменты ИИ с доступом к данным
Спросите службу безопасности, сколько инструментов и агентов ИИ сотрудники подключили к корпоративным данным в прошлом месяце — большинство не сможет ответить, и это слепое пятно представляет собой реальную угрозу, а не сам ИИ. Относитесь к каждому инструменту ИИ как к рабочему ноутбуку компании: назначьте ответственного, регистрируйте то, к чему он имеет доступ, и отзывайте доступ в день увольнения сотрудника. -Сива Сами, ValGenesis, Inc.
Неконтролируемый доступ ИИ к бизнес-данным
Один из наибольших рисков заключается в предоставлении ИИ доступа к бизнес-данным без полного понимания того, к чему он сможет получить доступ и как эти данные будут использоваться. Компаниям необходимы четкие правила в отношении доступа к данным, разрешений и того, как используются результаты, сгенерированные ИИ. Цель состоит в том, чтобы внедрить эти средства защиты в технологию с самого начала, а не пытаться решить проблему позже. -Стив Канджиано, CMiC
ИИ-агенты как внутренние нарушители (инсайдеры)
ИИ-агенты действуют как люди, но они потребляют и перемещают данные гораздо быстрее, чем любой человек, часто обладая большими разрешениями, чем им необходимо. Организациям необходимо управлять ими так же, как они управляют инсайдерскими рисками: понимая намерения и поведение, а не только доступ. На практике это означает объединение вашей стратегии безопасности ИИ со стратегией безопасности данных. Рассматривайте их отдельно, и эти пробелы станут вашим риском. -Сумит Дхаван, Proofpoint
ИПС-мошенничество (кража личных данных), созданное с помощью ИИ
Односигнальные проверки личности устарели. Мошенники теперь используют атаки с внедрением и медиафайлы, созданные ИИ, чтобы обходить проверки на присутствие живого человека (liveness checks), поэтому лицо или документ, выглядящие настоящими, сами по себе ничего не доказывают. Верификация должна быть непрерывной, а не разовым чекбоксом при онбординге; она должна объединять сигналы устройств и сети, поведенческую биометрию и оркестрацию на основе рисков для формирования доверия. -Каарел Коткас, Veriff
Мошенничество при найме с использованием ИИ
ИИ превращает мошенничество при найме в реальную угрозу безопасности. Фальшивый кандидат теперь может пройти несколько этапов процесса найма, выглядеть убедительно на бумаге и даже блестяще пройти собеседования. Если такого человека нанимают, компания может предоставить злоумышленнику законный доступ к внутренним системам, клиентским данным, исходному коду или финансовой информации. Прежде чем предоставлять кандидатам доступ к конфиденциальным системам или данным, компании должны убедиться, что они действительно те, за кого себя выдают. -Герго Вари, Lensa, Inc.
Утечки конфиденциальных данных через теневой ИИ
Широко недооцениваемый риск — утечка данных через теневой ИИ: сотрудники тихо вставляют конфиденциальные данные клиентов, финансовые данные или интеллектуальную собственность в неутвержденные инструменты, чью политику хранения, безопасности и обучения ИТ-отдел не видит. Запреты могут загнать использование еще глубже в тень. Организациям необходима лучшая видимость для обеспечения ответственного использования и элементов контроля на основе рисков, которые защищают данные, не замедрая инновации. -Нил Брэдбери, Barracuda
Пробелы в наблюдаемости и комплаенсе ИИ
Хотя основное внимание уделяется сокращению расходов или росту производительности за счет ИИ, вопросы наблюдаемости и комплаенса требуют не меньшего внимания; если их упустить из виду, это приведет к проблемам с регулированием и репутацией, а также к кошмару с аудитом. Эти жизненно важные уровни определяют разницу между концептуальной проверкой (PoC) и успешным внедрением ИИ-агентов в производство. -Шамми Нараянан, Welldoc
Чрезмерная зависимость от результатов, сгенерированных ИИ
Самый большой риск для меня заключается не в том, что ИИ перестанет подчиняться людям, а в том, что люди привыкнут автоматически доверять ИИ. Хотя мы инвестируем в улучшение средств защиты на базе агентного ИИ, нам также следует больше инвестировать во внутреннюю архитектуру киберспециалистов, потому что давление будет только расти, и без дзен-подобной ясной ясности ума можно сделать неверный выбор. -Карло Тортора Брайда, Cyber Eagle Project Inc.
Недостаточная безопасность данных ИИ
Я не думаю, что достаточное количество руководителей осознает, что безопасность ИИ — это фундаментально проблема данных, а не моделей, агентов или пользователей. Независимо от того, как используется ИИ, он не может работать безопасно, если он не работает с надежными, точными и высококачественными данными. Команды могут гарантировать соответствие своих данных этим стандартам путем внедрения комплексного базового управления состоянием безопасности данных (DSPM). -Тьяга Васудеван, Skyhigh Security
Потеря гранулированного контроля доступа к данным
Многие продуктовые организации недооценивают сложность поддержания контроля доступа к данным по мере масштабирования ИИ. Поиск, аналитика и синтез контента с поддержкой ИИ предлагают огромную ценность, но сохранение детализированного доступа к конфиденциальной интеллектуальной собственности усложняется, если данные извлекаются в озеро данных. Стратегии цифрового потока (digital thread) требуют управляемого доступа ИИ к оперативным данным и контексту для сохранения целостности политик доступа. -Леон Лауритсен, Aras
Немониторить «синтетические инсайдеры»
Один из недооцениваемых рисков безопасности ИИ — рост числа «синтетических инсайдеров». ИИ-агентам предоставляется доступ к системам и разрешение действовать от имени сотрудников. Они больше не являются просто инструментами, а начинают вести себя как инсайдеры. Их действия должны непрерывно отслеживаться на предмет соответствия роли и задаче, для выполнения которых они предназначены. В эпоху агентов руководители должны понимать, имела ли смысл активность агента. -Авив Нахум, Above Security
Пробелы в хранении и удалении документов ИИ
Каждый документ, загруженный в ИИ, — это документ, находящийся вне вашей политики хранения данных. Корпоративные документы оказываются повсюду, включая ноутбуки сотрудников. Сотрудники загружают документы, потому что 1. нет системы с безопасным хранилищем документов или 2. сторонние инструменты работают быстрее. Предоставьте быстрое и безопасное место для контента, к которому могут обращаться LLM. Во-вторых, убедитесь, что документы удаляются полностью. Спросите у поставщиков ИИ, что происходит с производными артефактами, эмбеддингами, кэшами и резервными копиями при удалении исходного документа. -Аарон Ралло, Trovia
Нечеткая ответственность за автономный ИИ
Один из недооцениваемых рисков безопасности ИИ — это нечеткая ответственность по мере того, как ИИ переходит от рекомендаций к выполнению действий. Организации должны определить, к чему ИИ может получать доступ, на что он может влиять автономно, что требует одобрения человека и кто несет ответственность за результат. Управление ИИ должно решать не только то, что система может делать, но и кто несет ответственность, когда она действует. -Джаяшри Ранганатхан, Trinity Solar Inc.
Ускоренные с помощью ИИ атаки на статические средства защиты
ИИ сокращает затраты и время, необходимые злоумышленникам для экспериментов. Они могут автоматизировать разведку, генерировать тысячи вариаций атак и постоянно адаптироваться на основе того, что пробивает защиту. Статические правила и обнаружение по известным шаблонам не могут адаптироваться с той же скоростью. Организациям необходимы поведенческие методы и методы обнаружения без учителя для выявления новых шаблонов в сочетании с принятием решений в реальном времени, чтобы новообретенные риски могли немедленно учитываться в средствах контроля. -Инлиан Се, DataVisor
Ускоренная с помощью ИИ эксплуатация уязвимостей после взлома
ИИ позволяет злоумышленникам анализировать украденный исходный код и облачные стеки на машинном скорости, выявляя новые уязвимости на лету. Убеждение, что атака локализована только за счет отзыва первоначального доступа, несостоятельно: заблокируйте один вектор, и злоумышленники найдут другой в течение нескольких часов. Компании должны действовать быстрее, чем кажется комфортным, применять патчи в тот же день и рассматривать вызванный собственными силами простой как более безопасный вариант. -Райан Икелер, MOXFIVE
