Краткий обзор: сегодня автономные ИИ-агенты одобряют кредиты, дают юридические консультации, проводят первичную сортировку пациентов и управляют физическими системами. Когда ИИ-агент причиняет операционный, финансовый или регуляторный ущерб, суды и регулирующие органы требуют четкого аудиторского следа, показывающего, кто авторизовал агента и какие конкретные действия ему были разрешены. В настоящее время большинству предприятий не хватает инфраструктуры идентификации для обеспечения такой верификации, что создает серьезную проблему ответственности, известную как разрыв в атрибуции ИИ.
Понимание разрыва в атрибуции ИИ
Разрыв в атрибуции — это критическое расстояние между действиями ИИ-агента и вашей способностью доказать, кто его авторизовал и что ему было разрешено делать. Этот дефицит управления напрямую соотносится с текстами нормативных актов основных правовых баз в различных юрисдикциях по всему миру.
Действующие глобальные системы соответствия требованиям в области ИИ
Шесть из восьми существующих систем соответствия требованиям сегодня полностью активны и подлежат исполнению:
- Закон Сарбейнса-Оксли (SOX): требует явного внутреннего контроля доступа к автоматизированной финансовой отчетности и записям в ERP-системах.
- Калифорнийский закон о защите конфиденциальности потребителей (CCPA): предоставляет право на частный иск с установленными законом штрафами от 100 до 750 долларов США за потребителя за каждый инцидент в случае утечки данных, возникшей из-за ненадлежащей безопасности.
- Правила раскрытия информации о кибербезопасности Комиссии по ценным бумагам и биржам (SEC) (форма 8-K, пункт 1.05): предписывают раскрытие существенных инцидентов кибербезопасности в течение четырех рабочих дней после определения их существенности, что может включать инциденты с участием нечеловеческих идентификаторов.
- Общий регламент по защите данных (GDPR): требует документально подтвержденного законного основания и минимизации данных для любой автоматизированной обработки персональных данных.
- Директива о сетевых и информационных системах (NIS2): предписывает комплексные меры управления рисками кибербезопасности и безопасности цепочки поставок в секторах критической инфраструктуры, включая политики контроля доступа, которые на практике должны распространяться на нечеловеческие идентификаторы.
- Закон о цифровой операционной устойчивости (DORA): налагает требования к цифровой операционной устойчивости на сектор финансовых услуг, включая управление ИКТ-рисками и постоянный надзор за сторонними ИКТ-провайдерами, что на практике требует наличия проверяемых записей об авторизации.
Тем временем требования к системам с высоким уровнем риска согласно Закону Европейского Союза об искусственном интеллекте (EU AI Act) вступают в силу 2 декабря 2027 года для автономных систем и 2 августа 2028 года для ИИ, встроенного в регулируемые продукты, предписывая автоматическое ведение журналов событий, управление рисками и возможности вмешательства человека.
Одновременно законодательные органы штатов США переписывают законы об ИИ в режиме реального времени. По состоянию на февраль 2026 года в 27 штатах США было подано законопроектов. Эволюция Закона об ИИ штата Колорадо, первого комплексного закона штата США об ИИ, демонстрирует, насколько изменчиво законодательство, специфичное для ИИ: федеральный суд приостановил действие Закона об ИИ штата Колорадо в апреле 2026 года, и его заменил более узкий закон о прозрачности, который должен вступить в силу 1 января 2027 года. Хотя конкретные требования изменились, цель осталась прежней; даже суженный закон требует раскрытия информации и ведения учета, которые восходят к идентификации и авторизации.
Пять элементов контроля идентификации для устранения разрыва в атрибуции
Чтобы защитить ваш бизнес, каждое действие агента должно быть прослежено до ответственного человека. Это требует пяти основных элементов контроля:
- Идентифицировать, какой агент совершил действие.
- Ограничить то, к чему он может получить доступ.
- Проследить авторизацию до конкретного человека.
- Проверять разрешения перед передачей данных.
- Вести неизменяемый журнал всех действий.
Юридические доказательства: четыре тематических исследования, одна закономерность
Суды быстро закрывают пути к отступлению. Недавние постановления позволили подавать иски о качестве продукции против разработчиков ИИ, отклонили защиту, согласно которой чат-бот является отдельным юридическим лицом, и наложили многомиллионные штрафы за несанкционированную обработку данных. Эти случаи подчеркивают серьезные операционные и финансовые последствия разрыва в атрибуции ИИ:
Дело 1: Nippon Life против OpenAI (март 2026 г.)
В знаковом судебном процессе утверждается, что ChatGPT занимался нелицензированной юридической практикой, посоветовав истцу по инвалидности уволить своего адвоката, помогая в составлении юридических ходатайств и ссылаясь на вымышленные судебные прецеденты. Основываясь на этих автоматизированных рекомендациях, истец использовал инструмент для составления и подачи нескольких юридических документов в иске, направленном на отмену предыдущего мирового соглашения. В результате Nippon Life требует возмещения ущерба на миллионы долларов, чтобы компенсировать расходы на защиту от этих сгенерированных ИИ документов.
Разрыв в атрибуции: кто авторизовал агента давать юридические консультации? Ни одна корпоративная система идентификации не зафиксировала ответ.
Дело 2: Гарсия против Character Technologies (май 2025 г.)
Федеральный суд во Флориде разрешил продолжить рассмотрение иска о качестве продукции против создателя ИИ-чат-бота, отклонив защиту создателя, основанную на Первой поправке. Google, предоставивший базовую LLM, может нести ответственность как производитель составных частей. Это установило, что если ИИ-чат-бот является продуктом, компания-разработчик владеет каждым автоматизированным результатом и нуждается в комплексном аудиторском следе: какой агент, какая авторизация, какой человек и какой объем полномочий.
Разрыв в атрибуции: без плоскости контроля идентификации предприятие не может доказать, какой именно человек-супервайзер настроил поведенческие барьеры агента.
Дело 3: Моффат против Air Canada (февраль 2024 г.)
Чат-бот Air Canada на базе ИИ сообщил скорбящему пассажиру, что он может подать заявку на ретроактивную скидку в связи с утратой близкого человека, несмотря на политику компании. Компания утверждала, что ИИ-чат-бот является отдельным юридическим лицом. Трибунал Британской Колумбии отклонил это:
Хотя чат-бот имеет интерактивный компонент, он все равно является лишь частью веб-сайта Air Canada. Для Air Canada должно быть очевидно, что она несет ответственность за всю информацию на своем веб-сайте.
Разрыв в атрибуции: у чат-бота отсутствовали уникальный идентификатор, запись об авторизации или след доступа, связывающий его результаты в реальном времени с ответственным владельцем.
Дело 4: Италия против Replika / Luka Inc. (2025 г.)
Орган по защите данных Италии fined Replika's parent company EUR 5 million за три нарушения GDPR:
- Неспособность определить законное основание для обработки пользовательских данных
- Предоставление неадекватной политики конфиденциальности
- Отсутствие внедрения проверки возраста.
Надлежащее управление идентификацией и контроль доступа могли бы смягчить каждое из этих нарушений требований.
Разрыв в атрибуции: автоматизированная система работала полностью вне корпоративного периметра идентификации, выполняя задачи по обработке данных без проверки разрешений.
Эти четыре случая не являются исключением. Кентукки стал первым штатом США, подавшим в суд на компанию-разработчика ИИ-чат-ботов. Нидерланды fined Clearview AI EUR 30.5 million. Чат-бот MyCity AI в Нью-Йорке советовал владельцам бизнеса нарушать закон.
Закономерность во всех этих инцидентах одна и та же: агент действует, причиняя вред пользователю или нарушая политику. Предприятие не может предоставить след, показывающий, кто авторизовал агента, что ему было разрешено делать или как связать его действия с ответственным человеком. Суды устанавливают ответственность, а регулирующие органы определяют необходимые меры контроля. Это пространство и есть разрыв в атрибуции.
Как глобальные правила обеспечивают соблюдение идентификации и авторизации ИИ
Ваш уровень регуляторного риска определяется способностью вашей службы безопасности проверять четыре критически важных операционных столпа.
1. Какие агенты работают в вашей среде? (идентификация)
Согласно статье 25 Закона ЕС об ИИ, за нарушение требований к системам высокого риска предусмотрены штрафы в размере до 15 миллионов евро или 3% от мирового оборота, а за запрещенные методы использования ИИ — до 35 миллионов евро или 7%. Закон требует создания и постоянного обновления системы непрерывного управления рисками для ИИ-систем высокого риска. Вы не можете управлять рисками агента, которого не можете идентифицировать.
Статья 15 требует обеспечения строгой устойчивости к эксплуатации; запуск неконтролируемого агента под общей учетной записью службы создает вектор для горизонтального перемещения, что аннулирует соответствие требованиям.
Аналогичным образом, руководство COSO GenAI, опубликованное 23 февраля 2026 года, напрямую влияет на разделы 302, 404 и 906 закона Сарбейнса-Оксли (SOX), которые требуют от руководителей компаний лично заверять внутренний финансовый контроль. Неуправляемый ИИ-агент, использующий общую учетную запись службы для доступа к ERP-системе и внесения бухгалтерских проводок, представляет собой существенную слабость. Средства контроля доступа теперь должны систематически применяться к цифровым работникам, а не только к сотрудникам-людям.
2. Каков конкретный охват доступа к данным у ваших агентов? (определение области действия)
Статья 32 GDPR предусматривает штрафы в размере до 10 миллионов евро или 2% от мирового оборота за невыполнение надлежащих технических мер безопасности. Если ИИ-агент обладает широкими правами доступа и извлекает конфиденциальные данные от имени конечного пользователя, у которого нет соответствующих разрешений, это квалифицируется как несанкционированная обработка данных. Службы безопасности должны проверять права доступа как агента, так и пользователя-человека до того, как данные будут переданы. В 2025 году именно этот сценарий привел к четырем критическим уязвимостям (CVSS 9.3–9.4) в экосистемах Anthropic, Microsoft, ServiceNow и Salesforce.
Более того, CCPA статья 1798.150 допускает взыскание установленных законом убытков в размере от 100 до 750 долларов США за потребителя за каждый инцидент, подкрепленных частным правом на иск, позволяющим потребителям подавать иски напрямую. Поскольку автономные агенты работают со скоростью машины, агент без ограничений может извлечь десятки тысяч записей персональных данных за считанные минуты. При минимальных установленных законом размерах ущерба ошибка при сборе данных, приведшая к раскрытию 40 000 корпоративных записей, влечет за собой немедленную ответственность в размере 4 миллионов долларов.
3. Кто санкционировал этот конкретный охват доступа? (атрибуция)
Статья 12 Закона ЕС об ИИ требует, чтобы ИИ-системы высокого риска были технически способны автоматически записывать события на протяжении всего срока их эксплуатации. Базовый журнал рабочих процессов просто фиксирует, что произошло; аудиторский след должен доказывать, какая человеческая личность предоставила полномочия и когда этот доступ истекает.
Принцип 8 COSO прямо предупреждает, что риски мошенничества возрастают из-за ИИ-агентов, которые создают риски авторизации, чрезмерные полномочия и небезопасные интерфейсы.
Это создает опасную уязвимость, известную как рекурсивное делегирование, при которой права доступа не сужаются на каждом автономном этапе. Бизнес-подразделения регулярно интегрируют теневых ИИ-агентов в среды SAP, Oracle и Workday через общие учетные записи служб без уникальной нечеловеческой идентификации или цепочки делегирования. Когда происходит сбой системы, отследить первопричину до ответственного человека невозможно.
Это воздействие усиливается в соответствии с правилами раскрытия информации о кибербезопасности SEC, которые требуют полного раскрытия существенных инцидентов в течение четырех рабочих дней; без следа идентификации ваше регуляторное раскрытие информации является фундаментально неполным.
4. Можете ли вы отозвать права доступа агента прямо сейчас? (человеческий контроль)
Статья 14 требует, чтобы организации поддерживали техническую возможность вмешательства в работу ИИ-систем высокого риска или немедленного прерывания работы системы с помощью специальной кнопки остановки или аналогичной процедуры безопасности. Долгоживущий токен OAuth, который невозможно аннулировать в процессе выполнения задачи, не соответствует этому требованию. Истинный человеческий контроль требует единой платформы, способной приостановить действие до выполнения, отозвать учетные данные «на лету» и обеспечить соблюдение политик в режиме реального времени в точке доступа.
Решение проблемы эфемерности и подотчетности ИИ
ИИ-агенты не являются юридическими лицами; их нельзя допросить, привлечь к ответственности за неуважение к суду или получить от них показания о намерениях. В отличие от сотрудника-человека, которого можно опросить через полгода после инцидента, ИИ-агент эфемерен — он запускается для выполнения задачи и немедленно завершает работу. Если ваша система не присваивает уникальный идентификатор нечеловеческим сущностям и не фиксирует неизменяемый аудиторский след во время работы агента, юридические доказательства исчезают навсегда.
Мы видели, как это произошло в упомянутом выше деле Air Canada. Когда компания заявила, что ее чат-бот является отдельным юридическим лицом, трибунал отклонил этот довод. Но решение суда выявило более глубокую проблему: у чат-бота Air Canada не было уникальной идентификации, записи об авторизации или следа, связывающего его ответы с человеком. Компания не смогла доказать, кто настроил агента, какие политики его регулировали и кто несет ответственность. Это тот самый пробел в подотчетности, который закрывают идентификация и авторизация.
Предприятия развертывают этих эфемерных агентов в качестве цифровых работников в потоках принятия решений с высокими последствиями: перебронирование пассажиров, корректировка страховок, сортировка входящих запросов и одобрение кредитов. Как мы исследовали в пятой части этой серии, когда агент управляет физическими системами — такими как ОВК, двери помещений и рекомендации по дозировке лекарств, — последствия в реальном мире усиливаются.
Когда действия агента оспариваются, система правосудия требует ответственного человека. Идентификация определяет, какой агент действовал, а авторизация определяет, что ему было разрешено делать. Без обоих компонентов ваша цифровая рабочая сила работает с глубоким, неуправляемым риском.
Заблуждение о трении в автоматизированном управлении
При оценке средств контроля безопасности нечеловеческих идентификаторов руководящие команды часто выдвигают общее возражение: «Мы не хотим создавать трения и замедлять внедрение ИИ».
Это неверная постановка вопроса. Истинная цена трения ощущается тогда, когда неконтролируемый агент попадает в заголовки новостей: агент, похищающий корпоративные данные; агент, раскрывающий защищенную медицинскую информацию (PHI); агент, дающий неточные юридические советы тысячам людей; агент, корректирующий дозировки лекарств на основе записей, к которым у него никогда не было доступа. Каждый из этих случаев можно было предотвратить, добавив всего один уровень контроля.
ИИ-чат-бот Air Canada дал одному пассажиру неверный ответ, и это стало знаковым судебным решением об ответственности ИИ. Это был простой ИИ-чат-бот. ИИ-агенты, которые предприятия развертывают сегодня, имеют гораздо более широкий доступ, гораздо больше систем и гораздо большую скорость.
Хотя трение от внедрения проверок авторизации, необходимых для защиты агента, измеряется миллисекундами, трение от утечки данных, регуляторного расследования, коллективного иска или принудительных мер SEC измеряется месяцами судебных разбирательств, миллионами штрафов и разрушенными карьерами руководителей. Развертывание автономных агентов без средств контроля идентификации не устраняет трение; оно лишь откладывает его до худшего из возможных моментов.
Время на исходе
Проблема отсутствия атрибуции — это не теоретическое упражнение по соблюдению нормативных требований. Сегодня шесть крупных регуляторных баз предусматривают за это штрафные санкции. опубликовала свое руководство по внутреннему контролю ИИ 23 февраля 2026 года. Планы проверок Совета по надзору за бухгалтерским учетом публичных компаний (PCAOB) прямо включают в себя генеративный ИИ. Закон ЕС об ИИ вступает в полную силу к 2 декабря 2027 года, а проведение оценки соответствия может занять до года. Организациям необходимо начать подготовку уже сейчас.
Вы будете нести ответственность независимо от того, внедрите ли вы эти средства контроля. Единственный вопрос заключается в том, сможете ли вы продемонстрировать эту подотчетность, когда к вам придут регуляторы и суды.
Устраните разрыв в атрибуции и обезопасьте свою рабочую силу на базе ИИ
Ваши автономные ИИ-агенты должны выступать в качестве безопасных и соответствующих требованиям бизнес-инструментов, а не неуправляемых факторов риска. Обеспечение безопасности этой цифровой рабочей силы не означает замедление вашей технологической дорожной карты. С помощью единой структуры безопасности идентификации Okta вы можете создать авторитетную, ориентированную на идентификацию плоскость управления для каждого автоматизированного действия на вашем предприятии.
Okta поможет вам обезопасить работу с агентами и устранить разрыв в атрибуции до того, как к вам обратятся регуляторы и суды. Поговорите с экспертом по безопасности Okta, чтобы начать подготовку вашего предприятия к будущему автоматизированного управления уже сегодня.
Каков ваш уровень готовности к ИИ?
Пройдите наш двухминутный тест на готовность к ИИ (AI Identity Assessment), чтобы узнать свое текущее положение, выявить скрытые пробелы и получить практические рекомендации по устранению уязвимостей.
