Резюме для руководства: Сегодня автономные ИИ-агенты одобряют кредиты, дают юридические консультации, проводят медицинскую триажировку и управляют физическими системами. Когда ИИ-агент наносит операционный, финансовый или регуляторный ущерб, суды и регуляторы требуют четкого аудиторского следа, показывающего, кто уполномочил агента и какие конкретно действия ему разрешались. В настоящее время у большинства предприятий отсутствует инфраструктура идентификации, необходимая для предоставления такого подтверждения, что создает серьезную юридическую ответственность, известную как проблема атрибуции ИИ.
Понимание проблемы атрибуции ИИ
Проблема атрибуции — это критический разрыв между действиями ИИ-агента и вашей способностью доказать, кто уполномочил его и что ему было разрешено делать. Этот дефицит управления напрямую коррелирует с текстами нормативных актов ключевых стандартов в различных юрисдикциях по всему миру.
Действующие глобальные стандарты комплаенса в сфере ИИ
Шесть из восьми существующих стандартов комплаенса действуют в полную силу и обязательны к исполнению уже сегодня:
- Закон Сарбейнса — Оксли (SOX): Требует наличия явных средств контроля внутреннего доступа к автоматизированной финансовой отчетности и записям ERP.
- Закон о конфиденциальности потребителей Калифорнии (CCPA): Предоставляет право на судебную защиту со штрафами от 100 до 750 долларов США за потребителя по каждому инциденту в случае утечки данных, вызванной недостаточной безопасностью.
- Правила Комиссии по ценным бумагам и биржам США (SEC) раскрытия информации о кибербезопасности (Форма 8-K, Пункт 1.05): Требуют раскрытия существенных инцидентов кибербезопасности в течение четырех рабочих дней после определения их существенности, что может включать инциденты с участием нечеловеческих учетных записей.
- Общий регламент по защите данных (GDPR): Требует документально оформленного законного основания и минимизации данных для любой автоматизированной обработки персональных данных.
- Директива о мерах по обеспечению высокого общего уровня безопасности сетевых и информационных систем (NIS2): Предписывает комплексные меры управления рисками кибербезопасности и безопасности цепочки поставок в секторах критической инфраструктуры, включая политику контроля доступа, которая на практике должна распространяться и на нечеловеческие учетные записи.
- Закон о цифровой операционной устойчивости (DORA): Налагает требования цифровой операционной устойчивости на сектор финансовых услуг, включая управление рисками ИКТ и постоянный надзор за сторонними поставщиками ИКТ, что на практике требует проверяемых записей об авторизации.
Между тем, требования Закона Европейского союза об искусственном интеллекте (EU AI Act) для систем высокого риска вступают в силу 2 декабря 2027 года для автономных систем и 2 августа 2028 года для ИИ, встроенного в регулируемые продукты, предписывая автоматическое логирование событий, управление рисками и возможности вмешательства человека.
Одновременно законодательные собрания штатов США переписывают законы об ИИ в режиме реального времени. По состоянию на февраль 2026 года в 27 штатах США было внесено 78 законопроектов об ИИ-чат-ботах. Эволюция Закона Колорадо об ИИ, первого комплексного закона штата США об ИИ, демонстрирует изменчивость законодательства, специфичного для ИИ: федеральный суд приостановил действие Закона Колорадо об ИИ в апреле 2026 года, и с тех пор его заменил более узкий закон о прозрачности, который должен вступить в силу 1 января 2027 года. Хотя конкретные требования изменились, суть осталась прежней; даже этот суженный закон требует раскрытия информации и ведения учета, которые уходят корнями в идентификацию и авторизацию.
Пять элементов контроля идентификации для устранения проблемы атрибуции
Чтобы защитить ваш бизнес, каждое действие агента должно быть прослеживаемым до конкретного ответственного человека. Для этого требуется пять основных элементов контроля:
- Идентифицировать, какой именно агент совершил действие.
- Ограничить область его доступа.
- Связать авторизацию с конкретным человеком по имени.
- Проверить разрешения до того, как данные начнут перемещаться.
- Регистрировать все события в неизменяемом журнале.
Юридические доказательства: Четыре кейса, один паттерн
Суды быстро закрывают лазейки для ухода от ответственности. Недавние решения позволили подавать иски о несоответствии качества продукции против разработчиков ИИ, отвергли аргумент о том, что чат-бот является отдельным юридическим лицом, и наложили многомиллионные штрафы за несанкционированную обработку данных. Эти случаи подчеркивают серьезные операционные и финансовые последствия проблемы атрибуции ИИ:
Кейс 1: Nippon Life против OpenAI (март 2026 г.)
В рамках знакового судебного процесса утверждается, что ChatGPT занимался нелицензированной юридической практикой, посоветовав заявительнице по инвалидности уволить своего адвоката, помогая составлять юридические ходатайства и ссылаясь на вымышленную судебную практику. Основываясь на этих автоматизированных рекомендациях, заявительница использовала инструмент для составления и подачи нескольких юридических документов в иске, направленном на отмену предыдущего мирового соглашения. В результате Nippon Life требует возмещения убытков в размере миллионов долларов для компенсации расходов на защиту от этих созданных ИИ документов.
Проблема атрибуции: Кто уполномочил агента давать юридические консультации? Ни одна корпоративная система идентификации не зафиксировала ответ на этот вопрос.
Кейс 2: Гарсия против Character Technologies (май 2025 г.)
Федеральный суд во Флориде разрешил продолжить рассмотрение иска о дефектах продукта против разработчика ИИ-чат-бота, отклонив довод разработчика о Первой поправке. Google, предоставившая базовую модель LLM, может нести ответственность как производитель составных частей. Это установило, что если ИИ-чат-бот является продуктом, внедряющая компания несет ответственность за каждый автоматизированный вывод и нуждается в комплексном следе аудита: какой агент, какая авторизация, какой человек и какая область применения.
Проблема атрибуции: Без плоскости контроля идентификации предприятие не может доказать, какой именно человеческий супервайзер настроил правила безопасности поведения агента.
Кейс 3: Моффат против Air Canada (февраль 2024 г.)
ИИ-чат-бот Air Canada сообщил скорбящему пассажиру, что тот может подать заявку на ретроспективную скидку в связи с утратой близкого, вопреки политике компании. Компания утверждала, что ИИ-чат-бот является отдельным юридическим лицом. Трибунал Британской Колумбии отклонил этот аргумент:
Хотя чат-бот имеет интерактивный компонент, он все равно остается лишь частью веб-сайта Air Canada. Для Air Canada должно быть очевидно, что она несет ответственность за всю информацию на своем веб-сайте.
Проблема атрибуции: У чат-бота отсутствовали уникальный идентификатор, запись об авторизации или след доступа, связывающие его результаты в реальном времени с ответственным владельцем.
Кейс 4: Италия против Replika / Luka Inc. (2025 г.)
Орган по защите данных Италии оштрафовал материнскую компанию Replika на 5 млн евро за три нарушения GDPR:
- Неспособность определить законное основание для обработки пользовательских данных;
- Предоставление неадекватной политики конфиденциальности;
- Неприменение проверки возраста.
Надлежащее управление идентификацией и контроль доступа смягчили бы каждое из этих нарушений комплаенса.
Проблема атрибуции: Автоматизированная система работала полностью за пределами корпоративного периметра идентификации, выполняя задачи по обработке данных без проверки разрешений.
Эти четыре случая не являются единичными исключениями. Кентукки стал первым штатом США, подавшим иск против компании, создающей ИИ-чат-боты. Нидерланды оштрафовали Clearview AI на 30,5 млн евро. ИИ-чат-бот MyCity в Нью-Йорке посоветовал владельцам бизнеса нарушать закон.
Паттерн во всех этих инцидентах одинаков: агент совершает действие, нанося ущерб пользователю или нарушая политику. Предприятие не может предоставить след, показывающий, кто уполномочил агента, что ему было разрешено делать или как приписать его действия подотчетному человеку. Суды устанавливают ответственность, а регуляторы определяют необходимые меры контроля. Это пространство и есть проблема атрибуции.
Как глобальные нормативные акты обеспечивают соблюдение требований к идентификации и авторизации ИИ
Уровень вашего риска несоблюдения нормативных требований определяется способностью вашей команды безопасности проверять четыре критически важных операционных компонента.
1. Какие агенты работают в вашей среде? (идентификация)
Согласно Статье 9 Закона ЕС об искусственном интеллекте (EU AI Act), за нарушения требований в отношении систем высокого риска предусмотрены штрафы в размере до 15 миллионов евро или 3% от общемирового годового оборота, а для запрещенных практик в сфере ИИ верхний предел составляет 35 миллионов евро или 7%. Закон требует создания и постоянного обновления непрерывной системы управления рисками для систем ИИ высокого риска. Вы не можете управлять рисками агента, которого не можете идентифицировать.
Статья 15 предписывает строгую устойчивость к несанкционированному использованию; запуск неудаленного агента под общей служебной учетной записью создает вектор для латерального перемещения, что делает соблюдение требований недействительным.
Аналогичным образом, руководство COSO по генеративному ИИ, выпущенное 23 февраля 2026 года, напрямую затрагивает разделы 302, 404 и 906 Закона Сурбейнза-Оксли (SOX), которые требуют от высших должностных лиц лично подтверждать внутренний финансовый контроль. Неуправляемый ИИ-агент, использующий общую служебную учетную запись для доступа к ERP-системе и внесения записей в журнал, представляет собой существенный недостаток. Средства контроля доступа теперь должны применяться систематически к цифровым работникам, а не только к сотрудникам-людям.
2. Какой именно объем доступа к данным имеют ваши агенты? (определение области)
Статья 32 GDPR налагает штрафы в размере до 10 миллионов евро или 2% от общемирового годового оборота за невыполнение требований по внедрению надлежащих технических мер безопасности. Если ИИ-агент обладает широкими привилегиями доступа и извлекает конфиденциальные данные от имени конечного пользователя, у которого нет соответствующих прав, это представляет собой несанкционированную обработку данных. Команды безопасности должны проверять права доступа как агента, так и человека-пользователя до того, как данные будут перемещены. В 2025 году именно эта схема спровоцировала четыре критические уязвимости (CVSS 9.3–9.4) в экосистемах Anthropic, Microsoft, ServiceNow и Salesforce.
Кроме того, калифорнийский закон о конфиденциальности потребителей (CCPA, §1798.150) разрешает взыскание установленных законом убытков в размере от 100 до 750 долларов США за одного потребителя на каждый инцидент, подкрепляя это правом частного иска, позволяющим потребителям судиться напрямую. Поскольку автономные агенты действуют со скоростью машин, агент с неопределенной областью действия может за считанные минуты извлечь избыточные объемы десятков тысяч записей персональных данных. При установленных законом минимальных размерах ошибка ввода, обнажающая 40 000 корпоративных записей, влечет за собой немедленную ответственность в размере 4 миллионов долларов.
3. Кто санкционировал этот конкретный объем доступа? (атрибуция)
Статья 12 Закона ЕС об искусственном интеллекте требует, чтобы системы ИИ высокого риска обладали технической возможностью автоматически записывать события на протяжении всего их жизненного цикла. Базовый журнал рабочих процессов просто сообщает о том, что произошло; аудиторский след должен доказывать, какая именно учетная запись человека предоставила эти полномочия и когда истекает срок действия данного доступа.
Принцип 8 COSO прямо предупреждает, что риски мошенничества возрастают из-за ИИ-агентов, которые создают риски авторизации, чрезмерную автономность и небезопасные интерфейсы.
Это создает опасную уязвимость, известную как рекурсивное делегирование, при которой разрешения не сужаются при каждом автономном переходе. Бизнес-подразделения регулярно интегрируют теневые ИИ-агенты в среды SAP, Oracle и Workday через общие служебные учетные записи без уникальной нечеловеческой идентификации или цепочки делегирования. Когда происходит сбой системы, проследить первопричину до конкретного ответственного человека невозможно.
Этот риск многократно возрастает в соответствии с правилами SEC в отношении кибербезопасности, которые требуют полного раскрытия существенных инцидентов в течение четырех рабочих дней; без следа идентификации ваше нормативное раскрытие информации является принципиально неполным.
4. Можете ли вы прямо сейчас отозвать привилегии доступа агента? (контроль со стороны человека)
Статья 14 Закона ЕС об искусственном интеллекте требует, чтобы организации поддерживали техническую способность вмешиваться в операции ИИ высокого риска или немедленно прерывать работу системы с помощью назначенной кнопки остановки или аналогичной процедуры безопасности. Долгосрочный токен OAuth, который нельзя аннулировать в процессе выполнения задачи, не удовлетворяет этому требованию. Настоящий контроль со стороны человека требует единой платформы, способной приостанавливать действие до его выполнения, отзывать учетные данные на лету и применять политику в реальном времени в точке доступа.
Решение проблемы эфемерности ИИ и подотчетности
ИИ-агенты не являются юридическими лицами; их нельзя вызвать на допрос, привлечь за неуважение к суду или заставить свидетельствовать об их намерениях. В отличие от сотрудника-человека, которого можно опросить через шесть месяцев после инцидента, ИИ-агент эфемерен — он запускается для выполнения задачи и немедленно завершает работу. Если ваша система не назначает уникальный идентификатор нечеловеческим сущностям и не фиксирует неизменяемый аудиторский след во время работы агента, юридические доказательства исчезают навсегда.
Мы наблюдали это в упомянутом выше деле Air Canada. Когда компания утверждала, что ее чат-бот является отдельным юридическим лицом, трибунал отклонил эту защиту. Но это решение обнажило более глубокую проблему: чат-бот Air Canada не имел уникального идентификатора, записи об авторизации или следа, связывающего его результаты с человеком. Компания не могла доказать, кто настроил агента, какие правила его регулировали или кто несет ответственность. Это и есть пробел в подотчетности, который закрывают идентификация и авторизация.
Предприятия развертывают этих эфемерных агентов в качестве цифровых работников в процессах принятия решений с высокими последствиями: перебронирование пассажиров, корректировка страховок, сортировка входящих запросов и одобрение кредитов. Как мы отмечали в пятой части этой серии статей, когда агент управляет физическими системами — такими как HVAC (отопление, вентиляция и кондиционирование), двери зданий и рекомендации по дозировке, — последствия в реальном мире усиливаются.
Когда действия агента оспариваются, система правосудия требует ответственного человека. Идентификация определяет, какой агент совершил действие, а авторизация определяет, что ему было разрешено делать. Без того и другого ваша цифровая рабочая сила работает с огромным, неуправляемым риском.
Заблуждение о трении в автоматизированном управлении
Оценивая средства контроля безопасности нечеловеческих идентификационных данных, руководящие группы часто выдвигают распространенное возражение: «Мы не хотим создавать трение и замедлять внедрение ИИ».
Это неверная формулировка. Истинная цена трения ощущается тогда, когда неуправляемый агент попадает в заголовки газет: агент, эксфильтрирующий корпоративные данные. Агент, раскрывающий защищенную медицинскую информацию (PHI). Агент, дающий неточные юридические советы тысячам людей. Агент, корректирующий дозировку лекарств на основе записей, к которым ему никогда не разрешался доступ. Каждый из этих случаев отделяет от локализации всего один уровень контроля.
ИИ-чат-бот Air Canada дал одному пассажиру неправильный ответ, и это стало знаковым судебным решением об ответственности в сфере ИИ. Это был простой ИИ-чат-бот. ИИ-агенты, развертываемые предприятиями сегодня, имеют гораздо более широкие возможности доступа, гораздо больше систем и гораздо большую скорость.
В то время как трение от внедрения проверок авторизации, необходимых для защиты агента, измеряется миллисекундами, трение от утечки данных, расследования регулирующих органов, коллективного иска или принудительного пресечения со стороны SEC измеряется месяцами судебных разбирательств, миллионными штрафами и разрушенной карьерой руководителей. Развертывание автономных агентов без контроля идентификации не устраняет трение; оно просто откладывает его на самый худший из возможных моментов.
Время на исходе
Разрыв в атрибуции — это не теоретическое упражнение на соответствие требованиям. Шесть крупных нормативно-правовых баз уже сегодня налагают штрафы. Организация COSO опубликовала руководство по внутреннему контролю в сфере ИИ 23 февраля 2026 года. Планы проверок Совета по надзору за отчетностью публичных компаний (PCAOB) явно включают генеративный ИИ. Закон ЕС об искусственном интеллекте вступает в полную силу к 2 декабря 2027 года, а оценка соответствия может занять до года. Организациям необходимо начать подготовку прямо сейчас.
Вы столкнетесь с ответственностью независимо от того, внедрите ли вы эти средства контроля. Единственный вопрос заключается в том, сможете ли вы продемонстрировать эту ответственность, когда регуляторы и суды постучатся в ваши двери.
Устраните разрыв в атрибуции и обеспечьте безопасность вашего ИИ-персонала
Ваши автономные агенты ИИ должны действовать как безопасные, соответствующие требованиям бизнес-ускорители, а не как неуправляемые источники пассивов. Обеспечение безопасности этой цифровой рабочей силы не означает замедления вашего технологического плана. С помощью единой структуры безопасности идентификационных данных от Okta вы можете создать авторитетную систему контроля на основе идентификации для каждого автоматизированного действия на уровне вашего предприятия.
Okta поможет вам обезопасить работу с агентами и устранить разрыв в атрибуции до того, как регуляторы и суды начнут задавать вопросы. Поговорите со специалистом по безопасности Okta, чтобы начать подготовку вашего предприятия к будущему автоматизированного управления уже сегодня.
Каков ваш показатель готовности к ИИ?
Пройдите нашу двухминутную оценку идентификации ИИ, чтобы узнать свои позиции, выявить скрытые уязвимости и получить практические рекомендации по их устранению.
