По мере того как гонка за внедрение ИИ продолжает ускоряться, исследование WRITER, ведущей платформы ИИ-агентов для корпоративного сектора, выявляет комплекс проблем в области безопасности, этики и управления, вызванных интенсивным давлением при внедрении ИИ. Полученные данные подчеркивают острую необходимость в более сильном руководстве в сфере ИИ во всех организациях, чтобы обеспечить успешное развертывание технологий при сохранении доверия сотрудников и соблюдении операционных требований.
Каждый третий сотрудник (35%) признается, что вводил проприетарную, конфиденциальную или секретную информацию компании в общедоступный ИИ-инструмент — поведение, которое, по мнению многих руководителей, провоцирует волну скрытых утечек данных. Фактически, две трети руководителей высшего звена (67%) считают, что их организация уже столкнулась с утечкой данных или нарушением безопасности, вызванным использованием сотрудником несанкционированного ИИ-инструмента. Лишь треть руководителей уверены, что никаких нарушений не было. Эти данные свидетельствуют о том, что до 5557 крупных предприятий Великобритании могли уже подвергнуть себя риску, потенциально создавая уязвимости для сотрудников и клиентов.
Исследование показывает, что эти опасения обоснованы, учитывая распространенность «теневого ИИ» во многих компаниях. 16% сотрудников признаются в использовании ИИ-инструментов, прямо запрещенных их работодателем. Основная причина, которую называют сотрудники, использующие такие инструменты, — готовность «использовать все, что угодно, лишь бы выполнить работу» (40%), за ней следуют низкое качество одобренных компанией инструментов (32%), а также отсутствие контроля за тем, какие инструменты используются. В то же время более трети руководителей (35%) признают, что у них нет полной видимости или контроля над тем, какие ИИ-инструменты на самом деле используют их сотрудники.
Культура страха вокруг вредоносного ИИ
Более четверти сотрудников (28%) говорят, что были свидетелями того, как ИИ-инструмент на работе выдал результат, который был опасно неверным, неэтичным или предвзятым. Тем не менее значительная часть сотрудников не решается сообщить об этом: трое из десяти чувствуют себя небезопасно, сообщая работодателю об опасном или неэтичном поведении ИИ, опасаясь возмездия. Однако, похоже, существует разрыв между реальностью на местах и восприятием руководства, поскольку большинство руководителей (90%) считают, что сотрудники могут свободно высказываться.
Эти выводы поднимают серьезные вопросы о защите информаторов и культуре внутренней отчетности в момент, когда ИИ-инструменты все глубже внедряются в критически важные рабочие процессы. Фактически, давление на сотрудников с целью использования ИИ само по себе является драйвером нежелания сообщать о вредоносном ИИ, поскольку персонал боится, что их сочтут препятствующими внедрению ИИ, если они выскажут свои опасения.
Управление агентным ИИ сопряжено с высокими ставками, но пробелы остаются
Автономные ИИ-агенты переходят от экспериментов к операционной реальности быстрее, чем успевают адаптироваться защитные механизмы большинства компаний. Это отражается в нежелании руководства отключать агентов: более трети руководителей (35%) говорят, что не уверены в своей способности «выдернуть вилку из розетки», если агент выйдет из-под контроля и начнет наносить финансовый или репутационный ущерб. И это несмотря на то, что предполагаемые последствия такой ошибки, вызванной агентом, высоки для руководителей. Шесть из десяти лидеров считают, что это будет стоить должности топ-менеджеру, чаще всего называя генерального директора (30%) или CIO/CTO (29%) как наиболее вероятных пострадавших. Кроме того, 36% признают, что в их организации до сих пор отсутствует формальный, документированный план по контролю за агентами.
Отвечая на вопрос о самых больших проблемах управления, лидеры чаще всего называли безопасность и защиту данных (45%), за которыми следуют обучение сотрудников (35%), прозрачность работы агентов (31%) и интерпретируемость (30%). И несмотря на широкие доказательства проблемных результатов работы ИИ, только 25% руководителей назвали этическое согласование, то есть обеспечение этичного поведения агентов, главной задачей управления. Наконец, учитывая, что три четверти (75%) руководителей говорят, что стратегия их компании в области ИИ продиктована скорее публичными заявлениями, чем практическими внутренними задачами, это лишь усиливает неуверенность в том, что обязательства по управлению воспринимаются всерьез.
