ИИ-агенты больше не являются чем-то экспериментальным. Они участвуют в ваших встречах, создают резюме разговоров с клиентами, готовят черновики последующих действий, присоединяются к процессам найма. Они могут работать с реальными данными, генерировать реальный контент и предпринимать реальные действия. И зачастую без четкого журнала аудита.
Но большинство организаций так и не устранили этот разрыв: они не видят, что делают эти агенты, к каким данным они получают доступ и соблюдают ли они внутренние политики.
Этот пробел в видимости — скрытая цена внедрения ИИ. Он может увеличиваться с каждым новым агентом, каждым новым рабочим процессом, каждой новой интеграцией. Чем быстрее вы внедряете ИИ, тем шире он может стать. Если только управление не встроено в саму систему.
На конференции Zoomtopia мы анонсировали пять новых возможностей управления ИИ для Zoom Workplace и наших продуктов для клиентского опыта, созданных для того, чтобы дать ИТ-лидерам и специалистам по безопасности видимость и контроль, необходимые для уверенного внедрения ИИ в масштабе.
Что нового: компания Zoom недавно представила централизованное управление ИИ, настраиваемые защитные механизмы ИИ, обнаружение рисков дипфейков, метки конфиденциальности (с дополнительной интеграцией Microsoft Purview), а также Compliance Manager для My Notes и Zoom Canvas. Вместе эти функции призваны обеспечить ИТ-лидерам и специалистам по безопасности видимость активности ИИ-агентов в масштабах всей организации и контроль над тем, к чему ИИ-агенты могут получать доступ, что они могут генерировать и чем делиться. Доступность начинается прямо сейчас и продолжится до января 2027 года.
Что нового: компания Zoom недавно представила централизованное управление ИИ, настраиваемые защитные механизмы ИИ, обнаружение рисков дипфейков, метки конфиденциальности (с дополнительной интеграцией Microsoft Purview), а также Compliance Manager для My Notes и Zoom Canvas. Вместе эти функции призваны обеспечить ИТ-лидерам и специалистам по безопасности видимость активности ИИ-агентов в масштабах всей организации и контроль над тем, к чему ИИ-агенты могут получать доступ, что они могут генерировать и чем делиться. Доступность начинается прямо сейчас и продолжится до января 2027 года.
«По мере того как организации внедряют ИИ во все свои операционные процессы, им нужны не просто обещания безопасности. Им нужны инструменты, которые дают им реальную видимость и реальный контроль», — сказал Рассел Дикер (Russell Dicker), директор по продуктам Zoom. «Эти функции призваны помочь ИТ-лидерам и специалистам по безопасности управлять активностью ИИ с той же строгостью, которую они применяют к любой другой части своей инфраструктуры».
Пропустили сессию? Смотрите каждое выступление с Zoomtopia по запросу
Что такое централизованное управление ИИ в Zoom Workplace?
Централизованное управление ИИ — это административная функция, доступная в Zoom Workplace, которая предоставляет ИТ-лидерам и специалистам по безопасности единое представление об активности ИИ-агентов в организации. Она включает в себя политики, устанавливаемые на уровне учетной записи, элементы контроля аудита и возможность управления ИИ-агентами, созданными сотрудниками, и все это из консоли администратора. Ожидается, что функция станет доступна в декабре 2026 года.
Прямо сейчас большинство администраторов не могут ответить на простой вопрос: «К чему только что получил доступ этот ИИ-агент?» По мере масштабирования агентских рабочих процессов этот вопрос становится все более, а не менее актуальным. ИИ-агенты присоединяются к встречам, обобщают взаимодействие с клиентами, генерируют пункты для выполнения. Во многих организациях ни у кого нет полной картины того, какие агенты запущены и к каким данным они имеют доступ.
Централизованное управление ИИ — это пульт управления Zoom. Единое место, где можно увидеть, что запущенно, принудительно применить разрешенное и проверить то, что произошло.
Администраторы получают политики на уровне учетной записи, которые регулируют поведение ИИ-агентов, видимость того, какие агенты активны и к каким данным они могут получить доступ, элементы управления аудитом, которые отслеживают, к чему ИИ получил доступ и чем поделился, а также надзор за агентами, которые сотрудники создают самостоятельно. Когда ваш CISO спрашивает «что произошло?», у вас есть реальный ответ. Когда кто-то из отдела маркетинга создает своего собственного ИИ-агента, вы знаете об этом.
Большинство организаций внедряли ИИ-возможности по одной за раз. Резюме встречи здесь, чат-бот там. Никто не планировал, кто будет управлять всей картиной целиком. Централизованное управление ИИ создано для того, чтобы закрыть этот пробел до того, как он усугубится.
Настраиваемые защитные механизмы ИИ (guardrails) — это настраиваемые правила в Zoom Workplace, которые позволяют администраторам контролировать, какую информацию ИИ может включать в свои результаты. Администраторы могут устанавливать правила исключения определенных тем или данных из обработки ИИ, а также устанавливать ограничения на то, какие данные могут выводить ИИ-агенты. Ожидается, что они будут доступны в первом квартале 2027 года.
Если централизованное управление ИИ показывает вам, что происходит, то защитные механизмы позволяют вам решать, что разрешено.
«Ваши данные — ваш контроль» — вот главный принцип. На практике это означает, что область применения ИИ определяет администратор, а не модель. Защитные механизмы помогают регулировать то, что происходит, когда ИИ переходит от разговора к действию и его завершению. Это те границы, которые делают масштабирование возможным без потери контроля.
Пример: предположим, у вас есть канал, где ваша команда обсуждает новый конфиденциальный проект. Вы, вероятно, не хотите, чтобы ИИ-агент делал резюме этих разговоров и выводил их в результатах поиска. С помощью защитных механизмов администратор может полностью исключить этот канал. Или потребовать, чтобы любой результат работы ИИ, затрагивающий этот контент, проходил проверку человеком, прежде чем его увидит кто-либо еще.
С помощью защитных механизмов администраторы могут устанавливать правила, помогающие ограничивать информацию, которую ИИ выводит в результатах, приостанавливать работу ИИ до того, как он поделится контентом определенных типов, исключать целые каналы или типы встреч из обработки ИИ, а также ограничивать данные, к которым могут получить доступ ИИ-агенты. Эти элементы управления созданы с учетом того, как на самом деле работает ваша организация, а не того, как считает нужным настройка по умолчанию.
Централизованное управление ИИ обеспечивает видимость. Защитные механизмы предоставляют правила. Вместе они представляют собой систему управления для агентских рабочих процессов в масштабе предприятия.
Хотите узнать больше? Посетите веб-страницу Enterprise Trust
Нажмите здесь
Обнаружение рисков дипфейков — это функция доверия и безопасности, доступная в качестве дополнения к Zoom Workplace, которая анализирует видео- и аудиосигналы во время встреч в Zoom в режиме реального времени, чтобы помочь выявить контент, который мог быть изменен за пределами Zoom. Она помечает потенциально сфабрикованный контент и отображает индикатор достоверности, чтобы помочь участникам оценить подлинность и предпринять соответствующие действия. Ожидается, что функция станет доступна в декабре 2026 года в качестве платного дополнения.
Вы проводите собеседование с кандидатом на должность через Zoom. Его резюме в порядке. Его ответы отточены. Но что-то в видео кажется немного странным. Освещение меняется при его движении. Звук не совсем совпадает с движениями губ. Вы не можете точно понять в чем дело.
Теперь умножьте этот сценарий. Звонящий выдает себя за надежного поставщика вашего контакт-центра. Участник важного совещания совета директоров, чье лицо и голос цифровым образом подделывают. Эти ситуации не гипотетичны. Синтетические медиафайлы создаются быстрее и распознаются сложнее, чем даже год назад.
Обнаружение рисков дипфейков призвано давать людям ранний сигнал о рисках, когда что-то выглядит подозрительно. Во время живой встречи система анализирует видео- и аудиосигналы и, если она выявляет шаблоны, соответствующие медиафайлам, измененным за пределами Zoom, она отображает индикатор достоверности. Эта визуальная подсказка помогает участникам решить, стоит ли проводить дальнейшее расследование.
Эта функция создана для видеоконференций Zoom, где критически важна проверка личности участников, для собеседований при приеме на работу, где кандидаты могут выдавать себя за других, и для общения с клиентами, когда звонящие могут попытаться выдать себя за доверенных лиц.
Обнаружение риска дипфейков призвано помочь выявить потенциально сфабрикованный контент и предоставить эту информацию людям для принятия окончательного решения. Однако система обнаруживает не всё. Она не заменяет другие методы верификации. Мы говорим об этом прямо, потому что доверие начинается с честности в отношении того, что инструмент может делать, а что нет.
Как интеграция меток конфиденциальности и Compliance Manager расширяют защиту данных в Zoom Workplace
Две дополнительные функции дополняют подход Zoom к управлению искусственным интеллектом (AI governance). Метки конфиденциальности (Sensitivity Labels, доступны уже сейчас) позволяют организациям классифицировать данные в Zoom Meetings и Zoom Whiteboard (поддержка других продуктов появится в ближайшее время) с помощью меток, которые можно создавать непосредственно в Zoom или опционально синхронизировать из Microsoft Purview, благодаря чему метки следуют за контентом везде, куда бы он ни направлялся. Compliance Manager для My Notes и Zoom Canvas (ожидается в январе 2027 г.) распространяет средства контроля хранения и архивирования на контент, созданный с помощью ИИ.
Средства контроля управления эффективны лишь постольку, поскольку надежна лежащая в их основе защита данных. Если документ, классифицированный как «конфиденциальный» в Microsoft 365, теряет эту классификацию в тот момент, когда кто-то обсуждает его на встрече в Zoom, возникает уязвимость, и именно такие уязвимости обнаруживаются во время аудитов.
Метки конфиденциальности помогают решить эту проблему. Организации могут создавать метки конфиденциальности непосредственно в Zoom или при желании синхронизировать их из Microsoft Purview. Синхронизируя метки из Microsoft Purview, заказчики могут применять в Zoom те же метки конфиденциальности, что и в Microsoft, и поддерживать единые политики на обеих платформах. Метка путешествует вместе с контентом. Метки конфиденциальности включены в учетные записи Enterprise Plus и Premier и могут быть приобретены в качестве дополнения к другим лицензиям.
Поддержка Compliance Manager для My Notes и Zoom Canvas решает другую проблему. Zoom Compliance Manager уже поддерживает функции контроля хранения и архивирования для встреч, телефонии, чата, контакт-центра, досок и многого другого. В этом анонсе сообщается, что Zoom распространит такое покрытие на контент, созданный с помощью ИИ, в My Notes и Zoom Canvas, и это ожидается в январе 2027 года. Compliance Manager объединяет их под единым зонтиком управления.
Для организаций в отраслях, где хранение данных и ведение записей не являются факультативными, эти две функции помогают закрыть реальные пробелы.
Что означает «ваши данные, ваш контроль» для управления ИИ в Zoom
Подход Zoom к управлению ИИ основан на ключевом принципе: ваша организация должна сама решать, к чему ее ИИ может получить доступ, чем он может делиться и как отслеживается его активность, что позволяет администраторам сохранять контроль над соблюдением политик во всем Zoom Workplace.
Внедрение ИИ ускоряется, и организации, которые движутся быстрее всего, будут доверять своей платформе управление на системном уровне, а не те, которые накладывают надзор по остаточному принципу. Именно это делает ИИ системой действий, а не системой рисков. Доверие — это предпосылка для всего остального.
Мы не утверждаем, что это последнее слово в управлении ИИ. Регулирующая среда развивается. Способы использования агентов ИИ организациями будут продолжать меняться. Угрозы, для обнаружения которых мы создаем средства защиты сегодня, будут эволюционировать. Но фундамент — видимость, контроль, защита данных и проактивное обнаружение угроз — это то, что позволяет адаптироваться по мере изменения ситуации, а не судорожно пытаться догнать уходящий поезд.
Пропустили сессию? Смотрите каждое выступление с Zoomtopia по запросу
Начать просмотр
Часто задаваемые вопросы
Что такое управление ИИ (AI governance) в Zoom Workplace?
Управление ИИ в Zoom Workplace — это набор административных возможностей, призванных предоставить руководителям ИТ-отделов и служб безопасности лучший обзор активности агентов ИИ, контроль над тем, к чему ИИ может получать доступ и чем делиться, а также инструменты защиты данных и соответствия требованиям на всей платформе.
Что такое централизованное управление ИИ (Centralized AI Management)?
Централизованное управление ИИ — это административная функция в Zoom Workplace, которая предоставляет руководителям ИТ-отделов и служб безопасности единое представление об активности агентов ИИ в организации, включая политики, средства контроля аудита и управление агентами, созданными сотрудниками.
Что такое настраиваемые защитные механизмы ИИ (custom AI guardrails) в Zoom Workplace?
Настраиваемые защитные механизмы ИИ — это настраиваемые правила, которые помогают администраторам контролировать, какую информацию ИИ может включать в свои результаты на основе конкретных бизнес-политик и требований.
Что такое обнаружение риска дипфейков в Zoom?
Обнаружение риска дипфейков — это функция обеспечения доверия и безопасности, которая анализирует видео- и аудиосигналы в режиме реального времени и отмечает контент, который мог быть изменен за пределами Zoom, отображая индикатор достоверности, помогающий участникам оценить подлинность.
Как работает интеграция меток конфиденциальности Zoom с Microsoft Purview?
Интеграция меток конфиденциальности опционально синхронизирует метки классификации Microsoft Purview в Zoom Meetings и Zoom Whiteboard, помогая поддерживать единые метки данных на разных платформах без ручной перемаркировки контента.
Требуется ли для функции Sensitivity Label учетная запись Microsoft Purview?
Нет, метки конфиденциальности также можно создавать внутри Zoom Workplace. Поддержка Purview является необязательной.
Что такое Compliance Manager для My Notes и Zoom Canvas?
Compliance Manager распространяет средства контроля хранения и архивирования на контент, созданный с помощью ИИ и предназначенный для совместной работы в My Notes и Zoom Canvas, помогая организациям соответствовать определенным требованиям комплаенса.
Когда появятся функции управления ИИ в Zoom?
Метки конфиденциальности с опциональной интеграцией с Microsoft Purview доступны уже сейчас. Централизованное управление ИИ и обнаружение риска дипфейков ожидаются в декабре 2026 года. Настраиваемые защитные механизмы ИИ и Compliance Manager ожидаются в первом квартале 2027 года.
Работает ли обнаружение риска дипфейков на собеседованиях при приеме на работу и при взаимодействии с клиентами?
Да. Функция обнаружения риска дипфейков предназначена для использования во время видеоконференций Zoom, включая собеседования при приеме на работу и общение с клиентами.
Хотите узнать больше? Посетите веб-страницу Enterprise Trust
Нажмите здесь
