Dev48
ЯЗЫК
  • О нас
  • Услуги
  • Индустрии
  • Технологии
  • Статьи
  • Контакты
Забронировать звонок
    Главная/Статьи/Microsoft i kompanii iz raznyh otrasley zapuskayut initsiativu za prozrachnost i
Dev48
info@dev48.org+375 29 320-40-96WhatsApp@isky_by

© 2026 · Все права защищены.

Microsoft и компании из разных отраслей запускают Инициативу за прозрачность ИИ для укрепления доверия корпоративного сектора к ИИ-моделям и агентам

Фото: Simon Ray (Unsplash) — https://unsplash.com/photos/a-tall-building-with-a-microsoft-logo-on-top-of-it-TICJQELFmg4?utm_source=dev48&utm_medium=referral

Источник: Source•17 ноября 2026 г. в 18:28

Microsoft и компании из разных отраслей запускают Инициативу за прозрачность ИИ для укрепления доверия корпоративного сектора к ИИ-моделям и агентам

Материал Microsoft and organizations across industries launch AI Transparency Initiative to strengthen enterprise trust in AI models and agents впервые опубликован на Source.

РЕДМОНД, Вашингтон — 17 ноября 2026 г. — Организации могут наблюдать за большей частью активности вокруг ИИ-моделей, однако они часто не могут восстановить то, что произошло между запросом и результатом, что затрудняет независимую проверку поведения модели. Во вторник на конференции Microsoft Ignite председатель и главный исполнительный директор Microsoft Сатья Наделла объявил о следующем этапе выполнения обязательств Microsoft по повышению безопасности ИИ: запуске Инициативы за прозрачность ИИ (AI Transparency Initiative). Это совместная работа с клиентами и партнерами, направленная на создание единого открытого подхода к безопасности и управлению для различных моделей и поставщиков. Данная инициатива отражает простой принцип: большая автономность ИИ требует большей прозрачности.

«Чтобы средства контроля безопасности были эффективными, каждой организации необходима большая прозрачность самой модели», — заявила Хайете Галло (Hayete Gallot), исполнительный вице-президент подразделения Microsoft Security. — «Благодаря этой работе мы обеспечим большую прозрачность для всех моделей. Это важнейший шаг к тому сделать локализацию умнее и надежнее, что позволит нам лучше обеспечивать подотчетность и отслеживаемость».

Предприятия подключают ИИ-модели к данным, инструментам, учетным данным и инфраструктуре, позволяя агентам совершать действия без одобрения человека на каждом шаге. Существующие средства контроля могут отслеживать значительную часть активности вокруг ИИ-моделей, но они не видят происходящего внутри них и не могут самостоятельно проверить их отчеты о собственном поведении. Это ограничивает способность организаций понимать контекст действий агента. Такой пробел в доказательной базе создает риски для безопасности, соблюдения нормативных требований, аудита и подотчетности. Командам безопасности нужна новая архитектура доверия для борьбы с растущими внутренними угрозами, исходящими от все более способных ИИ-агентов.

«Поскольку ИИ-агенты все глубже интегрируются в корпоративные процессы, командам безопасности необходима четкая видимость того, к чему эти агенты получают доступ, какие действия они предпринимают и как эти действия можно проверить», — отметил Аанчал Гупта (Aanchal Gupta), директор по информационной безопасности Adobe. — «Выработка единого подхода к прозрачности ИИ в масштабах всей отрасли имеет решающее значение для укрепления доверия и помощи организациям в уверенном внедрении инноваций при сохранении безопасности и подотчетности».

От принципов к практике

Инициатива состоит из трех частей. Во-первых, Microsoft расширит свое участие в Инициативе по стандартам для ИИ-агентов Национального института стандартов и технологий (NIST) и будет опираться на его исследования для разработки открытых общеотраслевых стандартов прозрачности, безопасности и управления ИИ. Во-вторых, Microsoft сотрудничает более чем с 40 организациями, включая Accenture, Adobe, KPMG, Mastercard и Volvo Cars, чтобы помочь в разработке открытых стандартов для ИИ-систем, которые являются подотчетными, независимо проверяемыми и безопасными по замыслу, независимо от модели или поставщика.

В-третьих, Microsoft интегрирует эти разработки в Microsoft AI, Microsoft Foundry и Microsoft Copilot, позволяя клиентам использовать полученные данные вместе со своими инструментами безопасности и соответствия требованиям, будь то решения от Microsoft или других поставщиков.

«Наши клиенты хотят быстрее внедрять инновации в сфере ИИ, и им не должно приходиться выбирать между инновациями и безопасностью», — сказал Джон Израэль (John Israel), глобальный директор по информационной безопасности KPMG International. — «Доверие к ИИ требует прозрачности, объяснимости и ответственного надзора. Мы гордимся тем, что работаем с Microsoft над Инициативой за прозрачность ИИ, чтобы помочь установить открытые общеотраслевые стандарты, которые дают организациям видимость и контроль, необходимые для ответственного масштабного развертывания ИИ».

Четкая подотчетность

Агенты, имеющие доступ к данным, инструментам и учетным данным, несут профиль риска привилегированного инсайдера, но действуют со скоростью и в масштабах машины, что делает независимый надзор абсолютно необходимым.

Ответственность остается за организацией. Когда происходит что-то серьезное, руководители отчитываются перед клиентами, сотрудниками, советами директоров, аудиторами и регуляторами. Перекладывание вины на ИИ не является решением, а принцип «доверяй модели» не заменяет средство контроля.

Инициатива разработана таким образом, чтобы работать с самыми разными моделями и поставщиками, включая модели с закрытыми и открытыми весами. Это позволяет командам разработчиков менять или обновлять модели, лежащие в основе их агентов, без ущерба для возможности ИТ-отделов и служб безопасности осуществлять за ними безопасное управление, а команд по комплаенсу — аудировать их действия.

«Поскольку организации делают следующий шаг в своей трансформации с помощью ИИ, им нужна прочная основа доверия и уверенности, на которую можно опираться», — подчеркнул Харприт Сидху (Harpreet Sidhu), руководитель глобального направления кибербезопасности в Accenture. — «Подобные инициативы Microsoft, направленные на применение открытого, ориентированного на индустрию подхода к прозрачности ИИ, окажут большую помощь в обеспечении безопасности ИИ-моделей, оснащении их средствами контроля и управления. Accenture гордится партнерством с Microsoft и другими лидерами в этой области».

Видеть, проверять, контролировать

Microsoft убеждена, что каждая организация должна иметь возможность видеть, к чему системы ИИ получают доступ и что они делают, независимо проверять их действия и контролировать то, что им разрешено делать.

  • Видеть: Знать, что именно запрашивалось у ИИ и на что у него было разрешение, какая модель и среда выполнения использовались, к каким данным и инструментам он получал доступ и какие действия предпринимал. Непрерывно отслеживать активность агентов и сигналы рисков на соответствие политикам и пороговым значениям.
  • Проверять: Агенты не могут быть единственным источником достоверной информации о своем собственном поведении, а передовым моделям нельзя доверять самоуправление. Свидетельства, охватывающие идентичность агента, делегированные намерения и действия, должны указывать на их источник (модель, окружающую ее среду выполнения или независимые системы, такие как службы идентификации и политик), чтобы сигналы, о которых сообщает модель, можно было сопоставить с независимо наблюдаемыми записями. Организации должны иметь возможность самостоятельно проверять активность ИИ с помощью собственных систем безопасности и комплаенса, не полагаясь исключительно на отчеты поставщика модели о ее поведении.
  • Контролировать: Управлять тем, что разрешено делать ИИ. Четкие данные о назначении каждого рабочего процесса, его владельце, используемых данных и делегированных полномочиях помогают организациям соблюдать свои политики до совершения значимых действий и восстанавливать картину произошедшего во время расследований, локализации угроз, восстановления систем и аудита. Эти данные должны оставаться у организации при смене моделей и поставщиков. Организации должны сохранять контроль над тем, к каким данным их агенты могут получать доступ и как этот доступ регулируется, независимо от используемой модели или поставщика.

Присоединяйтесь к инициативе

Организации, заинтересованные в содействии формировании инициативы или отслеживании ее прогресса, могут узнать больше и

Следите за новостями с конференции Microsoft Ignite, где Microsoft и лидеры индустрии поделятся идеями о том, как организации могут уверенно управлять ИИ-моделями и агентами. Подробности доступны в блоге Microsoft Security.

Для получения дополнительной информации (только для прессы):

Служба по связям с общественностью Microsoft, We. Communications для Microsoft, (425) 638-7777, [email protected]

Примечание для редакторов: Для получения дополнительной информации, новостей и мнений от Microsoft посетите ресурс Microsoft Source по адресу https://news.microsoft.com/source. Веб-ссылки, номера телефонов и должности были актуальны на момент публикации, но могли измениться. За дополнительной помощью журналисты и аналитики могут обратиться к группе быстрого реагирования Microsoft (Rapid Response Team) или по другим контактам, указанным на https://news.microsoft.com/microsoft-public-relations-contacts.

← Все статьи

О чём эта статья

Ещё в разделе «Разработка ПО»

Все →
Nomic теперь выполняет чертежные работы
Nomic AI

Nomic теперь выполняет чертежные работы

Масштабные сбои затронули банки, авиаперевозки, АНБ и Apple, нарушив работу практически всегоПресса
Apple

Масштабные сбои затронули банки, авиаперевозки, АНБ и Apple, нарушив работу практически всего

От сложности к ясности с athenaInstitute
Athenahealth

От сложности к ясности с athenaInstitute

Сервисы Apple, включая iCloud, App Store, Apple Music и другие, столкнулись со сбоямиПресса
Apple

Сервисы Apple, включая iCloud, App Store, Apple Music и другие, столкнулись со сбоями

Ваши планы поддержки учащихся повсюду, и в этом вся проблема
Powerschool

Ваши планы поддержки учащихся повсюду, и в этом вся проблема

Автоматизация Airbnb: как автоматизировать бизнес по краткосрочной аренде
Guesty

Автоматизация Airbnb: как автоматизировать бизнес по краткосрочной аренде

Ещё от Microsoft

Исследуйте 25 лет игр и воспоминаний XBOX в новом юбилейном журнале
Microsoft

Исследуйте 25 лет игр и воспоминаний XBOX в новом юбилейном журнале

Microsoft Ignite 2026: расширение возможностей человеческих амбиций, интеллекта и доверия
Microsoft

Microsoft Ignite 2026: расширение возможностей человеческих амбиций, интеллекта и доверия

Microsoft и Salesforce анонсируют Copilotforce, объединяя надежный контекст клиентов и действия в возможностях Microsoft AI
Microsoft

Microsoft и Salesforce анонсируют Copilotforce, объединяя надежный контекст клиентов и действия в возможностях Microsoft AI

Почему новое судебное решение важно для свободы прессы и конфиденциальности
Microsoft

Почему новое судебное решение важно для свободы прессы и конфиденциальности

От первой консоли к следующей главе: XBOX празднует 25 лет
Microsoft

От первой консоли к следующей главе: XBOX празднует 25 лет

Акции, показавшие наибольшее движение в пятницу: Nvidia, Microsoft, Cerebras, Modine и другиеПресса
Microsoft

Акции, показавшие наибольшее движение в пятницу: Nvidia, Microsoft, Cerebras, Modine и другие