Как уверенность в ИИ может стать бизнес-преимуществом

Основные выводы:

• Формирование доверия к ИИ требует комплексного подхода, охватывающего проектирование, управление, кибербезопасность, тестирование, мониторинг и оценку, при этом доказательства и контроль должны быть встроены во весь жизненный цикл ИИ.
• PwC объединяет широкий спектр возможностей, чтобы помочь организациям укрепить уверенность в системах ИИ, управлять возникающими рисками и масштабировать внедрение таким образом, чтобы создавать дополнительную ценность.

PwC объединяет широкий спектр возможностей, чтобы помочь организациям укрепить уверенность в системах ИИ, управлять возникающими рисками и масштабировать внедрение таким образом, чтобы создавать дополнительную ценность.

• PwC является одним из основателей рабочей группы AICPA, стоящей за SOC 2 + AIUC-1, и одним из первых участников консорциума AIUC-1. Недавно анонсированная инициатива объединяет аттестацию средств контроля SOC 2 и сертификацию AIUC-1 в единую проверку под руководством CPA и отчет, охватывающий вопросы кибербезопасности и специфические риски ИИ.

PwC является одним из основателей рабочей группы AICPA, стоящей за SOC 2 + AIUC-1, и одним из первых участников консорциума AIUC-1. Недавно анонсированная инициатива объединяет аттестацию средств контроля SOC 2 и сертификацию AIUC-1 в единую проверку под руководством CPA и отчет, охватывающий вопросы кибербезопасности и специфические риски ИИ.

Чем больше задач организации поручают ИИ, тем важнее становится понимание того, когда и почему они могут доверять результатам. ИИ все глубже проникает в значимые бизнес-процессы, а агенты получают возможность действовать с большей автономностью. Процесс формирования доверия вышел за рамки программы управления и развивается быстрее, чем большинство организаций готовы реагировать. Бизнесу нужна уверенность в том, что ИИ безопасен, надежен и работает так, как задумано, если он собирается полагаться на него в важных делах.

По мере того как ИИ-агенты берут на себя все больше работы, формирование такой уверенности требует большего, чем просто отдельный контроль, тест, оценка или проверка человеком. Системы ИИ объединяют технологии, данные, людей и процессы, и установление доверия к ним требует столь же комплексного подхода. Проектирование ИИ, управление, средства контроля, кибербезопасность, тестирование, мониторинг, исправление ошибок, оценка и независимая экспертиза — все это играет свою роль в зависимости от технологии, рисков и поставленных бизнес-целей.

PwC обладает уникальной глубиной и широтой возможностей, помогая организациям укрепить доверие к ИИ, что отражает нашу давнюю роль в оказании помощи бизнесу в уверенном решении сложных вопросов. Такой междисциплинарный подход позволяет фирме обеспечивать доверие на протяжении всего жизненного цикла ИИ: от того, как системы проектируются и управляются, до того, как они защищаются, тестируются, оцениваются и контролируются в процессе использования. Мы помогаем организациям обрести уверенность для внедрения ИИ, полагаться на него в выполнении все более значимых задач и масштабировать его таким образом, чтобы создавать дополнительную ценность.

Соответствие уровня уверенности значимости задач

Поскольку ИИ используется во все более значимых сферах, для укрепления доверия требуются новые решения. Но не каждая система ИИ несет одинаковый риск, и не каждой организации требуется одинаковая форма подтверждения уверенности.

Система ИИ, участвующая в принятии важных финансовых, операционных или клиентских решений, может потребовать значительно более высокого уровня проектирования, тестирования, мониторинга и оценки, чем инструмент повышения продуктивности с низким уровнем риска. Соответствующая строгость должна отражать значимость деятельности, автономность технологии и потенциальные последствия в случае сбоя.

То же самое касается и независимой экспертизы. Традиционные подходы к формированию и подтверждению уверенности в системах развиваются, чтобы соответствовать этим потребностям. Компании, стремящиеся к прозрачной, независимой оценке своих средств контроля и внешней оценке агентных систем, могут воспользоваться newly announced SOC 2 + AIUC-1 initiative, которая объединяет аттестацию средств контроля SOC 2 и сертификацию AIUC-1 в единую проверку под руководством CPA и отчет, охватывающий вопросы кибербезопасности и специфические риски ИИ. PwC является одним из основателей рабочей группы AICPA, стоящей за этой инициативой, и одним из первых участников консорциума AIUC-1, помогая формировать отчет и соответствующие руководства для специалистов, поскольку организации ищут более интегрированные подходы к оценке систем ИИ.

PwC имеет долгую историю предоставления такого рода гарантий. Поскольку спрос на доверие к ИИ растет, мы стремимся предоставлять услуги, которые обеспечивают организациям такую прозрачность для клиентов уже сегодня.

Формирование доверия как часть жизненного цикла ИИ

Передовые возможности ИИ меняют то, что нужно организациям для установления доверия. Модели работают в крупных технологических средах, взаимодействуют со значительными объемами данных и все чаще связываются с другими системами и агентами. По мере того как эти системы становятся более динамичными и автономными, традиционные подходы, основанные на разовых проверках или восстановлении доказательств постфактум, становится все труднее применять.

Решение: закладывать доверие на этапе проектирования. Формирование доверия начинается задолго до того, как система ИИ вводится в эксплуатацию, и продолжается еще долго после этого.

Это может включать повторяемые и отслеживаемые процессы во время разработки и развертывания, строгую оценку, тестирование и выполнение четко определенных средств контроля перед запуском, постоянный мониторинг поведения как ИИ, так и человека после начала работы системы, четкие пути эскалации и процессы управления инцидентами, а также то, чего часто не хватает — надлежащее хранение необходимых доказательств и план обеспечения прозрачности на каждом этапе.

Таким образом, создание доверия к ИИ требует координации множества дисциплин на протяжении всего жизненного цикла. Проектирование, управление, кибербезопасность, оценка, тестирование и мониторинг — каждый из этих аспектов решает разные части задачи и работает вместе для укрепления уверенности в том, как работает ИИ. Оценка может помочь организациям понять, работают ли системы так, как задумано, в то время как независимая экспертиза может обеспечить дополнительный уровень уверенности, когда заинтересованным сторонам нужен взгляд со стороны. И то, и другое требует доказательств и, все чаще, должно быть частью того, как организации подтверждают свои заявления перед пользователями, клиентами, сотрудниками и другими лицами.

Универсального решения не существует. Соответствующая комбинация методов, уровень строгости и подход зависят от того, что делает ИИ, связанных с этим рисков, требуемых уровней качества и того, кто в конечном итоге зависит от результатов.

Создание доказательств в процессе работы ИИ

Одним из наиболее важных сдвигов является то, как организации думают о доказательствах.

Все более автономный ИИ создает динамичную среду. Модели меняются. Данные меняются. Инструменты и системы взаимодействуют по-новому. Агенты могут совершать действия с такой скоростью и в таких объемах, что восстановление каждой значимой цепочки решений спустя месяцы становится непрактичным. Современные процессы требуют нового типа взаимодействия между агентами и людьми с новыми механизмами подтверждения действий и подотчетности.

Возможность заключается в том, чтобы проектировать ИИ таким образом, чтобы полезные доказательства генерировались по мере создания, развертывания и эксплуатации системы.

Это может означать сохранение доказательств того, на что был уполномочен агент, какие действия он предпринял, на какую информацию опирался, где возникали исключения, а также когда и как вмешался человек. По мере роста объема этих доказательств организациям также требуется возможность эффективно анализировать их, выявлять значимые исключения и определять, где новые или возрастающие риски могут потребовать внимания.

При правильном подходе эти доказательства могут выполнять не только контрольную функцию. Они могут помочь руководителям понять эффективность работы, обеспечить совету директоров большую прозрачность, а также дать клиентам, контрагентам или регулирующим органам больше уверенности в том, как используется ИИ.

В этом смысле доказуемое доверие становится частью самого ценностного предложения.

Доверие может помочь открыть следующий этап внедрения ИИ

На протяжении поколений PwC помогала организациям укреплять уверенность в сложных системах, процессах и информации. Мы долгое время были частью структур, которые формируют доверие в сложных экосистемах — от рынков капитала до облачной и цифровой безопасности. ИИ привносит новую техническую сложность в эту задачу, но основная цель остается прежней: создание доказательств, прозрачности и подотчетности, которые позволяют людям полагаться на системы, которые они не обязательно могут видеть или полностью понимать. Используйте правильные методы для обеспечения доверия на каждом этапе разработки и при формировании стратегий прозрачности.

Поскольку ИИ берет на себя все более важные задачи, организации, которые могут продемонстрировать, как их системы создаются, управляются и контролируются, вероятно, будут лучше подготовлены к тому, чтобы заслужить доверие людей, которые на них полагаются. Доверие становится частью продукта, создавая фундамент, который позволяет ИИ внедряться, масштабироваться и приносить пользу.