Ваша система ИИ выходит из строя.
Не проблема. План непрерывности бизнеса предписывает переключиться на ручные процессы. Но есть загвоздка… никто уже не помнит, как это делать.
По мере того как организации автоматизируют все больше задач с помощью ИИ, агентов и других интеллектуальных систем, мы тратим много времени на размышления о том, надежна ли технология. Мы гораздо реже задаемся вопросом о том, что происходит с людьми, которые раньше выполняли эту работу.
Наличие запасного варианта в виде человека звучит обнадеживающе, но резервный вариант работает только тогда, когда у человека все еще есть навыки для перехвата управления.
Автоматизация также меняет людей.
Подумайте о процессе, который когда-то требовал от сотрудника сбора информации, ее анализа, принятия решения и последующего выполнения следующего шага. Агент на базе ИИ может постепенно взять на себя большую часть этой работы.
Сначала сотрудник внимательно следит за ним. Затем агент становится более надежным, и сотрудник вмешивается все реже. В конце концов его роль может сместиться от выполнения работы к ее мониторингу.
Это эффективно.
Но это также меняет навыки, которые люди применяют на практике каждый день.
Исследование 2025 года, проведенное Microsoft Research и Университетом Карнеги — Меллона, охватило 319 специалистов умственного труда, использующих генеративный ИИ. Исследователи обнаружили, что более высокая уверенность в ИИ коррелирует со снижением критического мышления. Они также зафиксировали сдвиг от сбора информации к ее верификации, от решения проблем к интеграции ответов ИИ и от выполнения задач к управлению ими. Авторы предупреждают о рисках долгосрочной чрезмерной зависимости и снижении способности решать проблемы самостоятельно.
Тем не менее важно отметить, что ИИ не обязательно делает людей менее способными, однако навыки, которые редко применяются на практике, становится сложнее восстановить в памяти при внезапной необходимости. И к сожалению, момент, когда они нужны нам больше всего, может совпасть с каким-либо инцидентом.
Мы уже сталкивались с этой проблемой раньше, и она не уникальна для ИИ.
Авиация десятилетиями борется с противоречием между автоматизацией и профессионализмом человека. Руководства для пилотов подчеркивают, что автоматизация может повысить безопасность и снизить нагрузку, но одновременно создает риск чрезмерной зависимости и деградации навыков ручного управления, если эти навыки не отрабатываются. Неприятный факт очевиден: ручные навыки важны прежде всего тогда, когда автоматизация недоступна.
Сегодня компании могут создавать аналогичную проблему.
План обеспечения непрерывности может гласить, что в случае сбоя ИИ-агента сотрудники временно перейдут на ручное выполнение процесса. Но когда они в последний раз делали это на практике? Реален ли ваш резервный ручной процесс?
Представьте, что ИИ-агент обрабатывал определенный рабочий процесс в течение двух лет.
За это время сотрудники сменились, а новые работники никогда не проходили обучение исходному ручному процессу. Процедуры устарели, потому что ими никто не пользовался. Сам бизнес-процесс эволюционировал с учетом возможностей агента.
Затем агент становится недоступен.
Технически у вас все еще есть резервный человек, но с операционной точки зрения его может и не быть.
Это означает, что при планировании непрерывности бизнеса для ИИ нужно задавать не только вопрос: сможет ли человек взять управление на себя?
- Сможет ли человек взять управление на себя сегодня?
- Кто до сих пор знает весь процесс целиком?
- Когда этот человек в последний раз выполнял его без ИИ?
- Являются ли ручные процедуры актуальными?
- Есть ли у них необходимый доступ к системам?
- Смогут ли они справиться с тем объемом, который обычно обрабатывает ИИ?
- Как долго организация сможет работать в таком режиме?
Тестируйте людей, а не только резервные технологии
Организации регулярно тестируют резервные системы, среды восстановления после сбоев и аварийные процедуры.
Человеческий потенциал также должен проверяться.
Если критически важный сервис ИИ имеет ручной резервный вариант, время от времени задействуйте его. Позвольте людям выполнить процесс без ИИ. Проверьте, работают ли инструкции. Выявите утерянные знания и убедитесь, что достаточное количество людей сохраняет навыки, необходимые для работы во время сбоя.
Цель состоит не в том, чтобы сопротивляться автоматизации, а в том, чтобы не строить план непрерывности на основе возможностей, которых больше не существует. Ведь фразы «человек может это сделать» и «человек все еще умеет это делать» означают совершенно разные вещи.
Прежде чем вносить ручной процесс в план непрерывности бизнеса, убедитесь, что все еще остался кто-то, кто понимает, что это на самом деле означает.
