Компании совершают ошибку, когда обсуждают стратегию внедрения ИИ так, будто агентный ИИ представляет собой единую возможность, которую можно одинаково применять во всей организации. Это не так.
Эту ошибку можно понять. Посмотрите, как группа ИИ-агентов пишет код, а затем тестирует и исправляет собственные ошибки, и легко прийти к выводу, что этот же процесс подходит для всего предприятия. Проблема заключается в том, что ИИ преуспевает в одних видах работы и ненадежен в других — порой опасным образом. Агентный ИИ, которого достаточно для одного процесса, может оказаться совершенно неподходящим для другого.
Программирование подходит для ИИ, поскольку в нем есть четкие правила и тесты, подтверждающие правильность результата, и именно благодаря такой обратной связи модели научились справляться с этим хорошо. Спросите того же агента, стоит ли снижать цену на плохо продающийся товар, и он ответит с такой же уверенностью, даже если ему не хватает данных для принятия обоснованного решения. Ничто не подтвердит его правоту до того, как вам придется действовать.
К счастью, неравномерность работы агентов поддается прогнозированию. Два вопроса объясняют, где агент, скорее всего, преуспеет, а где столкнется с трудностями на предприятии:
- Обучена ли большая языковая модель (LLM) на достаточном количестве релевантных данных, чтобы творить свою магию?
- Можете ли вы проверить ответ, чтобы убедиться в его правильности?
Ответы не являются бинарными и лежат в определенном спектре. Место задачи по этим двум измерениям помогает определить, как компании должны распределять работу между людьми и ИИ.
Иногда ИИ-агенты могут работать настолько надежно, что главная задача человека сводится к делегированию задач ИИ и проверке результатов. В других случаях сотрудники должны собирать недостающий контекст, курировать результаты работы ИИ либо принимать решения самостоятельно и нести за них ответственность.
Ответы на эти два вопроса позволяют выделить четыре основные категории задач, каждая из которых требует особой роли для людей. Ниже мы рассмотрим каждую из них по очереди.
Первая категория начинается с работы, в которой ИИ знаком с решаемой проблемой и имеет объективный способ оценки результата. Программирование — очевидный пример, но та же логика применима ко многим научным и инженерным задачам. Попросите агента найти новый материал, который остается гибким при заморозке, но не плавится при температуре ниже заданной, и результат можно будет протестировать на соответствие этим требованиям.
Именно здесь преимущества ИИ накапливаются. Тот же цикл может выходить за рамки кода: экспертные критерии и данные о том, что люди предпочитают и как они поступают, дают моделям возможность проверять работу, которая технически не имеет единственного правильного ответа. По мере совершенствования моделей таким образом агенты смогут брать на себя все большую часть такой работы, обладая огромным потенциалом в плане скорости и производительности для всего предприятия. Роль человека меняется соответствующим образом: вместо выполнения каждого шага люди решают, что делегировать, и устанавливают проверки для обеспечения правильного выполнения работы.
Однако риск существует в обоих направлениях. Делегируйте слишком медленно — и конкуренты могут обойти вас. Делегируйте слишком рано — и вы сможете автоматизировать ошибки так же эффективно, как и успехи.
Тем не менее, значительная часть работы устроена иначе. Часто одно из этих двух условий представляет собой проблему, а порой и оба.
Иная проблема возникает, как показывает эта категория, когда работа остается легко проверяемой, но ИИ не был обучен или не получал обратной связи по подобным задачам.
Рассмотрим своевременную доставку важного заказа клиенту. Легко проверить, прибудет ли он к пятнице. Но опытный сотрудник может знать, что один поставщик регулярно нарушает заявленные сроки выполнения, другой ускорит отправку заказа, если позвонить нужному человеку, а третий может осуществить позднюю отгрузку, если его предупредить заранее. Никакая из этой информации может не отображаться в официальном процессе.
Значительная часть этих знаний хранится в ветках Slack, беседах в коридорах и в головах опытных сотрудников. Почему команда пропустила шаг на одном рынке? Почему продавец сделал исключение для одного клиента, но не для другого? Почему менеджер на этот раз проигнорировал стандартный процесс?
Задача человека заключается в том, чтобы объединить то, что известно неявно или на основе опыта, и сделать этот контекст доступным для ИИ. Наголовные камеры работников сферы услуг теперь записывают то, как работа выполняется на самом деле. Компания Mercor, среди прочих, построила бизнес на интервьюировании экспертов и продаже их знаний лабораториям ИИ.
Организации, которые преуспевают в превращении неявных знаний в применимый контекст, могут улучшить своих агентов так, как конкуренты не смогут повторить, даже если они купят ту же модель ИИ. Однако сохранение этого преимущество означает предотвращение использования конфиденциальных данных и паттернов принятия решений для обучения внешних моделей.
Другой риск возникает, когда у ИИ есть масса релевантного контекста, но нет объективного способа проверить правильность его ответа, по крайней мере, вовремя для принятия решения. Значительная часть маркетинга, позиционирования и стратегии относится к этой категории.
Попросите агента разработать новую маркетинговую кампанию, и он может выдать нечто достаточно отполированное, чтобы произвести впечатление на команду. Но поскольку он опирается на прошлые примеры, он может создать работу, которая кажется новой, но не является особенно оригинальной. Две конкурирующие фирмы, задающие модели схожие вопросы, могут получить уверенный, продуманный ответ, который кажется самобытным, — только чтобы через шесть месяцев обнаружить, что их кампании, сообщения и, возможно, стратегии начинают сходиться.
Роль человека здесь заключается в кураторстве — выходе за рамки банального, сохранении самобытности и определении того, когда ответ ИИ становится слишком привычным. Именно здесь важен человеческий вкус: способность распознавать то, что кажется самобытным, удивительным или истинным для организации, а не просто компетентным.
Вопрос заключается не только в том, хорош ли результат, но и в том, подходит ли он нам. Отражает то, что клиенты ценят в компании? Звучит ли это так, как будто наш самый близкий конкурент мог бы сказать это с тем же успехом? Предлагает ли это что-то действительно новое или просто переупаковывает то, что работало раньше?
И когда конечный результат можно будет измерить, компании смогут использовать эти данные, чтобы уточнить свои критерии для следующего раза, потенциально переводя аналогичную работу в более проверяемую категорию.
Риск здесь заключается не столько в плохом результате, сколько в компетентно звучащем, неоригинальном результате, который постепенно делает компании и их идеи слишком похожими друг на друга.
В этой категории ИИ наименее надежен при автономной работе, когда нет объективного способа проверить его ответ или имеется мало подходящих прецедентов, на которые можно опираться.
Представьте себе компанию, которая рассматривает возможность приобретения на рынке, на который она никогда ранее не выходила. ИИ может проанализировать финансовые показатели, найти сопоставимые сделки и смоделировать различные исходы. Однако ничто из этого не сможет подсказать руководству, укрепит ли это приобретение компанию, отвлечет ли ее от того, что она делает лучше всего, или окажется дорогостоящей ошибкой пять лет спустя. Если ситуация действительно нова, нет никаких оснований полагать, что модель сможет хорошо обобщать данные на основе тех скудных данных такого рода, с которыми она могла столкнуться во время обучения. К тому времени, когда появится достаточно доказательств, решение уже будет принято.
Это не делает искусственный интеллект бесполезным; это просто меняет его роль. ИИ может выявлять допущения, находить прецеденты, генерировать альтернативы и приводить самые веские аргументы против предпочитаемого варианта. Он может помочь руководителям обдумать решение и связанные с ним компромиссы, не пытаясь принимать его за них.
В определенный момент анализ уступает место суждению о том, какие риски стоит брать на себя, какие компромиссы принимать и что наилучшим образом отражает ценности компании. Человек по-прежнему должен принимать окончательное решение и нести ответственность за последствия.
Для лидеров главный вывод заключается в том, чтобы задавать не просто вопрос «Где нам внедрить ИИ?», а «Что это за работа и что здесь должны делать люди?».
Описанные выше четыре категории неизбежно являются упрощением. Проверка и контекст — это вопросы степени, и работа может переходить из одной категории в другую по мере появления дополнительного контекста и более устойчивых критериев. Компания учится делать выводы на будущее на основе прошлых результатов, и появляются более эффективные способы проверки ответов ИИ.
Смысл не в том, чтобы аккуратно втиснуть каждую задачу в одну из четырех ячеек. Смысл в том, чтобы продолжать задавать два этих вопроса и соответствующим образом корректировать роль человека. Возможности ИИ неоднородны. Корпоративная стратегия должна строиться с учетом этой реальности, а не игнорировать ее.
- Читайте последний выпуск журнала Futures
- Узнайте, готов ли ваш бизнес к появлению персональных ИИ-агентов
