Наш вице-президент по продукту Лорен Хаммарстедт доверила ИИ организацию дня рождения своих детей. И, ребята, всё проходит довольно неплохо.
Речь идет об Instinct, одном из новых персональных агентов, которые выполняют за вас поручения. Вы пишете ему или звоните, он подключается к вашей электронной почте, календарю и сообщениям и берет дела на себя, даже не заставляя вас открывать приложение. Лорен использует его для планирования вечеринок, а также еще для сотни других дел в день.
Теперь представьте того же помощника внутри маркетинговой организации из 200 человек. Мнение Лорен: это не сработает. Общее мнение: да, это все еще не сработает. Причины этого многое говорят о том, почему создание ИИ корпоративного уровня — это сложно и совершенно не похоже на создание ИИ для индивидуального пользователя.
По ходу дела мы будем использовать наших «Виртуальных коллег» (Virtual Teammates) в качестве примера корпоративного ИИ, который работает так, как никогда не смог бы работать персональный агент.
Один пользователь — это просто, но двести? Это уже совсем другая проблема.
У персонального агента один босс. Добавьте календарь, и он сообщит этому человеку, что у него два дела на одно время. Он видит то же, что и пользователь, делает то, о чем его просят, и отвечает свободно, потому что никто другой его ни о чем не спрашивает.
Маркетинговая организация, с другой стороны… ох. Здесь у нас есть планы нескольких кампаний, конфиденциальные планы кампаний, данные о зарплатах, рейтинги эффективности и руководители, которые общаются приватно. А теперь добавьте память: агент, который помнит всё обо всех и отвечает любому, кто спросит. И всё это в дополнение к тому, что он должен приносить пользу и отдельному пользователю.
ИИ для целой маркетинговой организации — это совсем другой уровень. Лорен Хаммарстедт | Вице-президент по продукту в Optimizely
ИИ для целой маркетинговой организации — это совсем другой уровень.
Лорен Хаммарстедт | Вице-президент по продукту в Optimizely
Что нужно корпоративному ИИ, прежде чем он ответит кому-либо
Прежде чем ИИ ответит на что-либо, должны быть соблюдены три условия, чтобы это имело смысл для компании.
Организационный контекст: Персональному агенту нужно знать только одного человека. Корпоративный ИИ должен знать, как работает вся организация, включая её агентов, общекорпоративные навыки, контекст и системы защиты.
Инструменты с правильными правами доступа: Ему нужны системы и инструменты, которые использует ваша команда, и правильный уровень доступа к каждому из них — наши агенты и «Виртуальные коллеги» имеют широкий выбор коннекторов, что означает возможность работы с инструментами в рамках одной платформы.
Собственная идентификация: Уникальный идентификатор пользователя означает, что вы можете ограничить доступ ИИ — это значит, что любой, кто общается с ИИ, получает данные только по конкретному проекту и ничего больше. Например, «Виртуальные коллеги» имеют командные разрешения и индивидуальных владельцев. Кроме того, к агентам на индивидуальном уровне нельзя получить прямой доступ из всей организации, что добавляет еще один уровень защиты.
Полезно знать: «Виртуальный коллега» выстраивает свои уровни доступа вокруг своего менеджера (человека, который его настроил), своих товарищей по команде и всех остальных в организации. Менеджеры находятся на своем уровне, отдельно от руководителей проектов. Каждый уровень получает свои собственные правила ведения диалога.
Скажем, компания использует большую систему Jira и не хочет, чтобы ИИ перетягивал данные из одного проекта в другой. Решение — логин Jira для ИИ с доступом к одному проекту. Алекс Уитни | Главный менеджер по продукту в Optimizely
Скажем, компания использует большую систему Jira и не хочет, чтобы ИИ перетягивал данные из одного проекта в другой. Решение — логин Jira для ИИ с доступом к одному проекту.
Алекс Уитни | Главный менеджер по продукту в Optimizely
На один и тот же вопрос нужен разный ответ в зависимости от того, кто спрашивает
Ваш запуск продукта находится под эмбарго до четверга. Коллега по запуску спрашивает вас о дате, и вы называете её. Фрилансер, работающий над другой кампанией, задает тот же вопрос, и вы отвечаете, что это скоро произойдет. Один и тот же вопрос, разные ответы.
Вы принимаете такие решения десятки раз в неделю, и каждое занимает долю секунды. Коллега спрашивает о чьей-то зарплате. Вы отвечаете одним образом, если он работает в HR, и другим, если нет.
Две вещи меняют ответ: кто спрашивает и о ком или о чем идет речь.
ИИ, созданный для корпорации, должен принимать это решение самостоятельно. Он должен знать, кто спрашивает, как этот человек связан с информацией и что ему разрешено говорить. Это означает определение уровней доступа для людей, каждый из которых имеет свои правила ведения диалога: что можно обсуждать, с кем и что является запретной темой.
На практике это выглядит как блокировка тем: зарплата, личные финансы, рейтинги эффективности и конфиденциальные разговоры между руководителями. Маркетинговая команда может добавить, например, ставки агентств и условия контрактов.
Учитывая скорость, с которой всё растет и развивается, кто знает, что ждет нас в будущем. Мы присматриваемся к нескольким идеям:
Ответы, которые меняются в зависимости от аудитории: Спросите о кампании, которая еще не публична, и правильный ответ зависит от того, работают ли они над этой кампанией или нет. Спросите фрилансера об общем бюджете программы на 4 квартал, и правильным ответом может быть бюджет только для его собственного проекта.
Информация, зависящая от того, кто спрашивает: Функция в альфа-версии не должна попасть к специалисту по предпродажной подготовке, который каждый день общается с потенциальными клиентами. Они получают только бета-версии и общедоступные функции. Точно так же маркетолог в регионе EMEA, который запрашивает список целевых аккаунтов, должен получить список для EMEA, а не для Северной Америки.
Увы, знать правила недостаточно. ИИ должен применять их каждый раз. Один из способов добиться этого — внедрить две проверки в процесс работы.
Прежде чем он что-то сделает, проверьте, кто спрашивает и стоит ли вообще отвечать.
Прежде чем он что-то отправит, проверьте, что этому человеку разрешено видеть, и перепишите ответ в соответствии с этим.
Представьте себе редактора в почтовом отделении, который читает каждое входящее и исходящее письмо. Входящие — он решает, как следует обработать вопрос. Исходящие — он переписывает ответ для получателя.
Вот пример того, что происходит, когда один из наших «Виртуальных коллег» говорит, что он «думает»:
Классификация отправителя: Менеджер, коллега или кто-то другой? Менеджер имеет право на полный доступ к работе и знаниям коллег.
Фильтрация входящего сообщения: Для всех остальных фильтр решает, нужно ли переформулировать вопрос и стоит ли отвечать или проигнорировать его. Если он не будет отвечать, он отправит короткое «извините, я не могу ответить на это» вместо того, чтобы молчать.
Выполнение работы: Если он отвечает, он переходит в режим полного ответа: поиск, просмотр веб-страниц, использование инструментов, вызов других агентов. Он выполняет каждый шаг, не отправляя ни слова.
Фильтрация исходящего ответа: Второй фильтр проверяет, что этому человеку разрешено видеть, и переписывает ответ в соответствии с этим.
Отправка: То, что приходит, было проверено дважды.
Да, этот крошечный индикатор «думает» скрывает за собой огромную работу.
Почему проверка — это отдельный шаг, а не строка в промпте
Заманчиво прописать правила в инструкциях ИИ и считать дело сделанным. Риск в том, что инструкции можно обойти. Сделайте проверку отдельным шагом, и ИИ будет обязан применить правила, прежде чем сможет двигаться дальше.
Полезно знать: в Виртуальном коллеге (Virtual Teammate) за каждую задачу отвечает агент или группа агентов. Это делает систему не детерминированной в привычном для кода смысле, но близкой к этому, поскольку агент выполняет только одно конкретное действие и ничего больше. У каждого такого коллеги также есть собственная задача (агент) по самооценке, которая запускается после каждого выполнения, оценивая результаты работы в сравнении с ожидаемыми, чтобы каждый последующий запуск был лучше предыдущего.
Персональный помощник работает на вас, корпоративный ИИ работает на вас И на бизнес
Фокус персонального агента — отдельный человек. Он читает вашу почту, следит за календарем и выполняет ваши поручения, поскольку его цель — помочь вам. У корпоративного ИИ другая задача. Конечно, в нем должны быть элементы, полезные для пользователей на индивидуальном уровне (привет нашему Виртуальному коллеге — руководителю аппарата), но его главная цель — бизнес. Приоритет отдается цели, которую перед ним поставил бизнес, точно так же, как вы ставите цели перед своей организацией. И у того, и у другого есть свое место. Одно делает людей более проактивными. Другое движет самой работой.
Это меняет ваши ожидания от системы. Ответственность также масштабируется вместе с ролью. Старшеклассник, стажирующийся у вас неделю, ждет указаний. 10-летний специалист отвечает за результат.
Есть и практический бонус. Агенты, навыки, инструменты и коннекторы — это слишком много для изучения, и немало людей выгорают, прежде чем находят оптимальную конфигурацию. Корпоративный ИИ должен скрывать все это под капотом.
Итак, у меня есть Виртуальный коллега — маркетинговый аналитик, и нет, мне не нужны ежедневные отчеты. Мне нужно сообщение, когда есть что сказать — именно этого я и ждал бы от реального нанятого человека Kevin Li|SVP, Product at Optimizely
Итак, у меня есть Виртуальный коллега — маркетинговый аналитик, и нет, мне не нужны ежедневные отчеты. Мне нужно сообщение, когда есть что сказать — именно этого я и ждал бы от реального нанятого человека
Kevin Li|SVP, Product at Optimizely
Чью учетную запись система использует при подключении к вашим инструментам и можно ли ограничить ее одним проектом?
Может ли она определить, кто задает вопрос, и меняется ли ответ в зависимости от того, кто спрашивает?
О чем она не может говорить и кто это решает?
Является ли защитный барьер отдельным этапом или строкой в промпте?
Проверяется ли ответ перед тем, как быть отправленным?
Интуиция отлично справляется со своей работой. Маркетинговой организации из 200 человек нужно нечто, имеющее собственную идентичность, свод правил и систему проверки каждого ответа. Именно такими мы создали Виртуальных коллег в Mark.












