Проектирование делегирования с прогрессивной автономностью

Прогрессивная автономность для агентов работает так же, как делегирование презентации 20-летнему новичку. Но полная автономность в первый же день — пожалуй, не лучшая идея.

Отправили бы вы своего 20-летнего сотрудника на другой конец света для важной презентации после трех месяцев работы?

«У тебя есть паспорт?»

Это спросил меня мой босс Раймонд через три месяца после начала моей работы в качестве визуального дизайнера.

Я ответил: «Нет, но я могу его получить». Я вырос в голландской деревушке с населением около 6000 человек. Я никогда не покидал Европейский Союз, а это значит, что мне всегда хватало удостоверения личности.

Теперь мне нужен был паспорт.

Раймонд хотел, чтобы я полетел в Хьюстон и представил работу, которую мы проектировали вместе с ним, людям из таких компаний, как Microsoft. Мы сделали несколько действительно классных демонстраций о будущем визуализации в моделировании пластов.

Я заплатил 80 евро за срочное оформление и получил паспорт в течение двух недель. Затем я забронировал билеты. Делегат был в пути.

Всего за шесть месяцев до этого я бросил консерваторию. Я шел туда за мечтой стать музыкальным продюсером, имея на руках лишь школьный аттестат, а вышел с рухнувшим планом. Тогда Раймонд разглядел во мне что-то еще и вместо этого дал мне работу визуального дизайнера.

Три месяца спустя он доверял мне настолько, что отправил за океан представлять компанию в комнате, полной незнакомых людей.

Я до сих пор удивляюсь, как моя жизнь так круто изменилась. Но моя история — прекрасный пример принципа прогрессивной автономности.

Принцип

Прогрессивная автономность означает, что автономность, которую вы даете делегату, не бинарна. Это не тумблер, который вы просто переключаете. Вы передаете работу шаг за шагом, и когда результат начинает вызывать доверие, передаете еще больше.

Никакой передачи ключей стажеру в первый же день, но и никакого постоянного ручного контроля.

Если это не переключатель, то как это настроить? Если уж зашла речь о двухнедельном опыте учебы в консерватории, я бы сказал, что это скорее регулятор или фейдер. Это диапазон или уровень, которым можно управлять.

Прогрессивная автономность больше связана с реакцией, чем с разрешением.

Дать людям или агентам разрешение один раз — не то же самое, что предоставлять им автономность со временем в ответ на оправданное доверие.

Этот принцип применим и к ИИ-агентам.

Раймонд добавлял мне ответственности по мере того, как я заслуживал его доверие. Автономность предоставлялась постепенно.

Четыре вещи, которые он сделал, по порядку:

• Он оценил меня.
• Он бросил мне вызов.
• Он наблюдал за мной.
• Он отправил меня.

Он оценил меня

Раймонд сам проводил презентации, и они работали. У него не было проблем. Но каждая поездка стоила ему недели времени, которого у него не было, и ему нужно было больше людей, чтобы нести видение через континенты.

С двух видов боли он начал, прежде чем посмотреть на меня и решить, что мои навыки могут подойти для того, чего ему не хватало. Этого не было в моем резюме, и он никогда не видел, как я убедительно выступаю.

Позвольте пользователям самим выбирать, что передавать.

Большинство агентного программного обеспечения пропускает эту оценку. Оно предлагает взять на себя вашу работу до того, как вы решили, что хотите этого, что довольно странно просить у человека, чей текущий процесс работает отлично. Стали бы вы передавать задачу, которая уже работает, тому, чью работу в деле вы никогда не видели?

Позвольте пользователям самим решать, что нуждается в автоматизации и над чем должны работать агенты. Не передавайте задачи агентам без этой предварительной оценки.

Он бросил мне вызов

Раймонд предоставил мне возможность, возможно, даже спасательный круг, когда предложил работу. На этом он не остановился. Он давал мне задачи и привлекал к важной работе над видением продукта. Он сотрудничал со мной.

Затем он приводил важных руководителей и клиентов к моему маленькому столу в углу офиса в конце коридора.

Покажи им то, что ты сделал. Покажи им прототип.

Мы создавали эти концепции вместе: видение было в его голове, а мои руки лежали на клавиатуре, воплощая его в жизнь. Именно так он выяснял, чего стоят его оценки.

Тестируйте агента небольшими, видимыми шагами.

Большинство агентов работают по принципу отправки запроса и ожидания. Вы формулируете запрос, идете за кофе и возвращаетесь к результату, который теперь приходится разбирать. Сложно проверить такой результат, когда вы не работали бок о бок с агентом.

Именно поэтому полезно позволить агенту о чем-то спросить вас на полпути — например, с помощью интерфейса, который появляется, когда решение имеет значение, и исчезает, как только вы ответите. Начните с совместной работы.

Он наблюдал за мной

Раймонд был в комнате.

Он видел, как я расту и учусь, знал мою работу и понимал мои текущие возможности. Именно это дали ему те три месяца. Доказательства того, что я справлюсь, собранные вручную.

Показывайте работу, а не только результат.

Позвольте агентам дать пользователям такой же обзор. Пусть они раскрывают свои рассуждения и показывают намерения перед выполнением. Демонстрируйте прогресс по ходу дела, потому что за агентом, который молча работает целый час, трудно уследить.

Показывайте промежуточные состояния, чтобы пользователь мог проверить работу до ее завершения, и предоставьте способ ее остановить. Небольшая задача агента, которую нельзя проинспектировать — это небольшая игра на токенах.

Как только вы доверились, повторите снова. Передайте часть, понаблюдайте, передайте следующую. Ценность заключается в цикле, а не в единичном запуске.

Это означает, что вам нужно проектировать систему с учетом возможных неудач. Ведите журнал действий агента, делайте работу обратимой и позволяйте людям снижать уровень автономности, когда что-то идет не так. Сбавьте обороты, если еще рано.

Именно здесь продукты, построенные на полной автономности, заходят в тупик. Здесь нет резервного плана, когда модель не справляется. У устаревшего ПО противоположная проблема, и это неплохая проблема: ручной путь уже существует. Вы можете добавить прогрессивную автономность поверх того, что люди все еще могут делать самостоятельно, если агент еще не готов.

Он отправил меня

Раймонд доверял мне настолько, чтобы отправить в Хьюстон. Но не одного.

Со мной поехал старший коллега Аад. Не для того, чтобы презентовать за меня или вести мои разговоры. Он был там на случай, если что-то пойдет не так, и чтобы сопровождать меня в этом приложении. Доверие, которое путешествовало со мной.

Сопровождайте агента. Автономность — это не изоляция.

Чем больше вы доверяете агенту, тем длиннее цикл. Интервалы увеличиваются, а точки соприкосновения уменьшаются. Но вы все равно можете наблюдать за агентом и сопровождать его на случай, если вам потребуется вмешаться и посмотреть, как разворачивается работа.

Позвольте пользователю вернуться в процесс, даже если автономность возросла. Пусть интерфейс отражает уровень делегирования, предоставленный людям, и позволяет пользователю видеть, где действуют агенты.

В инструментах агентного проектирования вы видите подсвеченные фреймы, которые агенты активно редактируют. Это позволяет пользователю сопровождать работу и вмешиваться при необходимости.

Заключение

Автономность — это не переключатель и не настройка, которую вы просто щелкаете. Позвольте пользователям самим контролировать то, что они передают агентам, подобно регулятору, который можно крутить в обе стороны. Пусть ваше программное обеспечение предоставляет достаточно информации, чтобы они могли сопровождать работу вместе с ним.

Проектируйте свой продукт на основе принципа и паттернов, которые оценивают, бросают вызов, наблюдают и, в конце концов, отправляют агентов выполнять работу. Но снижайте уровень автономности, если они не оправдывают доверие.

Раймонд потратил время на то, чтобы построить доверие и позволить мне заслужить свою автономность. Дайте и вашим пользователям время на прогрессивное делегирование.