Автономный ИИ (Agentic AI) может автоматизировать работу, с которой традиционное программное обеспечение с трудом справляется. Петер Калмийн (Peter Kalmijn) задается вопросом, где эта автономность действительно помогает, а где архитектор должен намеренно установить границы для автономного ИИ.
Представьте себе ИИ-агента, работающего с запросом клиента. Он читает сообщение, выясняет, что нужно клиенту, находит информацию в нескольких системах и решает, что делать дальше. Когда информации не хватает, он ищет ее. Когда происходит что-то неожиданное, он адаптируется.
Пока все идет хорошо. Теперь позвольте ему принять окончательное решение. Возможно, он решает, имеет ли клиент право на что-либо, получает ли проситель убежища статус беженца или назначается ли пособие.
Вам все еще комфортно?
Возможно. А возможно, и нет. Изменился потенциал принимаемого нами решения, способный кардинально изменить жизнь.
Это различие меня интересует, потому что автономный ИИ естественным образом привлекает внимание к тому, что технически возможно. Архитектура должна идти дальше и спрашивать, где эта возможность полезна.
От инструкций к целям
Большая часть традиционной автоматизации начинается с инструкций. Мы определяем процесс, кодируем правила и говорим программному обеспечению, что делать при возникновении определенных условий. Агент работает иначе. Дайте ему цель и правильные инструменты, и он сможет сам решать, как ее преследовать, выбирать действия, интерпретировать контекст и адаптироваться по мере изменения обстоятельств.
Это поведение помогает решить проблему, которая годами мешала усилиям по автоматизации: реальный мир иногда отказывается вести себя как блок-схема. Запросы поступают с неполной информацией. Люди выражают одно и то же по-разному. Документы различаются, и возникают исключения, которые никто не предвидел в исходной спецификации.
Традиционное программное обеспечение очень хорошо справляется с предсказуемыми процессами. Традиционно для работы с непредсказуемыми частями требовались люди, поэтому предоставление программному обеспечению большей свободы, очевидно, выглядит привлекательно. Но эта свобода рассуждать сама по себе является архитектурным выбором.
Какое решение мы принимаем?
На минуту подумайте о работе, а не о технологии. Клиент отправляет электронное письмо с описанием сложной проблемы и прикрепляет несколько документов. Выяснение того, что произошло, требует интерпретации. Может существовать несколько разумных путей решения. Агент может понять материал и извлечь дополнительную информацию. Использование этой дополнительной информации для решения того, что исследовать дальше, может быть действительно полезным.
Предположим, позже в процессе мы доходим до регламентированного расчета с использованием утвержденной формулы. Творческая интерпретация не добавляет ценности и неуместна. Учитывая те же проверенные входные данные, мы ожидаем, что формула каждый раз будет выдавать один и тот же результат.
Именно это различие делает разговор об автономности более интересным. Один бизнес-процесс может содержать области, где мы активно хотим, чтобы система рассуждала, и другие, где последовательность и утвержденные формулы имеют большее значение.
Поэтому я бы не стал начинать проект с использованием автономного ИИ с вопроса о том, какую часть процесса мы можем отдать агенту. Я бы спросил, где процесс извлекает выгоду из автономного рассуждения и что происходит, когда это рассуждение распространяется на те части процесса, где ответ уже должен быть известен.
Пилотный проект не ответит на все вопросы
Эти различия могут быть не сразу очевидны в ходе пилотного проекта. Мы выбираем вариант использования, даем агенту несколько инструментов и смотрим, сможет ли он выполнить задачу. Если он преуспевает, мы извлекли полезный урок: технология может выполнять работу в таких условиях.
Промышленная эксплуатация порождает другой набор вопросов. Как агент по поведет себя при миллионе кейсов, а не при ста? Как часто он будет вызывать другую модель ИИ или инструмент ИИ? Что происходит, когда инструмент возвращает неожиданный результат? Как нам восстановить действия агента, когда что-то идет не так или когда об этом просит аудитор?
Затем возникает обманчиво простой вопрос. Если завтра агент получит те же исходные данные, ожидаем ли мы тот же ответ?
Для некоторых задач, возможно, и нет. В интерпретации есть место для вариативности. Для других — абсолютно точно да! Ответ говорит нам, какова степень автономности в данной точке процесса.
Сказать «нет» ИИ может быть верным архитектурным решением
Обладая мощной новой технологией, мы естественным образом ищем места для ее применения.
Я понимаю энтузиазм. Я разделяю многое из этого, но иногда нам нужно подумать немного дальше.
Архитектура отчасти представляет собой дисциплину выбора границ. Агент может иметь значительную свободу в исследовании незнакомого случая, понимании неструктурированного материала и определении того, какие возможности ему необходимы. Когда процесс достигает устоявшейся бизнес-логики, агент может передать работу программному обеспечению, созданному для последовательного выполнения этой логики. Мы называем это детерминированным подходом.
В другом сценарии использования мы можем дать агенту гораздо большую свободу для рассуждений. Но будут и ситуации, когда обычное программное обеспечение решает проблему ничуть не хуже. Самое трудное — распознать разницу.
Отказ от ИИ в одном месте процесса оставляет возможность использовать его там, где автономность добавляет ценности.
По мере того как агенты становятся все более способными, мы будем продолжать открывать для себя то, что они могут делать, и то, чего они делать не могут. Хорошая архитектура требует от нас принятия решений о том, где применять автономный ИИ.
Мы с нетерпением ждем нашего спонсорства на конференции Adopt AI 2026, которая пройдет 3-4 декабря в Париже. Каждый четверг в преддверии мероприятия Agile & Digital Enterprise Architect Петер Калмийн, участник исследовательского сообщества Future Makers Research Community (FMRC) в Atos, будет объяснять, почему хорошая архитектура ИИ начинается с отказа.
