Thoughtworks, глобальная технологическая консалтинговая компания, которая объединяет дизайн, инженерию и ИИ для стимулирования цифровых инноваций, выпустила сегодня 35-й выпуск отчета Technology Radar, публикуемого дважды в год на основе опыта работы организации с клиентами.
При разработке этого выпуска команда Technology Radar заметила, что по мере того, как агентам поручаются более масштабные и долгосрочные задачи, самые сложные инженерные проблемы все больше выходят за рамки взаимодействия с самой моделью: это обеспечение безопасности среды, в которой работают агенты, определение того, к чему они могут получить доступ, установление значимого человеческого надзора и контроль стоимости их работы.
Одним из признаков такого фокуса является то, в каких областях Radar делает свои самые решительные рекомендации. 11 практик и технологий, помещенных в его кольцо Adopt, включающие такие методы, как изолированное выполнение агентов (песочница) и моделирование угроз, сигнализируют о растущей важности средств защиты, необходимых для надежного запуска ИИ в рабочей среде, и подчеркивают необходимость действовать прямо сейчас.
В предыдущих выпусках Radar прослеживались растущие возможности ИИ в разработке программного обеспечения, а в 34-м выпуске рассматривались трения и риски его использования в масштабе. Выпуск 35 обращается к управлению этими рисками по мере роста внедрения. Его темы охватывают системы, управляющие поведением агентов, роль человеческого суждения и инфраструктуру, определяющую стоимость и надежность.
«Не так давно клиенты спрашивали нас, как быстро агенты могут писать код. Теперь же вопрос в том, сможет ли кто-нибудь доверять тому, что они производят, проверять это и оплачивать», — сказала Рэйчел Лейкок (Rachel Laycock), главный технический директор Thoughtworks. — Модели будут продолжать совершенствоваться, но долгосрочная ценность достанется организациям, которые инвестируют в инженерию и надзор вокруг них».
Темы этого выпуска исследуют то, что требуется для создания и управления системой вокруг модели:
- Масштабирование инженерной обвязки (harness engineering): Окружение вокруг ИИ-агента, включая его промпты, инструменты, память, защитные механизмы и петли обратной связи, становится самостоятельным продуктом с владельцами, версиями и зависимостями. По мере формирования растущей экосистемы плагинов и вспомогательных инструментов организации должны относиться к этой обвязке как к спроектированной системе с соответствующей оценкой, безопасностью, контролем доступа и текущим обслуживанием.
Масштабирование инженерной обвязки (harness engineering): Окружение вокруг ИИ-агента, включая его промпты, инструменты, память, защитные механизмы и петли обратной связи, становится самостоятельным продуктом с владельцами, версиями и зависимостями. По мере формирования растущей экосистемы плагинов и вспомогательных инструментов организации должны относиться к этой обвязке как к спроектированной системе с соответствующей оценкой, безопасностью, контролем доступа и текущим обслуживанием.
- Запуск в работу большего числа агентов без потери человеческого контроля: Разработчики все чаще запускают параллельно несколько сеансов агентов и делегируют более длительные задачи, включая ночные сборки без участия человека. Но поскольку агенты выполняют все больше работы, проверка человеком и конвейеры поставки ПО могут стать узкими местами. Radar предостерегает от «театра человека в контуре» (human in the loop theater), когда утверждение становится ритуалом, а не осмысленной проверкой, и призывает команды оценивать свою способность проводить проверки перед масштабированием использования агентов.
Запуск в работу большего числа агентов без потери человеческого контроля: Разработчики все чаще запускают параллельно несколько сеансов агентов и делегируют более длительные задачи, включая ночные сборки без участия человека. Но поскольку агенты выполняют все больше работы, проверка человеком и конвейеры поставки ПО могут стать узкими местами. Radar предостерегает от «театра человека в контуре» (human in the loop theater), когда утверждение становится ритуалом, а не осмысленной проверкой, и призывает команды оценивать свою способность проводить проверки перед масштабированием использования агентов.
- За пределами пограничных моделей (frontier models): Проприетарные пограничные модели больше не являются очевидным стандартом по умолчанию для каждой задачи. Модели с открытым весом сократили разрыв для многих рабочих нагрузок и предлагают дополнительные варианты развертывания, включая запуск в собственной инфраструктуре организации. Radar предостерегает от использования пограничной модели по умолчанию для каждой задачи и призывает команды осознанно выбирать модели на основе требований задач, стоимости, конфиденциальности и эксплуатационных соображений.
За пределами пограничных моделей (frontier models): Проприетарные пограничные модели больше не являются очевидным стандартом по умолчанию для каждой задачи. Модели с открытым весом сократили разрыв для многих рабочих нагрузок и предлагают дополнительные варианты развертывания, включая запуск в собственной инфраструктуре организации. Radar предостерегает от использования пограничной модели по умолчанию для каждой задачи и призывает команды осознанно выбирать модели на основе требований задач, стоимости, конфиденциальности и эксплуатационных соображений.
- Экономика масштабирования ИИ: Стоимость ИИ выходит далеко за рамки цен на модели. Маршрутизация, пакетирование, хранение, работа с сетью и планирование — все это влияет на экономику запуска рабочих нагрузок ИИ в продакшене. Большая часть инноваций, необходимых для экономической устойчивости ИИ, лежит глубже в технологическом стеке, где модели, графические процессоры (GPU), хранилища и сети управляются как программируемые ресурсы через общий уровень платформы.
Экономика масштабирования ИИ: Стоимость ИИ выходит далеко за рамки цен на модели. Маршрутизация, пакетирование, хранение, работа с сетью и планирование — все это влияет на экономику запуска рабочих нагрузок ИИ в продакшене. Большая часть инноваций, необходимых для экономической устойчивости ИИ, лежит глубже в технологическом стеке, где модели, графические процессоры (GPU), хранилища и сети управляются как программируемые ресурсы через общий уровень платформы.
В совокупности эти выводы указывают на более масштабный сдвиг в корпоративном ИИ: реализация его потенциала требует не просто доступа к мощным моделям. Организации должны выстроить инженерные практики, инфраструктуру и механизмы контроля со стороны человека, необходимые для ответственной эксплуатации агентов в больших масштабах.
Посетите сайт www.thoughtworks.com/radar, чтобы ознакомиться с интерактивной версией Radar или загрузить PDF-файл.
Вспомогательные ресурсы:
- Послушайте обсуждение ключевых тем этого выпуска в подкасте Thoughtworks Technology Podcast.
Послушайте обсуждение ключевых тем этого выпуска в подкасте Thoughtworks Technology Podcast.
- Следите за новостями Thoughtworks, посетив веб-сайт компании.
Следите за новостями Thoughtworks, посетив веб-сайт компании.
- Подписывайтесь на Thoughtworks в X, LinkedIn и YouTube.
Подписывайтесь на Thoughtworks в X, LinkedIn и YouTube.
О компании Thoughtworks
Thoughtworks — глобальная технологическая консалтинговая компания, которая объединяет дизайн, инженерию и ИИ для стимулирования цифровых инноваций. Вот уже более 30 лет Thoughtworks помогает организациям решать сложные бизнес-задачи с помощью технологий в качестве главного дифференциатора.
Контакты:
Марш Абрахам (Marsh Abraham)
Руководитель отдела связей с общественностью в странах Америки
marsh.abraham@thoughtworks.com
