События
Накануне AGNTCon + MCPCon Europe мы принимали сообщество Agentic AI Foundation в офисе JetBrains в Амстердаме. Места на мероприятие закончились быстро, и сформировался список ожидания, чего я никак не ожидала от дискуссии в среду вечером о том, как работают открытые фонды.
Ибрагим Малик открывает вечер.
Участники панели обсуждали, что происходит, когда компании, мейнтейнеры и контрибьюторы хотят от одного и того же проекта разных вещей. Иными словами, кто принимает решения? Это старейший вопрос в open source, и агенты не сделали его проще. Ник Венхоф из GitLab, Алессандро Возза из VOLT Datacenters, Мигель Луна из JetBrains и я подошли к этому вопросу по-разному. Моей любимой фразой вечера стали слова Ника. Говоря об инфраструктуре, которую поддерживает Drupal Association, чтобы любой желающий мог скачать код проекта, он сказал: «Кто-то должен платить за дороги». Оплата поддерживает жизнь проекта. Два дня на конференции убедили меня, что это не определяет того, кто принимает решения. Это право принадлежит тому, кто заслужил доверие, а доверие нельзя купить. Его можно только заработать, выполняя работу последовательно и открыто.
Слева направо: Ник Венхоф (GitLab), Мигель Луна и Кэтрин Дракман (JetBrains), Алессандро Возза (VOLT Datacenters) и Бауке Бреннинкмейер (Orq.ai).
Ревью теперь стало узким местом
Часть лета я провела в программных комитетах нескольких мероприятий, читая заявки на доклады. Многие из них были сгенерированы ИИ, отполированы и практически неразличимы. Мейнтейнеры в рабочих группах по всему open source описывают то же самое — длинные сгенерированные ИИ предложения, которые заново поднимают уже принятые решения. Их работа смещается от созидания к объяснению того, что было решено полгода назад. Моя же работа сместилась от простого выбора докладов к выяснению того, за какими из них стоит реальный человеческий опыт.
Декстер Хорти из HumanLayer подошел к той же проблеме с другой стороны в своем программном докладе «State of the Software Factory». Он утверждал, что код от автономных агентов со временем становится хуже, поэтому на данный момент людям нужно планировать работу перед созданием и продолжать читать код. В его схеме в производственный конвейер были добавлены агентное код-ревью и регрессионное тестирование, и он отметил, что ревью все еще может быть узким местом. В этом нет ничего нового, но его акцент был ключевым. Самое сложное сейчас — это все, что происходит после написания кода. Кто-то должен понимать, что произвел агент, и нести за это ответственность. На выставке один стартап даже построил весь свой стенд вокруг багов, написанных агентами.
«Lights-Off Software Factory» Декстера Хорти — схема без человеческого ревью, против которой он выступал в своем докладе «State of the Software Factory».
Что пошло не так
Доклад, о котором я продолжаю думать, — это выступление Ника Венхофа. Он рассказал о системе, которую построил для себя: 13 специализированных агентов и один оркестратор, и честно признался в неудачах. Тесты проходили, хотя внутренняя логика была нарушена. Фоновая задача остановилась на 46 дней без каких-либо уведомлений. Агент выдал 80 сфабрикованных точек данных, которые выглядели именно так, как он просил, и ему потребовалось два часа, чтобы это заметить. Его мысль заключалась в том, что полное и неверное хуже, чем частичное и честное. Он публично описывает весь этот процесс, включая неудачи.
Слайд из доклада Ника Венхофа «From Personal Agent To Org Catalog».
Веская причина прийти
Соглашения о том, как агенты подключаются к инструментам, как они отслеживаются и как обеспечивается их безопасность, пишутся прямо сейчас в рабочих группах, открытых для всех желающих. Большинству из них не помешало бы больше людей. Большая часть этой работы вообще не требует написания кода. Модели угроз и принципы управления прописываются в документах и обсуждаются на встречах. Если вы хотите с чего-то начать, выберите одну рабочую группу, соответствующую вашим интересам или роли, присоединитесь к звонку и прочитайте заметки с предыдущих встреч, чтобы войти в курс дела. А затем приходите регулярно — эту часть невозможно сгенерировать.
Именно поэтому открытость важна не только как ценность сообщества. Агентная разработка не будет ограничиваться одной моделью или стеком одного вендора. Команды будут их смешивать, и системы вокруг этих агентов должны поддерживать этот выбор, не теряя контроля над тем, что сделали агенты и кто за это отвечает. Именно такая идея лежит в основе JetBrains Air, о котором мы объявили через неделю после конференции.
JetBrains участвует в Agentic AI Foundation, потому что нашим пользователям предстоит жить со стандартами, выработанными в этих сообществах. Я по-прежнему узнаю от мейнтейнеров в кулуарах больше, чем где-либо еще.
Спасибо Бауке Бреннинкмейеру, Михаэле Раукар-Херман и Руслану Кулешову за организацию митапа, нашим участникам панели, Алексу Салкеверу, Ибрагиму Малику и Джейку Пинеде за их доклады, а также всем остальным, кто пришел. Увидимся на следующем AGNTCon в Сан-Хосе. Ищите наш стенд.
Фотографии с митапа: Иван Давлетшин
