Сохраняйте человечность: критическое мышление в эпоху ИИ
Vention
Что внутри
Белая книга по итогам закрытого круглого стола с участием ведущих руководителей в области данных, инженерии и продуктов, организованного компанией Vention в WeWork Canary Wharf, Лондон, 16 июля 2026 года. Айме Акпан, вице-президент по данным в Blankstate, выступил с основным докладом.
Дискуссия за круглым столом проходила по правилам Чатэм-Хаус, поэтому мнения участников приводятся только с указанием их роли. Выступление Айме Акпана приводится с его разрешения.
Внедрение ИИ больше не является сложной задачей. Настоящий вызов заключается в том, чтобы внедрить его, не потеряв при этом незаметно способность, которая делает инженерные организации ценными: способность мыслить.
Один вопрос красной нитью проходил через весь круглый стол. По мере того как ИИ становится стандартным инструментом работы, что происходит с человеческим суждением? И что еще важнее, как организациям выстраивать команды, инженерные практики и процессы поставки ПО, которые позволяют его сохранить?
В ходе круглого стола были выделены три приоритета для технологических лидеров.
Перенесите мышление на более ранние этапы
Команды должны определять предполагаемый результат, подтверждающие данные, ограничения и критерии приемки до того, как просить ИИ выдать ответ. Это облегчает оценку результата и снижает риск принятия отшлифованной работы, которая решает не ту проблему.
Соотнесите технологию и средства контроля с рисками
Большая языковая модель — это лишь один из многих инструментов. В зависимости от проблемы командам могут потребоваться детерминированные правила, классическое машинное обучение, симуляция, традиционное ПО, другой тип модели ИИ или комбинация подходов. Уровень человеческого контроля должен отражать последствия ошибки, а не новизну технологии.
Сделайте работу с использованием ИИ измеримой и прозрачной
Организациям необходимо фиксировать не только то, что произошло и когда. Они также должны отслеживать, что именно инициировало действие, какие данные легли в его основу, какие средства контроля применялись, кто его одобрил и почему было принято именно такое финальное решение.
Идеи, фреймворки и практические подходы, озвученные в ходе дискуссии, были собраны в этой белой книге для инженерных лидеров, технических директоров и лиц, принимающих технологические решения, которые внедряют ИИ в процесс разработки ПО, сохраняя при этом человеческое суждение в центре каждого важного решения.
Скрытая проблема внедрения ИИ
В центре дискуссии стоял простой вопрос, хотя ответ на него оказался куда более сложным.
ИИ продается под соусом удобства. Сэкономьте часы. Автоматизируйте задачу. Поручите это агенту. каждое из этих обещаний требует от людей отказаться от небольшой части их собственного мышления. Каждое отдельное решение кажется рациональным. В совокупности они приводят к постепенной утрате ценности.
Айме Акпан, вице-президент по данным в Blankstate
«Мы создаем ценность для рабочего места, мы создаем ценность для организации. Но поскольку мы отдаем на аутсорсинг наш главный актив, мы увеличиваем ценность для них, одновременно уменьшая собственную ценность».
Одна из самых заставляющих задуматься мыслей Айме заключалась в том, что ИИ не мыслит. Он предсказывает и рационализирует.
Четко обозначилось различие между рассуждением (reasoning) и рационализацией (rationalizing). Рассуждение движется вперед — от фактов к выводу. Рационализация движется назад — от ответа к обоснованию. Модели ИИ, утверждал он, являются экспертами в рационализации. Люди, которые полагаются на них без достаточной проверки, постепенно начинают мыслить точно так же.
Прозвучала иная точка зрения. Один из участников, разрабатывающий ИИ для здравоохранения, высказал мнение, что дети, растущие рядом с компаньонами на базе ИИ, смогут учиться быстрее любого предыдущего поколения, при условии, что требования будут расти вместе с технологией, а люди будут продолжать решать более сложные задачи, а не более простые.
Никто не выступал за то, чтобы использовать меньше ИИ. Настоящие дебаты сосредоточились вокруг того, где человеческое суждение остается незаменимым и как организации могут его удержать.
Ключевые выводы из дискуссии
1. Все знают правила дисциплины, но почти никто их не соблюдает
На вопрос о том, сколько людей в комнате прошли обучение промпт-инжинирингу, и сколько из них продолжают последовательно применять эти практики, ответом было знающее молчание.
Давление дедлайнов меняет поведение. Люди быстро пишут запрос, бегло просматривают результат и действуют дальше по интуиции. Если ответ выглядит убедительно, он идет в работу.
Никто не критиковал такое поведение. Дискуссия была сосредоточена на том, почему это происходит так легко. Критическое мышление редко исчезает в результате одного осознанного решения. Оно угасает из-за сотен маленьких компромиссов, на которые идут ради скорости.
Инженерные организации не могут полагаться исключительно на индивидуальную дисциплину. Более качественные привычки должны быть встроены в сам процесс планирования, проверки и реализации работы.
Кейс от Vention: как разработка на основе спецификаций сократила количество дефектов
К Vention обратился клиент с неработающей финтех-платформой, скудной документацией и реальными деньгами в обороте. Vention решила перенести мышление на более ранние этапы. Перед началом разработки QA-инженеры и бизнес-аналитики написали спецификации для каждой задачи и проверили их с точки зрения качества. Каждая задача следовала структурированному формату с пользовательской историей и критериями приемки, написанными так, чтобы исключить любые неясности до написания кода с помощью ИИ.
MVP был запущен через три месяца. Благодаря подходу «сначала спецификация» количество дефектов снизилось на 60–70% с самого начала проекта. Исходной точкой была сломанная унаследованная кодовая база, поэтому цифра отражает полный результат трансформации. Урок прост: когда замысел, логика и ожидаемый результат задокументированы до того, как ИИ прикоснется к работе, качество неизбежно следует за ними.
Унаследованные, неработающие кодовые базы с уже запущенными в оборот деньгами — классическая отправная точка для проектов Vention по спасению ПО, и дисциплина здесь та же: сначала спецификация, потом код.
2. Точность зависит от проблемы. Определите свою мишень для дартса
Один из самых практичных разговоров этого утра начался с простого наблюдения. К машинам часто предъявляют такие стандарты, которым сами люди никогда не соответствуют. Задайте одному и тому же человеку один и тот же вопрос в разные дни, и ответы вполне могут отличаться.
Один из лидеров цифровой трансформации предложил более практичную ментальную модель:
«Возможно, нам нужна мишень для дартса. Пока ответ попадает в мишень, он находится в допустимом поле. Когда ИИ начинает промахиваться мимо мишени и кому-то тыкать в глаз, мы говорим: “Оу, это было не очень хорошо”».
Эта аналогия вызвала живые дебаты. Лидер в области маркетинговых технологий утверждал, что маркетинг может допускать определенный разброс результатов. Решения в здравоохранении часто требуют абсолютной точности. Инженерный лидер из финансового сектора поставил под сомнение предположение о том, что маркетинг всегда сопряжен с низким риском, отметив, что неверно таргетированные финансовые продукты все равно могут навредить уязвимым клиентам.
Один вывод объединил всех присутствующих. Допустимый уровень вариативности зависит от принимаемого решения, а не от технологии. Модель, которая идеально подходит для одного рабочего процесса, может создать неприемлемый риск в другом. Определение этих границ для каждого сценария использования — это то, с чего начинается эффективное управление ИИ.
3. Большие языковые модели — это инструмент, а не ответ по умолчанию
В технологической индустрии термины «ИИ» и «большая языковая модель» все чаще используют так, будто они означают одно и то же. Это не так. Языковые модели (LLM) по своей природе вероятностны: один и тот же запрос может дать разные ответы, поскольку они спроектированы для прогнозирования правдоподобного текста, а не для получения детерминированных результатов.
Модели мира представляют собой интересную противоположность. Вместо того чтобы учиться на тексте, они изучают поведение окружающего мира, что делает их более подходящим выбором для задач, где важны предсказуемое и детерминированное поведение.
Отсюда следует ключевая мысль: хорошие инженеры не полагаются на какой-то один инструмент. LLM, другие модели ИИ, классическое машинное обучение и традиционное программное обеспечение — всему этому найдется свое место. Выбор правильной технологии для конкретной задачи зачастую важнее, чем выбор самой модной.
Тематическое исследование от Vention: правильной технологией оказалась вовсе не самая модная
Компания в сфере торговой аналитики обратилась к Vention за созданием платформы, которая формирует отчеты по запросу на основе сложных данных мировой торговли. Исходные записи были обширными, но зачастую с задержками, противоречивыми или неполными, поэтому аналитикам требовалось заполнять пропущенные значения без ущерба для прозрачности.
Вместо того чтобы автоматически выбрать LLM, специалисты Vention остановились на градиентном бустинге над деревьями. Данные носили табличный характер, а каждый прогноз должен был быть объяснимым и аудируемым. Пройдя обучение на десятилетиях очищенных исторических данных, модель достигла более чем 80% точности на отложенной выборке.
Затем традиционное программное обеспечение выполняло проверку итогов, расчетов и согласованности данных между таблицами и графиками перед публикацией. В результате получилась система, которая создает готовый отчет примерно за пять минут.
Вывод прост: начните с требуемого результата и уровня риска, а затем выбирайте подходящую технологию, а не просто самую модную.
4. Аудит начинается с ответа на вопрос «почему»
Вопрос об управлении и происхождении данных привел к одной из самых практических бесед за круглым столом.
Большинство инженерных организаций уже фиксируют в логах, что и когда произошло. Системы искусственного интеллекта поднимают планку выше. Командам также необходимо фиксировать, кто или что инициировало действие, почему это произошло и какие соображения легли в основу.
Один из участников задался вопросом, можно ли манипулировать самими записями аудита. Вместо дебатов о продуктах дискуссия быстро сместилась к базовым принципам. Записи должны быть неизменяемыми и доступными только для однократной записи, а исправления должны добавляться в виде новых записей, а не правок. Такой подход сохраняет полную историю и позволяет воспроизвести любое решение при необходимости.
Еще одна мысль неоднократно всплывала в ходе всей дискуссии. Требования к управлению должны определяться до выбора технологий, а не после. Тщательное обдумывание зачастую приводит к удивительно простым решениям, при которых ИИ поддерживает систему, а не становится ею.
5. Требования к инженерам высоки как никогда
Лидеры инженерных команд за круглым столом были единодушны в одном. ИИ не снижает ожидания от инженеров. Он их повышает.
Писать код уже недостаточно: от инженеров все чаще ждут умения объяснять свои решения, обосновывать компромиссы и напрямую общаться со стейкхолдерами.
Руководитель в сфере маркетинговых технологий
«Даже если они собираются использовать ИИ для обоснования своих мыслей — хорошо. Но мне нужно, чтобы вы могли четко объяснить, почему вы применяете именно такой подход».
Несколько участников рассказали, как этот сдвиг уже меняет работу команд. Вместо распределения отдельных задач они все чаще передают небольшим командам полную ответственность за готовые функции. Инженеры приходят с готовыми рекомендациями, а не ждут указаний, и способность принимать взвешенные решения ценится наравне с навыками реализации.
6. Живое человеческое общение остается незаменимым
Дискуссия завершилась более широким вопросом: какую часть нашей работы вообще можно делегировать?
Один из участников признался, что предпочитает использовать ИИ-агент для посредничества в общении с коллегами. Другие возразили. Человеческие отношения раскрывают контекст, который не способен в полной мере отразить ни один набор данных. Ведущий инженер, подумывающий об увольнении, может остаться из-за одного-единственного разговора, даже если все доступные метрики говорят о том, что все в порядке.
Кто-то в шутку полусерьезно предсказал, что подлинное человеческое общение со временем может стать чем-то, к чему люди будут осознанно стремиться и за что будут готовы платить.
Пожалуй, главным итогом того утра стало само обсуждение. Два часа споров, разногласий, любопытства и смеха породили идеи, которые не способна в полной мере передать ни одна сгенерированная ИИ сводка.
ИИ может сделать инженерные команды быстрее и эффективнее. Защита человеческого суждения, критического мышления и содержательного сотрудничества остается нашей ответственностью.
Практические фреймворки для внедрения ИИ
В ходе дискуссии был озвучен ряд практических фреймворков, которые инженерные руководители могут применить немедленно. Ни один из них не требует новых инструментов или сложных программ управления. Каждый из них призван укрепить способность принимать решения, повысить согласованность действий и сделать внедрение ИИ более осознанным.
Фреймворк 1: Начните с намерения, прежде чем делегировать задачи ИИ
Име, основной докладчик, на протяжении всей дискуссии возвращался к одной и той же дисциплине. Прежде чем поручать любую задачу инструменту ИИ, задайте себе три вопроса в определенном порядке.
- Намерение. Какой результат я пытаюсь достичь и почему? Сосредоточьтесь на том, что действительно должно произойти, а не просто на том, что было бы неплохо получить.
- Рассуждение. Какие шаги и ход мыслей должны привести к ответу? Какими свидетельствами он должен подкрепляться? Рассуждение движется вперед от фактов к выводам. Рационализация принимает готовый ответ и задним числом подгоняет под него обоснование.
- Действие. Что именно нужно сделать и как я проверю результат на соответствие первоначальному замыслу до того, как будут предприняты какие-либо шаги?
Посыл был намеренно сдержанным. Бизнесу не нужна полная учебная программа по критическому мышлению. Последовательное применение этих трех вопросов способно существенно улучшить как качество запросов, так и процесс проверки результатов, сгенерированных ИИ.
Фреймворк 2: Установите допустимые пределы отклонений для каждого варианта использования
Не каждое решение ИИ несет в себе одинаковый уровень риска. Допустимая вариативность зависит от контекста.
- Классифицируйте решение. Результат предназначен для клиентов или для внутреннего использования? Обратимо ли оно? Кто пострадает в случае ошибки? Маркетинговый контент естественным образом допускает большую гибкость, чем медицинские рекомендации или финансовые решения.
- Определите роль человека. Должны ли люди оставаться в контуре управления, контролировать результат или просто получать уведомления после выполнения? Соотнесите уровень надзора с уровнем риска.
- Установите пороговые значения допустимых отклонений до начала развертывания. Докладчик сравнил это с согласованием критериев приемки с поставщиком оборудования до первой отгрузки, а не после появления брака.
- Пересматривайте эти пороги с течением времени. Сценарий использования, начинающийся как внутренний инструмент для составления черновиков, может постепенно перерасти в принятие клиентских решений. Управление должно развиваться вместе с ними.
Тематическое исследование от Vention
Чтобы обеспечить прозрачность доставки с поддержкой ИИ в больших масштабах, Vention использует Vention Forge — собственную платформу аналитики доставки на базе ИИ. Forge отслеживает, как команды применяют метод BMAD (гибкую среду разработки на основе ИИ) на протяжении всего жизненного цикла разработки ПО (SDLC), предоставляя руководителям проектов и портфелей обзоры внедрения доставки с поддержкой ИИ, потоков выполнения, паттернов производительности и результатов внедрения.
Фреймворк 3: создайте контрольный журнал, объясняющий решение
Управление должно быть спроектировано до создания систем, а не добавлено после. Начать с правильных вопросов часто приводит к более простым и эффективным решениям.
- Записывайте, что произошло, когда это произошло и что стало причиной действия.
- Фиксируйте, почему было запрошено действие и кто или что его запросило.
- Логируйте логику, стоящую за результатом, а не только сам результат.
- Связывайте каждое решение с подтверждающими доказательствами, будь то электронное письмо, встреча, документ или сообщение.
- Сохраняйте записи, используя принципы неизменяемости и однократной записи (write-once). Исправления должны добавляться как новые записи, а не как правки, чтобы вся история оставалась нетронутой.
- Анализируйте сбои так же тщательно, как и успехи. Записи, объясняющие, почему что-то пошло не так, часто становятся самыми ценными данными управления, которыми располагает организация.
Пример из практики Vention: обеспечение прослеживаемости решений о найме
Регулируемая кадровая компания привлекла Vention для замены фрагментированного процесса найма, построенного вокруг электронной почты, электронных таблиц и ручной проверки документов. Кандидаты должны были предоставлять лицензии, документы, удостоверяющие личность, и другие записи, чувствительные к требованиям комплаенса, что делало каждое одобрение объяснимым и обоснованным.
Vention создала структурированный цифровой рабочий процесс с журналами аудита только для добавления (append-only), неизменяемыми записями о согласии и отслеживанием версий политик. каждое действие, изменяющее статус кандидата, записывалось вместе с сопутствующими метаданными, что позволяло компании восстановить каждый шаг процесса и проверить, какие проверки были завершены.
Результат оказался именно тем, к чему стремилась компания: более быстрый процесс найма без ущерба для подотчетности.
Фреймворк 4: используйте инновационные капсулы с четкими ограничениями
Один из участников рассказал, как строго регулируемые инженерные команды создают пространство для экспериментов без ущерба для управления.
- Сформируйте небольшие кросс-функциональные капсулы из двух-трех инженеров, сосредоточенных на одной четко определенной бизнес-задаче. Рассматривайте эту работу как подтверждение концепции (PoC), а не как долгосрочную программу.
- Потратьте первую фазу на согласование базовых инженерных принципов, включая принципы проектирования, стандарты кодирования и архитектурные паттерны. Эти ограничения становятся основой для всего последующего.
- Дайте команде свободу внедрять инновации в этих рамках. Инженерное превосходство становится основным механизмом контроля, а не дополнительными процессами комплаенса.
- Отделите экспериментирование от управления. Несколько участников утверждали, что инновации и контроль конкурируют, когда их помещают в одну фазу. Сначала исследуйте, затем оценивайте, а потом повторяйте цикл.
- Каким бы ни был результат подтверждения концепции, организация сохраняет более надежные инженерные практики. Даже неудачные эксперименты оставляют команду лучше подготовленной к будущей работе.
Три практических шага вперед
1. Определите приемлемые результаты
Выберите один высокоэффективный вариант использования ИИ и напишите заявление о допустимых отклонениях в одно предложение. Уточните, какой уровень вариативности допустим, где в процессе находится человек и работает ли этот вариант использования на основе фактов или надежд.
2. Поднимите планку для работы с поддержкой ИИ
Обновите свое определение «готовности» для работы с поддержкой ИИ. Инженеры должны уметь объяснять замысел, логику, доказательства, лежащие в основе результата, и почему они ему доверяют, а не просто представлять финальный результат.
3. Проверьте свой контрольный журнал
Оцените одну инициативу в области ИИ на соответствие описанному выше фреймворку контрольного журнала. Если вы фиксируете только то, что произошло, а не почему, вы получаете наблюдаемость без подотчетности.
Пример из практики Vention: от экспериментов с ИИ к общей инженерной практике
Один из крупных финтех-клиентов Vention уже вооружил своих инженеров инструментами ИИ, обучением и возможностями для экспериментов, но внедрение оставалось индивидуальным и непоследовательным. Не хватало общих рабочих процессов, многоразовых практик и надежных мер успеха.
Vention помогла превратить эти эксперименты в структурную трансформацию в трех пилотных командах. Программа внедрила общие практики использования ИИ, более надежную документацию, разработку на основе спецификаций, повторно используемые инструкции и систематический обмен знаниями. Вместо того чтобы относиться к ИИ как к развертыванию инструментов, организация начала внедрять его в то, как инженерные команды планируют, сотрудничают и доставляют результаты.
Инициатива все еще находится на ранней стадии, и производительность остается в пределах исторических значений. Осязаемые бизнес-результаты ожидаются через 9–12 месяцев устойчивого внедрения. Часть урока заключается в том, что значимая трансформация ИИ начинается с дисциплинированных изменений в инженерной практике, в то время как бизнес-результаты появляются со временем.
Где место Vention
Круглый стол пришел к четкому выводу: успешное внедрение ИИ зависит от инженерной дисциплины в такой же степени, как и от технологии.
Выбор новейшей модели — это лишь часть уравнения. Прочные результаты проистекают из четкого владения, сильных инженерных практик, управления, встроенного в доставку, и человеческого суждения на каждом этапе, где решения имеют значение.
Vention применяет эти принципы через свой подход к разработке программного обеспечения с поддержкой ИИ. ИИ внедрен на протяжении всего жизненного цикла разработки ПО для поддержки планирования, разработки, тестирования и проверки кода, в то время как инженеры несут ответственность за архитектуру, компромиссы, валидацию и бизнес-результаты.
Каждый проект начинается с бизнес-проблемы до того, как рассматривается технология. Семинары по исследованию возможностей ИИ помогают организациям выявить практические возможности, определить приемлемые уровни риска и установить ограничения, необходимые для ответственного внедрения. Те же принципы руководят нашими выделенными инженерными командами и проектами по аутстаффингу персонала, внедряя ИИ там, где он создает измеримую ценность, и сохраняя людей ответственными за важные решения.
Цель проста: помочь организациям создавать программные команды, которые доставляют быстрее, поддерживают качество и сохраняют человеческое суждение, от которого зависит великая инженерия.
Превратите внедрение ИИ в инженерное преимущество.
Узнайте, как Vention помогает организациям интегрировать ИИ по всему жизненному циклу разработки программного обеспечения без ущерба для инженерного качества, управления или человеческого суждения.
