Сохраняя человечность: критическое мышление в эпоху ИИ
Последнее обновление: 23 июля 2026 г.
Vention
Что внутри
Белая книга, основанная на закрытом круглом столе с участием руководителей высшего звена в области данных, инженерии и продуктов, организованном Vention в WeWork Canary Wharf, Лондон, 16 июля 2026 года. С основным докладом выступил Айме Акпан, вице-президент по данным в Blankstate.
Дискуссия за круглым столом проходила по правилам Chatham House, поэтому вклад участников приписывается только их должностям. Замечания из основного доклада Айме Акпана приводятся с его разрешения.
Внедрение ИИ больше не является сложной задачей. Настоящий вызов заключается в том, чтобы внедрять его, не передавая на аутсорсинг ту способность, которая делает инженерные организации ценными: способность мыслить.
Один вопрос пронизывал весь круглый стол. Поскольку ИИ становится стандартным способом работы, что происходит с человеческим суждением? И, что более важно, как организациям создавать команды, инженерные практики и процессы доставки программного обеспечения, которые сохраняют его?
На круглом столе были выделены три приоритета для технологических лидеров.
Перенос мышления на ранние этапы
Команды должны определять предполагаемый результат, подтверждающие данные, ограничения и критерии приемки, прежде чем просить ИИ дать ответ. Это облегчает оценку результата и снижает риск принятия отполированной работы, которая решает не ту проблему.
Соответствие технологий и контроля уровню риска
Большая языковая модель — это лишь один инструмент из многих. В зависимости от задачи командам могут потребоваться детерминированные правила, классическое машинное обучение, моделирование, обычное программное обеспечение, другой тип модели ИИ или комбинация подходов. Уровень человеческого контроля должен отражать последствия ошибки, а не новизну технологии.
Сделать работу с ИИ измеримой и подотчетной
Организациям нужно фиксировать не только то, что произошло и когда. Они также должны фиксировать, что послужило причиной действия, какие доказательства легли в его основу, какие средства контроля применялись, кто его одобрил и почему было принято окончательное решение.
Идеи, концепции и практические подходы из дискуссии были собраны в этой белой книге для инженерных руководителей, технических директоров и лиц, принимающих технологические решения, которые внедряют ИИ в разработку программного обеспечения, сохраняя при этом человеческое суждение в центре каждого важного решения.
Скрытая проблема внедрения ИИ
Простой вопрос лежал в центре дискуссии, даже если ответ оказался гораздо сложнее.
ИИ продается как удобство. Сэкономьте часы. Автоматизируйте задачу. Пусть агент справится с этим. Каждое из этих обещаний требует от людей отказаться от части своего мышления. Каждое отдельное решение кажется рациональным. В совокупности они становятся постепенной передачей ценности.
Айме Акпан, вице-президент по данным в Blankstate
«Мы создаем ценность для рабочего места, мы создаем ценность для организации. Но поскольку мы передаем на аутсорсинг наш самый большой актив, увеличивая ценность для них, мы снижаем собственную ценность».
Одной из самых заставляющих задуматься идей Айме было то, что ИИ не мыслит. Он предсказывает и рационализирует.
Возникло четкое различие между рассуждением и рационализацией. Рассуждение движется вперед, от доказательств к выводу. Рационализация работает в обратном направлении, от ответа к обоснованию. Модели ИИ, утверждал он, являются экспертами в рационализации. Люди, которые полагаются на них без достаточной проверки, постепенно начинают мыслить так же.
Другая точка зрения также была озвучена. Один из участников, создающий ИИ для здравоохранения, утверждал, что дети, растущие вместе с ИИ-компаньонами, могут учиться быстрее, чем любое предыдущее поколение, при условии, что ожидания растут вместе с технологией, а люди продолжают решать более сложные задачи, а не более простые.
Никто не выступал за использование меньшего количества ИИ. Настоящие дебаты сосредоточились на том, где человеческое суждение остается необходимым и как организации могут его сохранить.
Ключевые выводы из дискуссии
1. Все знают дисциплину, но почти никто ей не следует
Когда спросили, сколько людей в комнате прошли обучение промпт-инжинирингу, а затем сколько из них последовательно применяли эти практики, ответом была понимающая тишина.
Давление сроков меняет поведение. Люди быстро вводят промпт, просматривают результат и повторяют действия по наитию. Если ответ выглядит убедительно, он используется.
Никто не критиковал такое поведение. Дискуссия была сосредоточена на том, почему это происходит так легко. Критическое мышление редко исчезает в результате одного осознанного решения. Оно угасает из-за сотен маленьких компромиссов, сделанных ради скорости.
Инженерные организации не могут полагаться только на индивидуальную дисциплину. Лучшие привычки должны быть встроены в то, как работа планируется, проверяется и выполняется.
Кейс Vention: как доставка, ориентированная на спецификации, сократила количество дефектов
К Vention обратился клиент с нерабочей финтех-платформой, ограниченной документацией и уже задействованными реальными деньгами. Vention решила перенести мышление на ранние этапы. Перед началом разработки инженеры по контролю качества и бизнес-аналитики написали спецификацию для каждой части работы и проверили ее с точки зрения качества. Каждый тикет следовал структурированному формату, с пользовательской историей и критериями приемки, написанными для устранения двусмысленности до появления любого кода, сгенерированного ИИ.
MVP был запущен через три месяца. Благодаря подходу «сначала спецификации», уровень дефектов снизился на 60-70% с начала проекта. Отправной точкой была сломанная унаследованная кодовая база, поэтому цифра отражает полное восстановление. Урок ясен: когда намерение, обоснование и ожидаемый результат документируются до того, как ИИ прикоснется к работе, качество следует за этим.
Унаследованные, нерабочие кодовые базы с уже задействованными деньгами — это классическая отправная точка для проектов Vention по спасению программного обеспечения, и дисциплина там та же: сначала спецификации, потом код.
2. Точность зависит от проблемы. Определите свою мишень
Один из самых практических разговоров утра начался с простого наблюдения. К машинам часто предъявляются стандарты, которым сами люди никогда не соответствуют. Задайте одному и тому же человеку один и тот же вопрос в разные дни, и ответ вполне может быть другим.
Лидер трансформации предложил более практичную ментальную модель:
«Может быть, нам нужна мишень для дартса. Пока ответ попадает в мишень, он находится в одном пространстве. Когда ИИ начинает выходить за пределы мишени и тыкать кого-то в глаз, мы говорим: «О, это было не очень хорошо».
Аналогия вызвала немедленные дебаты. Лидер в области маркетинговых технологий утверждал, что маркетинг может допускать разумный диапазон результатов. Решения в сфере здравоохранения часто требуют абсолютной точности. Инженерный руководитель из финансового сектора оспорил предположение, что маркетинг всегда является низкорискованным, отметив, что плохо таргетированные финансовые продукты все равно могут нанести вред уязвимым клиентам.
Один вывод объединил комнату. Приемлемые уровни вариативности зависят от решения, а не от технологии. Модель, которая идеально подходит для одного рабочего процесса, может создать неприемлемый риск в другом. Определение этих границ для каждого варианта использования — это то, с чего начинается эффективное управление ИИ.
3. LLM — это инструмент, а не ответ по умолчанию
В индустрии технологий все чаще используют термины «ИИ» и «большая языковая модель» так, будто они означают одно и то же. Это не так. LLM по своей сути вероятностны, а это значит, что один и тот же запрос может давать разные ответы, поскольку они спроектированы для предсказания правдоподобного языка, а не детерминированных результатов.
Модели мира предлагают интересный контраст. Вместо того чтобы учиться на тексте, они изучают принципы функционирования мира, что делает их более подходящими для задач, где важны предсказуемое и детерминированное поведение.
Это определило ключевую идею: хорошие инженеры не полагаются на единственный инструмент. LLM, другие модели ИИ, классическое машинное обучение и традиционное программное обеспечение — всему есть свое место. Выбор правильной технологии для конкретной задачи зачастую важнее, чем выбор самой современной.
Кейс от Vention: правильный инструмент — не значит модный
Компания в сфере торговой аналитики обратилась в Vention для создания платформы, генерирующей отчеты по запросу на основе сложных данных о мировой торговле. Исходные записи были обширными, но часто задерживались, были противоречивыми или неполными, поэтому аналитикам требовалось заполнение пропущенных значений без ущерба для прозрачности.
Вместо того чтобы по умолчанию использовать LLM, Vention выбрала градиентный бустинг на деревьях решений. Данные были табличными, и каждое предсказание должно было быть объяснимым и поддающимся аудиту. Обученная на десятилетиях очищенных исторических данных, модель достигла точности более 80% на отложенных записях.
Затем традиционное программное обеспечение проверяло итоговые суммы, расчеты и согласованность данных между графиками и таблицами перед публикацией. Результатом стала система, которая создает полный отчет примерно за пять минут.
Урок прост: начните с требуемого результата и уровня риска, а затем выбирайте подходящую технологию, а не просто самую модную.
4. Аудируемость начинается с вопроса «почему»
Вопрос о руководстве и происхождении данных привел к одной из самых практических дискуссий за круглым столом.
Большинство инженерных организаций уже ведут журналы того, что произошло и когда. Системы ИИ повышают планку. Командам также необходимо фиксировать, кто или что инициировало действие, почему это произошло и какие логические выводы привели к этому.
Один из участников задался вопросом, можно ли манипулировать самими записями аудита. Вместо споров о продуктах дискуссия быстро перешла к фундаментальным принципам. Записи должны быть неизменяемыми и доступными только для записи, а исправления должны добавляться как новые записи, а не как редактирование существующих. Такой подход сохраняет полную историю и позволяет воспроизвести любое решение при необходимости.
В ходе дискуссии неоднократно возникала еще одна идея. Требования к управлению должны определяться до выбора технологий, а не после. Тщательное обдумывание часто приводит к удивительно простым решениям, где ИИ поддерживает систему, а не становится самой системой.
5. Требования к инженерам выше, чем когда-либо
Один посыл последовательно звучал от инженерных руководителей за столом: ИИ не снижает ожидания от инженеров. Он их повышает.
Написания кода уже недостаточно, так как от инженеров все чаще ожидают объяснения своих решений, обоснования компромиссов и прямого общения с заинтересованными сторонами.
Руководитель в сфере маркетинговых технологий
«Даже если они собираются использовать ИИ для рационализации своего мышления, это нормально. Но мне нужно, чтобы вы могли объяснить, почему вы применяете именно такой подход».
Несколько участников описали, как этот сдвиг уже меняет работу команд. Вместо распределения отдельных задач они все чаще передают небольшим командам ответственность за целые функции. Инженеры приходят с рекомендациями, а не ждут инструкций, и суждение становится столь же ценным, как и реализация.
6. Человеческое взаимодействие остается незаменимым
Разговор завершился более широким вопросом: какая часть нашей работы вообще должна быть делегирована?
Один участник признался, что предпочитает использовать ИИ-агента для посредничества в общении с коллегами. Другие возразили. Человеческие отношения раскрывают контекст, который не может полностью уловить ни один набор данных. Ведущий инженер, подумывающий об увольнении, может остаться из-за одного разговора, даже если все доступные метрики показывают, что все в порядке.
Кто-то полушутя предсказал, что подлинное человеческое взаимодействие со временем может стать тем, что люди будут активно искать и за что будут готовы платить больше.
Пожалуй, самый важный вывод того утра был сделан из самой дискуссии. Два часа дебатов, разногласий, любопытства и смеха породили идеи, которые не смогло бы полностью отразить ни одно резюме, созданное ИИ.
ИИ может сделать инженерные команды быстрее и продуктивнее. Защита человеческого суждения, критического мышления и значимого сотрудничества остается нашей ответственностью.
Практические основы внедрения ИИ
В ходе дискуссии были предложены несколько практических основ, которые инженерные руководители могут применить немедленно. Ни одна из них не требует новых инструментов или сложных программ управления. Каждая разработана для укрепления суждений, улучшения согласованности и повышения осознанности при внедрении ИИ.
Основа 1: Начните с намерения, прежде чем делегировать задачи ИИ
Айм, основной докладчик, возвращался к этой дисциплине на протяжении всей дискуссии. Прежде чем передать любую задачу инструменту ИИ, задайте три вопроса по порядку.
- Намерение. Какого результата я пытаюсь достичь и почему? Сосредоточьтесь на том, что действительно должно произойти, а не просто на том, что было бы неплохо иметь.
- Обоснование. Какие шаги и мыслительный процесс должны привести к ответу? Какие доказательства должны его поддерживать? Обоснование строится на основе доказательств. Рационализация же принимает ответ и оправдывает его постфактум.
- Действие. Что нужно сделать и как я проверю результат на соответствие первоначальному намерению, прежде чем предпринимать какие-либо шаги?
Посыл был намеренно скромным. Бизнесу не нужна полная учебная программа по критическому мышлению. Последовательное применение этих трех вопросов может значительно улучшить как качество промптов, так и способ проверки результатов, созданных ИИ.
Основа 2: Установите границы допустимого для каждого сценария использования
Не каждое решение ИИ несет одинаковый уровень риска. Допустимое отклонение зависит от контекста.
- Классифицируйте решение. Является ли результат внешним (для клиентов) или внутренним? Является ли он обратимым? Кто пострадает, если он будет ошибочным? Маркетинговый контент естественным образом допускает большую гибкость, чем советы пациентам или финансовые решения.
- Определите роль человека. Должны ли люди оставаться в процессе, контролировать результат или просто получать уведомления после? Сопоставьте уровень надзора с уровнем риска.
- Установите пороги допустимости перед развертыванием. Основной докладчик сравнил это с согласованием критериев приемки с поставщиком оборудования до первой отгрузки, а не после появления дефектов.
- Пересматривайте эти пороги со временем. Сценарий использования, который начинается как инструмент для внутреннего черновика, может постепенно перейти к принятию решений, влияющих на клиентов. Управление должно развиваться вместе с ним.
Кейс от Vention
Чтобы обеспечить прозрачность доставки с поддержкой ИИ в масштабе, Vention полагается на Vention Forge, свою проприетарную платформу интеллектуальной доставки на базе ИИ. Forge отслеживает, как команды применяют метод BMAD (гибкую методологию разработки на основе ИИ) на протяжении всего жизненного цикла разработки ПО (SDLC), предоставляя руководителям проектов и портфелей наглядную информацию о внедрении ИИ-инструментов, процессах выполнения, моделях продуктивности и результатах реализации.
Фреймворк 3: Создайте контрольный журнал, объясняющий принятие решений
Управление должно быть спроектировано до создания систем, а не добавлено после. Начало с правильных вопросов часто приводит к более простым и эффективным решениям.
- Фиксируйте, что произошло, когда это произошло и что послужило причиной действия.
- Фиксируйте, почему было запрошено действие и кто или что его запросило.
- Регистрируйте обоснование результата, а не только сам результат.
- Связывайте каждое решение с подтверждающими доказательствами, будь то электронное письмо, встреча, документ или сообщение.
- Сохраняйте записи, используя принципы неизменяемости и однократной записи. Исправления должны добавляться как новые записи, а не как правки, чтобы полная история оставалась нетронутой.
- Аудируйте неудачи так же тщательно, как и успехи. Записи, объясняющие, почему что-то пошло не так, часто становятся самыми ценными данными для управления, которыми располагает организация.
Кейс от Vention: Обеспечение прослеживаемости решений о найме
Регулируемая кадровая компания обратилась в Vention, чтобы заменить фрагментированный процесс найма, построенный на электронных письмах, таблицах и ручной проверке документов. Кандидаты должны были предоставлять лицензии, документы, удостоверяющие личность, и другие записи, чувствительные к требованиям соответствия, что делало каждое одобрение объяснимым и обоснованным.
Vention создала структурированный цифровой рабочий процесс с журналами аудита, доступными только для добавления, неизменяемыми записями о согласии и версионным отслеживанием политик. Каждое действие, изменяющее статус кандидата, записывалось с сопутствующими метаданными, что позволяло компании восстановить каждый шаг процесса и проверить, какие проверки были завершены.
Результат был именно тем, чего компания стремилась достичь: более быстрый процесс найма без ущерба для подотчетности.
Фреймворк 4: Используйте инновационные группы с четкими ограничениями
Один из участников описал, как высокорегулируемые инженерные команды создают пространство для экспериментов, не ставя под угрозу управление.
- Формируйте небольшие кросс-функциональные группы из двух или трех инженеров, сосредоточенных на одной четко определенной бизнес-задаче. Относитесь к работе как к проверке концепции, а не как к долгосрочной программе.
- Первый этап посвятите согласованию инженерных основ, включая принципы проектирования, стандарты кодирования и архитектурные шаблоны. Эти ограничения станут фундаментом для всего последующего.
- Дайте команде свободу внедрять инновации в этих рамках. Инженерное мастерство становится основным механизмом контроля, а не дополнительные процессы соответствия.
- Отделите эксперименты от управления. Несколько участников утверждали, что инновации и контроль вступают в конфликт, если их принудительно объединяют в одну фазу. Сначала исследуйте, затем оценивайте, а потом повторяйте цикл.
- Независимо от результата проверки концепции, организация сохраняет более сильные инженерные практики. Даже неудачные эксперименты делают команду лучше подготовленной к будущей работе.
Три практических шага
1. Определите приемлемые результаты
Выберите один сценарий использования ИИ с высоким эффектом и напишите одно предложение с заявлением о допустимых отклонениях. Уточните, какой уровень вариативности приемлем, где в процессе находится человек и основан ли этот сценарий на доказательствах или на надеждах.
2. Поднимите планку для работы с поддержкой ИИ
Обновите свое определение «готовности» для работы с поддержкой ИИ. Инженеры должны уметь объяснить намерение, обоснование, доказательства, стоящие за результатом, и почему они доверяют ему, вместо того чтобы просто представлять конечный результат.
3. Проверьте свой контрольный журнал
Оцените одну ИИ-инициативу на соответствие описанному выше фреймворку контрольного журнала. Если вы записываете только то, что произошло, а не почему, у вас есть наблюдаемость без подотчетности.
Кейс от Vention: От экспериментов с ИИ к общей инженерной практике
Один из крупных финтех-клиентов Vention уже оснастил своих инженеров ИИ-инструментами, обучением и возможностями для экспериментов, но внедрение оставалось индивидуальным и непоследовательным. Отсутствовали общие рабочие процессы, повторно используемые практики и надежные показатели успеха.
Vention помогла превратить эти эксперименты в структурированную трансформацию в трех пилотных командах. Программа внедрила общие практики ИИ, более качественную документацию, разработку на основе спецификаций, повторно используемые инструкции и систематический обмен знаниями. Вместо того чтобы рассматривать ИИ как внедрение инструментов, организация начала встраивать его в то, как инженерные команды планируют, сотрудничают и поставляют продукты.
Инициатива все еще находится на ранних стадиях, и продуктивность остается в исторических пределах. Ощутимые бизнес-результаты ожидаются через 9-12 месяцев устойчивого внедрения. Часть урока заключается в том, что значимая трансформация ИИ начинается с дисциплинированных изменений в инженерной практике, в то время как бизнес-результаты приходят со временем.
Где место Vention
Круглый стол пришел к четкому выводу: успешное внедрение ИИ зависит от инженерной дисциплины так же сильно, как и от технологий.
Выбор новейшей модели — это лишь часть уравнения. Длительные результаты приходят благодаря четкой ответственности, сильным инженерным практикам, управлению, встроенному в доставку, и человеческому суждению на каждом этапе, где важны решения.
Vention применяет эти принципы через свой подход к разработке ПО с поддержкой ИИ. ИИ встроен во весь жизненный цикл разработки ПО для поддержки планирования, разработки, тестирования и проверки кода, в то время как инженеры остаются ответственными за архитектуру, компромиссы, валидацию и бизнес-результаты.
Каждое взаимодействие начинается с бизнес-задачи, прежде чем рассматриваются технологии. Семинары по изучению ИИ помогают организациям выявить практические возможности, определить приемлемые уровни риска и установить ограничения, необходимые для ответственного внедрения. Те же принципы лежат в основе работы наших специализированных инженерных команд и услуг по предоставлению персонала, внедряя ИИ там, где он создает измеримую ценность, сохраняя при этом ответственность людей за важные решения.
Цель проста: помочь организациям создавать команды разработчиков ПО, которые работают быстрее, сохраняют качество и поддерживают человеческое суждение, от которого зависит качественная инженерия.
Превратите внедрение ИИ в инженерное преимущество.
Узнайте, как Vention помогает организациям интегрировать ИИ в жизненный цикл разработки ПО, не жертвуя качеством инженерии, управлением или человеческим суждением.
