Наталия Анон, основатель и генеральный директор Svitla Systems, посетила студию Nasdaq MarketSite на Таймс-сквер, чтобы обсудить проблему, над которой сейчас работают большинство компаний: как ответственно масштабировать ИИ. Она присоединилась к ведущей Джилл Маландрино и Эндрю Кристиану Дэвису из Edin Capital в программе Nasdaq TradeTalks — шоу, в котором участвуют лидеры, работающие на стыке новых технологий, регулирования и рынков капитала.
Наталия Анон обладает более чем 20-летним опытом создания Svitla Systems, поэтому, пока многие разговоры об ИИ сегодня строятся на хайпе, она сохраняет прагматичный подход к тому, что необходимо для достижения реальных результатов.
В ходе интервью Наталия рассказала о том, как компании получают реальную отдачу от ИИ, как они справляются с вопросами комплаенса и управления, и где на самом деле скрыт потенциал роста.
Ценность должна быть измеримой до начала масштабирования
ИИ — это новая операционная система современного бизнеса. Он повышает производительность, увеличивает выручку и помогает компаниям завоевывать долю рынка. Но это также дорого, и многие проекты в области ИИ никогда не окупают затраты. Разрыв между обещаниями и окупаемостью — это то, где терпит неудачу большинство начинаний.
Важно начинать с малого и сначала доказать ценность. Проведите пилотный проект (PoC). Убедитесь, что проект приносит измеримый результат, прежде чем выделять реальный бюджет.
Причина кроется в том, как ИИ отличается от обычного программного обеспечения. Создавая веб-сайт, вы знаете, каким будет готовый продукт с самого начала. Обучая модель, вы преследуете цель — скажем, 90% точности, — которую невозможно гарантировать, пока вы не создадите решение и не начнете его итеративно улучшать. Именно эта неопределенность требует, чтобы рентабельность (ROI) была главным критерием. Модель, которая не может оправдать свою стоимость, не является проектом, который стоит масштабировать.
ИИ должен помогать людям, а не вытеснять их
Второй принцип, которого Svitla Systems придерживается в каждом проекте, — это человекоцентричный дизайн. ИИ работает лучше всего, когда он помогает людям эффективнее выполнять свою работу.
Это скорее ограничение дизайна, чем просто слова. Оно меняет то, что создает команда, и то, как она определяет объем работ. Модель существует для того, чтобы повысить качество работы, которую человек уже выполняет, что оставляет человека в центре процесса, а не на его периферии. Ценность и люди — это два якоря, к которым Svitla Systems возвращается в каждом проекте по ИИ, и они поддерживают друг друга.
Управление — это то, где скрыто преимущество
Ответственный ИИ часто воспринимается как затраты. На самом деле это скорее защитный барьер. Система ИИ одновременно взаимодействует с компанией, ее клиентами и сотрудниками, поэтому любая ошибка в вопросах справедливости, конфиденциальности или точности может нанести непоправимый репутационный ущерб и привлечь внимание регуляторов.
Прозрачность — это выход. Документируйте работу решения, чтобы его можно было проверить, и произойдет нечто полезное: клиенты сами начнут запрашивать эту документацию, и возможность ее предоставить станет причиной, по которой они выберут именно вас. Компании, которые встраивают управление в продукт, завоевывают доверие, которое конкурентам нелегко скопировать.
Для хороших правил нужны диалог государственного и частного секторов
Масштабирование ИИ в организации означает внедрение управления по мере развития, и эта работа зависит от государственно-частного партнерства. Конференция в Стэнфорде прошлой весной стала полезной моделью, собрав представителей власти и бизнеса для обмена опытом.
Разрыв, который устраняют такие дискуссии, огромен. Регулирование уже существует, но способы его реализации редко прописаны четко, поэтому компаниям приходится разбираться во всем самостоятельно. Регуляторам, в свою очередь, нужны исследования и кейсы из индустрии, чтобы понимать, когда действовать. Своевременность так же важна, как и сами правила. Если действовать слишком рано или слишком жестко, можно замедлить именно ту работу, которую вы хотели поощрить. Правила также должны защищать более мелких игроков, а не превращаться в бюрократию, которая закрывает им доступ на рынок.
Местные правила определяют границы распространения решения
Каждый новый рынок приносит новые правила, и эта реальность определяет, как должна быть построена система ИИ. ЕС первым начал регулирование ИИ. В США финансовые услуги уже работают в рамках реальных требований, и Svitla Systems помогает клиенту в этом секторе привести свое ИИ-решение в соответствие с ними.
При выходе на рынок Европы GDPR полностью меняет подход к дизайну, а штрафы могут достигать 4% от годового мирового оборота в зависимости от нарушения.
Два шага защищают компанию в этой ситуации. Привлекайте экспертов, которые знают местные правила, потому что они заметят ошибки, которые вы можете упустить. И с самого начала стройте систему модульной, чтобы одно решение масштабировалось на разные рынки, а не перестраивалось для каждого из них.
Комплаенс — это привычка
Комплаенс — это не то, что можно закончить. На рынке, который меняется так быстро, это требует постоянного внимания, особенно когда компания выходит в новые регионы, где правила еще только пишутся.
У большинства компаний нет внутренних ресурсов, чтобы поспевать за изменениями. Вот почему умные компании привлекают внешнюю экспертизу для проектирования с учетом комплаенса и поддержания актуальности по мере появления новых норм.
Этичное лидерство означает сначала задавать сложные вопросы
Два десятилетия создания компании сформировали стиль руководства Наталии Анон, и как женщина-основатель она говорит об этом прямо. Этичное лидерство означает задавать неудобные вопросы до того, как система будет запущена, а не после того, как она причинит вред.
Кому приносит пользу этот ИИ? Не ущемляет ли он кого-то? Кому он может навредить? Кто присутствовал при его разработке? Ответы должны быть честными, а процесс проектирования должен включать всех, кого затрагивает система: от рядовых сотрудников до менеджеров и руководителей компании.
Финальный тест — это одновременно бизнес-задача и человеческий фактор. Снижает ли система затраты и повышает ли производительность? Учтены ли вопросы конфиденциальности? Справедлива ли она по отношению к сотрудникам и клиентам? Этичный ИИ должен приносить пользу тем, кто его использует, клиентам, которые от него зависят, и сообществам вокруг него. Все, что меньше этого, не стоит выпускать.
Покупатели уже спрашивают об этом
Компании становятся все более восприимчивыми к вопросам управления и комплаенса. В финансовом секторе, где соблюдение нормативных требований является обязательным, клиенты сами обращаются за советом, а не сопротивляются ему.
Этот спрос — четкий сигнал. Ответственный ИИ перестал быть просто хорошей идеей и стал тем, что покупатели запрашивают напрямую. Компании, которые встраивают управление в продукт с самого начала, получают более сильные позиции для масштабирования.
