Наталия Анон, основатель и генеральный директор Svitla Systems, приняла участие в мероприятии на площадке Nasdaq MarketSite на Таймс-сквер, чтобы обсудить проблему, над решением которой все еще работает большинство компаний: как масштабировать ИИ ответственно. Она присоединилась к ведущей Джилл Маландрино и Эндрю Кристиану Дэвису из Edin Capital на шоу Nasdaq TradeTalks, которое собирает лидеров, работающих на стыке передовых технологий, регулирования и рынков капитала.
Наталия Анон обладает более чем 20-летним опытом создания Svitla Systems, поэтому, хотя большая часть дискуссий об ИИ сегодня строится на шумихе, она опирается на практический опыт реализации.
В ходе интервью Наталия рассказала о том, как компании получают реальную отдачу от ИИ, как они справляются с вопросами комплаенса и управления, а также где реально кроется рост.
Ценность должна быть измеримой до начала масштабирования
ИИ — это новая операционная система современного бизнеса. Он повышает производительность, увеличивает выручку и помогает компаниям завоевывать долю рынка. Он также стоит дорого, и многие проекты в сфере ИИ никогда не окупают вложенные средства. Этот разрыв между обещаниями и окупаемостью — главная причина неудач большинства инициатив.
Важно начать с малого и сначала доказать ценность. Запустите пилотный проект. Убедитесь, что проект приносит измеримый результат, прежде чем выделять реальный бюджет.
Причина кроется в том, чем ИИ отличается от обычного программного обеспечения. Создавая веб-сайт, вы знаете конечный продукт с самого начала. Обучая модель, вы преследуете цель — например, 90-процентную точность, которую нельзя гарантировать до тех пор, пока вы не создадите решение и не пройдете через цикл итераций. Эта неопределенность — главная причина, почему окупаемость инвестиций (ROI) должна стоить во главе угла. Модель, которая не оправдывает свою стоимость, не является проектом, достойным масштабирования.
ИИ должен расширять возможности людей, а не вытеснять их
Второй принцип, которого Svitla Systems придерживается в каждом проекте, — это антропоцентричный дизайн. ИИ работает лучше всего тогда, когда он помогает людям лучше справляться со своей работой.
Это скорее ограничение дизайна, чем тема для разговоров. Оно меняет то, что создает команда и как она определяет объем работ. Модель существует для того, чтобы повышать качество работы, которую человек уже выполняет, сохраняя человека в центре процесса, а не на его периферии. Ценность и люди — это два якоря, к которым Svitla Systems возвращается в каждом проекте по ИИ, и они взаимно поддерживают друг друга.
Управление — это то место, где кроется преимущество
Ответственный ИИ часто воспринимается как затраты. На самом деле это скорее защитный барьер. Система ИИ одновременно взаимодействует с компанией, ее клиентами и сотрудниками, поэтому даже единичный сбой в вопросах справедливости, конфиденциальности или точности может нанести непоправимый ущерб репутации и привлечь внимание регуляторов.
Прозрачность — это выход из ситуации. Документируйте принцип работы решения, чтобы его можно было проверить, и происходит нечто полезное: клиенты сами начинают запрашивать эту документацию, и возможность предоставить ее становится причиной, по которой они выбирают вас. Компании, которые встраивают управление в сам продукт, завоевывают доверие, которое конкуренты не смогут легко скопировать.
Для создания хороших правил госсектор и частный бизнес должны сидеть за одним столом
Масштабирование ИИ в масштабах всей организации означает внедрение управления по ходу дела, и эта работа зависит от государственно-частного партнерства. Конференция в Стэнфорде прошедшей весной служит отличным примером, объединив правительство и бизнес для обмена опытом, который приобретает каждая из сторон.
Разрыв, который устраняют подобные беседы, огромен. Правила уже существуют, но то, как их применять, редко прописывается подробно, поэтому компаниям приходится разбираться во всем самостоятельно. Регуляторам, в свою очередь, необходимы исследования и кейсы из индустрии, чтобы понимать, когда действовать. Своевременность имеет такое же значение, как и сами правила. Действуйте слишком рано или слишком жестко, и вы затормозите именно ту работу, которую собирались стимулировать. Правила также должны защищать малых игроков, а не превращаться в бюрократическую волокиту, закрывающую им доступ на рынок.
Местные правила определяют географию распространения решения
Каждый новый рынок диктует новые правила, и эта реальность определяет то, как должна быть построена система ИИ. Евросоюз первым начал регулирование в сфере ИИ. В США финансовый сектор уже работает в условиях жестких требований, и Svitla Systems помогает одному из клиентов из этой сферы приводить свое ИИ-решение в соответствие с ними.
При выходе на европейский рынок GDPR полностью меняет подход к проектированию: штрафы за нарушения могут достигать до 4% от годового глобального оборота компании.
Здесь компанию защищают два шага. Привлечение экспертов, знающих местное законодательство, поскольку они позволяют избежать незаметных на первый взгляд ошибок. И модульная архитектура с самого начала, чтобы единое решение масштабировалось на разные рынки, а не пересоздавалось заново для каждого из них.
Комплаенс — это привычка
Комплаенс — это не то, что можно завершить один раз и навсегда. В столь быстро меняющемся рынке он требует постоянного внимания, особенно когда компания выходит в новые регионы, где правила все еще пишутся.
Большинство компаний не имеют внутренних ресурсов, чтобы успевать за изменениями. Именно поэтому умные игроки привлекают внешнюю экспертизу для проектирования с учетом требований комплаенса и поддержания их актуальности по мере появления новых регламентов.
Этичное лидерство означает способность задавать сложные вопросы в первую очередь
Два десятилетия создания компании сформировали стиль руководства Наталии Анон, и как женщина-основатель она говорит об этом прямо. Этичное лидерство означает постановку неудобных вопросов до того, как система будет запущена, а не после того, как она нанесет вред.
Кому приносит пользу этот ИИ? Никого ли он не ущемляет? Кому он может навредить? Кто находился в комнате в момент его проектирования? Эти ответы должны быть честными, а процесс проектирования должен включать всех, кого затрагивает система — от рядовых сотрудников до менеджеров и руководителей компании.
Финальная проверка носит как деловой, так и человеческий характер. Снижает ли система затраты и повышает ли производительность? Решены ли вопросы конфиденциальности? Справедлива ли она как по отношению к сотрудникам, так и к клиентам? Этичный ИИ должен приносить пользу людям, которые им пользуются, клиентам, которые на него полагаются, и окружающему его обществу. Все, что меньше этого, не стоит запускать.
Покупатели уже требуют этого
Компании становятся все более открытыми к вопросам управления и комплаенса, а не наоборот. В финансовом секторе, где соблюдение нормативных требований является обязательным условием, клиенты сами обращаются за советом, а не сопротивляются ему.
Этот спрос — четкий сигнал. Ответственный ИИ перестал быть просто хорошей идеей и превратился в то, что покупатели заказывают по имени. Компании, которые изначально закладывают систему управления в свой продукт, оказываются в более выгодной позиции для масштабирования.
