Многие потребители по-прежнему скептически относятся к тому, можно ли доверять полностью цифровым финансовым провайдерам в вопросах ответственного использования ИИ. Наш недавний опрос показал, что потребители в четыре раза чаще доверяют традиционным банкам, чем чисто цифровым финансовым приложениям, когда речь заходит об ответственном использовании ИИ (24% против 6%).
Вот еще несколько выводов из нашего опроса потребителей финтех-услуг.
*Под полностью цифровыми финтех-компаниями мы подразумеваем поставщиков финансовых технологий, которые работают исключительно через цифровые каналы без физических отделений.
Ключевые выводы:
- Хотя 44% потребителей доверяют и тем, и другим в равной степени, традиционным банкам все же отдают предпочтение в 4 раза чаще, чем чисто цифровым приложениям, в вопросах ответственного использования ИИ (24% против 6%).
Хотя 44% потребителей доверяют и тем, и другим в равной степени, традиционным банкам все же отдают предпочтение в 4 раза чаще, чем чисто цифровым приложениям, в вопросах ответственного использования ИИ (24% против 6%).
- 53% потребителей не уверены, что их провайдер сможет отличить их от ИИ-имитатора.
53% потребителей не уверены, что их провайдер сможет отличить их от ИИ-имитатора.
- 66% чувствуют себя некомфортно, позволяя ИИ-агенту переводить деньги без подтверждения каждой транзакции в отдельности.
66% чувствуют себя некомфортно, позволяя ИИ-агенту переводить деньги без подтверждения каждой транзакции в отдельности.
- 72% потребителей сменили бы провайдера, если бы их приложение отставало в защите от мошенничества с использованием ИИ-агентов.
72% потребителей сменили бы провайдера, если бы их приложение отставало в защите от мошенничества с использованием ИИ-агентов.
Почему потребители меньше доверяют ИИ в чисто цифровых компаниях
У чисто цифровых приложений нет многолетней истории бренда, которая есть у традиционных банков. Традиционные банки также, как правило, более строго регулируются. Подтверждение того, что лицензированные банки находятся под прямым федеральным надзором, в то время как многие финтех-компании не являются учреждениями с федеральным страхованием.
Вдобавок ко всему, внедрение ИИ происходит быстрее, чем большинство потребителей успевают его оценить. Данные нашего опроса показывают, что только 6% потребителей доверяют чисто цифровому провайдеру больше, чем традиционному банку в вопросах ответственного использования ИИ, по сравнению с 24%, которые больше доверяют традиционному банку.
Эти данные согласуются с более широким скептицизмом потребителей по отношению к ИИ. Хотя внедрение ИИ растет, доверие к нему не демонстрирует такой же восходящей тенденции. Исследование показало, что 66% людей сейчас регулярно используют ИИ, но только 46% доверяют ему. Американцы, как правило, еще более скептичны. Данные показывают, что только 32% американцев доверяют ИИ по сравнению с 72% в Китае. Исследование Edelman также показало, что только 32% американцев чувствуют себя комфортно, когда компании вообще используют ИИ.
Страх перед агентным ИИ уже стал триггером для смены провайдера
Исследование Fastly показало, что более половины потребителей — 53% — не уверены, что их провайдер сможет отличить их от ИИ, имитирующего их действия. А 66% говорят, что им некомфортно позволять ИИ-агенту переводить их деньги без подтверждения каждой транзакции в отдельности.
Агентный ИИ также почти не оставляет места для ошибок. 72% потребителей говорят, что сменили бы провайдера, если бы их финансовое приложение отставало от конкурентов в защите от мошенничества с использованием ИИ-агентов.
Банки осознают, что обнаружение мошенничества с помощью ИИ является ключевой проблемой и создает серьезные трудности для отрасли. Независимое исследование BioCatch показало, что 72% руководителей банков ожидают, что будет очень сложно отличить законную активность ИИ от вредоносной.
Как Fastly может помочь
Страх перед агентным ИИ, выраженный респондентами в нашем опросе, демонстрирует, что потребителей беспокоит ответственное использование ИИ, ошибки, совершаемые ИИ, и мошенничество с помощью ИИ. Инвестиции в гибкие, высокоточные решения безопасности, которые также включают функции, помогающие контролировать и управлять использованием ИИ, становятся все более важными. Финтех-компаниям необходимо контролировать использование «теневого» ИИ, чтобы это не приводило к дополнительным проблемам с безопасностью или расходами. Fastly предлагает продукты, которые помогают командам управлять и контролировать внутреннее использование ИИ и предотвращать атаки с его помощью:
- Fastly AI Firewall проверяет каждый запрос и ответ, проходящий через AI Runtime Control, на предмет инъекций промптов и изолирует ненадежные входные данные, чтобы вредоносный тикет в службу поддержки или просканированная веб-страница не могли незаметно переопределить инструкции агента.
Fastly AI Firewall проверяет каждый запрос и ответ, проходящий через AI Runtime Control, на предмет инъекций промптов и изолирует ненадежные входные данные, чтобы вредоносный тикет в службу поддержки или просканированная веб-страница не могли незаметно переопределить инструкции агента.
- Fastly API Security проверяет параметры запроса на соответствие контракту API, который вы уже опубликовали. Агент, скомпрометированный или нет, не может вызвать эндпоинт, которого нет в вашей спецификации, или передать параметр за пределами определенных границ; все, что не соответствует требованиям, регистрируется или блокируется на границе сети, прежде чем попадет к вашему источнику.
Fastly API Security проверяет параметры запроса на соответствие контракту API, который вы уже опубликовали. Агент, скомпрометированный или нет, не может вызвать эндпоинт, которого нет в вашей спецификации, или передать параметр за пределами определенных границ; все, что не соответствует требованиям, регистрируется или блокируется на границе сети, прежде чем попадет к вашему источнику.
- Fastly AI Runtime Control помещает каждый вызов модели за виртуальный ключ для каждого агента с собственным ограничением скорости и лимитом расходов. Агент, который начинает зацикливаться, эскалировать вызовы или тратить средства сверх обычного шаблона, достигает своего собственного потолка, вместо того чтобы вывести из строя что-то еще.
Fastly AI Runtime Control помещает каждый вызов модели за виртуальный ключ для каждого агента с собственным ограничением скорости и лимитом расходов. Агент, который начинает зацикливаться, эскалировать вызовы или тратить средства сверх обычного шаблона, достигает своего собственного потолка, вместо того чтобы вывести из строя что-то еще.
Готовы узнать, как потребители относятся к ИИ, мошенничеству и доверию в финансовых услугах? Загрузите полный отчет об опросе потребителей финтех-услуг.












