ПРОСЛУШАТЬ • 13 минут
Основные выводы
- ИИ сделал сложный вид мошенничества доступным для каждого, снизив порог входа даже для малоподготовленных преступников.
ИИ сделал сложный вид мошенничества доступным для каждого, снизив порог входа даже для малоподготовленных преступников.
- Инструменты обнаружения теряют до 50% своей точности вне лаборатории, а люди больше не могут надежно распознавать клонированный голос.
Инструменты обнаружения теряют до 50% своей точности вне лаборатории, а люди больше не могут надежно распознавать клонированный голос.
- Внедрение защиты от мошенничества на уровне инфраструктуры — это единственная защита, эффективность которой не снижается по мере совершенствования ИИ.
Внедрение защиты от мошенничества на уровне инфраструктуры — это единственная защита, эффективность которой не снижается по мере совершенствования ИИ.
Цифры поражают воображение и продолжают расти. Согласно последнему отчету об интернет-преступности ФБР, в 2025 году американцы заявили об убытках от киберпреступности на сумму почти 21 миллиард долларов, что является самым высоким показателем за всю историю наблюдений.
Впервые ежегодный отчет ФБР включает мошенничество с использованием ИИ в качестве отдельной категории, что сигнализирует о переходе искусственного интеллекта от вспомогательного инструмента к центральному двигателю современного криминала. И эта тенденция только ускоряется: по данным платформы мониторинга мошенничества Chainabuse, количество сообщений о мошенничестве с использованием генеративного ИИ в период с мая 2024 по апрель 2025 года выросло на 456% по сравнению с предыдущим годом.
Мы проигрываем гонку вооружений — не потому, что у защитников не хватает интеллекта или ресурсов, а потому, что эта асимметрия носит структурный характер. Преступники по своей природе являются пионерами внедрения. Они экспериментируют, делятся методами и внедряют инновации быстрее, чем регуляторы или защитники успевают реагировать. ИИ предоставил им мощный множитель силы.
Новый арсенал злоумышленников
Новый арсенал злоумышленников
Чтобы понять масштабы проблемы, необходимо осознать, насколько драматично ИИ снизил порог входа для мошенничества.
Клонирование голоса — пожалуй, самый яркий пример. Исследователи из McAfee Labs выяснили, что всего трех секунд аудио достаточно для создания клона голоса с точностью 85%. Сивей Лю, профессор компьютерных наук и инженерии в Университете в Буффало, недавно заявил, что клонирование голоса преодолело «порог неотличимости», когда человеческое ухо больше не может надежно отличить клонированный голос от реального. «Перцептивные маркеры, по которым раньше можно было узнать синтетические голоса, в основном исчезли», — написал Лю в издании The Conversation.
Дипфейк-видео превратились из очевидных подделок в интерактивные аватары в реальном времени. Самый изучаемый случай десятилетия: британская инженерная фирма Arup стала жертвой в 2024 году, когда финансовый сотрудник в Гонконге одобрил 15 банковских переводов во время того, что выглядело как обычный видеозвонок с финансовым директором и несколькими коллегами. Каждый участник этого звонка — за исключением жертвы — был сгенерированным ИИ дипфейком. Инцидент не удавалось обнаружить в течение нескольких недель.
Фишинг на базе ИИ устранил явные признаки, по которым раньше можно было распознать мошенничество. Прошли времена грамматических ошибок и неуклюжих формулировок, на которые полагались устаревшие почтовые фильтры и системы обучения безопасности. Более 82% фишинговых писем теперь создаются с помощью ИИ. Исследователи из IBM сказали, что они обманули ИИ, заставив его создать убедительные фишинговые письма всего за пять минут.
Мошенничество с синтетическими идентификационными данными происходит, когда преступники создают гибридную личность из смеси реальных и фальшивых данных. Например, они могут начать со взломанного номера социального страхования, сгенерировать полный пакет личных данных, а затем массово автозаполнять заявки на открытие новых счетов. К 2025 году примерно 60% предполагаемых убытков от мошенничества приходилось на серийное и синтетическое мошенничество, что представляет собой полную противоположность ситуации всего четырьмя годами ранее, когда доминировало традиционное подделывание документов.
А какова стоимость входа? Новый фишинговый комплект под названием DarkVault поставляется с помощником на базе ИИ, шаблонами веб-сайтов, клонированием голоса, автоматической покупкой доменов и многим другим, по цене менее 100 долларов за семидневную подписку. Вы можете купить программное обеспечение, обходящее обнаружение изображений и видео ИИ, за 800 долларов. Подписка на «темную LLM», такую как WormGPT, согласно сообщениям, начинается от 50 долларов в месяц.
Мошенники делятся методами. Защитники в основном — нет. Эта асимметрия является одним из наиболее уязвимых пробелов в текущей экосистеме.
Мошенники делятся методами. Защитники в основном — нет. Эта асимметрия является одним из наиболее уязвимых пробелов в текущей экосистеме.
Почему защитники отстают
Почему защитники отстают
Преступники являются оппортунистическими ранними последователями. Когда появляется новая модель ИИ, преступные форумы начинают тестировать ее возможности для мошенничества уже через несколько дней. Защитники, напротив, действуют в рамках институциональных ограничений, которые замедляют внедрение контрмер. ИИ продвинулся «ближе к центру атакующего рабочего процесса», отметили аналитики Palo Alto Networks.
И разрыв в обнаружении увеличивается. Рынок инструментов для обнаружения ИИ растет на 28–42% ежегодно. Это звучит отлично, пока вы не учтете, что сама угроза в ключевых регионах растет на 900% и более, согласно данным DeepStrike. И когда вы переносите эти защитные инструменты из контролируемой лаборатории в реальные условия, их эффективность падает на 50%.
Наконец, правовая база не поспевает за изменениями. Многие инструменты, используемые в киберпреступности, такие как языковые модели, клонирование голоса и генерация изображений, также имеют легитимное бизнес-применение, что усложняет правоприменение. То, что разрешено законом, варьируется в зависимости от страны, и некоторые формы обмана с использованием ИИ могут не криминализироваться повсеместно, создавая безопасные гавани для злоупотреблений.
5 шагов, которые должен предпринять технологический мир
5 шагов, которые должен предпринять технологический мир
Эту проблему не способна решить в одиночку ни одна отдельная компания, правительство или технология. Она требует скоординированного многоуровневого отклика всей индустрии. Вот с чего нужно начать:
1. Встроить защиту на базе ИИ на уровень инфраструктуры
Самые долговечные средства защиты не будут находиться на конечных устройствах. Они будут встроены в саму коммуникационную инфраструктуру. Телекоммуникационные провайдеры, облачные платформы и поставщики API имеют уникальные возможности для обнаружения и блокирования мошенничества с использованием ИИ на сетевом уровне, прежде чем оно достигнет человека-цели.
Такие технологии, как сетевая аутентификация, брендированные звонки и API сигналов мошенничества в реальном времени, позволяют проверять легитимность коммуникаций до того, как они дойдут до потребителей. Когда обнаружение мошенничества встроено в каналы связи, а не прикручено на уровне приложений, его становится гораздо сложнее обойти. Индустрии необходимо ускорить развертывание этих возможностей и сделать их доступными для бизнеса любого масштаба.
2. Перейти от обнаружения к процессуальной устойчивости
Любая стратегия безопасности, полагающаяся исключительно на обнаружение дипфейков, обречена на провал. Точность обнаружения резко падает в реальных условиях, а сама технология будет становиться все более изощренной в уклонении от обнаружения. Стратегический фокус должен сместиться с вопроса «можем ли мы обнаружить подделку?» на вопрос «создали ли мы процессы, которые устойчивы, даже если мы не можем ее обнаружить?»
Это означает создание протоколов внеполосной верификации для запросов с высокими ставками: подтверждение по второму каналу перед любым банковским переводом, общее кодовое слово для срочных сообщений руководству, обязательный обратный звонок на известный номер перед выполнением любых голосовых инструкций. Эти процедурные средства контроля являются низкотехнологичными, высокоэффективными и не теряют актуальности по мере развития ИИ.
3. Рассматривайте безопасность ИИ как ответственность за продукт
Компании, создающие модели ИИ, которые мошенники превращают в оружие, несут ответственность за то, чтобы злоупотребления стали более сложными. Это означает инвестиции в защитные механизмы, которые действительно трудно обойти, а не просто условия обслуживания, которые злоумышленники игнорируют. Это означает создание возможностей обнаружения в самих моделях, например, нанесение водяных знаков на контент, созданный ИИ, выявление шаблонов использования с высоким уровнем риска и обмен информацией об угрозах с правоохранительными органами.
Экосистема ИИ с открытым исходным кодом создает здесь особую проблему. Индустрии необходимы честные дискуссии о компромиссах между открытостью и безопасностью, и регуляторы должны быть частью этого диалога.
Каковы лучшие стратегии Zero Trust?
Вместо универсальных правил доступа реагируйте на угрозы по мере их возникновения, используя данные в реальном времени из самой сети.
4. Создавайте общие сети обмена информацией о мошенничестве
Мошенники делятся методами. Защитники — в основном нет. Эта асимметрия является одним из наиболее уязвимых пробелов в текущей экосистеме. Синтетическая личность, которая получает отказ в одном банке, просто переходит в другой. Фишинговый комплект, заблокированный одним провайдером электронной почты, развертывается через другого.
Решением являются доверенные сети предотвращения мошенничества, где организации могут безопасно обмениваться сигналами об угрозах без раскрытия конкурентных или клиентских данных. Отрадно, что 51% of consumers say они согласны добровольно и безопасно делиться своими данными с такими сетями, если они используются исключительно для предотвращения мошенничества, — это сигнал о том, что общественность осознает ставки и готова участвовать в коллективной обороне.
5. Инвестируйте в устойчивость человека, а не только в техническую защиту
Только технологии не выиграют эту борьбу. Самый изощренный дипфейк в мире все равно требует действий человека. Это означает, что обучение основам информационной безопасности должно эволюционировать от «обнаружения фишингового письма» до «понимания тактик психологических манипуляций, которые делает возможными ИИ».
Мошенничества с использованием ИИ 4.5x more profitable традиционного мошенничества, согласно данным блокчейн-платформы Chainalysis. Они эксплуатируют когнитивные искажения, такие как авторитет, срочность, страх и доверие, в массовом масштабе и с персоналом, который ранее был невозможен. Защитникам необходимо обучать людей не только распознавать технические тревожные сигналы, но и делать паузы, проверять и противостоять эмоциональному давлению, для создания которого специально разработана социальная инженерия на базе ИИ.
Как Vonage дает отпор
Как Vonage дает отпор
В Vonage мы верим, что наиболее эффективные средства защиты от мошенничества встроены в сам уровень связи, а не добавлены после факта. Наш пакет Vonage Protection Suite разработан именно на этом принципе: защита от мошенничества на базе сети, которая останавливает атаки до того, как они достигнут ваших клиентов.
Branded Calling напрямую противодействует одному из самых опасных векторов мошенничества с использованием ИИ — выдаче себя за другое лицо. Отображая название вашего бренда, логотип и цель звонка при каждом исходящем вызове, Branded Calling делает практически невозможным для мошенников убедительно выдавать себя за ваш бизнес. Мошенники любят анонимность; Branded Calling отнимает ее. Клиенты, которые видят на своем экране подтвержденную личность бренда, гораздо реже поддаются на поддельный звонок и гораздо чаще отвечают на легитимный.
Vonage Verify API с Silent Authentication устраняет уязвимости OTP, которые эксплуатирует социальная инженерия на базе ИИ. Вместо отправки одноразового пароля, который может быть перехвачен, получен с помощью фишинга или изменен, Silent Authentication проверяет пользователей невидимым образом через подключение к мобильной сети — без кодов, без лишних шагов, без поверхности атаки для мошенников. Результат: увеличение конверсии регистраций до 26%, в 4 раза более быстрая аутентификация и 100% устранение атак социальной инженерии на основе OTP. Lydia, один из самых быстро растущих необанков Европы, внедрила Silent Authentication для защиты своих 8 миллионов пользователей и зафиксировала сокращение времени аутентификации на 50% наряду с резким падением числа случаев мошенничества с фальшивыми консультантами.
Identity Insights интегрирует телекоммуникационную аналитику в реальном времени непосредственно в модели рисков. Обнаружение SIM Swap определяет, когда телефонный номер был недавно перенесен на новую SIM-карту (что часто является верным признаком мошенничества с захватом аккаунта), и позволяет компаниям блокировать подозрительные транзакции до их завершения. Subscriber Match проверяет личность пользователя по данным мобильной сети, останавливая синтетические личности в момент онбординга. Number Format очищает телефонные номера, исправляя ошибки форматирования до того, как они будут сохранены в вашей базе данных. А Carrier ID снижает риск мошенничества за счет проверки текущего и исходного оператора связи, а также типа сети. Это сигналы, к которым доступ имеет только провайдер с нативной поддержкой сети, и они представляют собой принципиально иной класс защиты от мошенничества, чем все, что может предложить ОТТ-провайдер.
Vonage Fraud Defender обеспечивает мониторинг, оповещение и блокировку в реальном времени для трафика SMS, Voice и Verify, защищая компании от искусственно раздутого трафика (AIT), SMS-пампинга и других видов масштабного коммуникационного мошенничества. С момента запуска Fraud Defender Advanced клиенты Vonage совокупно сэкономили миллионы на убытках от мошенничества, причем большинство клиентов достигают окупаемости (ROI) в течение 60 дней после внедрения.
Общая черта всех этих решений заключается в том, что они работают на сетевом уровне, используя аналитику мобильных операторов, которую мошенники не могут подделать, сфальсифицировать или обойти даже с помощью самых изощренных инструментов ИИ. Будучи частью Ericsson, Vonage имеет уникальные возможности для предоставления этой безопасности телекоммуникационного уровня разработчикам и предприятиям по всему миру с помощью простых программируемых API.
Ставки выше, чем деньги
Ставки выше, чем деньги
Возкусно представить это как финансовую проблему, и цифры, безусловно, оправдывают тревогу. Но последствия идут глубже.
Когда потребители больше не могут быть уверены в том, что голос в телефоне настоящий или что письмо от их банка является легитимным, основы цифровой коммерции начинают разрушаться. Доверие — это невидимая инфраструктура, которая заставляет функционировать современную экономику. Мошенничество с использованием ИИ — это атака на эту инфраструктуру.
Технологическая индустрия создала инструменты, которые мошенники теперь превращают в оружие. Это накладывает ответственность не только за создание лучшей защиты, но и за более тщательное осмысление того, что мы создаем и как это может быть использовано не по назначению до того, как оно попадет на рынок. Гонка вооружений реальна, и прямо сейчас побеждает не та сторона.
Вопрос не в том, сможем ли мы создать системы ИИ, способные обнаруживать мошенничество, созданное с помощью ИИ. Мы можем, и мы это делаем. Вопрос в том, сможем ли мы внедрить их достаточно быстро, в достаточных масштабах и с достаточной координацией между отраслью, правительством и гражданским обществом, чтобы сократить разрыв до того, как ущерб станет необратимым.
Окно возможностей открыто. Но оно не останется открытым вечно.
Защитите свой бизнес от растущего числа мошеннических атак
Vonage Protection Suite — это комплексный набор инструментов, упрощающих сквозную защиту. Комбинируйте необходимые инструменты для надежной защиты вашего бизнеса.
