Мониторинг дипфейков от Resemble AI — это еженедельный обзор инцидентов с использованием синтетического медиаконтента, актуальных дел и спорных материалов, формирующих новостную повестку. Каждую неделю мы отслеживаем подтвержденные инциденты, новые векторы атак и проверяемые заявления, а также стоящие за ними вопросы происхождения, обнаружения и регулирования. Впервые столкнулись с миром дипфейков? Прочитайте Руководство по дипфейкам для начинающих, чтобы узнать больше о том, как защитить себя и свою компанию от угроз.
1. Клон голоса с помощью ИИ запер мать-ветерана ВМС США в пятичасовом кошмаре с похищением
Репортаж Fox News, опубликованный 7 октября, сообщает, что Дебора Дель Мастро, ветеран ВМС и мать из Калифорнии, потеряла 5400 долларов после того, как мошенники использовали созданную ИИ копию голоса ее дочери Сары для инсценировки похищения. Они удерживали ее на линии в течение пяти с половиной часов и заставляли переводить деньги в разных пунктах переводов, прежде чем она выяснила, что все это время Сара была на работе.
- Категория: Мошенничество / Выдача себя за другого
- Тип: Атака
- Модальность: Аудио
- Политика / Регулирование: Ни один федеральный закон специально не регулирует использование ИИ-голоса для инсценировки похищения; ФБР выпустило руководства по схемам «виртуального похищения», но существующее законодательство рассматривает мошенничество с использованием электронных средств, а не компонент синтезированного голоса.
- Тенденция: Клонирование голоса с помощью ИИ используется как оружие в мошенничестве с виртуальными похищениями. При этом для подавления скептицизма жертвы и ее эмоциональной защиты одновременно используется близкое знакомство с голосом, а не институциональный авторитет.
- Вектор атаки: ИИ-клон голоса известного члена семьи задействован в звонке с имитацией захвата заложников. При этом злоумышленник контролирует передвижения, препятствует независимой проверке и координирует оплату через четыре транзакции MoneyGram и Western Union в течение пяти с половиной часов.
Склонированный голос звучал точно так же, как Сара в состоянии панической атаки, в точности повторяя состояние, которое Дебора слышала всего за несколько дней до этого после расставания. Дебора — ветеран ВМС, которая описывает себя как человека, идущего навстречу кризисам, и тем не менее она потеряла 5400 долларов из-за телефонного звонка. Позже она рассказала комитету Сената США, что месяцы спустя оставалась «полностью травмированной».
Сложность заключается в том, что клон появляется в момент максимального страха, и мысль «проверить геолокацию дочери в приложении» не приходит в голову родителю, пока он слышит крик своего ребенка. Идеальным решением является инфраструктура происхождения (provenance), которая позволяет идентифицировать фальшивку до того, как она попадет в уши.
2. Мелони подала заявку на регистрацию товарного знака голоса в ЕС для борьбы с дипфейками
Сообщение от 5 октября подтверждает, что премьер-министр Италии Джорджа Мелони подала заявку в Ведомство интеллектуальной собственности Европейского союза на регистрацию своего голоса в качестве товарного знака. Она предоставила четырехсекундный аудиоклип, в котором дважды повторяет «Io sono Giorgia Meloni» («Я — Джорджа Мелони»). Итальянские СМИ называют это первой подобной заявкой от действующего главы правительства.
- Категория: Бренд / Образ
- Тип: Реакция
- Модальность: Аудио
- Политика / Регулирование: Заявка в EUIPO находится на рассмотрении и, в случае одобрения, создаст дополнительные юридические препятствия для несанкционированного воспроизведения голоса, но не сможет автоматически предотвратить создание подделок с помощью ИИ или обязать платформы раскрывать их происхождение.
- Тенденция: Защита личного образа переходит от знаменитостей и артистов к выборным должностным лицам, поскольку политические фигуры с узнаваемыми голосами сталкиваются с растущим числом атак с использованием дипфейков в преддверии всеобщих выборов в Италии 2027 года.
- Вектор атаки: Клонирование голоса публичных лиц с помощью ИИ для политической дезинформации и фальшивых одобрений, а также сексуальные дипфейки, с которыми Мелони борется в рамках гражданских судебных процессов с 2024 года.
Фраза, которую она предоставила («Я — Джорджа Мелони»), перекликается с заявлением на митинге 2019 года, которое стало национальным лозунгом и вдохновило на создание диско-ремикса, поэтому этот клип юридически функционален и культурно специфичен именно для нее. Итальянские СМИ поспешили указать на практическое ограничение: звуковой товарный знак создает возможность для правовой защиты после того, как несанкционированное использование обнаружено, а не барьер для самого клонирования. Генерация все равно происходит; закон догоняет нарушителя позже — при условии, что клонирование будет обнаружено и удастся найти ответственное лицо.
Это тот же структурный пробел, который сделал возможным мошенничество в отношении Дель Мастро. Клонирование голоса происходит мгновенно, правовая реакция носит последовательный характер, а ущерб накапливается в промежутке между ними. То, чего не может сделать товарный знак, — это остановить сгенерированное аудио в момент создания. Для этого требуется нечто, внедренное в процесс генерации: сигнал происхождения, который идентифицирует синтезированное ИИ аудио до того, как оно доберется до чьих-либо ушей.
3. Количество удаленных Sony Music ИИ-дипфейков превысило 260 000, почти удвоившись за шесть месяцев
Billboard и Financial Times, сообщая 5 октября о данных по конец сентября, отмечают, что Sony Music подала более 260 000 запросов на удаление треков, сгенерированных ИИ и имитирующих ее артистов. Это почти вдвое превышает 135 000 запросов, поданных к концу марта, при этом в среднем за II и III кварталы 2026 года поступало более 20 000 запросов в месяц.
- Категория: Бренд / Образ
- Тип: Реакция
- Модальность: Аудио
- Политика / Регулирование: Закон США NO FAKES Act, который предоставил бы физическим лицам юридически закрепленные права на несанкционированные ИИ-реплики их голосов и образов, все еще находится в процессе рассмотрения; кампания Sony по пресечению нарушений работает в рамках существующих механизмов DMCA notice-and-takedown (уведомление и удаление).
- Тенденция: Клонирование голоса музыкальных исполнителей с помощью ИИ вышло на уровень производственных объемов, а стриминговые платформы служат инфраструктурой распространения для мошеннических треков, которые перенаправляют гонорары от реальных артистов и их авторов песен.
- Вектор атаки: Сгенерированные ИИ треки, имитирующие Гарри Стайлса, Адель, Бритни Спирс, Queen и Майкла Джексона, загружаются на стриминговые платформы и продвигаются с помощью бот-сетей, создающих искусственные прослушивания. Это приносит выплаты гонораров мошенникам, а не правообладателям.
Представитель Sony заявил Billboard, что каждое мошенническое прослушивание напрямую отнимает деньги у артистов и авторов песен, чье творчество имитируется. Мошенническим трекам не обязательно быть популярными — им достаточно просто присутствовать в каталоге и непрерывно набирать прослушивания, распределяя микроплатежи по сотням тысяч фальшивых загрузок.
Sony ведет трудоемкий юридический процесс против автоматизированного конвейера генерации, и эта асимметрия не решается простым увеличением числа запросов на удаление. Темпы в 20 000 запросов в месяц — это потолок, определяемый тем, как быстро юридическая команда может подавать уведомления, а не тем, как быстро производится контент-нарушитель. Ситуацию меняет внедрение принципа происхождения на уровне генерации — требование к инструментам ИИ встраивать в создаваемое аудио сигнал, который идентифицирует его как синтезированное и поддающееся атрибуции до того, как оно попадет в какой-либо канал распространения.
4. Сгенерированная ИИ политическая реклама партии One Nation вызвала общественный скандал в Тасмании
Репортаж ABC News Australia, опубликованный 6 октября, сообщает, что австралийская партия One Nation выпустила созданное ИИ политическое видео под названием «Это нормально — признаться... что ты избиратель One Nation». Это побудило владельца тасманского кафе публично выразить протест и жертвовать любые чаевые от сторонников One Nation партии «Зеленые», что спровоцировало публичную перепалку с кандидатом и дочерью Полин Хансон, Ли Хансон.
- Категория: Политика / Выборы
- Тип: Атака
- Модальность: Видео
- Политика / Регулирование: Ни один федеральный закон Австралии не требует раскрытия информации об использовании ИИ-контента в политической рекламе, распространяемой через социальные сети, что выводит видео из-под любых обязательных требований к маркировке, несмотря на признание партией его синтетического происхождения.
- Тенденция: Внутриполитические партии используют видео, созданные с помощью ИИ, в качестве стандартного инструмента предвыборной кампании, нормализуя синтетический медиаконтент в политических коммуникациях без возникновения обязательств по раскрытию информации на каналах, где избиратели видят этот контент.
- Вектор атаки: Политическое видео, созданное с помощью ИИ и распространяемое через социальные сети, изображает сфабрикованные сценарии, призванные связать политических оппонентов и социальные группы с партийными сообщениями, без раскрытия синтетического происхождения для широкой аудитории.
Видео партии One Nation примечательно не столько своим политическим аргументом, сколько тем, что оно иллюстрирует положение политического ИИ-контента в австралийской нормативно-правовой базе, которая фактически его не охватывает. Партия признала, что видео было создано с помощью ИИ, что снимает проблему выдачи себя за другое лицо, характерную для предыдущих скандалов с дипфейками, но ни один австралийский закон не требует, чтобы это признание отображалось в виде раскрытия информации для зрителей, просматривающих рекламу в своих лентах.
Реакция владельца кафе и ответ Ли Хэнсона вызвали больше освещения, чем само видео, что примерно соответствует результату, на который рассчитывала бы любая команда по политическим коммуникациям. Правила раскрытия информации в Австралии распространяются на телерекламу, а не на социальные сети, и освещение, которое за этим следует, как правило, касается последующего социального конфликта, а не отсутствия маркировки, которая предотвратила бы двусмысленность с самого начала.
5. Больничная система Франции подала жалобу из-за медицинских дипфейков в Facebook
В статье Next.ink Nouvelle alerte sur la prolifération de deepfakes nourrissant la désinformation en santé, опубликованной 6 октября, сообщается, что государственная больничная система Парижа (AP-HP) и Университет Сорбонны подали уголовную жалобу и потребовали от Meta удалить видео из Facebook, в которых с помощью ИИ были клонированы голос и изображение врача парижской больницы и ведущего новостей TF1 для продвижения мошеннического «чудо-средства», предупреждая о прямой угрозе общественному здоровью.
- Категория: Преследование / Общественная безопасность
- Тип: Атака
- Модальность: Видео, аудио
- Политика / Регулирование: AP-HP подала официальную уголовную жалобу и уведомила Meta; Министерство здравоохранения Франции объявило в январе 2026 года о создании обсерватории по борьбе с дезинформацией в сфере здравоохранения, которая еще не начала работу; Meta удалила некоторые первоначальные видео, но впоследствии появились новые копии.
- Тенденция: ИИ-дипфейки, выдающие себя за медицинских работников и деятелей телевещания для продвижения мошеннических медицинских продуктов, ускоряют процесс, который возник еще до появления генеративного ИИ и теперь действует с большим объемом и точностью убеждения.
- Вектор атаки: Сфабрикованные видео в стиле теленовостей, имитирующие формат новостей TF1, с использованием клонирования голоса врача AP-HP доктора Рено Пьярру и визуальной имитации ведущей Анн-Клер Кудре, чтобы придать мошенническим медицинским заявлениям вид проверенной институциональной журналистики.
Помимо репутационного ущерба врачу и учреждению, видео «представляют реальную опасность для здоровья пациентов», потенциально побуждая пожилых зрителей отказаться от назначенных лекарств в пользу непроверенного продукта. Учреждение, подавшее жалобу, — это не медиаорганизация, обеспокоенная ущербом бренду, а система государственных больниц, обеспокоенная реальными клиническими результатами.
Доктор Пьярру — настоящий специалист по инфекционным заболеваниям со значительным присутствием в СМИ со времен COVID, и именно поэтому он стал целью: его голосовой паттерн существует в достаточном объеме в сети, чтобы создать убедительный клон, а его связь с авторитетной медицинской коммуникацией придает подделке убедительную рамку. Meta удалила некоторые копии; появились новые. Этот цикл — то, на что указывает юридическая жалоба, и запланированная, но еще не запущенная обсерватория по борьбе с дезинформацией в сфере здравоохранения во Франции — это структурный пробел, который она обнажает.
Почетные упоминания
Политические дипфейки на промежуточных выборах в США наступают по всем фронтам. База данных инцидентов Resemble AI зафиксировала как минимум три отдельных инцидента с политическими дипфейками в США в период со 2 по 8 октября перед ноябрьскими промежуточными выборами: рекламный ролик с атакой, созданный ИИ, направленный против сенатора от Джорджии Джона Оссоффа, изображающий его проходящим косметические процедуры; кампания претендента на место в Сенате от Миссисипи Скотта Колома с использованием аудио- и видеоклипов ИИ против действующего сенатора Синди Хайд-Смит; и комитет политических действий, использующий сфабрикованные видеоролики ИИ против сенатора штата Вермонт Рут Харди. Все три распространялись в социальных сетях без каких-либо обязательных федеральных требований по раскрытию информации. В совокупности они подтверждают, что политический контент, созданный ИИ, теперь является обычным инструментом предвыборной кампании в конкурентных гонках в США, а не разовым экспериментом.
Ариана Мэдикс критикует ITV Studios за несанкционированный дипфейк для Love Island. Звезда реалити-шоу Ариана Мэдикс публично раскритиковала ITV Studios Australia на этой неделе после того, как продюсерская компания использовала созданный ИИ дипфейк с ее участием в рекламном видео для Love Island Australia без ее разрешения. Команда Мэдикс направила требование о прекращении противоправных действий. Инцидент относится к категории, которая становится все более распространенной: это не анонимный аккаунт, создающий клон знаменитости, а названная коммерческая продюсерская компания, использующая синтетический образ в качестве рекламного сокращения, делая ставку на то, что юридические риски управляемы.
Паттерн
- Клонирование голоса — это вектор атаки, который затрагивает каждый экономический уровень. Дело Дель Мастро связано с отставным ветераном ВМС, потерявшим 5400 долларов из своих сбережений. Дело Fideuram на прошлой неделе касалось председателя частного банка, санкционировавшего переводы на 95 миллионов евро. Мошенничество AP-HP нацелено на пожилых пациентов, которых перенаправляют на мошеннический продукт. 260 000 удалений Sony представляют собой артистов, теряющих гонорары из-за автоматизированных подделок. Одна и та же базовая возможность используется против всех них, и стоимость выполнения клонирования почти не имеет ничего общего с суммой денег, поставленной на карту.
- Три истории этой недели представляют собой юридические ответы на клонирование голоса, и все три имеют один и тот же структурный предел. Товарный знак EUIPO Мелони, программа удаления Sony и уголовная жалоба AP-HP являются законными мерами принуждения, но каждая из них реагирует на вред, который уже был нанесен и распространен. Товарный знак создает возможность для защиты после несанкционированного использования. Удаление происходит после того, как песня уже прозвучала. Жалоба называет контент, который уже дошел до пациентов. Правовые рамки, которые действуют после распространения, не могут сравниться со скоростью генерации. Провенанс на уровне генерации — это то, что изменило бы уравнение.
- Реклама One Nation и три политических дипфейка в США из почетных упоминаний имеют один и тот же регуляторный пробел: политический контент, созданный ИИ, теперь достигает избирателей в масштабе через каналы социальных сетей, которые существующие правила раскрытия информации просто не охватывают. Требования к раскрытию информации в телевещании — это то, где существуют правила. Социальные сети — это то, где контент на самом деле перемещается.
Следите за новостями на следующей неделе
- Использование дипфейков в политической борьбе на промежуточных выборах в США. То, приведет ли какой-либо инцидент с политическим контентом, созданным ИИ, перед ноябрьскими выборами к федеральному правоприменению или скоординированным действиям платформ, станет шаблоном для регулирования будущих избирательных циклов.
- Рассмотрение EUIPO заявки на регистрацию товарного знака голоса Мелони. Любое предварительное решение прояснит, является ли защита товарного знака голоса для общественных деятелей жизнеспособным шаблоном, которому другие смогут последовать в преддверии избирательных циклов 2027 года.
- Развитие жалобы AP-HP. Предпримут ли французские прокуроры действия по уголовной жалобе и будут ли последующие удаления видео компанией Meta эффективны против повторных загрузок.
- Претензия Ariana Madix / ITV. Приведут ли юридические действия к мировому соглашению или судебному разбирательству, что станет первым случаем проверки ответственности коммерческой продюсерской компании за несанкционированное использование дипфейка в рекламном контенте.
Deepfake Watchlist публикуется каждый четверг. Подпишитесь, чтобы получать его на электронную почту, или следите за Zohaib Ahmed в LinkedIn, чтобы получать еженедельные обновления в социальных сетях. Отслеживайте каждый задокументированный инцидент в базе данных Resemble Deepfake Incident Database и ознакомьтесь с полной методологией в нашем отчете 2026 Midyear Deepfake Threat Report.
Попробуйте Resemble AI бесплатно
Создавайте с уверенностью. Подтверждайте право собственности. Выявляйте обман. Только с Resemble AI.
Начать работу
