Обзор дипфейков: неделя с 30 октября по 5 ноября 2026 г.

«Обзор дипфейков» — это еженедельный мониторинг от Resemble AI, посвященный инцидентам с синтетическими медиа, текущим делам и спорному контенту, формирующему новостную повестку. Каждую неделю мы отслеживаем подтвержденные инциденты, новые векторы атак и проверяемые заявления, а также стоящие за ними вопросы происхождения, обнаружения и регулирования. Впервые столкнулись с миром дипфейков? Прочтите руководство Deepfake 101 Guide.

★ В центре внимания: Российская группа Storm-1516 переписала реальные местные выпуски новостей, чтобы обвинить кандидатов в Сенате в злоупотреблениях

В материале PolitiFact Russian influence operation linked to attacks targeting Democrats in Maine, Ohio, Texas, опубликованном 30 октября, сообщается, что российская сеть влияния Storm-1516 использовала ИИ для изменения подлинных сюжетов местных теленовостей. В последние дни перед промежуточными выборами эти материалы были представлены так, будто в них сообщается о вымышленных обвинениях в злоупотреблениях в адрес кандидата в Сенат от Огайо Шеррода Брауна и кандидата в Сенат от Мэна Троя Джексона.

• Категория: Политика / Выборы
• Тип: Атака
• Модальность: Видео, Аудио
• Политика / Регулирование: PolitiFact, NewsGuard и Associated Press проследили происхождение видео до известной сети иностранного влияния, однако в отчетах не упоминаются какие-либо меры по удалению или правоприменению в отношении аккаунтов, распространявших их до Дня выборов.
• Тенденция: Операции иностранного влияния переходят от актеров по сценарию к редактированию видеоряда реальных новостей с помощью ИИ-синхронизации губ, заимствуя авторитет проверенных местных СМИ.
• Вектор атаки: Реальные новостные сюжеты Cleveland 19 News и WABI-TV были переозвучены и синхронизированы по движению губ для передачи сфабрикованных обвинений, а затем усилены с помощью меняющегося пула платных и ничего не подозревающих инфлюенсеров.
• Что мы увидели в контенте: В материалах о видео задокументированы признаки, на обнаружение которых натренированы модели: Движение губ репортера Cleveland 19 Никол Врански (Nicole Vransky) было изменено так, чтобы соответствовать словам, которые она никогда не произносила — это характерный признак ИИ-синхронизации губ. Исходные видеокадры под измененным слоем остались нетронутыми: Врански одета в ту же красную блузку, что и в подлинном репортаже от 21 октября о гонке за пост губернатора Огайо, что позволило фактчекерам отследить фейк до оригинала. Настоящий июльский репортаж WABI-TV о том, как Джексон бросил бутылку с водой в качестве председателя Сената Мэна, был отредактирован таким образом, будто в нем сообщалось об угрозах сотрудникам топором. Бывшие сотрудники Брауна, упомянутые в видео, заявили PolitiFact и AP, что приписанные им обвинения были ложными.
• Движение губ репортера Cleveland 19 Никол Врански (Nicole Vransky) было изменено так, чтобы соответствовать словам, которые она никогда не произносила — это характерный признак ИИ-синхронизации губ
• Исходные видеокадры под измененным слоем остались нетронутыми: Врански одета в ту же красную блузку, что и в подлинном репортаже от 21 октября о гонке за пост губернатора Огайо, что позволило фактчекерам отследить фейк до оригинала
• Настоящий июльский репортаж WABI-TV о том, как Джексон бросил бутылку с водой в качестве председателя Сената Мэна, был отредактирован таким образом, будто в нем сообщалось об угрозах сотрудникам топором
• Бывшие сотрудники Брауна, упомянутые в видео, заявили PolitiFact и AP, что приписанные им обвинения были ложными

Две недели назад мы рассказывали о видео Storm-1516, в котором использовалась личность реального бывшего студента Зиона Льюиса (Zyon Lewis) для обвинения Джеймса Таларико в злоупотреблениях. На этот раз заимствуется нечто более ценное, чем лицо незнакомца — авторитет местной редакции. Местные теленовости по-прежнему вызывают уровень доверия, который национальным СМИ удерживать все сложнее, а ИИ-редактирование синхронизации губ позволяет операции «арендовать» это доверие, повторно используя реальные кадры репортера и изменяя только ее рот и слова. PolitiFact отмечает, что в 2024 году эта сеть нанимала актеров для чтения своих сценариев, а теперь использует ИИ, что сводит стоимость каждого нового фейка практически к нулю.

Цифры охвата объясняют, почему этого оказывается достаточно. Даррен Линвилл (Darren Linvill) из Клемсонского университета сообщил PolitiFact, что 28 октября в X упомянули Троя Джексона менее 7 000 раз, при этом четверть из них обсуждали российский нарратив. В гонке на промежуточных выборах несколько тысяч удачно размещенных показов могут захватить значительную долю небольшого локального обсуждения. Браун, Джексон и Таларико одержали победу на выборах 3 ноября, но этот результат не отменяет вреда, нанесенного реальным людям, чьи имена и слова были использованы, включая бывших сотрудников, которым пришлось публично опровергать обвинения, которых они никогда не выдвигали.

Оригинальный репортаж Cleveland 19 существует, и его может посмотреть любой желающий. Проблема в том, что измененный ролик не сопровождается никакими данными, указывающими на первоисточник. Криптографические подписи происхождения, применяемые вещателями при публикации, позволили бы зрителю или платформе проверить, соответствует ли ролик тому, что действительно транслировала станция, причем эта проверка работает одинаково независимо от того, является ли правка грубой или безупречной. Пока редакции по умолчанию не начнут подписывать свои материалы, их архивы остаются сырьем для следующей операции, которая захочет звучать как вечерние новости.

1. Сеть из более чем 400 внешне безобидных ИИ-приложений скрывала инструменты для создания сексуальных дипфейков

В материале WIRED Hundreds of Mundane AI Apps Are Hiding Sexually Abusive Deepfake Features сообщается, что более 400 связанных приложений и веб-сайтов, представленных как генераторы портретов домашних животных, фитнес-тренеры и репетиторы по языкам, скрывали инструменты для создания сексуальных дипфейков на основе загруженных фотографий. После того как WIRED поделилась своими выводами, компания Apple удалила 19 приложений.

• Категория: Материалы с насилием над детьми / Несогласованное создание интимного контента (CSAM / NCII)
• Тип: Атака
• Модальность: Изображение, Видео
• Политика / Регулирование: Apple заявляет, что приложения соответствовали ее правилам при проверке, а разработчики изменили их содержимое позже; Meta сообщает, что приняла меры в отношении более чем 10 000 рекламных аккаунтов и заблокировала рекламу для 209 приложений.
• Тенденция: Инструменты для раздевания (nudify), маскирующиеся под обычные потребительские приложения, чтобы пройти модерацию в магазинах приложений и рекламную политику.
• Вектор атаки: Приложения, которые отправляют язык пользователя, источник перехода и идентификаторы на внешний сервер, определяющий, какой интерфейс показать — рекламный или вредоносный. Часто это происходит для пользователей, перешедших по рекламе из Facebook и Instagram.

Исследователи из AI Forensics обнаружили 27 таких приложений в Google Play в сентябре с совокупным числом загрузок более 350 000, причем вредоносные функции появлялись только тогда, когда удаленный сервер решал, что посетитель является подходящей аудиторией. Исследователь AI Forensics Поль Бушо (Paul Bouchaud) охарактеризовал это в интервью WIRED как организованную коммерческую операцию, а охранная фирма Infoblox связала ее почти с 500 связанными доменами.

Рекламная система вновь выступает в качестве механизма доставки. В сентябре мы освещали обнаружение организацией Tech Transparency Project созданной с помощью ИИ рекламы с контентом оскорбительного характера в Meta, и здесь именно реклама послужила триггером, разблокировавшим оскорбительный интерфейс. Масштабы мер по обеспечению соблюдения правил в Meta велики, однако WIRED сообщает, что аналогичные приложения и реклама продолжали появляться во время подготовки материала. Для людей, чьи фотографии попадают в подобные инструменты, удаление постфактум имеет гораздо меньшее значение, чем то, был ли этот инструмент доступен в принципе.

2. Binance заявляет, что фальшивое собеседование при приеме на работу открыло путь к ее краже на 6,3 миллиарда долларов

В отчете Help Net Security Fake job interview opened the door to $6.34 billion Binance heist об инциденте от 3 ноября в Binance сообщается, что кража 29 октября была связана с фальшивым процессом найма: инженер прошел собеседование с поддельным представителем отдела кадров и мнимым генеральным директором вымышленной компании, после чего его попросили запустить на рабочем компьютере тестовое задание по программированию, содержащее вредоносное ПО.

• Категория: Мошенничество / Выдача себя за другое лицо
• Тип: Атака
• Модальность: Видео
• Политика / Нортивно-правовое регулирование: ФБР приписало эту кражу северокорейской группе TraderTraitor, а Binance заявляет, что ее выводы будут подвергнуты дальнейшей независимой оценке.
• Тенденция: Агенты, поддерживаемые государством, используют вымышленные образы рекрутеров и руководителей, включая видеособеседования в реальном времени, в качестве первого шага при масштабных вторжениях.
• Вектор атаки: Фальшивый руководитель проектов на легитимной платформе по поиску работы → постановочные собеседования с HR и генеральным директором в формате видеозвонка в реальном времени → вредоносный репозиторий «тестового задания» на рабочем ноутбуке компании → внутренний ИИ-инструмент, использованный для взлома еще двух инженеров → злоупотребление сервисом подписания криптовалютных транзакций.

Binance не уточнила, были ли люди на этом видеособеседовании дипфейками, и мы не утверждаем этого. Отчет показывает лишь то, что крупнейшая в истории кража криптовалюты началась с человека на экране, который выдавал себя за другого. Binance также сообщила, что зафиксировала и пресекла в этом году 57 попыток, предположительно связанных с Северной Кореей, включая фальшивые собеседования при приеме на работу, скомпрометированные инструменты для разработчиков и поддельные приложения для видеосвязи.

Проверка личности при найме носит в основном неформальный характер: профиль, видеозвонок, совпадающее имя. Именно этот уровень и освоили северокорейские операторы — как для того, чтобы устроиться на работу через схемы с привлечением ИТ-специалистов, так и, в данном случае, чтобы заставить инженера запустить их код. Binance признает, что вредоносное ПО обошло ее средства защиты конечных точек, что является весомым аргументом в пользу того, чтобы рассматривать вопрос о принадлежности лица и голоса на собеседовании реальному присутствующему человеку как часть системы безопасности.

3. Реальные кадры смертельной авиакатастрофы были названы в сети «абсолютным» фейком, созданным с помощью ИИ

Palm Beach plane crash footage isn't AI-generated, despite social media claimsПолиФАКТ (PolitiFact){{/L1}} сообщает, что в постах на платформе X ложно утверждалось, что запись с видеорегистратора ноябрьской катастрофы самолета Learjet в округе Палм-Бич, в результате которой погибли все находившиеся на борту, была полностью сгенерирована ИИ. В качестве предполагаемого доказательства использовались записи экрана инструмента для обнаружения ИИ-контента.

• Категория: Харассмент / Общественная безопасность
• Тип: Атака
• Модальность: Видео
• Политика / Нортивно-правовое регулирование: PolitiFact присвоил этому утверждению рейтинг «Бред сивой кобылы» (Pants on Fire) после того, как AP, CNN, CBS и BBC выпустили в эфир эти кадры, а PolitiFact вышел на владельца видеорегистратора, который опубликовал их первым; о каких-либо мерах платформ в отношении этих постов не сообщается.
• Тенденция: «Дивиденд лжи», проявляющийся в срочных новостях, когда подлинные кадры реальной трагедии всего за несколько часов объявляются синтетическими.
• Вектор атаки: Вирусные посты в X, представляющие результат работы детектора в качестве доказательства фальшивости реальных кадров; по меньшей мере один аккаунт был усилен ботами, продвигающими нарративы Storm-1516.

Большая часть того, что мы отслеживаем, — это фальшивый контент, выдаваемый за настоящий, но здесь наблюдается обратная ситуация, которая наносит не меньший ущерб. Линвилл сообщил PolitiFact, что люди настолько привыкли к обману, что больше не узнают правду, когда видят ее. Когда запись с видеорегистратора смертельной аварии в течение дня называют синтетической, семьям и следователям приходится доказывать сам факт того, что это событие действительно произошло.

Посты опирались на записи экрана детектора, фиксирующего ролик, однако когда PolitiFact пропустил ту же видеозапись через тот же инструмент, система ничего не обнаружила. Показатель обнаружения без метода, контекста и информации о том, кто запустил проверку, может превратиться в реквизит так же легко, как и поддельное видео. Это вызывает тревогу у всех, кто создает средства обнаружения или полагается на них, поскольку доверие общественности к таким инструментам зависит от результатов, сопровождаемых проверяемыми объяснениями.

4. Высокий суд Дели предоставил Крити Санон временную защиту от ИИ-дипфейков и голосовых клонов

Delhi High Court Protects Actress Kriti Sanon's Personality Rights Against AI Deepfakes, ImpersonationLiveLaw{{/L1}} сообщает, что судья Пурушаиндра Кумар Каурав 4 ноября предоставил актрисе временную защиту, обязав удалить выявленные URL-адреса и запретив ответчикам создавать аналогичный контент, включая откровенные дипфейки, а также ИИ-чат-боты или голосовые модели, выдающие себя за Санон.

• Категория: Бренд / Образ
• Тип: Реакция
• Модальность: Видео, Изображение, Аудио
• Политика / Нортивно-правовое регулирование: Посредники обязаны удалить указанные URL-адреса в сроки, установленные Правилами информационных технологий Индии 2021 года, властям было поручено выдать распоряжения о блокировке сайтов, размещающих порнографические дипфейки, а следующее слушание назначено на 10 декабря.
• Тенденция: Индийские суды распространяют доктрину личных неимущественных прав на ИИ-голосовые модели, чат-боты и сгенерированные образы при отсутствии специализированного закона.
• Вектор атаки: Неприменимо, это судебная мера.

На прошлой неделе мы отмечали, что суд планирует вынести комплексное постановление по этому делу. То, что было получено 4 ноября, носит временный характер, однако оно охватывает ИИ-чат-боты и голосовые модели, выдающие себя за актрису, наряду с дипфейк-изображениями, поддельными аккаунтами и товарами с символикой. Рассмотрение образа как объекта, нарушение которого может происходить в любой модальности, соответствует тому, как эти злоупотребления на самом деле затрагивают публичных персон.

Постановление исключает новости, рецензии, критику, сатиру, пародию, карикатуру и фанатское творчество, а суд охарактеризовал свои выводы как предварительные (prima facie), оставив более сложные юридические вопросы на период после заслушивания позиций ответчиков. 10 декабря это дело может стать прецедентом, на который будут опираться другие суды Индии.

,

,

,

,

,

• ,
• Авария в Палм-Бич показывает, что происходит, когда такое разрушение доверия идет вспять. Как только в обращении оказывается достаточно синтетического контента, реальные кадры начинают отрицаться, а скриншот детектора без контекста становится реквизитом для отрицания. Обнаружение по-прежнему имеет значение, но оно должно сопровождаться объяснением, которое люди могут проверить, а подлинным кадрам нужен способ доказать свое происхождение, не зависящий ни от чьего слова.
• Суды действуют быстрее законодателей, пытаясь заполнить эти пробелы. Распоряжение Высокого суда Дели затрагивает ИИ-чат-боты и клоны голоса, итальянский судья обязал Meta фильтровать дипфейк-рекламу в дополнение к ее удалению, а запрет ЕС на приложения для раздевания должен вступить в силу 2 декабря. Предписания, требующие от платформ предотвращать повторное появление в дополнение к реагированию на жалобы, могут задать тон тому, как работает подотчетность, когда один и тот же синтетический контент может быть воссоздан за считанные секунды.

Следите на следующей неделе

• Послевыборные нарративы от Storm-1516. Линвилл сообщил PolitiFact, что ожидает от этой сети продвижения нарративов, подрывающих доверие к выборам в день выборов и после него, теперь, когда результаты подведены.
• Дальнейшие действия в отношении сети скрытых приложений. Удалят ли Apple, Google и Meta оставшиеся приложения, домены и рекламу, которые, по данным WIRED, продолжали появляться в ходе подготовки материала.
• Независимая проверка Binance. Прояснит ли стороннее расследование, кто присутствовал на видеозвонке по поводу найма и как создавались фальшивые персоны.

Бюллетень Deepfake Watchlist выходит каждый четверг. Подпишитесь, чтобы получать его на электронную почту, или следите за Зохаибом Ахмедом в LinkedIn, чтобы читать еженедельные публикации в соцсетях. Отслеживайте каждый задокументированный инцидент в базе данных инцидентов Resemble Deepfake Incident Database и читайте полную методологию в нашем отчете об угрозах дипфейков за середину 2026 года.

Попробуйте Resemble AI бесплатно

Получите ведущие модели обнаружения ИИ везде, где они вам нужны.

Начать работу

Ссылки: Il Sole 24 Ore reports, The Philadelphia Inquirer reports, KJZZ reports