Список отслеживания дипфейков: неделя с 18 по 24 сентября 2026 года

«Дайджест дипфейков» (The Deepfake Watchlist) — это еженедельный обзор инцидентов с использованием синтетических медиа, текущих дел и спорного контента, формирующих новостную повестку от Resemble AI. Каждую неделю мы отслеживаем подтвержденные инциденты, новые векторы атак и рассматриваемые претензии, а также стоящие за ними вопросы происхождения, обнаружения и регулирования. Вы впервые столкнулись с темой дипфейков? Прочтите руководство «Дипфейки для начинающих» (Deepfake 101 Guide), чтобы узнать больше о том, как защитить себя и свою компанию от угроз.

1. Ложный отчет ИИ-чат-бота о ядерном грузе чуть не привел к высадке американских сил на китайское судно

Издание Gulf News AI-generated report nearly triggered US operation on Chinese ship сообщает со ссылкой на CNN, что весной этого года аналитик Тихоокеанского командования спецопераций США попросил чат-бота объединить информацию из открытых источников с секретной радиоэлектронной разведкой по манифесту китайского судна. В результате система выдала галлюцинацию о классификации компонента ядерного оружия, которая распространялась по военным каналам, пока официальные лица не обнаружили ошибку прямо перед высадкой вооруженных войск на корабль.

• Категория: Преследования / Общественная безопасность
• Тип: Атака
• Модальность: Текст (выходные данные интеллектуального анализа, сгенерированные ИИ; видео, изображения или аудиосинтез не задействованы)
• Политика / Регулирование: Отсутствует установленная нормативная база, регулирующая независимую ведомственную проверку продуктов разведки на базе ИИ перед принятием оперативных мер, из-за чего практика утверждения человеком остается на усмотрение конкретного командования.
• Тренд: Фабрикация авторитетно звучащих результатов работы ИИ, проникающих в цепочки принятия решений с высокими ставками, что расширяет вред в стиле дипфейков за пределы видео и аудио в область текстовых разведывательных продуктов.
• Вектор атаки: Аналитик поручил чат-боту прочитать манифест груза судна, чат-бот выдал галлюцинацию о ядерном грузе, и результат был оформлен в виде стандартного разведывательного отчета и передан дальше без независимой проверки, в то время как военные самолеты уже находились в воздухе.

Здесь нет клонированного голоса или смонтированного видео, но механизм тот же, который мы отслеживаем каждую неделю: результат работы ИИ настолько гладкий, что никто из прочитавших не остановился, чтобы поставить его под сомнение. Источник в военных кругах сообщил CNN, что использование ИИ в целеуказании нарастает без каких-либо реальных руководств по сохранению значимого участия человека в процессе, и прямо указал на более глубокий риск: ИИ позволяет быстрее прийти к плохой идее.

2. Федеральный судья заблокировал закон Монтаны об ИИ-дипфейках в политической рекламе из-за опасений по поводу свободы слова

Издание States Newsroom Federal judge says AI deepfake election law violates First Amendment сообщает, что окружной судья США Сьюзан Уоттерс 18 сентября вынесла предварительный судебный запрет в защиту комитета политического действий, который использовал измененные с помощью ИИ изображения кандидатов в агитационных рассылках, посчитав, что закон Монтаны о раскрытии дипфейков, вероятнее всего, нарушает защиту политической речи Первой поправкой.

• Category: Политика / Выборы
• Тип: Реакция
• Модальность: Изображение
• Политика / Регулирование: Законопроект Сената штата Монтана № 25 криминализирует сгенерированные ИИ дипфейки в материалах кампании, предусматривая гражданские штрафы и лишение свободы на срок до двух лет; судебный запрет блокирует исполнение только в отношении названных истцов и не отменяет сам закон.
• Тренд: Суды рассматривают требования о раскрытии информации об ИИ для политической речи как регулирование на основе содержания, подлежащее строгому контролю, что продолжает тенденцию скептицизма Первой поправки в отношении законов штатов о дипфейках на выборах.
• Вектор атаки: Неприменимо, это судебная реакция на оспаривание свободы слова, а не инцидент атаки.

Уоттерс написала, что у суда не было полномочий издавать более широкое предписание, охватывающее каждого оратора, поэтому решение защищает этот конкретный комитет политического действия, в то время как базовый закон пока остается в силе. На самом деле здесь проверяется не то, ввели ли рассылки кого-то в заблуждение, а то, может ли штат требовать раскрытия информации об участии ИИ в политическом контенте, не сталкиваясь с теми же защитами, которые распространяются на сатиру и карикатуру.

Это решение стоит в одном ряду с решением 7-го окружного апелляционного суда по материалам с изображением сексуального насилия над детьми (CSAM) пару недель назад в качестве еще одной точки данных в тенденции, которая продолжает проявляться в этом году: суды обнаруживают, что существующие конституционные рамки не создавались с расчетом на генерацию ИИ, а законодательные органы ищут решения, которые наталкиваются на непредвиденные стены.

3. Commonwealth Bank внедряет ИИ-агентов для противодействия инвестиционным мошенничествам с использованием дипфейков

Издание Mortgage Professional Australia в материале CBA внедряет ИИ-агентов для борьбы с дипфейк-мошенничеством сообщает, что новое исследование Commonwealth Bank показывает: 89% австралийцев считают, что смогли бы распознать дипфейк-мошенничество, созданное ИИ, но на практике при тестировании это сделали лишь 42%, в то время как «команда Pollen» банка из ИИ-агентов провела уже более 350 000 автоматизированных разговоров с мошенниками с момента запуска в прошлом году.

• Категория: Мошенничество / Выдача себя за другое лицо
• Тип: Реакция
• Модальность: Видео, Аудио
• Политика / Регулирование: Нового закона здесь нет; CBA указывает на координацию отрасли через соглашение Scam-Safe Accord и биржу сообщений о мошенничестве (Fraud Reporting Exchange) в качестве основы для более быстрого межведомственного вмешательства.
• Тренд: Банки используют ИИ в защитных целях против мошенничества на базе ИИ и переносят усилия по предотвращению на более ранний этап создания доверия, а не на момент фактического перевода денег.
• Вектор атаки: Преступники используют дипфейк-видео и клонированный голос, чтобы выдавать себя за доверенные бренды и общественных деятелей, создавая авторитет на социальных платформах и в мессенджерах, прежде чем подтолкнуть жертв к платежу.

Джеймс Робертс, исполнительный генеральный директор CBA по борьбе с мошенничеством, четко обозначил проблему времени: к тому моменту, когда человек совершает платеж, обман уже удался. Предупреждение на экране транзакции появляется слишком поздно для жертвы, которая потратила недели на построение доверия к синтетической персоне, поэтому банк переносит вмешательство на более ранний этап. Его агент по обнаружению мошенничества ежедневно анализирует миллионы транзакций и помог обновить примерно 3 000 правил борьбы с мошенничеством, опираясь на информацию, которую генерируют беседы команды Pollen с мошенниками.

Девять из десяти австралийцев в опросе CBA были уверены, что распознали бы дипфейк-мошенничество, но при тестировании это сделали только четверо из десяти. Преступники рассчитывают именно на этот разрыв между уверенностью и реальной способностью к обнаружению.

4. Meta обязали удалить дипфейки с участием женщин-политиков, поскольку Надзорный совет назвал средства защиты «фундаментально неадекватными»

Издание PetaPixel Meta's Oversight Board Orders the Company to Remove Deepfake Videos From Facebook сообщает, что Надзорный совет Meta отменил первоначальные решения компании и приказал удалить два созданных ИИ видеоролика: на одном из них шотландский лейбористский депутат горсовета якобы делает резкие антибеженские комментарии, которых она никогда не произносила, а на втором — мусульманская активистка в сфере здравоохранения якобы дает абсурдные советы во время поедания нездоровой пищи.

• Категория: Преследования / Общественная безопасность
• Тип: Реакция
• Модальность: Видео
• Политика / Регулирование: Решения совета по делам являются обязательными для Meta; он также выпустил девять более широких рекомендаций по политике, которые не являются обязательными, а Meta обязана ответить в течение 60 дней.
• Тренд: Независимые надзорные органы официально фиксируют, что средства защиты платформ от дипфейков, настроенные в основном на борьбу с дезинформацией на выборах, не работают, когда объектом преследований становится частное лицо или неполитический общественный деятель, а не кандидат накануне голосования.
• Вектор атаки: сгенерированное с помощью ИИ видео со звуком, не синхронизированным с движением губ, было опубликовано в Facebook, и автоматизированные системы Meta не передали его на рассмотрение человеку даже после двух жалоб, включая жалобу самой женщины-депутата.

Собственные модераторы Meta удалили видео, потому что она является публичным взрослым лицом, а утверждение было сформулировано как высказывание в адрес некоторых беженцев, а не всех сразу. Такое обоснование вполне укладывалось в контрольный список правил, но оно никак не решало проблему реального вреда от сфабрикованного клипа с языком вражды, приписанного реальной женщине. Совет по надзору назвал базовые правила «фундаментально неадекватными» с точки зрения того, как дипфейки используются на практике.

Сопредседатель Совета по надзору Памела Сан Мартин связала оба случая с более широкой тенденцией, при которой женщины, выступающие публично, подвергаются непропорционально сильным атакам с использованием поддельного контента, созданного для их дискредитации или замалчивания. Если рассматривать их вместе, эти два случая выглядят не как изолированные инциденты, а скорее как тактика харассмента со своей собственной инфраструктурой.

5. DHS расширяет тестирование проверки лидентитета для борьбы с дипфейками и поддельными ID, созданными ИИ

Издание Biometric Update в материале DHS расширяет тестирование RIVR на дипфейки и ID, созданные ИИ сообщает, что Управление науки и технологий Министерства внутренней безопасности США добавляет специализированную задачу по обнаружению дипфейков в свое ралли удаленной валидации личности (Remote Identity Validation Rally) 2026 года, расширяя тестирование на предмет подделки документов после того, как оценка 2025 года показала, что некоторые коммерческие системы проверки личности пропускали более трех четвертей фальшивых документов в худших условиях.

• Категория: Мошенничество / Выдача себя за другого
• Тип: Реакция
• Модальность: Видео, Изображение
• Политика / Регулирование: Расширение согласуется с руководящими принципами NIST SP 800-63A-4 по подтверждению личности, финализированными в прошлом году, которые уже требуют от провайдеров услуг аутентификации проводить тестирование на цифровые атаки внедрения и поддельные медиафайлы; прием заявок на валидацию документов открывается в октябре, а новая категория дипфейков — в декабре.
• Тенденция: Государственные программы состязательного тестирования формализуют бенчмарки обнаружения дипфейков после того, как предыдущие раунды выявили драматические разрывы в производительности среди коммерческих вендоров.
• Вектор атаки: неприменимо, это программа тестирования и оценки, а не инцидент атаки.

Одна система приняла 76,68% мошеннических документов в худших из тестируемых условий, а несколько пассивных систем определения жизнеспособности (тех, которые призваны распознать поддельное лицо, не прося человека совершать какие-либо действия) неверно классифицировали 80% и более атак как легитимные. Только одна документная система и одна система определения жизнеспособности уложились в собственные пороговые значения DHS по каждому показателю. Новая категория дипфейков направлена именно на тот пробел, который обнажили эти цифры: синтетическую имитацию в живых видеочатах, а не просто статическую подделку документов.

Начиная с ноября DHS также начнет запрашивать примеры дипфейк-атак напрямую у организаций, владеющих данными об угрозах. Это необычный шаг для государственной программы тестирования, и он говорит о том, насколько далеко ландшафт атак опередил то, что собственные лаборатории агентства могут смоделировать самостоятельно.

Упоминание вне конкурса

Хотя здесь нет синтетических медиа в традиционном смысле, об этом стоит упомянуть наряду с материалами этой недели: Google заявляет, что ее модель Gemini автономно взломала три реальные компании во время теста на кибербезопасность. Издание The National в материале Google заявляет, что модель Gemini взломала три компании во время теста сообщает, что во время майской оценки Gemini нашла публичную информацию в сети и угадала учетные данные для доступа к трем реальным компаниям, которые она ошибочно приняла за разрешенные цели тестирования, останавливаясь каждый раз самостоятельно. Google уведомила пострадавшие организации, а OpenAI, Anthropic и Meta независимо друг от друга сообщили о схожих сбоях локализации примерно в тот же период. Механизм другой, но паттерн тот же: система ИИ делает то, что ее операторы не замечают до свершившегося факта.

Паттерн

• Два ответа на вред, созданный с помощью ИИ, появились на одной неделе. Федеральный судья защитил право политического комитета распространять измененные ИИ изображения для предвыборной кампании, в то время как независимый орган по надзору счел средства защиты платформы от дипфейков принципиально неадекватными для защиты людей, на которых нацелены эти изображения и видео. Оба случая обращаются к одной и той же границе — между свободой выражения мнения и причинением вреда, — но находят ее в разных местах в зависимости от того, направлен ли рассматриваемый дипфейк на кандидата или на частное лицо, подвергающееся харассменту.‍
• Ни галлюцинация SOCOM, ни неконтролируемый системный доступ Gemini не являются классическим дипфейком, но у обоих одна первопричина: верификация отстает от возможностей, поэтому правдоподобный, хорошо отформатированный результат вызывает больше доверия, чем заслуживает. Это та же динамика, которая делает клонированный голос убедительным во время телефонного звонка, просто на этот раз она проявляется в разведывательном отчете и изолированной тестовой среде.‍
• Созданная на этой неделе защитная инфраструктура — ИИ-агенты CBA для борьбы с мошенниками и расширенная программа тестирования дипфейков DHS — является реальным прогрессом, однако результаты RIVR за 2025 год служат напоминанием о том, что тестирование неизменно отстает от возможностей инструментов генерации. Запрос DHS на данные о живых атаках от сторонних организаций, начинающийся в ноябре, по сути является признанием того, что государственные лаборатории не могут поспевать в одиночку, и другие программы тестирования могут в итоге последовать этому примеру.

Следите на следующей неделе

• 60-дневный таймер Meta. То, возьмет ли Meta на себя обязательства по конкретным изменениям политики или более точечному исправлению к середине ноября, многое скажет о том, насколько серьезно вывод о «фундаментальной неадекватности» воспринят внутри компании.
• Исходное дело в Монтане. Судебный запрет распространяется только на названных истцов, поэтому следите за тем, будет ли генеральный прокурор добиваться принудительного исполнения в других местах и дойдет ли конституционный вопрос до решения по существу.
• Вебинар DHS 30 сентября. Информационная сессия для потенциальных участников RIVR — это первый конкретный ориентир того, как будет структурирован расширенный конкурс дипфейков.
• Дальнейшие раскрытия информации об агентном ИИ. Учитывая, что Google, OpenAI, Anthropic и Meta уже сообщили о случаях выхода систем ИИ из-под контроля или получения доступа к реальным системам, следите за тем, появятся ли новые заявления от других лабораторий.

Дайджест The Deepfake Watchlist публикуется каждый четверг. Подпишитесь, чтобы получать его на почту, или следите за Зухаибом Ахмедом (Zohaib Ahmed) в LinkedIn, чтобы читать еженедельные сопутствующие материалы. Отслеживайте каждый задокументированный инцидент в базе данных инцидентов с дипфейками Resemble (Resemble Deepfake Incident Database) и читайте полную методологию в нашем Отчете об угрозах дипфейков за вторую половину 2026 года.

Попробуйте Resemble AI бесплатно

Генерируйте с уверенностью. Проверяйте правообладание. Выявляйте обман. Только с Resemble AI.

Начать работу