Дайджест дипфейков: неделя с 23 по 29 октября 2026 г.

Дайджест дипфейков — это еженедельный обзор инцидентов с синтетическими медиа, текущих дел и спорного контента от Resemble AI, формирующих новостную повестку. Каждую неделю мы отслеживаем подтвержденные инциденты, новые вектория атак и расследуемые утверждения, а также происхождение, методы обнаружения и регуляторные инициативы. Впервые столкнулись с миром дипфейков? Прочитайте руководство Deepfake 101.

★ В фокусе: предвыборный штаб в Техасе опубликовал сгенерированных с помощью ИИ темнокожих избирателей, которые благодарят кандидата за работу, еду и помощь с оплатой счетов

Издание Newsweek Texas Republican judge faces backlash over AI endorsement video сообщает, что штаб временно исполняющего обязанности судьи округа Форт-Бенд Дэниела Вонга 23 октября опубликовал видео, созданное с помощью ИИ, на котором темнокожие жители поддерживают его. Позже ролик удалили после того, как зрители обратили на него внимание, а его директор по коммуникациям подтвердила FOX 26 Houston, что видео создано искусственным интеллектом.

• Категория: Политика / Выборы
• Тип: Атака
• Модальность: Видео, Аудио
• Политика / Регулирование: Жалобы не подавались, а закон Техаса о дипфейках на выборах касается сфабрикованных изображений, призванных навредить кандидату, поэтому неясно, распространяется ли он на сфабрикованных сторонников.
• Тренд: Предвыборные штабы используют синтетические медиа для создания видимости поддержки со стороны общества, а не для фабрикации заявлений оппонента.
• Вектор атаки: Сгенерированное ИИ видео с отзывами было опубликовано на официальной странице кампании в Facebook и репостнуто окружным отделением партии во время досрочного голосования, за одиннадцать дней до выборов 3 ноября.
• Что мы увидели в контенте: В репортажах о видео были зафиксированы признаки, на обнаружение которых настроены модели детекции, например: Человек в кепке «Дэниел Вонг» с ошибкой в имени кандидата — частая проблема при генерации текста моделями Рекламный щит у дороги за одним из спикеров покрыт неразборчивыми буквами, еще один артефакт генерации текста Голоса, которые, как заметили зрители, звучали одинаково у разных людей на видео Визуальные искажения, заставившие зрителей усомниться в подлинности видео вскоре после его публикации
• Человек в кепке «Дэниел Вонг» с ошибкой в имени кандидата — частая проблема при генерации текста моделями
• Рекламный щит у дороги за одним из спикеров покрыт неразборчивыми буквами, еще один артефакт генерации текста
• Голоса, которые, как заметили зрители, звучали одинаково у разных людей на видео
• Визуальные искажения, заставившие зрителей усомниться в подлинности видео вскоре после его публикации

Большинство предвыборных дипфейков, которые мы отслеживали в этом цикле, вкладывали сфабрикованные слова в уста оппонентов, но видео из Форт-Бенда преследовало другую цель: создание видимости самой поддержки. Люди в ролике благодарят Вонга за работу, продукты и оплату счетов, из-за чего его оппонент, комиссар Декстер Маккой, назвал это безобразным поступком, сводящим темнокожих избирателей к людям, ищущим подаяния. Штаб Вонга заявляет, что видео было создано сторонником — темнокожим демократом, и что создатель сообщил им о наличии согласия изображенных людей. Newsweek заявляет, что не смог независимым образом проверить это утверждение.

Форенсик-маркеры были очевидными, и зрители быстро их заметили. Ошибка в имени на кепке и рекламный щит, заполненный бессмысленными буквами — это те самые сбои генерации текста, которые до сих пор встречаются в потребительских инструментах создания контента, а похожие голоса у якобы разных спикеров являются классическим признаком того, что всю работу выполняла одна модель голоса. Тем не менее, видео было опубликовано с официальной страницы кампании и страницы окружной Республиканской партии во время досрочного голосования, и для избирателя, прокручивающего ленту, то, где оно появилось, имеет больший вес, чем то, кто его изначально создал.

Законы о дипфейках на выборах, в том числе в Техасе, создавались для мира, где обманный контент изображает кандидата, а сфабрикованная толпа сторонников неуклюже попадает в промежуток между категориями. Информация о происхождении в момент генерации пометила бы это видео как синтетическое независимо от того, кто его создал или какая страница его опубликовала. Эта защита не зависит от того, смогут ли законодатели предусмотреть все новые способы использования этих инструментов кампаниями.

1. Полиция Великобритании: 24,3 миллиона фунтов стерлингов потеряны из-за инвестиционного мошенничества с использованием ИИ за восемь месяцев, в основном пострадали люди старше 60 лет

Ведомство лондонской полиции Report Fraud Report Fraud warning after £24.3 million stolen through AI enabled investment endorsement schemes сообщает, что в период с января по август 2026 года оно получило более 1300 сообщений об инвестиционном мошенничестве, в котором ИИ (включая дипфейки) использовался для повышения убедительности предложений. При этом люди в возрасте 60 лет и старше направили почти 80 процентов этих обращений.

• Категория: Мошенничество / Выдача себя за другого
• Тип: Атака
• Модальность: Видео, Изображение
• Политика / Регулирование: Report Fraud индивидуально рассматривало каждое сообщение для подтверждения участия ИИ, а полиция направляет потенциальных инвесторов на сервис проверки фирм FCA перед переводом средств.
• Тренд: Синтетические рекомендации от знаменитостей и экспертов становятся обычным началом инвестиционного мошенничества, нацеленного на пожилых людей.
• Вектор атаки: Сгенерированные ИИ видео и изображения доверенных публичных лиц, одобряющих фальшивые инвестиционные схемы, используются для создания авторитета до перевода денег.

Мошенничество с синтетическими рекомендациями сильнее всего бьет по людям старше 60 лет — точно так же, как в случае с 88-летним жителем Британской Колумбии, о котором мы рассказывали на прошлой неделе и который потерял 450 000 долларов после просмотра дипфейка с премьер-министром Марком Карни. Это вызывает беспокойство у всех нас, чьи родители и бабушки с дедушками доверяют знакомому лицу на экране.

Также имеет значение то, где размещаются эти рекомендации. Наш собственный анализ библиотеки рекламы Meta, опубликованный на прошлой неделе, показал, что крипто- и брокерские бренды используют помеченный как ИИ креатив примерно в три раза чаще общего показателя исследования, а страницы, использующие название бренда без его ведома — более чем в десять раз чаще самих брендов. Рекламная система является входной дверью для большей части этого мошенничества, а проверка регистрации компании помогает только тогда, когда у человека уже есть подозрения насчет рекомендации.

2. Выборы в Израиле завершились безрезультатно после кампании, в которой обе стороны активно использовали дипфейки

Издание Al Jazeera Bots, deepfakes and surveillance: Israel's election goes to war online сообщает, что как лагерь премьер-министра Биньямина Нетаньяху, так и оппозиция во главе с Гди Эйзенкотом продвигали созданные ИИ и дипфейк-видео в X в преддверии голосования 27 октября.

• 25 октября Нетаньяху поделился сгенерированным ИИ изображением ядерного взрыва над Тель-Авивом, как сообщает The Jerusalem Post, что побудило лидеров оппозиции обвинить его в попытке запугать избирателей.
• В день выборов Нетаньяху опубликовал фотографии, которые, по его словам, запечатлели очереди на избирательные участки в преимущественно арабских общинах. По меньшей мере одна из них была помечена как сгенерированная ИИ по результатам анализа BBC, сообщает ABC News Australia.
• Категория: Политика / Выборы
• Тип: Атака
• Модальность: Видео, Изображение
• Политика / Регулирование: Центральная избирательная комиссия Израиля уже ограничивала одно из приложений партии «Ликуд» для отслеживания явки из-за проблем с конфиденциальностью, но в отчетах не упоминаются правила, мешающие политическим кампаниям или действующему премьер-министру публиковать синтетические изображения во время предвыборной гонки или в день выборов.
• Тренд: Главы правительств и крупных партий публикуют сгенерированные ИИ изображения с официальных аккаунтов во время национальных выборов.
• Вектор атаки: видео и изображения, созданные ИИ, распространяемые через собственные верифицированные аккаунты кандидатов в социальных сетях и усиленные бот-сетями.

Ядерный взрыв — это гипотетический образ, ярко визуализированный, и большинство зрителей воспримут его как иллюстрацию угрозы, а не как фотографию реального события. Изображение в день голосования — это другое, и оно вызывает больше опасений, поскольку было представлено как документальное подтверждение того, что происходит в этот день, в тот самый момент, когда избиратели решали, идти ли на участки.

Когда синтетический медиаконтент исходит от официального аккаунта главы правительства, привычные механизмы защиты теряют свою эффективность. Политики платформ и фактчекеры созданы для выявления анонимных подделок, а верифицированный аккаунт обладает презумпцией подлинности, которой может воспользоваться сфабрикованное изображение. Поскольку результаты сейчас оспариваются, а коалиционные переговоры продолжаются, Израиль служит примером того, как выглядят выборы, когда каждая сторона использует синтетический медиаконтент как обычный предвыборный материал.

3. Квинсленд планирует криминализировать создание сексуальных дипфейков, а не только их распространение

ABC News сообщает, что генеральный прокурор Деб Фреклингтон 27 октября представила законопроект, согласно которому создание неконсенсуальных сексуально откровенных дипфейков (изображений или аудио) становится уголовным преступлением. Максимальное наказание составляет три года тюремного заключения для взрослых и 18 месяцев для несовершеннолетних.

• Категория: CSAM / NCII
• Тип: Ответные меры
• Модальность: Изображение, Аудио
• Политика / Регулирование: В настоящее время в Квинсленде запрещено распространение, но не создание; законопроект также добавляет определение интимного аудиоматериала и расширяет понятие «интимное изображение», включая в него неаутентичные изображения.
• Тренды: Законодатели переходят от борьбы с распространением к борьбе с самим процессом генерации.
• Вектор атаки: Неприменимо, это законодательная мера.

Делом, которое выявило этот пробел, стал случай Антонио Ротондо, который создавал сексуализированные дипфейки с участием учеников и сотрудников школы в Брисбене, включая 13-летнего подростка, и мог быть наказан только за их распространение. Фреклингтон заявила, что школы находятся на передовой, так как поддельные изображения используются для травли как учеников, так и учителей, а мать девочки, ставшей жертвой травли с использованием поддельных обнаженных изображений, публично поддержала эти изменения.

Определения в законопроекте заслуживают не меньшего внимания, чем само правонарушение. Охват «неаутентичных» изображений и интимного аудио закрывает лазейки, которые использовали правонарушители, утверждая, что изображение не считается подделкой, так как обстановка невозможна или часть тела скрыта. Криминализация самого процесса создания важна, потому что к моменту распространения изображения ущерб, нанесенный человеку, уже крайне трудно исправить.

4. Злоумышленник выдавал себя за 32 различных ИИ-агента для поиска паролей и облачных ключей

Dark Reading сообщает, что один злоумышленник с конца сентября по конец октября использовал около 32 фальшивых личностей ИИ-агентов, включая ChatGPT, Claude и Perplexity, для сканирования организаций в сферах финансовых услуг, ритейла, телекоммуникаций, энергетики и программного обеспечения на предмет обнаружения паролей, API-ключей и облачных учетных данных.

• Категория: Мошенничество / Выдача себя за другое лицо
• Тип: Атака
• Модальность: Агентный ИИ
• Политика / Регулирование: Не существует единого стандарта для проверки того, является ли ИИ-агент тем, за кого себя выдает, и в этом месяце несколько крупных банков США ограничили доступ сторонних агентов к счетам клиентов.
• Тренды: Злоумышленники выдают себя за доверенных ИИ-агентов, чтобы обойти «белые списки», которые компании создают по мере роста легитимного агентного трафика.
• Вектор атаки: Автоматизированный сканер на ротируемых облачных адресах, который использует поддельные личности ИИ-агентов при запросе файлов, где обычно хранятся секреты, таких как конфигурационные файлы, файлы облачных учетных данных и закрытые SSH-ключи.

Большая часть того, что мы отслеживаем в списке наблюдения, — это те или иные формы выдачи себя за другое лицо, и эта кампания применяет ту же тактику к новому типу идентификации. Исследователи обнаружили, что в один из дней октября сканер достиг 48 процентов отслеживаемых организаций, которые фиксировали любой трафик ИИ-ботов, при этом одна и та же машина за считанные секунды представлялась агентом OpenAI, Anthropic, Meta и Perplexity. Все ее фальшивые личности Claude содержали контактный адрес реального краулера Anthropic — скопированная строка, которая показывает, насколько мало усилий потребовалось для маскировки.

Маскировка работает, потому что большинство систем до сих пор определяют, кто является посетителем, на основе того, что он сам о себе заявляет. В нескольких организациях на долю самозванца приходилось более 80 процентов трафика, помеченного как трафик ИИ-ботов, что означает, что данные, которые компании используют для настройки политики в отношении агентов, могут быть сильно искажены. Именно поэтому наша собственная система обнаружения агентов анализирует поведение сессии, а не заявленную личность, так как заявленное имя — это самая простая часть агента для подделки. На прошлой неделе Axios сообщил, что руководителям банков трудно отличить авторизованного агента от вредоносного, и этот вопрос становится еще сложнее, когда злоумышленники начинают использовать имена агентов, которым банки решили доверять.

Почетные упоминания

Генпрокурор Миссисипи добился удаления ИИ-рекламы Скотта Колома с изображением Синди Хайд-Смит. Генеральный прокурор Линн Фитч 23 октября заявила, что кандидат в Сенат от Демократической партии, вероятно, нарушил закон штата, выпустив немаркированную ИИ-рекламу, на которой его оппонент-республиканец убегает от репортеров. Колом удалил ее, чтобы избежать судебного иска, сообщает Mississippi Today. Закон Миссисипи делает исключение для сатиры и пародии, и Колом настаивает, что реклама изображает правдивую историю. Mississippi Free Press также сообщила о том, что предвыборный штаб Хайд-Смит создал фейковый веб-сайт, используя имя Колома и его старую фотографию из полицейского участка.

Nissan заменяет отредактированные ИИ рекламные фотографии своего концепт-кара SEMA. Motor1 и The Autopian обнаружили аномалии на официальных изображениях Nissan Sentra Spec-V Concept, и Nissan подтвердил, что внешний креативный партнер использовал инструменты редактирования с поддержкой ИИ для фона, что привело к ошибкам в деталях автомобиля. Nissan заменяет изображения, сам автомобиль является реальным.

Житель Нью-Джерси обвиняется в создании и публикации дипфейков с обнаженными изображениями двух женщин. Прокуроры округа Берген 22 октября предъявили обвинения 37-летнему жителю Олд-Таппана в создании и распространении вводящего в заблуждение визуального контента после того, как созданные ИИ обнаженные изображения двух взрослых женщин были опубликованы вместе с их настоящими именами и фотографиями, сообщает Patch.

Закономерность

• Самый примечательный синтетический политический контент на этой неделе исходил от аккаунтов самих кандидатов, а не от анонимных троллей или иностранных сетей. Страница кампании окружного судьи опубликовала изображения вымышленных сторонников, премьер-министр опубликовал созданную ИИ фотографию в день голосования, а в Миссисипи немаркированная ИИ-реклама кандидата в Сенат была удалена только под угрозой судебного иска. Правила борьбы с дипфейками на выборах в основном были написаны для того, чтобы помешать кому-то выдавать себя за кандидата, и они гораздо менее эффективны, когда сам кандидат является тем, кто публикует такой контент.
• Инвестиционное мошенничество демонстрирует, как те же инструменты работают в массовом масштабе против людей, наименее подготовленных к тому, чтобы подвергать их сомнению. Британская полиция зафиксировала более 1300 сообщений об инвестиционном мошенничестве с использованием ИИ за восемь месяцев, причем почти 80 процентов из них исходят от людей старше 60 лет, и большая часть этого мошенничества проходит через ту же рекламную инфраструктуру, где наше собственное сканирование обнаружило созданный ИИ креатив, который практически никогда не раскрывается. Кампании по повышению осведомленности и проверки регистрации компаний помогают, но они перекладывают работу по верификации, которую не выполняет канал распространения, на самых уязвимых людей. Кампания по выдаче себя за агентов демонстрирует ту же уязвимость, переходящую в машинный трафик, где заявленной личности доверяют до тех пор, пока кто-нибудь не проверит, как она ведет себя на самом деле.
• Законопроект Квинсленда указывает на полезное направление — в сторону момента создания, а не момента причинения вреда. Законы, регулирующие только распространение, удаление контента платформами и проверка фактов — все они действуют уже после того, как синтетический контент появился в мире. Правила, относящиеся к генерации, будь то уголовные наказания за создание интимных дипфейков или сигналы о происхождении, встроенные инструментами, производящими синтетические медиа, могут задать тон тому, как другие юрисдикции подходят к вопросу ответственности до того, как ущерб будет нанесен.

Что отслеживать на следующей неделе

• Промежуточные выборы в США 3 ноября. Произведет ли поздняя волна размещенного в рамках кампаний контента с ИИ в Техасе, Миссисипи и других местах какие-либо дополнительные жалобы или меры пресечения до закрытия избирательных участков.
• Расследование иностранного вмешательства в Израиле. Глава Центральной избирательной комиссии запросил у ШАБАК результаты в течение недели, поскольку после неопределенных результатов начинаются коалиционные переговоры.
• Законопроект Квинсленда о создании дипфейков. Насколько быстро законопроект продвинется через парламент и последуют ли другие штаты Австралии примеру, введя собственные наказания за создание.
• Высокий суд Дели по делу Крити Санон. Суд заявил, что издаст всеобъемлющее постановление о том, как личные неимущественные права распространяются на контент с образами, созданными с помощью ИИ, что может стать ориентиром для аналогичных дел в Индии.

Список наблюдения за дипфейками публикуется каждый четверг. Подпишитесь, чтобы получать его на электронную почту, или следите за Зухаибом Ахмедом (Zohaib Ahmed) в LinkedIn, чтобы читать еженедельные публикации в соцсетях. Отслеживайте каждый задокументированный инцидент в базе данных инцидентов с дипфейками Resemble (Resemble Deepfake Incident Database) и читайте полную методологию в нашем отчете об угрозах дипфейков за первое полугодие 2026 года.

Попробуйте Resemble AI бесплатно

Проверяйте подлинность и обнаруживайте обман только с помощью Resemble AI.

Начать работу