Список наблюдения за дипфейками: специальный выпуск — дипфейки и промежуточные выборы 2026 года

The Deepfake Watchlist — это еженедельный обзор Resemble AI, посвященный инцидентам с синтетическими медиа, текущим делам и спорному контенту, формирующему новостную повестку. Каждую неделю мы отслеживаем подтвержденные инциденты, новые векторы атак и расследуемые заявления, а также связанные с ними вопросы происхождения, обнаружения и политики. Вы новичок в мире дипфейков? Прочитайте руководство Deepfake 101 GuideThe Deepfake Watchlist: Специальный выпуск — Дипфейки и промежуточные выборы 2026 года

★ В центре внимания: Россия, Иран и Китай используют ИИ для индустриализации предвыборной дезинформации — и это работает

Bloomberg reported on October 14 о том, что все три государственных субъекта используют генеративный ИИ для усиления дезинформации в преддверии 3 ноября. 8 октября OpenAI заблокировала российские и иранские аккаунты, которые были уличены в использовании ChatGPT для скоординированных операций влияния, в тот же день, когда Bloomberg опубликовал свое расследование о масштабах того, что на самом деле делают эти операции.

• Категория: Политическая / Избирательная
• Тип: Атака
• Модальность: Видео, Текст, Аудио
• Политика / Регулирование: 8 октября OpenAI заблокировала аккаунты; никаких мер принуждения со стороны США в отношении описанных иностранных сетей не предпринималось; Конгресс не принял федеральный стандарт использования ИИ в операциях иностранного влияния на выборы.
• Тенденция: Государственные операции влияния, индустриализирующие производство дезинформации с использованием общедоступных инструментов ИИ, с качеством и в масштабах, которые делают их продукт неотличимым от легитимных внутриполитических комментариев.
• Вектор атаки: Сгенерированные ИИ фальшивые журналисты, сфабрикованные видеоролики в стиле теленовостей и синтетические персонажи в социальных сетях, создающие контент, призванный выглядеть как внутренние репортажи, размещаемые в легитимных СМИ и распространяемые после публикации.
• Что мы увидели в контенте: Операции, описанные в отчете Bloomberg, следуют четким, но связанным архитектурам у всех трех субъектов: российская сеть Matryoshka, также отслеживаемая как Storm-1679, с начала сентября распространяет видео, манипулированные с помощью ИИ, включая дипфейки американских знаменитостей, критикующих кандидатов от Демократической партии, и сфабрикованные ролики в стиле выпусков новостей CNN с ИИ-клонированными ведущими; иранские сети развернули сгенерированных ИИ персонажей, выдающих себя за американских активистов, создавая антиреспубликанские комментарии, которые размещались в таких изданиях, как Daily Kos, опубликовавших некоторые из этих постов до проверки их на подлинность; по крайней мере в одном задокументированном случае сфабрикованный нарратив, внедренный в легитимное издание, вызвал публичную реакцию действующего депутата Европарламента, что означает, что операция достигла своей цели не путем прямого охвата массовой аудитории, а путем публикации контента в одном авторитетном источнике и позволив медиаэкосистеме сделать остальное; в отчете OpenAI от 8 октября отмечается, что заблокированные сети использовали ChatGPT для таких задач, как написание контента для социальных сетей, перевод между языками для охвата различных внутренних аудиторий и создание «звучащих аутентично» биографий для синтетических персонажей.
• Российская сеть Matryoshka, также отслеживаемая как Storm-1679, с начала сентября распространяет видео, манипулированные с помощью ИИ, включая дипфейки американских знаменитостей, критикующих кандидатов от Демократической партии, и сфабрикованные ролики в стиле выпусков новостей CNN с ИИ-клонированными ведущими
• Иранские сети развернули сгенерированных ИИ персонажей, выдающих себя за американских активистов, создавая антиреспубликанские комментарии, которые размещались в таких изданиях, как Daily Kos, опубликовавших некоторые из этих постов до проверки их на подлинность
• По крайней мере в одном задокументированном случае сфабрикованный нарратив, внедренный в легитимное издание, вызвал публичную реакцию действующего депутата Европарламента, что означает, что операция достигла своей цели не путем прямого охвата массовой аудитории, а путем публикации контента в одном авторитетном источнике и позволив медиаэкосистеме сделать остальное
• В отчете OpenAI от 8 октября отмечается, что заблокированные сети использовали ChatGPT для таких задач, как написание контента для социальных сетей, перевод между языками для охвата различных внутренних аудиторий и создание «звучащих аутентично» биографий для синтетических персонажей

Традиционная модель угроз для государственных операций влияния предполагала масштаб: наводнить пространство достаточным количеством синтетического контента, чтобы часть его закрепилась в сознании обычных избирателей. То, что документирует Bloomberg, — это нечто более целенаправленное и, в некотором смысле, более труднопреодолимое. Если вы можете заставить авторитетное издание рассматривать вашу фальсификацию как реальное новостное событие, пусть даже ненадолго, дальнейшее усиление происходит через обычную динамику политических медиа, а не через бот-сети. Контент, сгенерированный ИИ, — это средство; размещение его в доверенном источнике — это механизм; а цель — вовсе не общая читательская аудитория издания. Это любой человек внутри политической системы, который ищет новости, подтверждающие то, во что он уже верит.

Это более сложная проблема, чем модерация контента на уровне платформы. И за три недели до выборов описанные здесь операции не сбавляют обороты.

1. Сгенерированная ИИ реклама Стива Хилтона против Бесерры вкладывает сфабрикованные слова на испанском языке в уста кандидата перед латиноамериканскими избирателями

Кандидат в губернаторы Калифорнии от Республиканской партии Стив Хилтон выпустил сгенерированную ИИ предвыборную рекламу на испанском языке, в которой его оппонент-демократ Ксавьер Бесерра утверждает, что он «боролся за то, чтобы мальчики играли в женских спортивных командах» — заявление, которое Бесерра никогда не делал, согласно "AI slop": GOP ad uses fake footage of opponent saying he supports men beating girls in sports LGBTQ Nation.

• Категория: Политическая / Избирательная
• Тип: Атака
• Модальность: Видео, Аудио
• Политика / Регулирование: Калифорния требует раскрытия информации о контенте, сгенерированном ИИ, в предвыборной рекламе; штаб Хилтона включил пометку, но она появляется мелким шрифтом примерно на три секунды. Ни один закон Калифорнии не запрещает вкладывать сфабрикованные заявления в уста оппонента.
• Тенденция: ИИ-сгенерированная политическая реклама переходит от сатирической карикатуры к дезинформации, ориентированной на демографические группы, с версиями на испанском языке, созданными для охвата избирателей, которые с меньшей вероятностью столкнутся с проверкой фактов того же контента на английском языке.
• Вектор атаки: Сгенерированные ИИ внешность и голос оппозиционного кандидата, озвучивающие сфабрикованную политическую позицию, раскрытые почти нечитаемым мелким шрифтом и распространяемые как платная политическая реклама на испанском языке.

Хилтон отстает более чем на 15 пунктов во всех опубликованных опросах. Аудитория этой рекламы — не широкие слои избирателей, а конкретно испаноязычные латиноамериканские избиратели, которые, возможно, не сталкивались с дискуссией на английском языке о том, что на самом деле гласят законы Калифорнии о спорте для трансгендерных студентов. Реальная позиция Бесерры о том, что он выступает против дискриминации трансгендеров, не тождественна поддержке участия мальчиков в женских спортивных соревнованиях, и реклама намеренно стирает это различие, а затем приписывает искаженную версию человеку, который выступал против нее.

Это также второй случай в текущем цикле, когда в кампании Хилтон используется контент с Бесеррой, созданный с помощью ИИ; в июле был выпущен дипфейк-ансамбль с участием Харрис, Ньюсома и Бесерры. Эскалация от сатирического ансамбля до целенаправленной дезинформации на испанском языке против одного оппонента следует схеме, заметной в других историях на этой неделе: пародийная реклама с ИИ в начале цикла дала штабам возможность проверить, что работает, и теперь они используют эти методы против избирателей, которые с наименьшей вероятностью увидят опровержение до дня выборов.

2. ИИ-агенты пишут избирателям напрямую от лица кандидатов без обязательного раскрытия информации

Политические штабы используют ИИ-агентов для ведения живых двусторонних текстовых диалогов с избирателями от лица кандидата, и федеральное законодательство не требует от них сообщать, что это не человек, согласно a Center for Democracy and Technology analysis of regulatory gaps in AI-powered voter outreach.

• Категория: Политика / Выборы
• Тип: Вектор атаки / Инфраструктура
• Модальность: Текст (разговорный ИИ)
• Политика / Регулирование: Закон TCPA (1991) был написан для предварительно записанных звонков и массовых роботов-рассылок, он не регулирует четко живые адаптивные ИИ-диалоги. В 2024 году FCC постановила, что голоса, созданные ИИ, считаются «искусственными» для робозвонков, требующих предварительного согласия, но не уточнила, подпадают ли под это же правило тексты, созданные ИИ. Ни один федеральный закон не требует от штабов раскрывать информацию о том, что избиратель общается с ИИ-агентом.
• Тренды: Агентные ИИ-системы переходят от генерации контента к прямому контакту с избирателями, при этом штабы используют их для проведения тысяч одновременных персонализированных разговоров с почти нулевыми предельными издержками.
• Вектор атаки: ИИ-агенты, обученные на профилях кандидатов и их сообщениях, развернутые для инициирования и поддержания персонализированных разговоров с избирателями в масштабе, где каждый обмен данными попадает в индивидуальные досье избирателей, хранящиеся у поставщика.

Продукт IONCandidate от aKillion ведет живые двусторонние текстовые диалоги от лица кандидата, основываясь на его послужном списке, платформе и утвержденных тезисах, и заявляет, что может «управлять тысячами одновременных разговоров», при этом каждый обмен данными регистрируется и добавляется в индивидуальные профили избирателей. Convos обучает ИИ-агента на биографиях кандидатов и их политических позициях, а затем использует его для прямой переписки с избирателями; продукт поощряет, но не требует раскрытия информации о том, что отправитель не является человеком. Vector Political проводит аналогичные персонализированные адаптивные диалоги. В Северной Дакоте теперь требуется раскрытие информации при отправке политических текстов, созданных ИИ. Закон BOT Act штата Калифорния охватывает публичные чат-боты, но распространяется ли он на SMS — это открытый юридический вопрос. FCC может вынести решение по ожидающей рассмотрения петиции Club for Growth об освобождении политических ИИ-звонков от требования предварительного согласия уже в конце октября, возможно, до 3 ноября.

Эти системы не создают сфабрикованные медиа с реальными людьми, но они создают синтетическую версию самого кандидата: персону, которая звучит как кандидат, отвечает с позиции платформы кандидата и ведет разговоры, которые избиратель воспринимает как прямое сообщение от того, за кого он голосует. Граница между этим и выдачей себя за другое лицо, по крайней мере с точки зрения избирателя, тоньше, чем хотели бы показать поставщики технологий.

3. Дипфейк-реклама с ИИ — стандартный инструмент предвыборной кампании, и большинство избирателей не могут ее распознать

Штабы обеих партий использовали видео-, аудио- и графическую рекламу, созданную ИИ, на протяжении всего цикла 2026 года, причем как атакующие ролики, так и рекламный контент производились в таком масштабе и с такой скоростью, что стиралась грань между синтетическим и подлинным политическим контентом, согласно расследованию Al Jazeera об использовании ИИ-рекламы на промежуточных выборах и анализу TrueScreen раскрытого ИИ-контента кампаний.

• Категория: Политика / Выборы
• Тип: Атака / Продвижение
• Модальность: Видео, Аудио, Изображение
• Политика / Регулирование: Двадцать пять штатов требуют той или иной формы раскрытия информации о политической рекламе, созданной ИИ; федерального стандарта для раскрытия, подтверждения подлинности или запрета не существует. FEC рассматривает проект правил по ИИ в раскрытии информации о финансировании кампаний.
• Тренды: Производство ИИ-рекламы переходит от новой тактики к стандартной инфраструктуре кампаний, при этом обе партии используют ее для атак и продвижения на всех уровнях голосования.
• Вектор атаки: Созданный ИИ предвыборный контент, распространяемый в качестве платной политической рекламы на телевидении, кабельных каналах и социальных платформах; требование о раскрытии информации (там, где оно существует) применяется на уровне штата и варьируется по степени конкретики.

Анализ TrueScreen показал, что доля политической рекламы, созданной ИИ, которая включает какую-либо форму достоверного раскрытия информации, фактически снизилась с 2024 года, даже несмотря на то, что количество штатов с законами о раскрытии информации выросло. Разрыв между юридическим требованием и соблюдением закона увеличивается. Репортажи Al Jazeera показывают, что штабы оправдывают использование атакующего контента, созданного ИИ, тем, что преимущество в скорости производства слишком значительно, чтобы отказываться от него в одностороннем порядке, даже в штатах, где закон требует раскрытия информации. Логика такова: кандидат, который раскрывает информацию, дает своему оппоненту повод для истории. Кандидат, который не соблюдает закон, исполнение которого редко влечет за собой наказание, — нет.

4. ИИ-атака Дэна Патрика на своего ноябрьского оппонента оборачивается первой в Техасе уголовной жалобой на дипфейк

За три недели до того, как техасские избиратели должны были сделать выбор между действующим вице-губернатором Дэном Патриком и кандидатом от демократов Викки Гудвин, штаб Патрика запустил видео, созданные ИИ, ложно изображающие Гудвин на футбольном матче в футболке с надписью «налоги» (taxes) вместо «Техас» (Texas). Гудвин подала заявление в полицию — это первая уголовная жалоба в соответствии с законом Техаса о предвыборных дипфейках, согласно Fox4 News и расследованию Axios о более широкой волне жалоб, поданных в ходе предвыборных гонок в этом месяце.

• Категория: Политика / Выборы
• Тип: Атака
• Модальность: Видео
• Политика / Регулирование: Избирательный кодекс Техаса § 255.004 запрещает рекламу, созданную ИИ, в течение 30 дней до выборов, если она направлена на влияние на результат; штаб Патрика удалил рекламу после жалобы и назвал ее «очевидной пародией». Тридцать один штат сейчас регулирует предвыборные дипфейки; федерального стандарта не существует.
• Тренды: Законы о предвыборных дипфейках функционируют как механизм удаления постфактум, а не как сдерживающий фактор, при этом штабы запускают ИИ-атаки и удаляют их только после того, как контент уже достиг своей целевой аудитории.
• Вектор атаки: Видео, созданное ИИ, изображающее оппонирующего кандидата в ложном контексте, распространяемое в социальных сетях и удаленное только после подачи официальной жалобы.

Защита в виде «пародии» играет важную роль в материалах этой недели. Различие между пародией и целенаправленной дезинформацией не является техническим, поскольку и то, и другое может быть создано с помощью одного и того же рабочего процесса ИИ. Разница заключается в том, является ли контент узнаваемо сатирическим для аудитории, на которую он рассчитан, и реклама, показывающая оппонента с надписью, которая прямо инвертирует его реальную политическую позицию, не воспринимается как пародия тем, кто сталкивается с ней без предварительного скептицизма. Расследование Axios выявляет одну и ту же динамику одновременно в Висконсине и Северной Каролине: приходит письмо с требованием прекратить нарушение, реклама снимается, но избиратели, которые ее видели, уже успели с ней ознакомиться.

Почетные упоминания

Сенатор штата Колорадо Кэти Кипп подала первую жалобу в соответствии с законом штата о раскрытии информации о дипфейках. Colorado Politics сообщает, что Кипп подала жалобу после того, как Independence Institute опубликовал созданное ИИ видео, на котором она кладет в карман сдачу на кассе продуктового магазина в качестве метафоры своей поддержки Предложения NN. Видео содержало упоминание об использовании ИИ ближе к концу, но в нем отсутствовал требуемый формальный отказ от ответственности. Отдел выборов госсекретаря Колорадо проводит расследование; Independence Institute утверждает, что видео квалифицируется как сатира в соответствии с исключением Первой поправки в законе.

Закономерность

• Каждый крупный инцидент на этой неделе нацелен на конкретную аудиторию до того, как до нее дойдет опровержение. Реклама Хилтон на испанском языке достигает избирателей, которые вряд ли столкнутся с проверкой фактов на английском. Футбольная реклама Патрика была запущена и снята после жалобы. Российская сеть «Матрешка» размещала фальшивки в легитимных изданиях и позволяла медийному усилению сделать всю работу. Агентные системы ИИ для взаимодействия с избирателями связываются с отдельными избирателями в частных текстовых переписках, где проверка фактов третьей стороной даже невозможна. Именно архитектура таргетинга заставляет каждый из этих методов работать.
• В тридцати одном штате действуют законы о дипфейках на выборах. В Техасе есть уголовный кодекс. FCC постановила, что для использования голосов ИИ в автоматических звонках требуется согласие. В каждом случае на этой неделе правоприменение либо еще не наступило, либо наступило после того, как контент уже завершил свой цикл распространения, а история с ИИ-взаимодействием с избирателями выявляет категорию использования политического ИИ, которую существующее законодательство вообще не охватывает. Нормативные базы, написанные до появления агентного ИИ, не поспевают за системами, которые предвыборные штабы развертывают прямо сейчас.
• Дело России/Ирана/Китая делает самую сложную проблему конкретной: самая эффективная операция влияния на этой неделе не опиралась на масштаб. Она внедрила информацию в один заслуживающий доверия источник, спровоцировала политическую реакцию и позволила нормальной динамике СМИ сделать все остальное. Это не проблема модерации платформы. За три недели до 3 ноября это также не проблема с очевидным решением.

Следите на следующей неделе

• Досрочное голосование в нескольких штатах. Первое реальное испытание того, приведут ли агентное ИИ-взаимодействие с избирателями и демографически таргетированная дипфейк-реклама к измеримым эффектам убеждения в рамках юридических окон, определенных этими штатами.
• Модерация платформ в преддверии 3 ноября. Meta и X сократили профессиональную проверку фактов в этом цикле; вопрос о том, поспевают ли примечания сообщества за объемом политического контента ИИ, остается открытым и имеет жесткий дедлайн.
• Отчеты OpenAI и Anthropic перед выборами. Обе компании обязались предоставить дополнительные отчеты об удалении контента до дня выборов; станет ясно, был ли 8 октября пик или это только начало волны.
• Решение FCC по политическим звонкам с голосом ИИ. Петиция Club for Growth об освобождении политических автоматических звонков с голосом ИИ от предварительного согласия может быть рассмотрена до дня выборов — что напрямую повлияет на то, что разрешено делать платформам ИИ для взаимодействия с избирателями, описанным в третьей истории.

Deepfake Watchlist публикуется каждый четверг. Подпишитесь, чтобы получать его на свою электронную почту, или следите за Зохаибом Ахмедом в LinkedIn, чтобы получать еженедельные социальные дополнения. Отслеживайте каждый задокументированный инцидент в базе данных инцидентов Resemble Deepfake и ознакомьтесь с полной методологией в нашем отчете об угрозах дипфейков за первое полугодие 2026 года.

Попробуйте Resemble AI бесплатно

Создавайте с уверенностью. Проверяйте право собственности. Обнаруживайте обман. Только с Resemble AI.

Начать