За последние два с половиной года мы неоднократно сообщали о различных способах, которыми злоумышленники пытались использовать наши модели для проведения кибератак, скрытых операций влияния (IO), мошенничества и других нарушений нашей Политики использования. Мы публикуем эти отчеты, чтобы информировать регулирующие органы, коллег по отрасли и широкую общественность о том, как злоумышленники пытаются использовать ИИ, а также чтобы пролить свет на уязвимости, которые они стремятся эксплуатировать.
Недавно мы заблокировали две операции влияния — одну из России и одну из Ирана, — которые использовали наши модели в сочетании с более традиционными методами и технологиями для поддержки сложных структур, действующих под «ложным флагом». Они использовали эти структуры для внедрения геополитических и связанных с конфликтами сообщений в целевую аудиторию. Иранская операция включала группу из семи «журналистских» персонажей, которых использовали для предложения лонгридов небольшим и средним онлайн-изданиям по всему миру; российская операция, по-видимому, привлекла ничего не подозревающих людей в Латинской Америке для управления «аналитическим центром» на местах.
Обе операции были многоплановыми и использовали целый ряд различных тактик для достижения своих целей. Помимо лонгридов, иранская операция генерировала серии комментариев в социальных сетях, в основном на темы, связанные с войной между США и Ираном. Помимо контроля над «аналитическим центром», российская операция создавала фальшивые «слитые» документы и сценарии аудиозаписей, некоторые из которых мы обнаружили в сети. Обе операции также активно использовали ИИ для составления внутренних отчетов (российская операция делала это чаще всего); в обоих случаях злоумышленники использовали сомнительные или откровенно обманные методы, чтобы преувеличить эффективность своей работы.
Наиболее примечательно в этих операциях то, что они очень напоминали сложные операции влияния эпохи до появления ИИ, но использовали ИИ для упрощения некоторых рабочих процессов. Журналистские персонажи, управляемые иранской операцией, имели семейное сходство с фальшивым журналистом «Alice(opens in a new window) Donovan(opens in a new window)» — прикрытием российской военной разведки, чьи статьи публиковались рядом западных изданий в 2016–2017 годах. В 2020 году лица, связанные с прошлой деятельностью российского Агентства интернет-исследований, управляли фальшивым «новостным» изданием под названием «PeaceData(opens in a new window)», которое привлекало ничего не подозревающих журналистов по всему миру для написания материалов.
Эти операции также были необычными по своему потенциальному охвату. Используя шкалу прорыва IO Breakout Scale(opens in a new window), которая оценивает операции влияния по шкале от 1 (самый низкий) до 6 (самый высокий), мы оценили операцию российского происхождения как относящуюся к категории 5. Это первая операция категории 5, которую мы пресекли с момента начала нашей отчетности. Операция иранского происхождения достигла категории 4. Обеим удалось разместить свой контент (не весь из которого был сгенерирован нашими моделями) в основных средствах массовой информации, а не просто публиковать его в социальных сетях. Это согласуется с закономерностью, которую мы наблюдали во всех 30 скрытых операциях влияния, раскрытых нами за последние два с половиной года: операции, которые пытаются разместить свой контент в реальных СМИ, а не полагаются на распространение через фальшивые социальные сети, как правило, имеют наибольший потенциальный охват и влияние.
Матрица 30 операций влияния, раскрытых нами с начала 2024 года, оцененная по основному методу распространения (социальные сети, управляемый операцией веб-сайт, внешние публикации) и оценке по шкале Breakout Scale. Операции, которые использовали более одного метода распространения, например, управление веб-сайтом и его продвижение в социальных сетях, классифицируются по методу, который, по-видимому, составлял основу операции.
ИИ может придать таким операциям под «ложным флагом» больший масштаб, эффективность, лингвистическую беглость и редакционные возможности. Операторы могут использовать эти преимущества, чтобы эксплуатировать ничего не подозревающих жертв, таких как сотрудники или редакторы, и внедрять свой контент перед аудиторией, которая понятия не имеет, кто за этим стоит и каковы их мотивы. Эти операции также демонстрируют сложность и изощренность использования злоумышленниками фальшивых персонажей и структур для достижения своих целей. Понимание уязвимостей, которые злоумышленники используют в этих усилиях, и того, как эти уязвимости могут трансформироваться в аудиторию и охват, будет иметь важное значение для поддержания надежной защиты в организациях.
Но скрытый характер этих операций под «ложным флагом» также делает их особенно уязвимыми для ответственного раскрытия информации. И «Alice Donovan», и «PeaceData» прекратили свою деятельность после того, как были разоблачены. Вот почему наша цель при сообщении об этих операциях под «ложным флагом» — облегчить дальнейшие исследования и пресечение, а также усложнить продолжение самих операций.
Россия: Операция «Dark Clark»
Субъекты российского происхождения, проводящие кампании влияния по всей Латинской Америке.
Субъект
Мы заблокировали группу учетных записей ChatGPT, которые возникли в России. Они использовали ChatGPT для ряда задач, связанных со скрытыми операциями влияния, направленными на страны Латинской Америки. Большая часть этой деятельности, по-видимому, была направлена на подрыв репутации Украины в регионе, но некоторые действия, по-видимому, были направлены на влияние на местные политические результаты, особенно в Аргентине и Боливии. Большинство операторов делали запросы на русском языке; один делал запросы на испанском, но, тем не менее, по-видимому, находился в России. Мы поделились информацией об этом случае с соответствующими органами.
Операторы использовали ChatGPT для выполнения трех основных задач: написания внутренних отчетов о своей деятельности (и деятельности других людей, которую они могли правдоподобно приписать себе), создания контента для своих операций и составления отчетов о работе самопровозглашенной «исследовательской платформы» в Латинской Америке под названием Social Research Center (SRC). По-видимому, они контролировали SRC через фальшивого персонажа по имени «Mia Clark»; в честь этого имени мы прозвали эту операцию «Dark Clark». Поскольку мы не разрешаем доступ к нашим моделям из России, они использовали VPN для подключения к нашим сервисам.
В своих внутренних отчетах операторы утверждали, что распространяли фальшивые истории по всей Латинской Америке, чтобы подорвать авторитет Украины или местных лидеров. Некоторые из этих фальшивок были приписаны исследователями(opens in a new window) открытых(opens in a new window) источников российской организации, известной как «Политология» или «Ла Компания», которая, как сообщается, является преемником Группы Вагнера и других структур, основанных российским олигархом Евгением Пригожиным. Операторы также просили наши модели перевести или объяснить публичные сообщения о «Политологии» и «Вагнере» гораздо чаще, чем о любых других сетях российского происхождения.
Эта операция была необычной в двух отношениях. Во-первых, она, судя по всему, успешно привлекла лиц в Латинской Америке к работе на SRC. Отчеты российских операторов по SRC касались принятия решений по таким вопросам, как сетки оплаты труда, наем и увольнение, что позволяет предположить, что они управляли структурой, а не сотрудничали с ней. Имеющиеся данные свидетельствуют о том, что сотрудники SRC в Латинская Америка не подозревали, что работают на российскую группу. В отличие от другого связанного с Россией «мозгового центра», который мы недавно разоблачили, SRC, судя по всему, создавала большую часть оригинального контента силами завербованного персонала. Это выделяется как самая сложная попытка управления фальшивым прикрытием, которую мы пресекли за последние два с половиной года.
Во-вторых, некоторые данные из открытых источников свидетельствуют о том, что подделки Dark Clark распространились настолько широко, что вызвали проверки фактов(opens in a new window) и официальные опровержения(opens in a new window), что указывает на степень проникновения, которая превосходит любые операции влияния, пресеченные нами за последние два года. Один фейк, который, по утверждению организаторов операции, был внедрен в Перу, даже подпитал общественную напряженность между Украиной и Польшей.
Внутренняя отчетность
Основным способом использования ChatGPT операторами было составление и обновление внутренних отчетов для неизвестного руководителя. В этих регулярных отчетах описывались усилия по проведению тайных кампаний влияния в странах Латинской Америки. Они охватывали три основных направления работы: усилия по очернению Украины и подрыву призыва в Вооруженные силы Украины; усилия по вмешательству во внутреннюю политику некоторых стран, особенно Боливии и Аргентины; и управление SRC. В большинстве случаев мы не наблюдали использования угрозчиками наших моделей для создания контента для кампаний, а только для отчетности по ним (несколько исключений описаны ниже).
Отчеты были богаты тактическими деталями, проливая свет на то, как операция пыталась подорвать позиции Украины и некоторых национальных лидеров, в частности президентов Аргентины, Боливии и Эквадора. В некоторых описывались попытки обмануть местных жителей, чтобы те совершили действия, которые операторы могли бы использовать в качестве оружия; в других описывались фальшивые «утечки», которые, по утверждению операторов, они распространили.
В двух случаях улики связывают операторов с публичными сообщениями о «Politology». Операторы сообщили, что в 2024 году они провели две кампании, направленные против президента Аргентины Хавьера Милея. Во-первых, они заявили, что распространили ложное сообщение о том, что Милей купил ошейники с драгоценными камнями Cartier для своих собак. Во-вторых, они утверждали, что платили местным актерам за размещение граффити против Милея в Буэнос-Айресе. Судя по утечкам документов, оба эти заявления были публично(opens in a new window) приписаны(opens in a new window) «Politology» и «La Compania».
Многие другие фейки ранее не связывались с российскими информационными операциями. Например, операторы утверждали, что в мае 2026 года они создали фальшивый адрес электронной почты, якобы принадлежащий Региональному управлению образования в Лиме, Перу. Они использовали его, чтобы поручить школам округа провести мероприятия, посвященные Украине, в Национальный день культурного и языкового разнообразия (21 мая). Письма содержали прямые указания упомянуть, среди прочего, противоречивую фигуру украинского националиста XX века Степана Бандеру, которого некоторые украинцы считают борцом за независимость, но в России и Польше связывают с фашизмом, сотрудничеством в годы войны и зверствами. По словам операторов, некоторые школы ответили на фальшивый адрес электронной почты, подтвердив, что они провели такие мероприятия, и даже предоставили фотографии.
Затем операторы заявили, что разместили материалы об этих событиях в СМИ как в Перу, так и в Польше, наряду с утверждениями о том, что Украина «экспортирует» ультранационалистические идеологии, что вызвало возмущение. Поиск по открытым источникам выявил материалы, соответствующие этому утверждению, в перской(opens in a new window) и(opens in a new window) польской(opens in a new window) прессе(opens in a new window), а также в англоязычном издании в Венгрии(opens in a new window) (некоторые статьи с тех пор были удалены). Некоторые(opens in a new window) статьи(opens in a new window) включали реакцию депутата Европарламента от Польши, предлагавшего объявить лиц, проявляющих «антипольские настроения», персонами нон грата в Польше. Таким образом, российская подделка одновременно подпитывалась исторической напряженностью между украинцами и поляками и сама подпитывала ее.
Аналогичным образом, в июне операторы заявили, что использовали другой фальшивый адрес электронной почты, чтобы обмануть школы в Эквадоре и заставить их провести церемонию присяги на верность президенту Даниэлю Нобоа и Эрику Принсу, бывшему главе частной военной компании Blackwater. Операторы утверждали, что этот инцидент вызвал возмущение в Эквадоре и оказал давление на правительство с требованием опровергнуть фальшивку, тем самым усилив ее распространение на общенациональную аудиторию. Опять же, исследование открытых источников выявило освещение(opens in a new window) в(opens in a new window) эквадорской(opens in a new window) прессе(opens in a new window), которое очень напоминало это утверждение, и даже подробное опровержение(opens in a new window) министра образования Эквадора.
Операторы использовали различные методы для подкрепления своих ложных историй. Согласно их внутренней отчетности, в марте они распространили два разных фейка, направленных против Эквадора. В одном из них использовалось фальшивое аудио, приписываемое консулу Украины в Эквадоре, в котором он якобы допускал пренебрежительные высказывания в адрес эквадорцев. Наше расследование по открытым источникам выявило публикацию в TikTok, которая точно соответствовала этому утверждению; судя по всему, она получила лишь ограниченный отклик. В другом описывался фальшивый видеоклип, распространенный в X и TikTok под логотипом реального новостного канала, в котором утверждалось, что правительство Нобоа вербует молодых людей для участия в боевых действиях в Украине. Фактчекеры(opens in a new window) в Эквадоре описали кампанию, соответствующую этому описанию, в начале апреля.
Видео в TikTok, опубликованное 8 апреля 2026 года, с поддельным аудио, заявленным этой операцией и приписываемым украинскому консулу.
В другом внутреннем отчете описывается фейк, который они распространили в Боливии в конце мая, в разгар антиправительственных протестов. Операторы прямо назвали целью этой кампании усугубление кризиса вокруг протестов. Кампания включала фальшивую аудиозапись сотрудника государственной водной компании EPSAS, в которой говорилось, что правительство собирается отключить воду в административной столице Ла-Пас и объявить чрезвычайное положение. Наше исследование по открытым источникам выявило опровержение(opens in a new window) соответствующего утверждения и официальный отказ(opens in a new window) от EPSAS.
Другие внутренние отчеты содержали фальшивки, которые мы не смогли подтвердить с помощью открытых источников, возможно, потому, что они уже были удалены или не получили распространения. Например, операторы утверждали, что в январе распространили историю о том, что бразильская модель и инфлюенсер была вывезена в Украину представителями украинского посольства, где ее убили в Киеве. В июне они заявили, что распространили в Боливии еще один фальшивый аудиоролик, якобы записанный сотрудником Центрального банка Боливии, в котором предупреждалось, что банк собирается ограничить снятие наличных. Они также утверждали, что распространили поддельное письмо от государственного агентства по углеводородам с предупреждением об ограничениях на продажу топлива для частных автомобилей.
В других отчетах операторы просили наши модели помочь выявить инциденты в целевых странах, которые они могли бы приписать себе, даже если не имели к ним отношения. Например, в Аргентине операторы утверждали, что министр иностранных дел Аргентины процитировал их операцию на заседании комитета ООН по Фолклендским/Мальвинским островам. Операторы приписали себе заслугу в распространении аргументов о том, что принцип самоопределения не применим к островам и что Великобритания поддерживает там непропорционально большое военное присутствие. На самом деле оба этих аргумента являются частью официальной позиции Аргентины на протяжении многих(opens in a new window) лет(opens in a new window). Аналогичным образом, в июне бразильские СМИ сообщили(opens in a new window) о случае с гражданином Бразилии, который отправился в Украину, чтобы вступить в армию, был захвачен российскими войсками, а затем сделал телевизионное заявление, утверждая, что его обманом заставили воевать. Операторы ChatGPT пытались заявить, что этот репортаж воспроизводит идеи их операции; на самом деле в нем цитировалось видео самого пленного(opens in a new window). Это свидетельствует о попытке операторов провести операцию влияния, направленную на своих собственных работодателей, а не на какую-либо внешнюю аудиторию.
«Исследовательская платформа»
Некоторые отчеты операторов ссылались на самопровозглашенную «исследовательскую платформу» под названием Social Research Center (на русском языке — Центр социологических исследований). Согласно веб-сайту SRC, он фокусируется на индийской диаспоре в Латинской Америке и отношениях между Индией и странами региона.
Внутренние отчеты свидетельствуют о том, что операторы контролировали этот аналитический центр, а не просто сотрудничали с ним. Они упоминали, например, решения о найме и увольнении, шкалы оплаты труда, штатное расписание и текущие исследовательские проекты. Важно отметить, что они также заявили, что создали фальшивую личность по имени «Миа Кларк» для ведения деятельности в социальных сетях и взаимодействия с сотрудниками на местах в Латинской Америке. Имеющиеся данные свидетельствуют о том, что эти сотрудники на местах понятия не имели, что работают на российскую операцию, и добросовестно выполняли исследовательские задачи. Такое использование невольных посредников сильно напоминает более раннюю российскую операцию, также связанную с миром Пригожина, «PeaceData», которую Meta разоблачила(opens in a new window) в 2020 году.
Судя по отчетам российских операторов, их сотрудники на местах в Латинской Америке проводили интервью с экспертами и комментаторами по всему региону, а затем составляли исследовательские работы на основе полученных данных. Темы варьировались от широкого анализа общественного мнения о группе БРИКС до детального сравнения экономики Бразилии при президентах Жаире Болсонару и Луисе Инасиу Луле да Силве. Иногда российские операторы составляли отчеты о состоянии исследовательских проектов еще до их публикации, что указывает на тесное участие в процессе производства. Мы выявили более 60 статей на сайте SRC, подавляющее большинство из которых, по-видимому, являются оригинальными материалами. Это отличает Dark Clark от недавно разоблаченной нами операции российского происхождения, которая также использовала аналитический центр в качестве прикрытия, но плагиатила большую часть контента; это говорит о намерении создать более долговечную подставную организацию с контактами по всей Латинской Америке.
Для продвижения работы SRC российские операторы заявили, что пытались создать сеть активов в социальных сетях. Согласно их отчетам, эта деятельность в социальных сетях столкнулась с проблемами, когда операторы в разных частях мира пытались получить доступ к одним и тем же учетным записям, что приводило к ограничениям аккаунтов. Следы этого можно увидеть в записях из открытых источников: например, настройки прозрачности основного аккаунта SRC в X показывали местоположение в Германии (возможно, в результате использования VPN), но подключение через магазин приложений Российской Федерации, в то время как настройки прозрачности одного из его аккаунтов в Instagram показывали местоположение администратора в Венесуэле. Ни один из трех выявленных нами аккаунтов Facebook под брендом SRC не имел достаточного количества подписчиков, чтобы активировать настройки местоположения администратора.
Слева: аккаунт X, связанный с Social Research Center. Обратите внимание на настройку прозрачности, которая показывает, что аккаунт подключен через магазин приложений Российской Федерации. Справа: аккаунт SRC в Instagram: обратите внимание на местоположение в Венесуэле.
Операторы сообщали об особых проблемах в LinkedIn, где, по их словам, они создали откровенно фальшивый аккаунт для представления SRC, но затем столкнулись с трудностями при создании сети для него. Согласно их отчетам, решением стало создание большего количества фальшивых аккаунтов, чтобы подписываться на первый и сделать его более убедительным. По состоянию на 17 августа аккаунт в LinkedIn с тем же брендингом Social Research Center насчитывал 961 подписчика и заявлял о 200–500 сотрудниках, но при этом в нем было указано только два сотрудника.
Создание фальшивок
Иногда, помимо использования ИИ для обновления отчетов, операторы действительно просили нашу модель помочь разработать и создать тексты, которые они могли бы использовать в своих операциях: например, просили помочь убедиться, что их фальшивки используют правильный акцент, лексику и институциональный стиль для разных стран. Это была относительно небольшая часть общего объема работы, возможно, потому, что в операции, по-видимому, участвовал по крайней мере один носитель испанского языка из Латинской Америки, и поэтому потребность в языковой поддержке ИИ была меньше.
Например, однажды один из русскоязычных операторов попросил модель помочь составить на русском языке письмо, которое скомпрометировало бы почетного консула Украины в Панаме в коррупции. Затем испаноязычный оператор попросил модель перевести письмо на испанский язык и создать аудиоскрипт для сопровождения. Фотография, соответствующая тексту письма, с закадровым голосом, соответствующим сценарию оператора, была опубликована в TikTok аккаунтом, который выдавал себя за новостное издание, но с логотипом панамского TVN Noticias(opens in a new window). У канала в TikTok был только один подписчик, и он перестал публиковать сообщения после того, как разместил эту фальшивку.
Пост в TikTok, демонстрирующий письмо, текст которого был сгенерирован в ходе этой операции, с закадровым сценарием, также сгенерированным в ходе операции.
В другом случае испаноязычный оператор в России предоставил модели текст на русском языке, в котором утверждалось, что Нобоа оскорбил бедных людей в Эквадоре, и попросил модель перевести его на эквадорский вариант испанского языка. В третий раз, в марте, тот же пользователь попросил модель отредактировать проект контракта на испанском языке между компанией под названием «International Security Solutions FZE» и частным лицом в Эквадоре, якобы предоставляющим инфраструктурные услуги в Украине. Вопросы пользователя были сосредоточены на том, как улучшить язык и оформление, включая просьбу указать, какие слова следует выделить жирным шрифтом.
Запросы пользователя относительно контракта прекратились, как только формулировки были окончательно согласованы. Однако исследования по открытым источникам показывают, что фотография «контракта» впоследствии распространялась в социальных сетях(открывается в новом окне). Она использовалась для подкрепления утверждения о том, что правительство Нобоа сотрудничало с подставной компанией, чтобы обманом заставить эквадорцев завербоваться в украинскую армию. Фейк распространился достаточно широко, чтобы вызвать проверку фактов(открывается в новом окне) в начале апреля: фактчекеры пришли к выводу, что компания «не значится в реестре Управления по делам компаний, ценных бумаг и страхования Эквадора».
Влияние
Влияние этой операции требует особо тщательной оценки. Как отмечалось выше, одним из основных подходов операторов было приписывание себе заслуг за деятельность, которая не имела никакого отношения к их операции. Таким образом, их собственные заявления о влиянии во внутренней отчетности нельзя принимать за чистую монету. Точно так же некоторые из фальшивых историй, которые они якобы распространили, не были обнаружены в ходе исследований по открытым источникам, возможно, потому, что они распространялись по непубличным каналам, были удалены или на самом деле не публиковались.
Тем не менее, данные из открытых источников позволили нам подтвердить некоторые из сделанных ими заявлений. Некоторые из фейков, которые, как утверждала операция, были распространены, впоследствии были выявлены фактчекерами и опровергнуты правительствами, что говорит о том, что они распространились достаточно широко, чтобы заслужить реакцию. В других случаях нам удалось найти в интернете контент, который очень похож на контент, созданный в рамках этой операции. Примечательно, что сообщение о том, что операция обманом заставила перуанскую школу провести мероприятие, прославляющее Бандеру, впоследствии появилось в СМИ как в Латинской Америке, так и в Европе, и, по-видимому, вызвало комментарии как минимум одного польского депутата Европарламента.
Используя шкалу прорыва(открывается в новом окне) для операций влияния (IO), которая оценивает IO по шкале от 1 (самый низкий) до 6 (самый высокий), мы оцениваем эту операцию как относящуюся к категории 5, поскольку есть доказательства того, что она привела к публичным комментариям политиков в ряде стран. Это первая операция 5-й категории, которую мы пресекли с тех пор, как начали наши отчеты.
Операция иранского происхождения по размещению длинных статей под обманными именами авторов в онлайн-новостных изданиях.
Исполнитель
Мы заблокировали группу учетных записей ChatGPT, которые были созданы в Иране. Они отправляли запросы на персидском языке и генерировали контент на персидском и английском языках. Исполнители скрывали свое местоположение, используя VPN для доступа к ChatGPT.
Операция использовала наши модели для доработки длинных статей и редакционных предложений, создания комментариев в социальных сетях и уточнения внутренних отчетов. Операторы использовали семь разных имен авторов для продвижения своих статей, поэтому мы назвали их кампанию «Фиктивные авторы» (Bogus Bylines). Длинные статьи были посвящены конфликту между США и Ираном. Большинство комментариев также касались этого конфликта; меньшая часть была посвящена политике США, как правило, в более широком контексте конфликта.
Размещение статей
Хронология статей по авторам и темам, июль 2025 г. — сентябрь 2026 г. Обратите внимание на плотность публикаций об отношениях США и Ирана с марта 2026 года.
