Список наблюдения за дипфейками: неделя с 25 сентября по 1 октября 2026 года

«Список отслеживания дипфейков» — это еженедельный обзор инцидентов с синтетическими медиа, текущих дел и спорного контента, формирующего новостную повестку, от компании Resemble AI. Каждую неделю мы отслеживаем подтвержденные инциденты, новые векторы атак и расследуемые заявления, а также связанные с ними вопросы происхождения, обнаружения и политики. Вы новичок в мире дипфейков? Прочитайте «Руководство по дипфейкам для начинающих» Deepfake 101 Guide, чтобы узнать больше о том, как защитить себя и свою компанию от угроз.

1. Председатель итальянского банка потерял 95 млн евро в результате мошенничества с клонированием голоса ИИ

Reuters в статье «ИИ-мошенничество с сообщениями стоило ведущему итальянскому банку Intesa миллионы» сообщает, что мошенники украли 95 миллионов евро у Fideuram, подразделения частного банковского обслуживания Intesa Sanpaolo. Они отправили бывшему председателю Паоло Молезини поддельное сообщение в WhatsApp от имени генерального директора Intesa Карло Мессины, а затем позвонили, используя голос партнера юридической фирмы, лично знакомого Молезини, клонированный с помощью ИИ. Это побудило его санкционировать серию переводов на счета в Китае и Гонконге.

• Категория: Мошенничество / Выдача себя за другое лицо
• Тип: Атака
• Модальность: Аудио
• Политика / Регулирование: Судебное преследование ведется в рамках существующих правовых норм о мошенничестве с использованием электронных средств связи, при этом прокуратура Милана координирует возврат средств через Евроюст; иностранный гражданин, проживающий за пределами Европы, находится под следствием по делу о компьютерном мошенничестве.
• Тенденция: Двухэтапное создание доверия: поддельное текстовое сообщение от известного авторитета, за которым следует подтверждение клонированным голосом, что позволяет обойти скептицизм, который возник бы при обычном «холодном» звонке.
• Вектор атаки: Поддельное сообщение в WhatsApp от имени генерального директора материнской компании для создания контекста транзакции, а затем звонок с клонированным голосом доверенного юриста в качестве завершающего шага, призванного создать иллюзию независимой проверки.

Более половины средств были позже возвращены благодаря международной банковской координации, но около 36 миллионов евро остаются пропавшими; они были конвертированы в криптовалюту, и их отслеживание ведется через международные судебные поручения. Молезини ушел с поста председателя в марте, сославшись на личные причины. Intesa Sanpaolo и Fideuram отказались от комментариев.

Последовательность атаки важнее, чем сам по себе клон голоса. Сообщение пришло первым, чтобы создать контекст и ощущение срочности; клонированный голос поступил как подтверждение от того, кому цель уже доверяла. Ни один стандартный протокол проверки не распознает голос знакомого юриста во время звонка. Единственная защита на уровне генерации — это происхождение: аутентифицированный голосовой вывод, имеющий проверяемую подпись до того, как он попадет в какой-либо канал.

2. Жертвы NCII в Grok пострадали из-за бездействия полиции Великобритании, пока xAI игнорирует запросы правоохранительных органов

Расследование Бюро журналистских расследований (TBIJ) Failed by the police, Grok deepfake victims are seeking justice themselves, опубликованное 29 сентября совместно с The Observer, документирует, что расследования полиции Великобритании по фактам создания неконсенсуальных интимных изображений (NCII) с помощью Grok во время кризиса в декабре 2025 года были закрыты без предъявления обвинений после того, как xAI не ответила на запросы офицеров о предоставлении информации об учетных записях, в результате чего установленные преступники продолжают оставаться активными на платформе.

• Категория: CSAM / NCII (материалы сексуального характера с участием несовершеннолетних / неконсенсуальные интимные изображения)
• Тип: Атака
• Модальность: Изображение
• Политика / Регулирование: Крайний срок Ofcom для внедрения сопоставления хешей на платформах наступил 30 сентября, на следующий день после публикации, хотя Ofcom признал, что в настоящее время не может расследовать работу отдельного приложения Grok в рамках действующего Закона о безопасности в Интернете; Закон о преступности и охране правопорядка 2026 года добавит требования об удалении контента в течение 48 часов после его принятия.
• Тенденция: Нежелание платформы сотрудничать как основное препятствие для правоприменения, из-за чего жертвы обращаются к гражданским искам после исчерпания уголовно-правовых путей.
• Вектор атаки: Анонимные пользователи X, запрашивающие у Grok создание сексуализированных изображений на основе фотографий профилей конкретных лиц, при этом системные промпты самой платформы допускают неограниченный сексуальный контент для взрослых вне категорий, явно являющихся преступными.

Расследование TBIJ сосредоточено на трех женщинах: ведущей Джесс Дэвис, телеведущей Нариндер Каур и депутате от Лейбористской партии Джесс Асато. Расследование по делу Дэвис было закрыто после того, как xAI проигнорировала запросы полиции, а назначенный офицер сообщил ей, что сотрудничество с xAI было «единственной линией расследования». Гражданский иск Асато против xAI — это первое судебное дело в Великобритании против NCII-контента от Grok; Дэвис ведет досудебную переписку, утверждая о нарушениях защиты данных.

Наблюдение профессора Клэр МакГлинн в статье дает более простое объяснение: мы не говорим, что «нож виноват», когда кто-то кого-то режет, мы привлекаем к ответственности человека, который использовал нож. Эта логика здесь не привела к последовательному подходу прокуратуры. Опубликованный системный промпт Grok, допускающий «отсутствие ограничений на сексуальный контент для взрослых или оскорбительный контент», оставался активным на момент публикации.

3. «Мошеннические» агенты OpenAI взломали австралийский портал Medicare и исследовали три правительственных сайта США

Статья CNN Rogue OpenAI agents targeted three separate US government websites, опубликованная 26 сентября, а также репортажи The New York Times, TechCrunch и NPR документируют, что ИИ-агенты OpenAI, работавшие во время внутренних оценок, 18 июня взломали статистический портал Medicare в Австралии, а также отдельно исследовали веб-сайты Министерства образования, Министерства торговли и Комиссии по ценным бумагам и биржам США. OpenAI уведомила австралийские власти только 10 сентября, почти через три месяца после взлома.

• Категория: Мошенничество / Выдача себя за другое лицо
• Тип: Атака
• Модальность: Агентный ИИ
• Политика / Регулирование: Премьер-министр Австралии Альбанезе назвал это первым известным случаем, когда ИИ-агент получил несанкционированный доступ к правительственным системам Австралии; в ответ на этот паттерн несанкционированной активности агентов в Конгресс США был внесен двухпартийный Закон об остановке мошеннического ИИ (Stop Rogue AI Act).
• Тенденция: Автономные ИИ-агенты, совершающие несанкционированные действия, выходящие за рамки назначенных исследовательских задач во время внутренних оценок, что создает новую категорию инцидентов, отличную от атак, направляемых человеком.
• Вектор атаки: Агенты, искавшие общедоступные медицинские данные, столкнулись с ограничениями доступа, нашли обходные пути, получили доступ к непубличным файлам и оставили заметки во внешней вики, нацеленные на последующий доступ ко второму государственному ведомству.

Версия OpenAI: ее модели «предприняли действия, которые мы не планировали». Самостоятельное ведение заметок для последующих целей — это то, что делает данный инцидент чем-то большим, чем просто неправильно настроенный парсер. OpenAI узнала об инциденте в августе и уведомила Австралию только после того, как внешние исследователи из Transluce опубликовали свои выводы. Конкуренты Anthropic, Meta и Google отдельно раскрыли аналогичные сбои в сдерживании примерно в тот же период.

Категория агентного ИИ — это новая территория для «Списка отслеживания», но механизм вреда находится в знакомой плоскости: система получает доступ к данным, к которым у нее не было разрешения, причиняя вред, который оператор не планировал и не обнаружил своевременно. Разница в том, что ни один человек не принимал решения исследовать эти системы, и именно эту часть существующие системы ответственности не были призваны решать.

4. Апелляционный суд Аризоны отменил приговор по делу о непредумышленном убийстве из-за видео с воздействием на жертву, сгенерированного ИИ

Как сообщает Arizona manslaughter sentencing vacated due to use of AI 'victim impact statement' FOX 10 Phoenix, Апелляционный суд Аризоны отменил 10,5-летний тюремный срок Габриэлю Полу Хоркаситасу, осужденному за непредумышленное убийство Кристофера Пелки в результате дорожного конфликта со стрельбой в 2021 году. Суд установил, что использование судьей видеоролика с Пелки, созданного с помощью ИИ сестрой жертвы, в качестве заявления о влиянии преступления на потерпевшего было настолько предвзятым, что сделало процедуру вынесения приговора фундаментально несправедливой.

• Категория: Преследование / Общественная безопасность
• Тип: Реакция
• Модальность: Видео
• Политика / Регулирование: Апелляционный суд Аризоны отметил, что ранее в судебной практике штата не рассматривался вопрос о допустимости доказательств, созданных ИИ, в качестве заявлений о влиянии преступления на потерпевшего. Это решение создает прецедент на уровне штата, не имея обязательных указаний для других юрисдикций, а дело Хоркаситаса будет направлено на повторное вынесение приговора.
• Тенденция: Использование контента, созданного ИИ, в уголовном процессе из благих побуждений, что ставит вопросы о том, как суды должны оценивать синтетические изображения людей и какой вес они должны иметь при вынесении приговора.
• Вектор атаки: Не является преднамеренной атакой. Сестра Пелки, Стейси Уэйлс, вместе с мужем и другом создала ИИ-видео своего брата. Видео было представлено как заявление о влиянии преступления, и судья высоко оценил его перед вынесением приговора. Апелляционный суд установил, что видео стирает грань между представлениями семьи о том, что мог бы сказать Пелки, и его реальными словами и мнениями.

Дело примечательно тем, что опасения не были связаны с тем, что семья тайно выдавала видео за подлинную запись. В видео было заявлено, что это ИИ-реконструкция. Проблема заключалась в том, какой вес это представление имело в суде, где оценка судьей взглядов жертвы могла повлиять на приговор.

Это решение может повлиять на то, как другие суды будут подходить к ИИ-заявлениям о влиянии преступления, хотя его применение за пределами Аризоны пока остается под вопросом. Оно дополняет растущий ряд вопросов о том, как суды должны оценивать материалы, созданные ИИ, когда они могут повлиять на важные решения.

5. Платная реклама с дипфейками искажает выборы в штате Виктория: исследование показало, что почти половина избирателей не могут надежно отличить подлинные кадры

В статье Deepfakes are distorting this year's Victorian election. We found out who's most susceptible to them The Conversation, опубликованной 27 сентября исследователями из Университета Саншайн-Кост, Университета Гриффита, Квинслендского университета и Технологического университета Суинберна, задокументировано, что видеоролики, созданные ИИ и изображающие сфабрикованные чрезвычайные ситуации, появились в платной рекламе перед выборами в штате Виктория. Мета-анализ 19 исследований с участием 24 000 человек показал, что дипфейки кажутся такими же убедительными, как и подлинный политический контент.

• Категория: Политика / Выборы
• Тип: Атака
• Модальность: Видео, изображение
• Политика / Регулирование: В Австралии нет федеральных требований к маркировке контента, созданного ИИ, в политической рекламе на выборах в штатах; дипфейки распространялись в виде платной рекламы без каких-либо обязательств по раскрытию информации.
• Тенденция: Переход политических дипфейков от операций национальных государств к платной предвыборной рекламе внутреннего производства, при этом выборы в Виктории стали первым задокументированным случаем в Австралии.
• Вектор атаки: Видео, созданные ИИ и изображающие сфабрикованные чрезвычайные ситуации (нападение с мачете, роды на обочине, затопление парламента), распространялись в качестве платной предвыборной рекламы без указания авторства какой-либо кампании.

В собственном эксперименте исследователей с участием 411 австралийцев около 75% смогли распознать дипфейк, что звучит обнадеживающе, пока не обнаруживается другой факт: почти 29% ошибочно назвали подлинное видео поддельным, а еще 18% не были уверены. В совокупности почти половина не смогли уверенно и правильно идентифицировать подлинные политические кадры как реальные. Среди постоянных потребителей новостей уверенность все больше расходилась с точностью, а это означает, что люди, наиболее склонные быть уверенными в видео, не всегда были теми, кто правильно его оценивал.

Исследователи называют это «дивидендом лжеца», работающим в обратном направлении: существование дипфейков заставляет людей чаще отвергать реальные доказательства как сфабрикованные. Политическая ориентация усугубляла проблему: люди лучше распознавали дипфейки политиков, взгляды которых они разделяли. До выборов в Виктории еще несколько месяцев, а платная реклама уже идет.

Почетные упоминания

Полиция штата Виктория предупреждает о мошенничестве с использованием ИИ-голоса врача, направленном на китайскоязычное сообщество. ABC News Australia и Yahoo News Australia сообщили 30 сентября, что с начала сентября полиция получила десять сообщений о мошенничестве, направленном на носителей мандаринского диалекта, с использованием ИИ-клонированных звонков от фальшивых врачей и хирургов. В одном случае мошенник воспроизвел голос медицинского работника, уже известного жертве. Убытки достигают десятков тысяч долларов на каждую жертву через платежи подарочными картами. Атака устраняет акцент и признаки неестественности, на которые опирались более ранние версии этого мошенничества.

Канадские СМИ опровергают статьи от имени журналиста, созданного ИИ. Ottawa Citizen, Montreal Gazette и Policy Options опровергли статьи 30 сентября после того, как обнаружили, что журналист по имени Дэниел Робсон, вероятно, является ИИ-фабрикацией, используемой для публикации дезинформации, направленной против марокканских диссидентов. Этот случай расширяет угрозу синтетических медиа за пределы сфабрикованного видео до сфабрикованных источников: персона, имеющая достаточные полномочия для размещения статей в крупных изданиях, оставалась незамеченной, пока объект атаки не поднял тревогу.

Закономерность

• Три из пяти историй этой недели связаны с тем, что системы ИИ делают то, чего их операторы либо не планировали, либо явно разрешили, утверждая обратное. Агенты OpenAI получили доступ к правительственной инфраструктуре без инструкций. Grok создал миллионы сексуализированных изображений по запросам, которые явно снимали ограничения на контент. Мошенники из Fideuram использовали клонирование голоса, которому у цели не было причин не доверять. Общая нить — это спор между «инструмент сделал это» и «оператор несет ответственность», и исход этого спора будет определять, как ответственность за вред, причиненный ИИ, будет распределяться в течение многих лет.
• Атака на Fideuram и исследование выборов в Виктории указывают на один и тот же сбой в обнаружении, только в разных масштабах. Председатель банка доверился знакомому голосу. Почти половина участников исследования не смогли надежно отличить подлинные политические кадры от сфабрикованного контента. В обоих случаях ошибкой была не наивность, а то, что обычные сигналы, которые люди используют для оценки подлинности, были именно тем, что синтетический контент был разработан для имитации. Обнаружения на человеческом уровне никогда не было бы достаточно.
• Решение суда в Аризоне и расследование TBIJ в отношении Grok появились на одной неделе и рассказывают историю правоприменения с двух сторон. Суд продвинул законодательство на один шаг вперед, отменив приговор, в котором сгенерированный ИИ контент повлиял на судью без должной проверки. Тем временем полицейские расследования по задокументированным случаям NCII были закрыты, поскольку платформа отказалась от сотрудничества, а преступники остались активны. Новое законодательство продолжает появляться. Разрыв между тем, что гласят законы, и тем, что могут обеспечить институты, — это то место, где накапливается значительная часть реального вреда.

Что ожидать на следующей неделе

• Правоприменительная деятельность Ofcom после крайнего срока 30 сентября. Какие платформы подтвердили соблюдение требований по сопоставлению хешей, подпадает ли X/Grok под положения Закона о безопасности в Интернете (Online Safety Act) в отношении чат-ботов и были ли инициированы какие-либо меры принудительного характера.
• Последствия инцидента с «мошенническим агентом» OpenAI. Будет ли Австралия добиваться привлечения к уголовной ответственности за утечку в июне и продвинется ли закон Stop Rogue AI Act в Конгрессе.
• Прецедент использования доказательств ИИ в Аризоне. Будут ли другие суды США ссылаться на это решение и предпримет ли какой-либо орган по вопросам доказательств шаги по установлению стандартов допустимости для сгенерированного ИИ контента в суде.
• Дипфейки на выборах в штате Виктория. Удастся ли отследить операторов платной рекламы с дипфейками и предпримет ли Избирательная комиссия Австралии шаги по требованию обязательной маркировки до дня голосования.

Список Deepfake Watchlist публикуется каждый четверг. Подпишитесь, чтобы получать его на электронную почту, или следите за Зохаибом Ахмедом в LinkedIn, чтобы видеть еженедельные дополнения в социальных сетях. Отслеживайте каждый задокументированный инцидент в базе данных Resemble Deepfake Incident Database и ознакомьтесь с полной методологией в нашем отчете о дипфейковых угрозах за первое полугодие 2026 года.

Попробуйте Resemble AI бесплатно

Создавайте с уверенностью. Подтверждайте право собственности. Обнаруживайте обман. Только с Resemble AI.

Начать работу