Это был ИИ-дипфейк Кэти Перри, который выглядел настолько хорошо, что обманул ее собственную мать.

Поскольку технология дипфейков наполняет наши ленты все более странными подделками, стать жертвой обмана становится все проще. И именно поэтому сейчас самое подходящее время поговорить о дипфейках не только с нашими детьми, но и с нашими родителями.

В случае с певицей Кэти Перри и ее мамой правда раскрылась в ходе переписки из нескольких сообщений. Обмен мнениями произошел после того, как мама похвалила Перри за платье, в котором та появилась на Met Gala 2024 в Нью-Йорке. При этом Перри даже не присутствовала там. Картинка, которую увидела ее мама, оказалась дипфейком. Перри опубликовала скриншот последовавшего за этим разговора матери и дочери на своей странице в Instagram.

Перри была не единственной в наряде от ИИ в тот вечер. Дипфейки с изображением других звезд также заполонили социальные сети. Леди Гага, Рианна и Дуа Липа тоже оказались втянуты в это.

Так что да, стать жертвой дипфейка может каждый. Даже мамы. Даже если это дипфейк их собственного ребенка.

Разговор с родителями о дипфейках.

В сегодняшнем интернете увидеть — не значит поверить. По крайней мере, с первого взгляда. И это хорошее начало для разговора с родителями о дипфейках. Четкое определение того, что такое дипфейк, поможет показать им, почему дипфейки настолько коварны.

Дипфейки — это поддельные сгенерированные компьютером изображения, видео и аудио, имитирующие реальных людей. Дипфейки представляют собой огромный скачок по сравнению со старыми методами создания подделок, такими как ретушь и фотошоп. В них используется искусственный интеллект, обычно сокращенно «ИИ», что делает дипфейки все более похожими на реальность. И все более убедительными. По мере того как технология ИИ продолжает развиваться, становится все сложнее отличить реальное от подделки.

Любой человек может получить в свое распоряжение инструменты для создания дипфейков. Они доступны для покупки в интернете — от самых базовых до чрезвычайно мощных. Все это легально. Грань, которую переходят создатели дипфейков, заключается в том, как люди их используют.

Таким образом, дипфейки варьируются от безобидного веселья до злонамеренных намерений.

Дипфейки ради смеха: в своих самых безобидных формах дипфейки служат отличной комедией. В социальных сетях можно найти самые разные пародийные аккаунты с четкой маркировкой. Один из примеров: Арнольд Шварценеггер поет в роли мистера Роджерса в кардигане.

Предоставлено пользователем «brianmonarch» на YouTube

· Дипфейки для мошенничества: за последний год мошенники наводнили интернет дипфейками, изображающими известных общественных деятелей, которые рекламируют всевозможные акции и предложения. Два прислуживающих внимания примера — Илон Маск и Тейлор Свифт. Мошенники использовали образ Маска, чтобы продавать потенциальным жертвам мошеннические инвестиции и криптовалюту. В начале 2024 года дипфейк с Тейлор Свифт продвигал невероятную сделку на высококачественную кухонную утварь. Конечно же, эта сделка оказалась мошенничеством.

· Дипфейки для нанесения ущерба репутации: мы также видели аудиодипфейки, которые, как сообщается, использовались против обычных людей. И речь идет не только о знаменитостях. Один из громких случаев произошел в Мэриленде, где спортивный директор школы якобы создал аудиодипфейк с участием директора школы, произносящего расистские высказывания.

· Дипфейки, распространяющие дезинформацию: дипфейки поддерживают всевозможную ложь. Злоумышленники, стоящие за этими дипфейками, часто руководствуются политическими мотивами. Они хотят повлиять на общественное мнение, будь то вопрос, конкретный политик или даже данные опросов. Ранее в 2024 году ИИ-робозвонок от имени президента Джо Байдена призывал жителей Нью-Гэмпшира «сохранить свой голос» на праймериз, ложно намекая, что голосование на праймериз помешает им проголосовать на всеобщих выборах позже в том же году.

Если вам нужно донести до родителей всего одну мысль, то она такова: в наши дни нельзя принимать на веру ничего из того, что есть в интернете. Дипфейки, как безобидные, так и злонамеренные, все лучше выдают себя за оригинал. Все, что вы видите и слышите в сети, требует проверки.

Помощь родителям в распознавании дипфейков.

ИИ оставляет свои следы на дипфейках — небольшие признаки того, что то, что вы видите или слышите, не является реальным. Их бывает трудно заметить, особенно когда задействованы более сложные инструменты ИИ. И тем не менее они там есть.

С помощью фальшивого изображения «Папы Римского в пуховике», появившегося в 2023 году, мы можем указать на несколько признаков поддельного изображения.

Начните с рук на изображении. Правая рука сформирована не до конца. Многие инструменты ИИ имеют печально известную сложность с правильной прорисовкой пальцев. Между тем, левая рука отличается неестественным освещением и тоном кожи. Еще более близкий взгляд показывает, что на распятии, которое носит Папа Римский, изображена лишь половина цепи. Затем посмотрите на лицо и необычные тени, отбрасываемые его очками.

Все эти тонкие намеки в сумме дают дипфейк. Тем не менее, если бы вы увидели это изображение во время прокрутки ленты в сети, вы могли бы не заметить ни одного из них и принять «Папу в пуховике» за реальную фотографию.

Видео-дипфейки страдают от многих тех же проблем. Освещение, тон кожи, глаза, руки… все это может быть передано неестественным образом. Вдобавок к этому голос и выражения лица могут не совсем совпадать, из-за чего объект выглядит механическим и скованным. Синхронизация губ и вовсе может быть нарушена.

Что касается аудиодипфейков, прислушайтесь к склейкам. Некоторые дипфейки сшивают аудио из разных фрагментов. (Многие аудиоинструменты на базе ИИ лучше работают с короткими клипами, а не с длинными текстами.) В результате более длинный клип может звучать прерывисто или терять естественный поток речи. Другим признаком возможной подделки является то, что говорящий, судя по всему, не дышит. Инструменты ИИ не всегда учитывают эту естественную часть речи. Это незаметно, но когда вы знаете, к чему прислушиваться, вы заметите, когда человек не делает паузу для вдоха.

Тем не менее, помните о том, насколько сложными стали некоторые дипфейки. С усовершенствованием инструментов ИИ многие из этих изъянов исчезли. Самостоятельный анализ картинки, видео или аудиоклипа может не выявить правду.

Один из лучших способов распознать дипфейк: сбавьте темп.

У вредоносных дипфейков есть кое-что общее. Они играют на эмоциях. И они также играют на предвзятости. Вызывая восторг по поводу «гарантированной» инвестиции или возмущение от якобы сказанных слов политика или общественного деятеля, дипфейки омрачают рассудок. Это сделано намеренно. Из-за этого дипфейки сложнее распознать, поскольку люди на каком-то уровне хотят в них верить.

В связи с этим посоветуйте своим родителям замедлиться. Особенно когда они видят то, что их злит. Это один из лучших способов распознать подделку. После этого техника под названием SIFT может помочь выявить фальшивку. Она расшифровывается как: Stop (Остановитесь), Investigate the source (Изучите источник), Find better coverage (Найдите более качественное освещение) и Trace the media to the original context (Проследите медиа до первоначального контекста). С помощью метода SIFT ваши родители действительно смогут замедлиться и определить, что является подлинным.

С чего ваши родители могут начать применение метода SIFT? Организации по проверке фактов, такие как Snopes и Politifact, а также авторитетные новостные агентства, такие как Associated Press и Reuters, предлагают способы добраться до истины. Это требует дополнительных усилий, но именно это необходимо сегодня, чтобы отделить факты от дипфейка.

Поговорите с родителями о дипфейках.

Если эта тема еще не всплывала в ваших разговорах, сейчас самое время обсудить дипфейки с родителями. Инструменты искусственного интеллекта, лежащие в основе дипфейков, продолжают совершенствоваться, стирая некоторые характерные признаки, которые оставляли старые инструменты. Они могут выглядеть… хорошо. Очень хорошо.

Общаясь с родителями о дипфейках, объясните им, насколько они изощренны. И насколько они распространены. Не будет преувеличением сказать, что дипфейки изменили наше восприятие интернета. Очень многое из того, что появляется в наших лентах, требует тщательной проверки. Особенно то, что затрагивает наши эмоции и предвзятость — и то, и другое может быть признаком работы дипфейка.

По мере появления новых инструментов обнаружения ИИ, таких как наш собственный Project Mockingbird, у ваших родителей остается проверенный временем инструмент, который они могут использовать прямо сейчас — их здравый смысл. Замедляясь, проверяя другие авторитетные источники и обращаясь к признанным организациям по проверке фактов, они могут уберечь себя от обмана или попадания на удочку дезинформации и мошенничества.