«Мы бы просто прогорели. Мы бы сказали: "Да, я понимаю, почему вы считаете это подделкой. Вам стоит найти поставщика, который поможет с этой проблемой"».
— Директор по ИИ, глобальная частная следственная фирма
Интуиция перестала работать
Их работа заключается в том, чтобы выяснить, являются ли доказательства подлинными. Поступает файл, они изучают метаданные, запускают спектрограмму, прослушивают аудио, формируют мнение и сообщают юристам свои выводы. Годами этот процесс работал достаточно эффективно.
Затем аудиозаписи стало все труднее отличить от настоящих.
«Думаю, именно эта неопределенность стала причиной появления таких фирм, как ваша, — сказали они. — Потому что человеческая интуиция больше не работала. И сейчас я нахожусь в той точке, где уже не доверяю своей интуиции».
Недавно они перешли на новую должность директора по ИИ в одной из ведущих мировых частных следственных фирм. Фирма занимается поддержкой судебных разбирательств, финансовой криминалистикой и цифровыми доказательствами, а в ее команду входят бывшие федеральные прокуроры, юристы, киберспециалисты и следователи. Клиенты обращаются к ним, когда что-то идет не так и нужно установить, что произошло, — а это стало гораздо сложнее, когда сами доказательства могли быть сгенерированы или изменены.
Юристам нужны были выводы, на которые можно опереться
Клиент обратился в фирму с голосовыми сообщениями и текстами, которые, по его мнению, были сфабрикованы. Команда извлекла файлы и запустила спектрограммы, на которых увидела повторяющиеся всплески формы волны — доказательство того, что аудио было скопировано и вставлено, а одни и те же частоты появлялись там, где их быть не должно.
Спектрограммы указывали на проблему, но прийти в кабинет, полный адвокатов, с одной лишь спектрограммой и «интуитивным ощущением» было недостаточно. «Наши доводы были скорее качественными, чем основанными на реальном инструменте, — сказали они. — Я не могу сделать многого, опираясь просто на ощущения».
Юристам нужно было что-то более конкретное: отчет с цифрами, объяснение того, почему аудио вызывает подозрения, и документация того, что именно было не так. Им нужно было что-то, на что можно сослаться при общении с клиентом или партнером и что можно защитить, если выводы будут оспорены.
У фирмы не было специализированного инструмента для этого, и они не видели много вариантов в отрасли. Без него подозрительный файл мог означать часы ручного анализа, часто отвлекая следователей от других дел без уверенности в том, что они получат результат, который можно с уверенностью представить юристам.
Дела не всегда были сложными. В ходе другого расследования кто-то внутри компании подделывал счета-фактуры и использовал ИИ для манипуляции подтверждающими документами. Это был один человек, мошенническая заявка на расходы и доказательства, которые нужно было быстро аутентифицировать.
Такие дела становятся все более привычными: точечное и оппортунистическое мошенничество, когда люди используют любые доступные инструменты быстрее, чем многие следственные группы успевают адаптироваться.
Отчет, который юристы действительно могут использовать
Фирма внедрила Resemble Detect в свой рабочий процесс цифровых расследований. Когда юристы подозревают, что доказательства могут быть синтетическими или измененными, у следователей теперь есть нечто большее, чем просто их собственная оценка файла.
Resemble Detect пропускает аудио через несколько моделей и показывает, какие части файла выглядят синтетическими, какие разделы проходят проверку чисто, и какие сигналы способствовали каждому выводу. Для следователей, которые сильно полагались на спектрограммы и собственное суждение, это дало еще один способ изучить доказательства и объяснить то, что они видят.
Не менее важно и то, что они теперь могут передать юристам. Команда может предоставить визуализацию тепловой карты вместе с письменным анализом с конкретными выводами, которые можно изучить, использовать в качестве ссылки и обсудить с клиентом или партнером.
«Красный цвет означает, что это, вероятно, подделка. Зеленый — все хорошо, — сказали они. — Это дает нам что-то осязаемое. Мы можем вернуться к нашему клиенту или партнеру и объяснить результат».
Обнаружение дипфейков носит вероятностный характер, и ни один инструмент не может дать гарантированный вердикт. Для команды ценность заключается в наличии задокументированного обоснования вывода, а не в необходимости объяснять его по памяти на встрече.
«Юристы мыслят довольно бинарно. Они очень хотят, чтобы мы сказали на 100%, да, мы знаем, что это дипфейк. Отчет очень помогает пройтись по пунктам и сказать: вот почему мы так думаем, основываясь на этих метриках».
— Директор по ИИ, глобальная частная следственная фирма
Партнер, а не поставщик
До Resemble фирма оценивала другие варианты, включая Hive AI. Мультимодальные возможности были привлекательны, но интеграция требовала больше административных усилий, чем хотела фирма.
Их расследования проходят быстро и, как правило, требуют высокой степени кастомизации, поэтому команде необходимо адаптировать свой подход от дела к делу.
«Это было создано для крупных корпораций, — сказали они. — Наша фирма на самом деле не очень большая. Проекты, которыми мы занимаемся, очень динамичные. Очень индивидуальные».
Когда они впервые встретились с соучредителем Resemble, разговор был сосредоточен на доступе к API, кастомизации и том, как технология может вписаться в существующий рабочий процесс фирмы.
«Было приятно осознавать, что, несмотря на то, что мы небольшая фирма, к нам все равно относятся как к партнерам».
«Ваша способность включиться в работу и стать нашими партнерами была очень полезной. Не думаю, что мы получили бы такой приоритет у других поставщиков». — Директор по ИИ, глобальная частная следственная фирма
Анализ стало проще представлять в зале суда
Дела, которые раньше заканчивались квалифицированной устной оценкой, теперь могут включать отчет, визуализацию и документированный анализ. У юристов есть материал, который они могут изучить с клиентом или партнером, а у фирмы — возможность, которую она может использовать в расследованиях, где подлинность доказательств под вопросом.
«Вышибать клин клином, — сказали они. — Модели создают это. Есть модели, которые это обнаруживают. Этот язык действительно помогает им понять, как это работает концептуально. Объяснять технические вещи адвокатам бывает довольно сложно, но когда вы сводите это к такой форме и говорите: "Посмотрите на этот отчет, здесь видны всплески", это дает им что-то осязаемое».
Отчеты также подняли другой вопрос о том, как такие доказательства будут представлены в суде. В одном деле команда показала партнеру юридической фирмы визуализацию тепловой карты, и партнер немедленно возразил против того, насколько убедительным был этот вывод.
«Ваша честь, это предвзято. Вы не можете демонстрировать эти доказательства».
Их ответ: «Хотя присяжным это точно понравилось бы, могу вам сказать точно».
Правовые стандарты в отношении доказательств, созданных или измененных с помощью ИИ, все еще развиваются и варьируются в зависимости от штатов и юрисдикций. Для следственных фирм это делает четкую документацию все более важной.
С тех пор следователь выступил на отраслевом симпозиуме по безопасности, где дал советы CISO и специалистам по безопасности относительно передовых методов обнаружения. Обнаружение дипфейков теперь является возможностью, которую фирма использует в своих расследованиях, а их новая должность директора по ИИ существует отчасти благодаря этой работе.
Дипфейки не знают границ, как и сама фирма
Большая часть использования Resemble фирмой приходилась на США. В своей новой роли они теперь внедряют обнаружение дипфейков в обсуждения с международными офисами фирмы.
Они не ожидают, что человеческий фактор станет более надежным по мере совершенствования технологий.
«Я думаю, у нас будет еще меньше доверия по мере того, как возможности этих моделей будут продолжать расти», — сказали они.
В то же время команда видит все больше доказательств, которые находятся где-то посередине между подлинными и полностью сгенерированными. Подпись могла быть изменена, отдельный элемент на изображении мог быть заменен, или документ мог быть отредактирован с помощью ИИ, не будучи полностью сгенерированным с нуля.
Эти случаи имеют такое же значение в расследовании. Resemble Detect теперь выявляет эти различия в своих отчетах, с отдельными разделами, охватывающими обнаружение в реальном времени, анализ мошенничества и манипуляции с ИИ, и фирма уже использует эту возможность.
Resemble Detect / Resemble Intelligence
Попробуйте Resemble AI бесплатно
Генерируйте с уверенностью. Подтверждайте право собственности. Обнаруживайте обман. Только с Resemble AI.
Начать работу
