«Получить отчет от Resemble можно молниеносно. Это дает нам значительную дополнительную уверенность в том, что мы не идем по ложному следу».
- Доминик Уотт, старший консультант, JP French International
Познакомьтесь с Кристиной и Домиником
Доктор Кристина Томич — консультант и генеральный директор JP French International (JPFI), а также член MENSA. Она участвовала более чем в 300 судебных делах: от сравнения дикторов до анализа подлинности и обнаружения ИИ.
Профессор Доминик Уотт — старший консультант и почетный профессор фонетики и социолингвистики в Йоркском университете. Он посвятил 25 лет работе над судебными делами и помог установить британский стандарт в этой области. В 2022 году он получил премию за выслугу лет (Lifetime Achievement Award) за свои исследования.
За плечами у них десятилетия опыта прослушивания записей, изучения спектрограмм и вынесения суждений о том, что они слышат.
Затем голоса, сгенерированные ИИ, стали настолько реалистичными, что возник новый вопрос: а не является ли сама запись синтетической?
«Вы рассматривали вариант, что это может быть дипфейк?»
В течение многих лет судебный анализ JPFI начинался с предположения, что запись является подлинной, а сравнение дикторов было сосредоточено на определении того, принадлежат ли две записи одному и тому же человеку. Но по мере того как клонирование голоса становилось все более реалистичным, команде пришлось рассмотреть иную возможность: что, если сама запись была сгенерирована ИИ?
К 2024 году Доминик все чаще слышал от адвокатов защиты новый вопрос: «Оценили ли вы вероятность того, что это создано системой аудиодипфейков?»
JPFI хотела иметь возможность ответить на этот вопрос до того, как он станет проблемой в суде. «Если вы уже провели предварительную проверку, мы можем просто отложить это в сторону. Это не застанет нас врасплох», — сказал Доминик.
Это создало новую проблему для команды, поскольку существовало очень мало исследований о том, как конкретные акустические параметры различаются в сгенерированной ИИ и подлинной речи. Поскольку технология дипфейков развивается с головокружительной скоростью, передовыми результатами делятся в основном на нишевых научных конференциях, и требуется время, прежде чем они станут доступны в широко известных журналах. У JPFI и команды также не было доступа к обширным базам данных, что мешало им напрямую сравнивать спектральные характеристики спорного аудио в собственной лаборатории. Им приходилось опираться на свой опыт в области речевой и языковой науки, чтобы оценить, может ли запись быть создана ИИ, и интерпретировать результаты на основе слухо-перцептивных сигналов, лингвистических несоответствий и известных структурных артефактов, оставляемых генеративными алгоритмами.
Когда JPFI требовалась дополнительная оценка спорной записи, они иногда привлекали внешних экспертов, что значительно увеличивало стоимость процесса, а эти консультанты часто не раскрывали свои методы по соображениям конфиденциальности.
По словам Кристины, до появления Resemble «мне приходилось отправлять материалы экспертам за пределами компании». Из-за этого JPFI было сложнее полностью ручаться за результат, который они не производили самостоятельно.
Любой новый подход также должен был соответствовать стандартам судебной экспертизы. Суды Великобритании запретили использование доказательств автоматического распознавания дикторов примерно пятнадцать лет назад из-за опасений по поводу их надежности — это решение до сих пор определяет отношение судов к новым методам.
Для JPFI это означало, что инструмент обнаружения дипфейков не мог просто выдавать готовый ответ. Его также необходимо было валидировать, протестировать и защитить в ходе перекрестного допроса.
Проверка на первом месте
Теперь JPFI проводит проверку на синтетическое аудио перед началом сравнения дикторов.
Традиционное сравнение дикторов заключается в определении того, принадлежат ли две записи одному диктору. Но если сама запись была сгенерирована ИИ, такой анализ может упустить из виду более глобальный вопрос о том, является ли речь подлинной в принципе. Поэтому, если файл мог быть правдоподобно сгенерирован ИИ, команда проверяет его перед началом сравнения дикторов. Сюда входят голосовые заметки, телефонные записи и другие файлы, где нет сопутствующего видео.
Некоторые из спорных записей, с которыми они работали, также были не на английском языке. Помимо результата обнаружения, Resemble предоставляет транскрипцию и перевод, что, по мнению команды, оказалось действительно полезным.
Автоматизированный результат — это все же лишь часть процесса. JPFI сверяет его с образцом известного диктора и использует собственные судебные методы для оценки того, обладает ли речь характеристиками аутентичной человеческой речи.
«Мы также перепроверяем то, что он нам говорит, — сказал Доминик, — используя более ориентированные на человека методы: есть ли в записи особенности, характерные для аутентичной человеческой речи?»
Когда автоматизированный результат и ручной анализ совпадают, это придает команде дополнительную уверенность. Когда они расходятся, это говорит о том, что нужно присмотреться внимательнее.
Доминик описывает это как подход «страховки со всех сторон»: два разных метода работают параллельно, давая команде еще один способ поймать то, что один подход может упустить.
Точность, проверенная дважды
Для JPFI точность была важнейшим фактором при оценке инструментов обнаружения.
«Я думаю, мы стремились к точности. Это самое главное», — сказала Кристина.
Доминик также видел, что система Resemble хорошо показала себя в сравнительных испытаниях. «Я видел, что в сравнительных тетрах Resemble показала себя лучше всех. И именно поэтому мы ее используем».
Но JP French хотела протестировать систему самостоятельно. Команда независимо и неоднократно тестировала ее с использованием синтетических записей, созданных специально для того, чтобы попытаться обмануть систему.
Обработка некоторых из этих записей занимала больше времени, чем обычно. «Обычно результаты выдаются мгновенно, — сказал Доминик. — Но с записями, которые мы подготовили, ей пришлось подумать». Система потратила больше времени, а затем выдала правильный результат.
Результаты бенчмаркинга также оказались полезными, когда JPFI приходилось обсуждать систему в суде. В одном из недавних дел Доминику понадобились последние показатели точности перед перекрестным допросом в английском суде. «Очень успокаивает видеть эти результаты тестирования», — сказал он. Без них Доминик мог бы утверждать лишь то, что система считается лучшей из доступных. Противоположная сторона не стала продолжать эту линию допроса.
Случай, когда это изменило исход
Самым большим изменением стало то, что происходит до начала сравнения дикторов.
В одном из случаев синтетическая запись поначалу «очень напоминала подозреваемого». Resemble пометила ее, дав команде повод исследовать саму запись до применения протокола, предназначенного для аутентичной речи. В этом и заключается смысл этапа проверки: выявить потенциальную проблему до того, как она повлияет на остальной анализ.
Это также изменило то, как JPFI говорит об этих делах в суде. Раньше спорные записи могли быть отправлены внешнему консультанту, чья методология не раскрывалась полностью. Теперь Кристина и Доминик могут указать на конкретный инструмент, который прошел независимое тестирование и имеет публичную историю успехов.
Для JPFI это дает команде еще одно доказательство, которое стоит рассматривать наряду с их собственным анализом.
Генерация речи развилась настолько быстро, что Кристина теперь видит предел того, что традиционное сравнение дикторов может установить само по себе.
«С учетом последних разработок в области генерации речи, начиная с мая 2026 года, Resemble AI Detect, возможно, является единственным имеющимся у нас инструментом для выявления контента, сгенерированного ИИ», — сказала она. «Клоны голоса стали настолько реалистичными, что стандартный лингвистический анализ может больше не иметь смысла».
Она добавила, что Resemble Detect неоднократно полностью менял направление анализа команды, наводя их на иную линию расследования по сравнению с той, с которой они начинали.
Использование детекции ИИ в судебной экспертизе
Генерация голоса стремительно развивается, и стандарты использования детекции ИИ в судебной экспертизе все еще формируются.
Доминик ожидает, что суды будут проявлять все большую осторожность в отношении инструментов и методов, не прошедших надлежащую валидацию. Для JPFI это делает подход, который они выбрали с Resemble, еще более важным: использовать валидированный и протестированный инструмент наряду с традиционным фоноскопическим анализом и быть готовыми объяснить, как полученный результат вписывается в общую систему доказательств.
Команда также не исходит из того, что совершенствование клонирования голоса делает каждую запись подозрительной. Цель состоит в том, чтобы выявить записи, требующие более пристального внимания, не подрывая при этом доверие к остальным доказательствам.
По мере дальнейшего развития технологий и судебной практики JP French International ожидает, что этот баланс также продолжит меняться.
«Я хотела бы сказать, что мы действительно очень ценим Resemble AI и болеем за то, чтобы вы сохраняли первое место в сфере детекции ИИ».
— Кристина Томич, консультант и генеральный директор, JP French International
Resemble Detect / Обнаружение аудиодипфейков
Попробуйте Resemble AI бесплатно
Генерируйте с уверенностью. Подтверждайте право владения. Выявляйте обман. Только с Resemble AI.
Начать
