Демократический процесс работает лучше всего, когда каждый имеющий право голоса избиратель может принять в нем участие. Но слишком часто люди не имеют доступа к информации о том, как зарегистрироваться, где голосовать и за каких кандидатов выступают те или иные лица, на понятном им языке и в удобном формате. Для многих граждан с нарушениями зрения, низким уровнем грамотности или не являющихся носителями языка традиционные предвыборные электронные письма и печатные листовки просто недоступны.
В условиях этих коммуникационных барьеров голосовой ИИ может стать невероятно мощным инструментом для демократии. Он может зачитывать информацию вслух для слабовидящих, отвечать на вопросы на предпочитаемом языке или диалекте гражданина и превращать сложные официальные документы в живую беседу. Но, как и любая новая технология, эти же возможности могут быть использованы злоумышленниками в корыстных целях для обмана или дезинформации избирателей.
2026 год является важным годом выборов: национальные, региональные и местные выборы проходят во всех регионах мира, включая крупные выборы в США и Бразилии. Это также один из первых годов выборов, когда широко доступен выразительный, звучащий естественно голосовой ИИ. Ниже мы рассказываем о том, как мы применяем голосовой ИИ для укрепления демократического процесса, одновременно предотвращая и выявляя случаи неправомерного использования этой технологии.
Укрепление демократического процесса
Голосовой ИИ уже играет важнейшую роль в выборах, расширяя доступ к официальной информации от надежных институтов, и Бразилия лидирует в этом отношении во всем мире.
В преддверии октябрьских выборов Высший избирательный суд Бразилии (TSE) добавляет голосовой уровень в свой «Электоральный помощник», чтобы граждане могли использовать свой голос для получения информации с веб-сайта, приложения и каналов WhatsApp TSE. Созданный на основе наших технологий синтеза и распознавания речи, этот новый голосовой интерфейс призван помочь в борьбе с дезинформацией на выборах и расширить доступ к надежной информации для всех граждан Бразилии. Мы оформили это партнерство посредством подписания меморандума о взаимопонимании с TSE — нашего первого соглашения с национальным избирательным органом, — а также присоединились к Постоянной программе TSE по борьбе с предвыборной дезинформацией.
Мы также сотрудничаем с бразильскими организациями, использующими голосовой ИИ для поддержки усилий по проверке информации. Вот уже почти десять лет Comprova — коалиция из 42 бразильских СМИ под руководством Бразильской ассоциации журналистики-расследователей (Abraji) — неустанно работает над выявлением манипулятивного контента. Мы обучим партнеров Comprova использованию нашего классификатора речи на базе ИИ и других инструментов обнаружения в рамках их рабочих процессов проверки.
В США мы работаем с политиками, представителями отрасли и ведущими технологическими компаниями над защитой промежуточных выборов. Мы сотрудничаем с другими членами Рабочей группы Калифорнии по борьбе с мошенничеством с использованием технологий в целях противодействия голосовым мошенничествам. Мы сотрудничаем с Google DeepMind для добавления водяных знаков в наши аудиофайлы, чтобы их можно было идентифицировать как сгенерированные ИИ, а также с компанией по обнаружению дипфейков Reality Defender для усиления их инструментов обнаружения в реальном времени, которые используются крупными предприятиями и правительствами. С помощью платформы ElevenLabs for Government мы помогаем правительствам и гражданскому обществу предоставлять круглосуточные услуги гражданам на нескольких языках и работаем над тем, чтобы предоставить эту возможность государственным институтам в США по мере приближения выборов 2026 года.
Предотвращение и выявление неправомерного использования голосового ИИ
Помимо внедрения наших технологий для расширения доступа к демократическим институтам, мы инвестируем в средства защиты, борющиеся с их неправомерным использованием злоумышленниками. Мы применяем комплексный многоуровневый подход к безопасности с перекрывающими друг друга механизмами защиты, охватывающими наши модели и продукты, чтобы в случае обхода одного слоя оставались другие. Некоторые из этих мер защиты включают в себя:
- Запрещенные голоса (No Go Voices). Загруженные аудиофрагменты для создания клонов проверяются на соответствие нашей собственной системе защиты «No Go Voices» (NGV), которая предназначена для блокировки создания голосов, принадлежащих лицам с высоким уровнем риска, таким как государственные чиновники, политические кандидаты, знаменитости и другие широко известные фигуры. Мы постоянно совершенствуем и расширяем NGV на основе внутреннего мониторинга, текущих событий, отчетов пользователей и внешней информации, в том числе с началом новых избирательных циклов.
- Голосовая CAPTCHA. Голосовая CAPTCHA сравнивает голос в загруженном фрагменте с записью пользователя в реальном времени, читающего динамически сгенерированный текст.
- Модерация в реальном времени и асинхронная модерация. Мы используем автоматизированные системы для помощи в обнаружении контента, который может нарушать наши правила, включая сексуальную эксплуатацию и насилие над детьми, язык вражды, а также мошенничество и аферы. Эти системы могут блокировать определенный контент еще до его создания. Сгенерированный контент также может автоматически классифицироваться для поддержки ручной проверки, расследования и принудительного исполнения.
- Принудительное исполнение. Мы принимаем надлежащие меры в отношении пользователей, которые нарушают наши правила, пытаются обойти наши средства защиты или занимаются деятельностью, создающей риск серьезного вреда.
- Прослеживаемость и прозрачность. Наши системы спроектированы так, чтобы прослеживать сгенерированный контент вплоть до создавшего его аккаунта. С 2023 года мы также предлагаем бесплатный классификатор речи ИИ, который позволяет любому проверить, содержит ли аудиофрагмент контент, созданный с помощью ИИ в ElevenLabs. Недавно мы начали сотрудничество с Google DeepMind, чтобы внедрить технологию нанесения водяных знаков SynthID в контент, создаваемый в ElevenLabs, с тем чтобы его можно было идентифицировать как созданный ИИ с помощью нашего бесплатного детектора аудио.
Наша неизменная приверженность принципам
Мы искренне верим в огромную пользу голосового ИИ в общественной жизни и полны решимости сделать так, чтобы наши технологии использовались во благо. Мы продолжим совершенствовать наши средства защиты, учиться на опыте партнерских отношений по всему миру и адаптировать наш подход по мере возникновения новых рисков и возможностей. Мы рады тесно сотрудничать с правительственными и гражданскими организациями по всему миру и с нетерпением ждем углубления нашего партнерства на протяжении этого избирательного цикла и в дальнейшем.
