Демократический процесс работает лучше всего, когда каждый избиратель, имеющий на это право, может принять в нем участие. Но слишком часто люди не могут получить доступ к информации о том, как зарегистрироваться, где проголосовать и каковы позиции кандидатов, на понятном им языке и в доступном формате. Для многих граждан с нарушениями зрения, низким уровнем грамотности или тех, для кого язык не является родным, традиционные электронные письма о выборах и печатные листовки зачастую недоступны.
Перед лицом этих коммуникационных барьеров голосовой ИИ может стать невероятно мощным инструментом для демократии. Он может зачитывать информацию вслух для слабовидящих, отвечать на вопросы на предпочтительном для гражданина языке или диалекте и превращать сложные официальные документы в живой разговор. Но, как и любая новая технология, эти же возможности могут быть использованы злоумышленниками для обмана или дезинформации избирателей.
2026 год — важный электоральный год: национальные, региональные и местные выборы пройдут во всех частях мира, включая крупные выборы в США и Бразилии. Это также один из первых электоральных годов, когда выразительный, естественно звучащий голосовой ИИ стал широко доступен. Ниже мы расскажем о том, как мы задействуем голосовой ИИ для укрепления демократического процесса, одновременно предотвращая и выявляя случаи злоупотребления этой технологией.
Укрепление демократического процесса
Голосовой ИИ уже играет важную роль в выборах, расширяя доступ к официальной информации от доверенных институтов — и Бразилия является мировым лидером в этом направлении.
В преддверии выборов в октябре Высший избирательный суд Бразилии (TSE) добавляет голосовой уровень к своему «Избирательному помощнику», чтобы граждане могли использовать голос для получения информации с сайта TSE, приложения и каналов WhatsApp. Этот новый голосовой интерфейс, работающий на базе наших технологий преобразования текста в речь и речи в текст, призван помочь в борьбе с дезинформацией на выборах и расширить доступ к достоверной информации для всех граждан Бразилии. Мы оформили партнерство через Меморандум о взаимопонимании с TSE — наш первый опыт сотрудничества с национальным избирательным органом — и присоединились к Постоянной программе TSE по борьбе с электоральной дезинформацией.
Мы также работаем с бразильскими организациями, использующими голосовой ИИ для поддержки усилий по проверке информации. На протяжении почти десяти лет Comprova — коалиция из 42 бразильских медиаорганизаций под руководством Бразильской ассоциации журналистских расследований (Abraji) — неустанно работает над выявлением манипулятивного контента. Мы обучим партнеров Comprova использованию нашего классификатора речи ИИ (AI Speech Classifier) и других инструментов обнаружения в рамках их рабочих процессов верификации.
В Соединенных Штатах мы работаем с политиками, отраслевыми органами и ведущими технологическими компаниями для защиты промежуточных выборов. Мы сотрудничаем с другими членами Целевой группы Калифорнии по борьбе с технологическим мошенничеством для противодействия голосовым аферам. Мы сотрудничаем с Google DeepMind для внедрения водяных знаков в наш аудиоконтент, чтобы его можно было идентифицировать как созданный ИИ, а также с компанией Reality Defender, занимающейся обнаружением дипфейков, для усиления их инструментов обнаружения в реальном времени, которые используются крупными предприятиями и правительствами. Через ElevenLabs for Government мы помогаем правительствам и гражданскому обществу предоставлять круглосуточные услуги гражданам на нескольких языках, и мы работаем над тем, чтобы предоставить эту возможность гражданским институтам в США по мере приближения выборов 2026 года.
Предотвращение и выявление злоупотреблений голосовым ИИ
Помимо внедрения наших технологий для расширения доступа к демократическим процессам, мы инвестируем в меры безопасности, которые препятствуют злоупотреблениям со стороны злоумышленников. Мы применяем комплексный многоуровневый подход к безопасности с перекрывающимися защитными механизмами, охватывающими наши модели и продукты, чтобы в случае обхода одного уровня другие продолжали работать. Некоторые из этих мер включают:
- «Запрещенные голоса» (No Go Voices). Аудиообразцы, загружаемые для создания клонов, проверяются по нашей собственной системе защиты «No Go Voices» (NGV), которая предназначена для блокировки создания голосов, принадлежащих лицам из группы высокого риска, таким как государственные чиновники, политические кандидаты, знаменитости и другие широко известные фигуры. Мы постоянно совершенствуем и расширяем NGV на основе внутреннего мониторинга, текущих событий, отчетов пользователей и внешней аналитики, в том числе с началом новых электоральных циклов.
- Голосовая капча (Voice CAPTCHA). Голосовая капча сравнивает голос в загруженном образце с записью пользователя в реальном времени, читающего динамически сгенерированный текст.
- Модерация в реальном времени и асинхронная модерация. Мы используем автоматизированные системы для выявления контента, который может нарушать наши правила, включая сексуальную эксплуатацию и насилие над детьми, разжигание ненависти, а также мошенничество. Эти системы могут блокировать определенный контент еще до его создания. Сгенерированный контент также может автоматически классифицироваться для поддержки проверки человеком, расследования и обеспечения соблюдения правил.
- Принудительное исполнение. Мы принимаем соответствующие меры в отношении пользователей, которые нарушают наши правила, пытаются обойти наши средства защиты или участвуют в деятельности, создающей риск серьезного вреда.
- Прослеживаемость и прозрачность. Наши системы разработаны таким образом, чтобы отслеживать сгенерированный контент вплоть до учетной записи, которая его создала. С 2023 года мы также предлагаем бесплатный классификатор речи ИИ, который позволяет любому проверить, содержит ли аудиообразец контент, созданный с помощью ElevenLabs. Недавно мы начали сотрудничество с Google DeepMind, чтобы внедрить технологию водяных знаков SynthID в контент, созданный на ElevenLabs, чтобы его можно было идентифицировать как созданный ИИ с помощью нашего бесплатного детектора аудио.
Наши неизменные обязательства
Мы твердо верим в огромные преимущества голосового ИИ в общественной жизни и полны решимости обеспечить использование наших технологий во благо. Мы продолжим укреплять наши защитные механизмы, учиться на опыте партнерств по всему миру и адаптировать наш подход по мере возникновения новых рисков и возможностей. Мы рады тесному сотрудничеству с правительственными организациями и гражданским обществом по всему миру и с нетерпением ждем углубления наших партнерских отношений в ходе этого электорального цикла и в будущем.
