Ранее в этом году мы поделились обновленной информацией о наших мерах по обеспечению безопасности выборов, в которой описали, как мы измеряем и предотвращаем политическую предвзятость, выявляем злоупотребления и направляем людей к достоверной информации о голосовании.
Ниже мы расскажем о том, как мы развили эту работу и продолжили укреплять наши меры безопасности в преддверии промежуточных выборов в США в этом году.
Как люди используют Claude для выборов и политики
Наша цель — сделать Claude полезным инструментом для политических дискуссий, предотвращая при этом злоупотребления, связанные с выборами. Это начинается с понимания того, как люди на самом деле используют Claude в этих контекстах. Для этого мы использовали Anthropic Insights, чтобы провести новый анализ 250 000 диалогов за одну недавнюю неделю.
Сегодня диалоги, которые в целом затрагивают политику, государственную политику или социальные вопросы, составляют около 5,75% всех диалогов в США в нашем потребительском приложении Claude.ai. Сюда входит использование Claude для отслеживания новостей, проведения академических или профессиональных исследований по вопросам государственной политики, получения информации о кандидатах и навигации по государственным услугам. Около 0,51% всех диалогов посвящены непосредственно выборам или голосованию. По мере приближения дня выборов мы ожидаем увеличения доли политических и связанных с выборами запросов.
Эта выборка показывает, что люди редко спрашивают Claude, за кого или за что голосовать. Подобные запросы встречались примерно в 0,01% диалогов с Claude в США. Чаще мы наблюдали, как люди задают Claude вопросы, которые помогают им сделать собственные выводы, например, о позиции кандидатов по конкретному вопросу. Запросы, нарушающие нашу политику обеспечения честности выборов, встречались еще реже — примерно в 0,002% диалогов.
Предоставление доступа к надежным источникам
В преддверии дня выборов мы добавили два новых способа получения достоверной информации непосредственно в диалогах с Claude. Как мы сообщали в апреле, когда пользователи спрашивают Claude.ai о регистрации избирателей, избирательных участках или датах выборов, мы продолжаем отображать баннер со ссылкой на TurboVote, беспартийный ресурс от Democracy Works. Эти ресурсы являются стандартными для всей отрасли. Позднее в этом месяце Claude начнет использовать официальную информацию о голосовании от Democracy Works в своих ответах на Claude.ai для пользователей в США. Тот, кто спросит, где проголосовать или какой документ нужно взять с собой на избирательный участок, теперь сможет получить ответ, специфичный для своего штата, не покидая диалог. Эти ответы основаны на общедоступной информации, которую Democracy Works собирает из государственных и местных источников, связанных с выборами.
Кроме того, Claude начнет показывать актуальные результаты в ночь выборов и в последующие дни, чтобы, когда люди будут запрашивать текущий подсчет голосов или результаты выборов, они видели последние официальные данные прямо в своем диалоге.
Измерение и предотвращение политической предвзятости
Когда люди спрашивают Claude о политике, они должны получать точные и беспристрастные ответы, которые не отдают предпочтение какой-либо конкретной политической точке зрения. Именно поэтому перед запуском каждой модели мы тщательно тестируем их на предмет политической предвзятости. Claude Opus 5.5, Sonnet 5.5 и Haiku 5.5 — наши самые беспристрастные модели на сегодняшний день, набравшие 99% в нашей оценке политической беспристрастности. Наши последние модели также более охотно участвуют в политических дискуссиях и реже отклоняют запросы, поэтому пользователи могут получить ту информацию, за которой пришли. Мы продолжаем совершенствовать эти методы оценки, а также ищем новые способы стресс-тестирования того, как наши модели справляются с политическими темами.
В рамках этих усилий мы попросили три независимые группы оценить, как Claude справляется со свободой выражения мнений, каждая под своим углом и с использованием различных методологий. The Future of Free Speech, независимый аналитический центр при Университете Вандербильта, протестировал Claude на сотнях запросов по спорным темам, а Foundation for American Innovation сравнила, как Claude реагирует на сопоставимые запросы с левого и правого флангов, начиная от основных политических дебатов и заканчивая более экстремальными сценариями. В обоих случаях большинство ответов были оценены как сильные и содержательно прорабатывающие запросы. Collective Intelligence Project опросил более 2000 человек в США, Великобритании и Индии при разработке оценки. В ходе трехэтапного процесса участники предложили принципы работы с чувствительными темами, от здравоохранения до политики, определили темы для тестирования и помогли разработать критерии оценки ответов модели. CIP синтезировал эти данные и проверил их на предмет согласия между демографическими и культурными группами, чтобы установить общие принципы.
Эти оценки также выявили области, в которых Claude все еще не дотягивает. И The Future of Free Speech, и Collective Intelligence Project обнаружили, что Claude редко отказывает в запросах, но иногда добавляет нежелательные оговорки и контраргументы, например, вставляя противоположную точку зрения в агитационное письмо. А Foundation for American Innovation обнаружил, что Claude Sonnet 4.5 не всегда придерживается нейтральной позиции и чаще смягчает аргументы в пользу правоцентристских позиций. Мы решаем эту проблему несколькими способами. Мы улучшили то, как Claude отвечает на прямые вопросы, требующие ответа «да» или «нет», и запросы на более короткие ответы, где, как мы обнаружили, ответы могли быть менее сбалансированными. Мы также используем эти результаты, чтобы улучшить то, когда и как Claude добавляет оговорки или контраргументы, чтобы он более последовательно относился к запросам со всего политического спектра. И мы продолжаем улучшать способы тестирования на предмет неравномерного хеджирования, опираясь на существующие оценки, использующие сопоставимые запросы с левого и правого флангов. В более широком смысле мы работаем над расширением наших оценок политической предвзятости, чтобы они лучше отражали реальные диалоги и охватывали кандидатов и вопросы голосования, а также политические проблемы.
Как мы определяем злоупотребления
Наша Политика использования запрещает использовать Claude для введения избирателей в заблуждение или срыва выборов: от распространения ложной информации о кандидатах или способах голосования до выдачи себя за должностных лиц избирательных комиссий или попыток подавления явки. Каждый год мы обновляем политику, чтобы отразить меняющиеся возможности наших моделей и отзывы наших клиентов. Обновление этого года, о котором мы объявили на прошлой неделе, проясняет, что охватывают наши правила проведения выборов, а что нет, и добавляет новые примеры, чтобы помочь людям понять, где проходят границы.
Мы знаем, что многие политические кампании используют Claude для законных повседневных задач, поэтому недавно мы опубликовали руководство, чтобы помочь им понять, где применяются эти правила. Оно охватывает множество способов, которыми кампании могут использовать Claude, например, составление пресс-релизов и писем для сбора средств, подготовка к дебатам, анализ данных о явке и создание материалов для работы с избирателями. В нем также четко указано, что запрещено, например, использование Claude для создания поддельных профилей в социальных сетях, выдающих себя за реальных людей, массовое создание комментариев для искусственного завышения вовлеченности кампании или написание контента для новостных сайтов и страниц, которые ложно выдают себя за независимые.
Тестирование и укрепление нашей защиты
Мы используем автоматизированные классификаторы, обученные обнаруживать злоупотребления, связанные с выборами. Чтобы проверить, как эти меры защиты работают на практике, мы в партнерстве с Institute for Strategic Dialogue (ISD) и McCain Institute, независимыми исследовательскими организациями, провели стресс-тестирование наших систем защиты в США, Израиле и Бразилии. Аналитики проверяли, будет ли Claude помогать в проведении обманных кампаний, распространении дезинформации и других формах злоупотреблений, связанных с выборами. Они начали с прямых запросов, а затем разбили полноценные кампании на более мелкие задачи, которые сами по себе могли выглядеть безобидно, такие как исследование аудитории, создание новостных сайтов, написание контента и планирование его распространения. Они обнаружили, что Claude надежно отклоняет отдельные вредоносные запросы, но может пропустить злонамеренную кампанию, если она распределена по множеству отдельных запросов, которые по отдельности выглядят безобидно.
Основываясь на этих выводах и наших собственных результатах, мы добавили новые классификаторы для более эффективного выявления новых и многоэтапных злоупотреблений, включая попытки создания фальшивых учетных записей в социальных сетях и новостных сайтов, направленных на политические дискуссии, или проведение финансово мотивированных предвыборных схем. Мы также расширили наши возможности по обнаружению злоупотреблений, связанных с выборами, со стороны иностранных государственных субъектов и усилили нашу киберзащиту избирательной инфраструктуры и кампаний. Наконец, мы создали целевые меры защиты от локализованных рисков, выявленных в США, Израиле и Бразилии, где в этом году проходят крупные национальные выборы.
Наши группы по анализу угроз и обеспечению соблюдения правил проверяют помеченную активность и принимают меры при подтверждении нарушения, включая блокировку учетных записей. Мы также регулярно делимся примерами непреднамеренных действий или поведения модели, которые мы наблюдали во время наших оценок и внутреннего использования Claude.
Что мы обнаружили
Наш недавний отчет об анализе угроз отражает более широкие изменения в тенденциях злоупотреблений, связанных с выборами. Политические, связанные с государством и коммерческие субъекты теперь внедряют ИИ практически во все аспекты своих операций влияния, от планирования и создания контента до создания платформ, используемых для распространения сообщений. Поскольку мы видим, что эти ранние стадии операций происходят в Claude, у нас часто есть возможность остановить эти усилия до того, как они достигнут общественности.
Наши команды продолжают расследовать и предотвращать скоординированные злоупотребления вокруг выборов, включая промежуточные выборы в США. В одном случае иностранные операторы фальшивого новостного сайта использовали Claude для создания освещения промежуточных выборов в США, благоприятствующего российским, иранским и северокорейским нарративам. Мы также наблюдали, как субъекты угроз стремятся использовать выборы для получения финансовой выгоды, используя Claude для создания сфабрикованных новостей и другого контента, предназначенного для привлечения американской аудитории и получения дохода от рекламы. Мы заблокировали учетные записи, причастные к этим случаям, и улучшили нашу способность обнаруживать подобные злоупотребления.
Взгляд в будущее
Все больше людей обращаются к Claude за информацией о выборах этого года, чем когда-либо прежде. Мы несем ответственность за то, чтобы ответы, которые они получают, были точными и сбалансированными, и чтобы Claude не использовался для подрыва демократического процесса. Мы продолжим инвестировать в то, чтобы сделать Claude более объективным, предотвращать и пресекать злоупотребления, а также быть прозрачными в своих действиях. Эта работа будет иметь решающее значение на предстоящих промежуточных выборах в США и распространяется на выборы по всему миру. В ближайшие месяцы мы также надеемся поделиться более полным обзором того, как люди использовали Claude на протяжении всего избирательного цикла, с целью усиления наших оценок и мер защиты, связанных с выборами.
