Каждый год Anthropic обновляет свою Политику использования в ответ на растущие возможности наших моделей и отзывы, полученные от наших клиентов. Сегодня мы публикуем новую версию политики. В этой статье мы подводим итоги сделанных нами изменений.
Большинство обновлений в последней версии направлены на уточнение существующих правил. За год, прошедший с момента нашего последнего обновления, Claude взял на себя более сложные и самостоятельные задачи. В этом обновлении представлены новые примеры, которые показывают, как наши правила применяются к новым возможностям Claude. Оно опирается на новые паттерны злоупотреблений в операциях влияния, разработке оружия и слежке, которые мы наблюдали за последний год (как задокументировано в нашем последнем отчете об угрозах). Мы также внесли изменения, чтобы прояснить наши требования к сценариям использования с высоким уровнем риска в таких областях, как здравоохранение и финансы, добавить средства контроля для случаев, когда Claude используется для автономного совершения физических действий, а также пресечь оскорбительное поведение по отношению к нашим моделям.
Обновленная политика вступает в силу 12 ноября. Полный текст Политики использования и Политики поддерживаемых регионов можно найти на соответствующих страницах.
Новый раздел о вводящей в заблуждение деятельности
Как мы писали в прошлом месяце, мы фиксируем примеры того, как государственные СМИ, правительственные пропагандистские ведомства и коммерческие фирмы используют Claude для управления сетями фальшивых аккаунтов и создания фейковых новостных сайтов. Наша политика уже запрещала такую деятельность, однако эти ограничения были разбросаны по разделам, посвященным выборам, мошенничеству, конфиденциальности и дезинформации.
Мы объединили эти правила в новый раздел под названием «Не участвуйте в вводящих в заблуждение кампаниях или искусственной активности», который распространяется на любой вид обмана (будь то политический или коммерческий). Он охватывает попытки скрыть того, кто стоит за сообщением, или усилить контент с помощью фальшивых аккаунтов или публикаций, а также создание инструментов и инфраструктуры для проведения кампаний с целью влияния.
Переосмысление нашего раздела о выборах
Мы уточняли ограничения в отношении политического контента в каждой версии нашей Политики использования, чтобы наши модели могли должным образом применяться в демократических процессах. В этой версии мы еще более четко сформулировали раздел о выборах, сосредоточив его конкретно на запрете использовать Claude для введения избирателей в заблуждение или срыва выборов (например, путем распространения ложной информации о кандидатах или способах голосования, выдачи себя за кандидатов или представителей избиркомов либо попыток снизить явку). Чтобы отразить эту сферу охвата, мы переименовали его в «Не подрывайте демократические процессы».
По аналогичной причине мы также отменили общий запрет на персонализированный таргетинг в отношении голосования и кампаний. Этот запрет распространялся на легитимную гражданскую работу, такую как использование Claude некоммерческими организациями для подготовки информации для избирателей на других языках или отправка избирательным комиссиям уведомлений об исправлении бюллетеней. Действия, которые послужили причиной для введения первоначального правила (например, таргетинг на избирателей, основанный на обмане или неправомерном использовании персональных данных избирателей), по-прежнему запрещены в соответствии с нашими разделами о вводящих в заблуждение кампаниях, слежке и конфиденциальности.
Уточнение запретов на оружие
Наша Политика использования всегда запрещала использовать Claude для разработки оружия. В последнее время мы столкнулись с попытками использовать наши модели для создания программного обеспечения наведения и управления вооружением. В обновленном разделе четко указано, что наши запреты распространяются на ПО и компоненты, обеспечивающие работу оружия, а также на такие действия, как вооружение дронов и других автономных транспортных средств. Эти изменения отражают то, как мы применяли нашу предыдущую политику на практике.
Более точные формулировки в отношении слежки и правоохранительных органов
В нашем сентябрьском отчете об угрозах было зафиксировано растущее использование ИИ для создания систем слежки, которые выявляют и преследуют политических диссидентов. Мы переписали раздел о слежке и уголовном правосудии, чтобы более точно указать, что именно мы запрещаем. Например, запрещено отслеживать людей без их согласия — вне зависимости от того, происходит ли это в режиме реального времени или посредством анализа ранее собранных данных. Claude нельзя использовать для принятия решений или рекомендаций о том, кого расследовать, арестовывать или обвинять в рамках правоохранительной деятельности или уголовного правосудия. Мы также запрещаем использовать Claude для создания или улучшения инструментов, предназначенных для слежки.
Как и в случае с предыдущим обновлением запретов на оружие, это изменение не отражает перемен в том, что мы применяем на практике: оно лишь призвано сделать нашу политику более недвусмысленной. В новом разделе также подробно описывается, какие виды использования остаются разрешенными, включая отслеживание, на которое люди дали согласие (например, мониторинг мошенничества), модерацию контента, журналистику и юридические исследования.
Более четкие требования к сценариям использования с высоким уровнем риска
Когда наши продукты применяются способами, которые могут повлиять на чье-либо здоровье, юридические права, финансы, средства к существованию или доступ к жизненно важным услугам, мы требуем наличия квалифицированного «человека в контуре» (то есть специалиста, обладающего полномочиями изучать рекомендации Claude и при необходимости изменять их), а также информирования пострадавшего лица о том, что использовался ИИ.
Эти требования не изменились в новой версии нашей Политики использования. Тем не менее пользователи часто спрашивают нас, распространяются ли эти требования на конкретный сценарий использования, поэтому мы переписали раздел «Требования к сценариям использования с высоким уровнем риска», чтобы ответить на это более прямо. Теперь в нем перечислено, какие виды рекомендаций подпадают под действие требований, а какие — нет.
После запуска нашего Стандарта оборудования для моделей этот раздел также дополнен требованиями к использованию наших моделей при их подключении к оборудованию, которое совершает автономные физические действия и может потенциально нанести травму. Квалифицированный оператор должен иметь возможность наблюдать за оборудованием и при необходимости остановить его; кроме того, оборудование должно уметь сохранять безопасное состояние в случае отключения Claude.
Борьба с оскорбительным поведением по отношению к нашим моделям
Мы ввели запрет на систематическое и бессмысленное оскорбительное или жестокое поведение в отношении наших моделей. Обновление политики призвано применяться только в крайних случаях, когда пользователи неоднократно ведут себя жестоко по отношению к нашим моделям без какой-либо видимой цели. Оно не распространяется на обычные проявления пользовательского разочарования, возражения, мрачные творческие темы, а также тестирование моделей и исследования.
Это дополнение согласуется с шагом, который мы уже предприняли, разрешив моделям Claude завершать редкие диалоги с упорными нарушителями на Claude.ai и Claude Code. Подобные злоупотребления являются главной целью этого обновления; способность Claude прерывать такие взаимодействия останется основным механизмом принудительного исполнения правил.
Уточнение Политики поддерживаемых регионов
В прошлом году мы обновили Политику поддерживаемых регионов, чтобы ограничить доступ к Claude для компаний, мажоритарными владельцами которых являются организации со штаб-квартирами в неподдерживаемых нами регионах. Мы обновили страницу поддерживаемых регионов, чтобы уточнить, как мы обеспечиваем соблюдение этой политики. Наша политика запрещает использование Claude лицами, которые физически находятся в неподдерживаемом регионе, организациями, зарегистрированными или имеющими штаб-квартиру в таком регионе, а также организациями, мажоритарными владельцами или контролирующими лицами которых выступают лица или структуры из этих регионов.
Взгляд в будущее
Мы продолжим обновлять нашу Политику использования по мере изменения возможностей и рисков Claude. Как и в случае с этим и предыдущими обновлениями, мы будем запрашивать мнение сотрудников Anthropic, а также политиков, профильных экспертов, гражданского общества и пользователей наших продуктов.
Развивая нашу приверженность американским научным открытиям
Anthropic выделяет 150 миллионов долларов в течение трех лет на Genesis Mission — федеральную инициативу, направленную на ускорение научных и технологических открытий с помощью ИИ.
Представляем Anthropic Cyber Mission
Мы запускаем Anthropic Cyber Mission — долгосрочную инициативу по защите систем, от которых зависят все.
Расширение программы киберверификации
Мы запускаем новую расширенную версию нашей программы киберверификации, которая предоставляет квалифицированным специалистам по безопасности расширенные возможности в сфере кибербезопасности и смягченные блокирующие классификаторы.
