Сегодня мы анонсируем Enterprise Frontier Safeguards (EFS) — решение, которое объединяет конфиденциальность нулевого хранения данных (ZDR) с передовыми средствами защиты для обнаружения злоупотреблений. EFS работает за счет хранения данных в облачной инфраструктуре, контролируемой клиентом, а не Anthropic. EFS будет внедряться для клиентов поэтапно, начиная с конца этой осени. Чтобы сделать переход плавным, имеющие на это право клиенты получат ZDR для Fable 5 и Fable 5.1 до тех пор, пока EFS не будет готова.

Мы разработали EFS в тесном сотрудничестве с более чем 100 клиентами из таких отраслей, как финансовые услуги, здравоохранение, производство, телекоммуникации, юриспруденция, розничная торговля и государственный сектор, а также с нашими облачными партнерами из Amazon Web Services, Google Cloud и Microsoft Azure.

EFS будет поддерживаться в Claude Code, Claude Enterprise, Claude Platform, Amazon Bedrock, Claude Platform на AWS, Google Agent Platform и Microsoft Foundry.

Решение дилеммы безопасности передовых систем

Модели класса Mythos, такие как Claude Fable 5.1, представляют собой значительный скачок в интеллекте и агентных возможностях. Однако с этим ростом возрастает потенциал как злоупотреблений, так и автономного нежелательного поведения.

За последние несколько месяцев мы увидели множество свидетельств попыток злоупотребления моделями ИИ. Они варьируются от типичных форм злоупотреблений, таких как мошенничество, до сложных кибератак, которые могут включать агентов, автономно совершающих деструктивные действия. Некоторые из этих случаев связаны с кражей или неправомерным присвоением учетных данных корпоративных клиентов, которые трудно обнаружить без возможности мониторинга трафика и выявления аномального поведения.

Кроме того, поскольку самые изощренные злоупотребления могут включать множество задач, распределенных по нескольким сеансам и учетным записям, недостаточно запускать автоматизированный анализ каждого взаимодействия по отдельности, а затем мгновенно удалять данные. Эффективное обнаружение требует хранения данных в течение значительного периода времени, чтобы их можно было сопоставить во времени и между учетными записями.

По этой причине мы внедрили 30-дневное хранение данных, начиная с Fable 5. Эта политика не была мотивирована стремлением обучать системы на корпоративных данных: Anthropic никогда не обучалась на корпоративных данных без явного разрешения и никогда не будет этого делать.

Компании, с которыми мы работали, в целом понимали ценность хранения данных для безопасности, но многим из них — особенно в регулируемых отраслях — было сложно использовать модели с хранением данных. Поэтому мы сели за стол переговоров с клиентами, чтобы разработать решение, которое могло бы предоставить лучшее из обоих миров: конфиденциальность ZDR и безопасность, обеспечиваемую мониторингом во времени и между учетными записями.

Создано вместе с нашими клиентами

Мы создали Enterprise Frontier Safeguards на основе отзывов экспертов, которые будут использовать ее каждый день: команд безопасности, разработки продуктов, соблюдения нормативных требований и внедрения. Одной из групп, с которыми мы сотрудничали, стал Аналитический и устойчивый центр системных рисков (ARC), членами которого являются директора по информационной безопасности крупнейших банков США, включая Goldman Sachs, Morgan Stanley, Citi, Bank of America и Wells Fargo.

Мы также работали с руководителями таких компаний, как Comcast, KPMG, Mastercard, Salesforce и Visa, чтобы убедиться, что разработка применима в различных отраслях. Наши обсуждения охватывали четверть компаний из списка Fortune 100, каждый глобальный системно значимый банк США и практически все регулируемые отрасли.

Вот что мы услышали от этого широкого круга клиентов и что мы заложили в EFS для решения этих общих проблем:

О мониторинге

Предприятия уже давно применяют мониторинг для защиты от внутренних угроз, а теперь нуждаются в помощи в улучшении мониторинга агентов. Их опасения были связаны с тем, соответствуют ли автоматизированные системы мониторинга Anthropic их нормативным стандартам.

В EFS клиенты сами контролируют, как проверяются данные. Когда мониторинг обнаруживает закономерность, требующую внимания, эти сигналы отправляются непосредственно клиентам, чтобы они могли изучить то, что обнаружили автоматизированные системы.

О хранении данных

Для предприятий добавление еще одного «доверенного поставщика данных» сопряжено с большими трудностями по ряду причин. Им необходимо уведомить всех своих клиентов о том, кто эти поставщики, и обновить контракты. У них также есть внутренние требования к безопасному хранению и аудиту данных, учитывая их высокий уровень конфиденциальности. Из-за этих опасений мы спроектировали EFS так, чтобы у клиентов была возможность хранить данные в своей существующей облачной инфраструктуре.

В EFS клиенты могут контролировать хранение и управление своими данными. Клиенты хотят, чтобы их данные находились в контролируемой ими инфраструктуре, под их собственными ключами шифрования, политиками доступа и журналами аудита. Данные об активности, используемые для мониторинга, могут храниться в собственном облачном аккаунте клиента (например, Amazon S3, Azure Blob Storage или Google Cloud Storage).

Об автоматической и ручной проверке

Даже несмотря на то, что автоматическая проверка становится все более эффективной, человек, проверяющий предупреждение, по-прежнему приносит пользу, подтверждая реальные злоупотребления и устраняя ложные срабатывания. Но от многих клиентов, особенно в регулируемых отраслях, мы услышали, что человек, проводящий эту проверку, должен быть сотрудником их собственной компании. Многие работают по правилам, которые строго регулируют, кому разрешено видеть определенную информацию — конфиденциальные юридические материалы, непубличную информацию, отчеты о безопасности лекарств. Их команды уже прошли обучение и допуск к этой работе.

EFS имеет автоматизированный мониторинг безопасности, проверка сотрудниками Anthropic не требуется. Клиенты хотят защиты от кибератак и понимают, что их бывает трудно обнаружить, если они разворачиваются во многих сеансах и учетных записях. С помощью EFS автоматизированные системы анализируют скользящее окно трафика на предмет признаков серьезных злоупотреблений, включая попытки развития наступательного кибернетического или биологического потенциала, а также признаки украденных или утекших учетных данных. Эти сигналы поступают непосредственно к клиенту, и его сотрудники берут дело в свои руки — ручная проверка сотрудниками Anthropic не требуется.

Средства контроля ИИ должны быть разработаны для защиты конфиденциальной информации, и средства защиты моделей являются важной частью этого процесса. Anthropic привлекла нас к разработке Enterprise Frontier Safeguards, чтобы обеспечить соответствие нашим требованиям и стандартам.

Средства контроля ИИ должны быть разработаны для защиты конфиденциальной информации, и средства защиты моделей являются важной частью этого процесса. Anthropic привлекла нас к разработке Enterprise Frontier Safeguards, чтобы обеспечить соответствие нашим требованиям и стандартам.

Enterprise Frontier Safeguards дает нам именно то, о чем мы просили: наши логи остаются в среде под управлением Wells Fargo и под управлением ключей Wells Fargo. Мы сохраняем контроль над своими данными, пока Anthropic осуществляет обнаружение. Это разделение позволяет нашим командам безопасно использовать передовые модели и выполнять наши обязательства перед клиентами, сотрудниками и регулирующими органами. Мы помогли сформировать эти средства защиты, потому что наша индустрия в них нуждается.

Enterprise Frontier Safeguards предоставляет нам именно то, о чем мы просили: наши логи остаются в управляемой Wells среде под управлением ключей Wells. Мы сохраняем контроль над своими данными, пока Anthropic осуществляет обнаружение. Именно такое разделение позволяет нашим командам безопасно задействовать передовые модели и выполнять обязательства перед клиентами, сотрудниками и регулирующими органами. Мы помогли сформировать эти средства защиты, потому что они необходимы нашей отрасли.

Как компания, управляющая критической инфраструктурой, мы ценим возможности моделей. Не менее важны и решения, позволяющие хранить данные в собственном аккаунте, и Enterprise Frontier Safeguards решила эту задачу.

Как компания, управляющая критической инфраструктурой, мы ценим возможности моделей. Не менее важны и решения, позволяющие хранить данные в собственном аккаунте, и Enterprise Frontier Safeguards решила эту задачу.

Восемь наших участников работали с Anthropic над тем, чтобы определить, что требуется для запуска самых мощных передовых моделей внутри системно значимого банка: кто хранит данные, у кого находятся ключи, что автоматическая проверка может и не может видеть, и при каких условиях человеку вообще разрешено их просматривать. Это сотрудничество ведет к разработке и внедрению усовершенствованных средств защиты и стандартов, которые можно масштабировать в нашей отрасли и за ее пределами.

Восемь наших участников работали с Anthropic над тем, чтобы определить, что требуется для запуска самых мощных передовых моделей внутри системно значимого банка: кто хранит данные, у кого находятся ключи, что автоматическая проверка может и не может видеть, и при каких условиях человеку вообще разрешено их просматривать. Это сотрудничество ведет к разработке и внедрению усовершенствованных средств защиты и стандартов, которые можно масштабировать в нашей отрасли и за ее пределами.

Одним из ключевых принципов архитектуры безопасности является возможность сохранять данные вне самой модели, защищая их в нашей среде. В компании и в работе с нашими клиентами есть области, которые подлежат жесткому регулированию и являются крайне конфиденциальными. Эти средства защиты фактически позволяют нам применять ИИ в тех сферах бизнеса, в которых раньше мы не могли этого сделать.Сервисный партнер

Одним из ключевых принципов архитектуры безопасности является возможность сохранять данные вне самой модели, защищая их в нашей среде. В компании и в работе с нашими клиентами есть области, которые подлежат жесткому регулированию и являются крайне конфиденциальными. Эти средства защиты фактически позволяют нам применять ИИ в тех сферах бизнеса, в которых раньше мы не могли этого сделать.

Сервисный партнер

Наши клиенты доверяют нам свои данные уже более двух десятилетий. Именно этот опыт побудил нас помочь проработать этот вопрос вместе с Anthropic, а не оставаться в стороне. Мы смогли совместно поработать над новыми функциями безопасности и конфиденциальности на уровне архитектуры, а не только на уровне политик.

Наши клиенты доверяют нам свои данные уже более двух десятилетий. Именно этот опыт побудил нас помочь проработать этот вопрос вместе с Anthropic, а не оставаться в стороне. Мы смогли совместно поработать над новыми функциями безопасности и конфиденциальности на уровне архитектуры, а не только на уровне политик.

Наши клиенты хотят внедрять передовые модели, а их команды безопасности хотят, чтобы данные оставались в контролируемой ими инфраструктуре. Anthropic создала Enterprise Frontier Safeguards совместно с более чем сотней предприятий именно для этого.Сервисный партнер

Наши клиенты хотят внедрять передовые модели, а их команда безопасности хочет, чтобы данные оставались в контролируемой ими инфраструктуре. Anthropic создала Enterprise Frontier Safeguards совместно с более чем сотней предприятий именно для этого.

Сервисный партнер

Поскольку модели ИИ берут на себя все больше регулируемых и чувствительных рабочих нагрузок, ответственное масштабирование также сводится к архитектуре, а не только к соблюдению политик. Прямой контроль над средой данных в сочетании с автоматизированным мониторингом безопасности на основе шаблонов дает предприятиям конкретные структурные возможности, необходимые для развертывания с реальным надзором, подотчетностью и уверенностью.Сервисный партнер

Поскольку модели ИИ берут на себя все больше регулируемых и чувствительных рабочих нагрузок, ответственное масштабирование также сводится к архитектуре, а не только к соблюдению политик. Прямой контроль над средой данных в сочетании с автоматизированным мониторингом безопасности на основе шаблонов дает предприятиям конкретные структурные возможности, необходимые для развертывания с реальным надзором, подотчетностью и уверенностью.

Сервисный партнер

Средства защиты и их дизайн — очевидно, что вы прислушались к нашим отзывам. Они ставят нас во главе процесса. Логи находятся под нашим контролем; они никуда не уходят, если мы сами этого не захотим. Это дает нам контроль над данными, контроль над информацией и контроль над тем, что делается после обнаружения чего-то, что может превысить порог срабатывания защиты.

Средства защиты и их дизайн — очевидно, что вы прислушались к нашим отзывам. Они ставят нас во главе процесса. Логи находятся под нашим контролем; они никуда не уходят, если мы сами этого не захотим. Это дает нам контроль над данными, контроль над информацией и контроль над тем, что делается после обнаружения чего-то, что может превысить порог срабатывания защиты.

По мере того как ИИ все глубже проникает во все сферы деятельности предприятий, безопасность и доверие — это то, что позволяет организациям перейти от экспериментов к масштабному развертыванию. Enterprise Frontier Safeguards заложит их с самого начала: данные мониторинга остаются в контролируемой клиентом инфраструктуре, и его собственная команда решает, кто имеет к ним доступ.Сервисный партнер

По мере того как ИИ все глубже проникает во все сферы деятельности предприятий, безопасность и доверие — это то, что позволяет организациям перейти от экспериментов к масштабному развертыванию. Enterprise Frontier Safeguards заложит их с самого начала: данные мониторинга остаются в контролируемой клиентом инфраструктуре, и его собственная команда решает, кто имеет к ним доступ.

Сервисный партнер

Сохранение конфиденциальности клиентских данных — это обещание, которое Snowflake дает каждому клиенту. Мы всегда действовали быстро, предоставляя передовые модели в их распоряжение. Сложность заключалась в том, чтобы делать это безопасно при соблюдении самых строгих гарантий сохранности данных. Мы заключили партнерство с Anthropic для разработки Enterprise Frontier Safeguards, чтобы совместить оба требования: данные остаются в среде клиента под управлением его ключей, запуская самые мощные модели Anthropic с первого дня. Именно так выглядит ответственный передовой ИИ, созданный с учетом требований платформ.

Сохранение конфиденциальности клиентских данных — это обещание, которое Snowflake дает каждому клиенту. Мы всегда действовали быстро, предоставляя передовые модели в их распоряжение. Сложность заключалась в том, чтобы делать это безопасно при соблюдении самых строгих гарантий сохранности данных. Мы заключили партнерство с Anthropic для разработки Enterprise Frontier Safeguards, чтобы совместить оба требования: данные остаются в среде клиента под управлением его ключей, запуская самые мощные модели Anthropic с первого дня. Именно так выглядит ответственный передовой ИИ, созданный с учетом требований платформ.

В Stripe защита клиентских данных лежит в основе нашей работы. Средства защиты Anthropic Enterprise Frontier Safeguards позволят нам использовать передовые пограничные модели (frontier models), сохраняя журналы бесед в среде AWS компании Stripe, причем доступ и проверка регулируются средствами безопасности Stripe.

В Stripe защита клиентских данных лежит в основе нашей работы. Средства защиты Anthropic Enterprise Frontier Safeguards позволят нам использовать передовые пограничные модели (frontier models), сохраняя журналы бесед в среде AWS компании Stripe, причем доступ и проверка регулируются средствами безопасности Stripe.

Клиенты Rogo ожидают доступа к лучшей из доступных аналитики, но никогда в ущерб безопасности и защите своих данных. Enterprise Frontier Safeguards предоставят финансовым институтам самые мощные модели, одновременно удовлетворяя предъявляемым ими строгим требованиям к данным институционального уровня. Это сочетание передового интеллекта и средств контроля корпоративного уровня имеет решающее значение для внедрения ИИ в сфере финансовых услуг.

Клиенты Rogo ожидают доступа к лучшей из доступных аналитики, но никогда в ущерб безопасности и защите своих данных. Enterprise Frontier Safeguards предоставят финансовым институтам самые мощные модели, одновременно удовлетворяя предъявляемым ими строгим требованиям к данным институционального уровня. Это сочетание передового интеллекта и средств контроля корпоративного уровня имеет решающее значение для внедрения ИИ в сфере финансовых услуг.

FIS обеспечивает инфраструктуру, на которой держится движение денег и работа финансовых организаций, поэтому любые средства защиты ИИ, которые мы внедряем, должны соответствовать этому масштабу и стандарту доверия. Наше партнерство с Anthropic уже включает тестирование их самых передовых пограничных моделей на наших собственных системах в рамках Project Glasswing. Claude Enterprise Frontier Safeguards расширяет эту работу, сохраняя хранимые данные в нашем собственном аккаунте и направляя флаги (signals) напрямую нашей команде безопасности.

FIS обеспечивает инфраструктуру, на которой держится движение денег и работа финансовых организаций, поэтому любые средства защиты ИИ, которые мы внедряем, должны соответствовать этому масштабу и стандарту доверия. Наше партнерство с Anthropic уже включает тестирование их самых передовых пограничных моделей на наших собственных системах в рамках Project Glasswing. Claude Enterprise Frontier Safeguards расширяет эту работу, сохраняя хранимые данные в нашем собственном аккаунте и направляя флаги (signals) напрямую нашей команде безопасности.

Компании доверяют автономным инженерам Cognition реальную продакшн-работу, и это доверие зависит от того, остается ли их работа конфиденциальной. С Enterprise Frontier Safeguards данные и удостоверения клиентов никогда не покидают нас. Это позволит нам внедрить передовой ИИ в продакшн-среду без каких-либо компромиссов в отношении конфиденциальности.

Компании доверяют автономным инженерам Cognition реальную продакшн-работу, и это доверие зависит от того, остается ли их работа конфиденциальной. С Enterprise Frontier Safeguards данные и удостоверения клиентов никогда не покидают нас. Это позволит нам внедрить передовой ИИ в продакшн-среду без каких-либо компромиссов в отношении конфиденциальности.

Код и данные наших клиентов — это их ценнейшая интеллектуальная собственность. Защита этой информации лежит в основе того, как мы строим работу в Factory. Вместе с Anthropic мы позволяем клиентам использовать самые мощные модели Claude, сохраняя контроль над проприетарными данными в своих руках. Enterprise Frontier Safeguards дает предприятиям доступ к передовому интеллекту с защитой данных, требуемой их командами безопасности.

Код и данные наших клиентов — это их ценнейшая интеллектуальная собственность. Защита этой информации лежит в основе того, как мы строим работу в Factory. Вместе с Anthropic мы позволяем клиентам использовать самые мощные модели Claude, сохраняя контроль над проприетарными данными в своих руках. Enterprise Frontier Safeguards дает предприятиям доступ к передовому интеллекту с защитой данных, требуемой их командами безопасности.

Мы всегда придерживались непоколебимой приверженности конфиденциальности и безопасности клиентов. Ведущие юридические и профессиональные команды, которых мы обслуживаем, считают эти принципы не подлежащими обсуждению, и мы предъявляем к себе те же требования. Enterprise Frontier Safeguards отражает эту приверженность, предоставляя клиентам с самыми строгими требованиями к конфиденциальности доступ к передовым моделям без сохранения их данных поставщиком моделей.

Мы всегда придерживались непоколебимой приверженности конфиденциальности и безопасности клиентов. Ведущие юридические и профессиональные команды, которых мы обслуживаем, считают эти принципы не подлежащими обсуждению, и мы предъявляем к себе те же требования. Enterprise Frontier Safeguards отражает эту приверженность, предоставляя клиентам с самыми строгими требованиями к конфиденциальности доступ к передовым моделям без сохранения их данных поставщиком моделей.

01 /

Как работает EFS

Эти средства контроля разработаны таким образом, чтобы работать одинаково независимо от того, получаете ли вы доступ к Claude напрямую от Anthropic или через облачного партнера. Клиенты Amazon Web Services, Google Cloud и Microsoft Azure получат аналогичные средства контроля, при этом данные их активности будут храниться в их собственном облачном аккаунте в той среде, которой они уже доверяют. Мы также работаем над поддержкой сторонних предложений, которые обслуживают клиентов, имеющих право на использование Enterprise Frontier Safeguards.

Хранилище, принадлежащее клиенту, ключи шифрования, управляемые клиентом (Customer-Managed Encryption Keys), и полностью автоматизированная проверка являются опциональными функциями, поэтому вы можете включить те, которые необходимы вашей организации. Ни одна из них не изменяет поведение модели, цены на API или ограничения скорости (rate limits).

Anthropic не взимает плату за Enterprise Frontier Safeguards. Если клиенты предпочитают хранить свои данные в своем облачном аккаунте, их облачный провайдер выставляет им счета за это хранилище, а также за операции чтения, записи и плату за передачу данных наружу точно так же, как он выставляет счета за любой другой ресурс.

Начало работы

Enterprise Frontier Safeguards будут поэтапно внедряться для клиентов с целью обеспечения их широкой доступности позже этой осенью. Чтобы запросить доступ к Enterprise Frontier Safeguards, заполните эту форму.

Связанный контент

Claude обнаруживает новую ферментативную систему с повторами, похожими на CRISPR

Мы объявляем о создании новой исследовательской группы и лаборатории наук о жизни в Anthropic. В этой статье представлена команда, стоящая за этой работой, и рассказано о первых результатах, в ходе которых Claude обнаружил новую ферментативную систему со свойствами, напоминающими CRISPR, получив лишь общие указания от наших ученых.

Партнерство с Accenture по встроенной оценке

Представляем Программу верификации наук о жизни (Life Sciences Verification Program)

Программа верификации наук о жизни (LSVP) дает профессионалам в области наук о жизни доступ к моделям Claude Mythos, Opus и Sonnet с уточненным набором средств защиты, более гибким для работы, связанной с биологией.