Сегодня мы анонсируем Enterprise Frontier Safeguards (EFS) — решение, которое объединяет конфиденциальность политики нулевого хранения данных (ZDR) с передовыми средствами защиты для обнаружения злоупотреблений. EFS работает за счет хранения данных в облачной инфраструктуре, контролируемой клиентом, а не Anthropic. EFS будет внедряться для клиентов поэтапно, начиная с поздней осени. Чтобы сделать переход плавным, соответствующие критериям клиенты получат ZDR для Fable 5 и Fable 5.1 до тех пор, пока EFS не будет готова.
Мы разработали EFS в тесном сотрудничестве с более чем 100 клиентами из таких отраслей, как финансовые услуги, здравоохранение, производство, телекоммуникации, юриспруденция, розничная торговля и государственный сектор, а также с нашими облачными партнерами Amazon Web Services, Google Cloud и Microsoft Azure.
EFS будет поддерживаться в Claude Code, Claude Enterprise, Claude Platform, Amazon Bedrock, Claude Platform на базе AWS, Google Agent Platform и Microsoft Foundry.
Решение дилеммы безопасности передовых моделей
Модели класса Mythos, такие как Claude Fable 5.1, представляют собой значительный скачок в интеллекте и агентских возможностях. Однако вместе с этим ростом возрастает потенциал как для злоупотреблений, так и для автономного нежелательного поведения.
За последние несколько месяцев мы увидели существенные свидетельства попыток злоупотребления моделями ИИ. Они варьируются от типичных форм злоупотреблений, таких как мошенничество, до сложных кибератак, которые могут включать агентов, автономно совершающих деструктивные действия. Некоторые из этих случаев связаны с кражей или неправомерным присвоением учетных данных корпоративных клиентов, которые трудно обнаружить без возможности мониторинга трафика и выявления аномального поведения.
Более того, поскольку самые изощренные злоупотребления могут включать множество задач, распределенных по нескольким сеансам и учетным записям, недостаточно запускать автоматизированный анализ каждого взаимодействия по отдельности, а затем мгновенно удалять данные. Эффективное обнаружение требует хранения данных в течение значительного периода времени, чтобы их можно было сопоставить с течением времени и между учетными записями.
По этой причине мы внедрили 30-дневное хранение данных, начиная с Fable 5. Эта политика не была мотивирована стремлением обучать модели на корпоративных данных: Anthropic никогда не обучала модели на корпоративных данных без явного разрешения и никогда не будет этого делать.
Компании, с которыми мы работали, в целом понимали ценность безопасности и защиты, которую дает хранение данных, но многие из них, особенно в регулируемых отраслях, столкнулись со сложностями при использовании моделей с хранением данных. Поэтому мы сели за стол переговоров с клиентами, чтобы разработать решение, которое обеспечило бы лучшее из обоих миров: конфиденциальность ZDR и безопасность, обеспечиваемую мониторингом во времени и по учетным записям.
Создано совместно с нашими клиентами
Мы создали Enterprise Frontier Safeguards на основе отзывов экспертов, которые будут использовать ее каждый день: специалистов по безопасности, управлению продуктами, соблюдению нормативных требований и внедрению. Одной из групп, с которыми мы сотрудничали, стал Центр анализа и устойчивости к системным рискам (ARC), в состав которого входят директора по информационной безопасности крупнейших банков США, включая Goldman Sachs, Morgan Stanley, Citi, Bank of America и Wells Fargo.
Мы также сотрудничали с руководителями таких компаний, как Comcast, KPMG, Mastercard, Salesforce и Visa, чтобы убедиться, что концепция применима во всех отраслях. Наши обсуждения охватили четверть компаний из списка Fortune 100, каждый глобальный системно значимый банк США и практически каждую регулируемую отрасль.
Вот что мы услышали от этого широкого круга клиентов и что мы заложили в EFS для решения этих общих проблем:
О мониторинге
Предприятия уже давно применяют мониторинг внутренних рисков, а теперь хотят получить помощь в повышении уровня мониторинга агентов. Их опасения были связаны с тем, соответствуют ли автоматизированные системы мониторинга Anthropic их регуляторным стандартам.
С помощью EFS клиенты контролируют процесс проверки данных. Когда мониторинг обнаруживает шаблон, требующий внимания, эти сигналы отправляются непосредственно клиентам, чтобы они могли изучить то, что обнаружили автоматизированные системы.
О хранении данных
Для предприятий добавление еще одного «доверенного поставщика данных» связано с большими усилиями по ряду причин. Им необходимо уведомить всех своих клиентов о том, кто эти поставщики, и обновить контракты. У них также есть внутренние требования к безопасному хранению и аудиту данных, учитывая их высокий уровень конфиденциальности. Из-за этих опасений мы спроектировали EFS таким образом, чтобы клиенты имели возможность хранить данные в своей существующей облачной инфраструктуре.
В EFS клиенты могут контролировать хранение и управление своими данными. Клиенты хотят, чтобы их данные находились в инфраструктуре, которую они контролируют, под их собственными ключами шифрования, политиками доступа и журналами аудита. Данные об активности, используемые для мониторинга, могут храниться в собственной облачной учетной записи клиента (например, Amazon S3, Azure Blob Storage или Google Cloud Storage).
Об автоматической и ручной проверке
Даже несмотря на то, что автоматическая проверка становится все более эффективной, человек, изучающий помеченный инцидент, по-прежнему приносит пользу, подтверждая реальные злоупотребления и отсеивая ложные срабатывания. Но от многих клиентов, особенно в регулируемых отраслях, мы услышали, что человек, проводящий эту проверку, должен быть сотрудником их собственной компании. Многие работают по правилам, которые строго регламентируют, кому разрешено видеть определенную информацию — конфиденциальные юридические материалы, непубличную информацию, отчеты о безопасности лекарств. Их команды уже обучены и допущены к такой работе.
EFS имеет автоматизированный мониторинг безопасности, проверка сотрудниками Anthropic не требуется. Клиенты хотят защиты от кибератак и понимают, что их может быть трудно обнаружить, если они развиваются в течение множества сеансов и учетных записей. С помощью EFS автоматизированные системы анализируют скользящее окно трафика на предмет признаков серьезных злоупотреблений, включая попытки разработки наступательных кибер- или биологических возможностей, а также признаки украденных или утечек учетных данных. Эти флаги поступают непосредственно клиенту, и его сотрудники берут дело в свои руки — ручная проверка сотрудниками Anthropic не требуется.
Средства контроля ИИ должны быть разработаны для защиты конфиденциальной информации, и средства защиты моделей являются важной частью этого процесса. Anthropic привлекла нас к разработке Enterprise Frontier Safeguards, чтобы обеспечить соответствие нашим требованиям и стандартам.
Средства контроля ИИ должны быть разработаны для защиты конфиденциальной информации, и средства защиты моделей являются важной частью этого процесса. Anthropic привлекла нас к разработке Enterprise Frontier Safeguards, чтобы обеспечить соответствие нашим требованиям и стандартам.
Enterprise Frontier Safeguards дает нам именно то, о чем мы просили: наши логи остаются в управляемой Wells среде под управлением ключей Wells. Мы сохраняем контроль над своими данными, в то время как Anthropic осуществляет обнаружение. Именно это разделение позволяет нашим командам безопасно задействовать передовые модели и выполнять наши обязательства перед клиентами, сотрудниками и регулирующими органами. Мы помогли сформировать эти механизмы защиты, потому что они необходимы нашей индустрии.
Enterprise Frontier Safeguards дает нам именно то, о чем мы просили: наши логи остаются в управляемой Wells среде под управлением ключей Wells. Мы сохраняем контроль над своими данными, пока Anthropic осуществляет обнаружение. Именно такое разделение позволяет нашим командам безопасно задействовать передовые модели и выполнять свои обязательства перед клиентами, сотрудниками и регулирующими органами. Мы помогли сформировать эти средства защиты, потому что они необходимы нашей отрасли.
Как компания, управляющая критической инфраструктурой, мы придаем важное значение возможностям моделей. Не менее важны решения, позволяющие хранить данные в собственном аккаунте, и Enterprise Frontier Safeguards решила эту задачу.
Как компания, управляющая критической инфраструктурой, мы придаем важное значение возможностям моделей. Не менее важны решения, позволяющие хранить данные в собственном аккаунте, и Enterprise Frontier Safeguards решила эту задачу.
Восемь наших участников работали вместе с Anthropic над определением того, что требуется для запуска наиболее мощных передовых моделей внутри системно значимого банка: кто хранит данные, у кого находятся ключи, что автоматическая проверка может и не может видеть, и при каких условиях человеку вообще разрешено заглядывать внутрь. Это сотрудничество ведет к разработке и внедрению улучшенных средств защиты и стандартов, которые могут масштабироваться в нашей отрасли и за ее пределами.
Восемь наших участников работали вместе с Anthropic над определением того, что требуется для запуска наиболее мощных передовых моделей внутри системно значимого банка: кто хранит данные, у кого находятся ключи, что автоматическая проверка может и не может видеть, и при каких условиях человеку вообще разрешено заглядывать внутрь. Это сотрудничество ведет к разработке и внедрению улучшенных средств защиты и стандартов, которые могут масштабироваться в нашей отрасли и за ее пределами.
Одним из ключевых принципов архитектуры безопасности является возможность сохранять данные и хранить их вне самой модели, защищенными в нашей среде. В компании и в работе с нашими клиентами есть области, которые строго регулируются и являются крайне конфиденциальными. Эти средства защиты фактически позволяют нам применять ИИ в тех сферах бизнеса, в которых раньше мы бы не смогли.Сервисный партнер
Одним из ключевых принципов архитектуры безопасности является возможность сохранять данные и хранить их вне самой модели, защищенными в нашей среде. В компании и в работе с нашими клиентами есть области, которые строго регулируются и являются крайне конфиденциальными. Эти средства защиты фактически позволяют нам применять ИИ в тех сферах бизнеса, в которых раньше мы бы не смогли.
Сервисный партнер
Наши клиенты доверяют нам свои данные уже более двух лет десятилетий. Именно этот опыт побудил нас помочь продумать этот вопрос вместе с Anthropic, а не оставаться в стороне. Мы смогли совместно поработать над новыми функциями безопасности и конфиденциальности на уровне архитектуры, а не только на уровне политик.
Наши клиенты доверяют нам свои данные уже более двух лет десятилетий. Именно этот опыт побудил нас помочь продумать этот вопрос вместе с Anthropic, а не оставаться в стороне. Мы смогли совместно поработать над новыми функциями безопасности и конфиденциальности на уровне архитектуры, а не только на уровне политик.
Наши клиенты хотят внедрять передовые модели в работу, а их команды безопасности хотят, чтобы данные оставались в инфраструктуре, которую они контролируют. Компания Anthropic создала Enterprise Frontier Safeguards совместно с более чем сотней предприятий именно для этого.Сервисный партнер
Наши клиенты хотят внедрять передовые модели в работу, а их команды безопасности хотят, чтобы данные оставались в инфраструктуре, которую они контролируют. Компания Anthropic создала Enterprise Frontier Safeguards совместно с более чем сотней предприятий именно для этого.
Сервисный партнер
Поскольку модели ИИ берут на себя все более регулируемые и чувствительные рабочие нагрузки, ответственное масштабирование также сводится к архитектуре, а не только к соблюдению политик. Прямой контроль над средой данных в сочетании с автоматизированным мониторингом безопасности на основе шаблонов дает предприятиям конкретные, структурные возможности, необходимые для внедрения с реальным надзором, подотчетностью и уверенностью.Сервисный партнер
Поскольку модели ИИ берут на себя все более регулируемые и чувствительные рабочие нагрузки, ответственное масштабирование также сводится к архитектуре, а не только к соблюдению политик. Прямой контроль над средой данных в сочетании с автоматизированным мониторингом безопасности на основе шаблонов дает предприятиям конкретные, структурные возможности, необходимые для внедрения с реальным надзором, подотчетностью и уверенностью.
Сервисный партнер
Средства защиты и их дизайн — очевидно, вы услышали наши отзывы. Они ставят нас за руль. Логи находятся под нашим контролем; они никуда не уходят, если только мы этого не захотим. Это дает нам контроль над данными, контроль над информацией и контроль над тем, что делается после обнаружения чего-то, что может превысить допустимые пределы защиты.
Средства защиты и их дизайн — очевидно, вы услышали наши отзывы. Они ставят нас за руль. Логи находятся под нашим контролем; они никуда не уходят, если только мы этого не захотим. Это дает нам контроль над данными, контроль над информацией и контроль над тем, что делается после обнаружения чего-то, что может превысить допустимые пределы защиты.
По мере того как ИИ все глубже проникает в деятельность предприятия, безопасность и доверие — это то, что позволяет организациям переходить от экспериментов к масштабному развертыванию. Enterprise Frontier Safeguards изначально заложит их в основу: данные мониторинга остаются в инфраструктуре, контролируемой клиентом, и его собственная команда решает, кто имеет к ним доступ.Сервисный партнер
По мере того как ИИ все глубже проникает в деятельность предприятия, безопасность и доверие — это то, что позволяет организациям переходить от экспериментов к масштабному развертыванию. Enterprise Frontier Safeguards изначально заложит их в основу: данные мониторинга остаются в инфраструктуре, контролируемой клиентом, и его собственная команда решает, кто имеет к ним доступ.
Сервисный партнер
Обеспечение конфиденциальности клиентских данных — это обещание, которое Snowflake дает каждому клиенту. Мы всегда действовали быстро, предоставляя передовые модели в их распоряжение. Самым сложным было сделать это безопасно при соблюдении строжайших гарантий в отношении данных. Мы объединили усилия с Anthropic для разработки Enterprise Frontier Safeguards, чтобы реализовать обе задачи: данные остаются в среде клиента, подконтрольной его ключам, и с первого дня работают на самых мощных моделях Anthropic. Вот как выглядит ответственный передовой ИИ, создаваемый с учетом потребностей платформ.
Обеспечение конфиденциальности клиентских данных — это обещание, которое Snowflake дает каждому клиенту. Мы всегда действовали быстро, предоставляя передовые модели в их распоряжение. Самым сложным было сделать это безопасно при соблюдении строжайших гарантий в отношении данных. Мы объединили усилия с Anthropic для разработки Enterprise Frontier Safeguards, чтобы реализовать обе задачи: данные остаются в среде клиента, подконтрольной его ключам, и с первого дня работают на самых мощных моделях Anthropic. Вот как выглядит ответственный передовой ИИ, создаваемый с учетом потребностей платформ.
В Stripe защита клиентских данных лежит в основе нашей работы. Средства защиты корпоративного уровня Enterprise Frontier Safeguards от Anthropic позволят нам использовать передовые пограничные модели, сохраняя логи разговоров в среде AWS компании Stripe, причем доступ и проверка регулируются средствами контроля безопасности Stripe.
В Stripe защита клиентских данных лежит в основе нашей работы. Средства защиты корпоративного уровня Enterprise Frontier Safeguards от Anthropic позволят нам использовать передовые пограничные модели, сохраняя логи разговоров в среде AWS компании Stripe, причем доступ и проверка регулируются средствами контроля безопасности Stripe.
Клиенты Rogo рассчитывают на доступ к лучшей из доступных аналитики, но никогда в ущерб безопасности и защите своих данных. Enterprise Frontier Safeguards предоставит финансовым институтам самые мощные модели, одновременно удовлетворяя предъявляемые ими требования к данным институционального уровня. Такое сочетание передового интеллекта и средств контроля корпоративного уровня имеет решающее значение для внедрения ИИ в сфере финансовых услуг.
Клиенты Rogo рассчитывают на доступ к лучшей из доступных аналитики, но никогда в ущерб безопасности и защите своих данных. Enterprise Frontier Safeguards предоставит финансовым институтам самые мощные модели, одновременно удовлетворяя предъявляемые ими требования к данным институционального уровня. Такое сочетание передового интеллекта и средств контроля корпоративного уровня имеет решающее значение для внедрения ИИ в сфере финансовых услуг.
FIS обеспечивает инфраструктуру, лежащую в основе движения денежных средств и работы финансовых институтов, поэтому любые средства защиты ИИ, которые мы внедряем, должны соответствовать этому масштабу и стандарту доверия. Наше партнерство с Anthropic уже включает в себя тестирование их самых передовых пограничных моделей на наших собственных системах в рамках проекта Project Glasswing. Claude Enterprise Frontier Safeguards расширяет эту работу, сохраняя хранимые данные в нашей собственной учетной записи и направляя флаги непосредственно нашей команде безопасности.
FIS обеспечивает инфраструктуру, лежащую в основе движения денежных средств и работы финансовых институтов, поэтому любые средства защиты ИИ, которые мы внедряем, должны соответствовать этому масштабу и стандарту доверия. Наше партнерство с Anthropic уже включает в себя тестирование их самых передовых пограничных моделей на наших собственных системах в рамках проекта Project Glasswing. Claude Enterprise Frontier Safeguards расширяет эту работу, сохраняя хранимые данные в нашей собственной учетной записи и направляя флаги непосредственно нашей команде безопасности.
Компании доверяют автономным инженерам Cognition реальную производственную работу, и это доверие зависит от того, остается ли их работа конфиденциальной. С Enterprise Frontier Safeguards данные и удостоверения клиентов никогда не покидают нас. Это позволит нам внедрить передовой ИИ в производственные процессы без ущерба для конфиденциальности.
Компании доверяют автономным инженерам Cognition реальную производственную работу, и это доверие зависит от того, остается ли их работа конфиденциальной. С Enterprise Frontier Safeguards данные и удостоверения клиентов никогда не покидают нас. Это позволит нам внедрить передовой ИИ в производственные процессы без ущерба для конфиденциальности.
Код и данные наших клиентов — это одна из их самых ценных интеллектуальных собственников. Защита этой информации лежит в основе того, как мы строим работу в Factory. Вместе с Anthropic мы позволяем клиентам использовать самые мощные модели Claude, сохраняя контроль над проприетарными данными в их руках. Enterprise Frontier Safeguards предоставляет предприятиям доступ к передовому интеллекту с защитой данных, требуемой их командами безопасности.
Код и данные наших клиентов — это одна из их самых ценных интеллектуальных собственников. Защита этой информации лежит в основе того, как мы строим работу в Factory. Вместе с Anthropic мы позволяем клиентам использовать самые мощные модели Claude, сохраняя контроль над проприетарными данными в их руках. Enterprise Frontier Safeguards предоставляет предприятиям доступ к передовому интеллекту с защитой данных, требуемой их командами безопасности.
Мы всегда поддерживали непоколебимую приверженность конфиденциальности и безопасности клиентов. Ведущие юридические и профессиональные команды, которым мы служим, считают эти принципы не подлежащими обсуждению, и мы предъявляем к себе те же стандарты. Enterprise Frontier Safeguards отражает эту приверженность, предоставляя клиентам с самыми строгими требованиями к конфиденциальности доступ к передовым моделям без сохранения их данных поставщиком моделей.
Мы всегда поддерживали непоколебимую приверженность конфиденциальности и безопасности клиентов. Ведущие юридические и профессиональные команды, которым мы служим, считают эти принципы не подлежащими обсуждению, и мы предъявляем к себе те же стандарты. Enterprise Frontier Safeguards отражает эту приверженность, предоставляя клиентам с самыми строгими требованиями к конфиденциальности доступ к передовым моделям без сохранения их данных поставщиком моделей.
01 /
Как работает EFS
Эти средства контроля спроектированы так, чтобы работать одинаково независимо от того, получаете ли вы доступ к Claude напрямую от Anthropic или через облачного партнера. Клиенты на Amazon Web Services, Google Cloud и Microsoft Azure получат аналогичные средства контроля, а данные об их активности будут храниться в их собственном облачном аккаунте, в среде, которой они уже доверяют. Мы также работаем над поддержкой сторонних предложений, обслуживающих клиентов, имеющих право на использование Enterprise Frontier Safeguards.
Хранилище, принадлежащее клиенту, ключи шифрования, управляемые клиентом, и полностью автоматизированная проверка являются опциональными функциями, поэтому вы можете включить те из них, которые необходимы вашей организации. Ни одна из них не изменяет поведение модели, ценообразование API или ограничения скорости.
Anthropic не взимает плату за Enterprise Frontier Safeguards. Если клиенты предпочитают хранить свои данные в своем облачном аккаунте, их облачный провайдер выставляет им счета за это хранилище, а также за операции чтения, записи и плату за исходящий трафик данных точно так же, как за любой другой ресурс.
Начало работы
Enterprise Frontier Safeguards будет внедряться для клиентов поэтапно с целью сделать ее широко доступной позднее этой осенью. Чтобы запросить доступ к Enterprise Frontier Safeguards, пожалуйста, заполните эту форму.
Claude обнаруживает новую ферментативную систему с повторами, похожими на CRISPR
Мы объявляем о создании новой исследовательской группы и лаборатории в области наук о жизни в Anthropic. В этой публикации представлена команда, стоящая за этой работой, и первые результаты, в ходе которых Claude обнаружил новую ферментативную систему со свойствами, напоминающими CRISPR, получив лишь общие указания от наших ученых.
Партнерство с Accenture по встроенной оценке
Представляем Программу верификации наук о жизни
Программа верификации наук о жизни (LSVP) дает специалистам в области наук о жизни доступ к моделям Claude Mythos, Opus и Sonnet с уточненным набором средств защиты, более снисходительным к работе, связанной с биологией.
