Dev48
ЯЗЫК
  • О нас
  • Услуги
  • Индустрии
  • Технологии
  • Статьи
  • Контакты
Забронировать звонок
    Главная/Статьи/Zaschita konfidentsialnyh dannyh v trassirovkah novye sredstva upravleniya v lan
Dev48
info@dev48.org+375 29 320-40-96WhatsApp@isky_by

© 2026 · Все права защищены.

Защита конфиденциальных данных в трассировках: новые средства управления в LangSmith

Источник: LangChain•17 ноября 2026 г. в 18:33

Защита конфиденциальных данных в трассировках: новые средства управления в LangSmith

В LangSmith появились новые средства управления, которые помогают командам контролировать доступ к конфиденциальным данным трассировок. Узнайте подробности.

Невозможно запустить агенты в продакшене без контроля над данными, с которыми они работают. Когда эти данные включают в себя конфиденциальную информацию клиентов, управление доступом становится регуляторным и контрактным обязательством. Это приводит к противоречию между требованиями инженерных отделов и службы безопасности. Инженерам нужны производственные трассировки для отладки проблем и повышения производительности агентов. Команды безопасности и соответствия требованиям должны обеспечивать принцип наименьших привилегий: сотрудники должны видеть только те данные, которые необходимы им для работы.

Именно поэтому мы добавили в LangSmith три новых элемента управления, чтобы помочь командам управлять доступом к конфиденциальным данным трассировок:

  • Контроль над тем, кто может видеть входные и выходные данные трассировок (то есть сообщения пользователей и ответы моделей)
  • Управление разрешениями для каждой команды с помощью групп пользователей
  • Установка политик доступа на уровне трассировок с использованием метаданных

Обеспечение видимости для инженеров с одновременной защитой клиентских данных

Трассировки дают инженерам представление о поведении агента и помогают определить, что именно требует улучшения. При записи производственной активности их входные и выходные данные часто содержат конфиденциальные клиентские данные, такие как имена, медицинская информация или платежные реквизиты. Компании должны ограничивать доступ к этим данным для соблюдения следующих требований:

  • Нормативно-правовые требования — такие как GDPR, HIPAA и CCPA — обязывают компании ограничивать круг лиц, имеющих доступ к конфиденциальным данным, и несут ответственность в случае утечки данных.
  • Клиентские контракты, которые могут накладывать дополнительные требования к управлению данными, требуя соответствия таким стандартам, как ISO 27001, или прохождения аудитов SOC 2.

Эти требования оставляли командам два варианта.

Во-первых, они могут создать пользовательские среды мониторинга с дублирующимися трассировками и несколькими рабочими пространствами. Инженеры получают доступ к трассировкам, но у платформ-команд появляется больше работы по настройке и обслуживанию. Альтернативный вариант — вообще отказаться от отправки трассировок в платформы мониторинга, из-за чего инженеры теряют видимость, а скорость разработки продукта снижается.

Мы создали эти новые средства управления, чтобы организации могли удовлетворить потребности своих инженерных команд и служб безопасности без сложных обходных путей.

Вот как это работает. Вы отправляете трассировки в LangSmith с полной точностью данных, а затем предоставляете доступ только тем, кому он необходим. Отладка происходит по принципу наименьших привилегий, поэтому решение таких проблем с производительностью, как задержка, может осуществляться без раскрытия каких-либо конфиденциальных данных. Если клиент сообщает о проблеме, вы можете предоставить доступ только к входным и выходным данным этого клиента и только тем людям или командам, которые необходимы для ее решения. Все настраивается с помощью детальных элементов управления администратора.

Ограничение входных и выходных данных трассировки

Новые элементы управления входными и выходными данными в LangSmith дают администратораториам больший контроль над тем, какие части трассировки могут видеть пользователи. Входные и выходные данные трассировок — это то место, где чаще всего находятся конфиденциальные данные пользователей. Другие данные трассировок, такие как деревья запусков, статистика производительности и метаданные, имеют решающее значение для улучшения работы агентов и гораздо менее конфиденциальны.

С помощью этих средств управления инженеры агентов могут выявлять и решать проблемы (например, повторяющиеся или медленные вызовы инструментов) без просмотра конфиденциального контента, а тем, кому нужна полная картина, может быть предоставлен доступ по мере необходимости.

Управление доступом для каждой команды

Администраторы также могут объединять пользователей в группы в LangSmith. Каждая группа имеет свои собственные разрешения, уникально определяемые для каждого рабочего пространства, которые накладываются поверх существующих элементов управления доступом на основе ролей (RBAC) и на основе атрибутов (ABAC), используемых в масштабах всей организации. Это позволяет администраторам управлять разрешениями в соответствии с тем, как организация видит роль каждой команды.

Например, клиницисты могут принадлежать к группе, которая может просматривать входные и выходные данные трассировок для точной аннотации. Инженеры агентов могут входить в группу, которая может просматривать только деревья запусков, задержки и использование токенов, получая данные, необходимые для улучшения работы агента. Эти политики доступа сохраняют существующие ограничения, например, разные политики доступа для сотрудников в разных регионах.

Установка политик доступа к трассировкам на основе метаданных

Для более точного контроля администраторы могут определять политики ABAC на уровне трассировок, используя метаданные корневого запуска. Каждая политика проверяет метаданные трассировки и предоставляет доступ на основе заданных вами условий.

Это самый детальный уровень контроля доступа в LangSmith, который предоставляет администраторам значительную гибкость при определении средств управления в зависимости от вариантов использования агента и требований к обработке данных. Администраторы могут предоставить агентам службы поддержки клиентов доступ только к трассировкам тех клиентов, которых они поддерживают, используя идентификаторы клиентов, или предоставить разработчикам доступ только к трассировкам их собственных агентов кодирования на основе их идентификаторов пользователей.

Если соответствующий атрибут фиксируется в метаданных корневого запуска, его можно использовать для обеспечения доступа на основе наименьших привилегий.

Комбинирование средств управления для доступа на основе наименьших привилегий

Каждый элемент управления полезен сам по себе, но они разработаны таким образом, чтобы их можно было комбинировать для управления доступом к производственным трассировкам. Ваш агент отправляет трассировки в LangSmith с полной точностью данных, а вы прикрепляете метаданные корневого запуска, такие как ID клиента или ID пользователя. LangSmith сохраняет полные трассировки, не требуя создания отредактированных или дублирующих копий. Вышеупомянутые элементы управления в LangSmith определяют, что именно может просматривать каждая команда.

Например, служба поддержки может просматривать входные и выходные данные только для тех клиентов, которых она поддерживает, в то время как инженеры агентов могут просматривать деревья запусков и данные о производительности по всем трассировкам, причем входные и выходные данные скрыты. Когда служба поддержки начинает работать с новым клиентом, вы можете обновить ее политику на основе метаданных, не меняя ее разрешения на ввод-вывод или доступ инженерной команды. Инженеры получают необходимую видимость для улучшения агента, а безопасность гарантирует, что конфиденциальные данные остаются у тех людей, которые должны их видеть.

Начало работы

Эти новые функции управления теперь доступны в планах LangSmith Enterprise.

Существующие клиенты могут начать работу, ознакомившись с нашей документацией по доступу к входным и выходным данным, группам пользователей и политикам доступа на основе метаданных.

Если вы впервые в LangSmith и заинтересованы в этих средствах управления, свяжитесь с нашей командой, чтобы обсудить детали.

← Все статьи

О чём эта статья

Ещё в разделе «AI и машинное обучение»

Все →
H2O.ai назначает Стивена Ваттуоне на должность финансового директора
H2O.ai

H2O.ai назначает Стивена Ваттуоне на должность финансового директора

Стоит ли использовать модель эмбеддингов, настроенную на код? papr-embed-code-1 в Qdrant
Qdrant

Стоит ли использовать модель эмбеддингов, настроенную на код? papr-embed-code-1 в Qdrant

Ai2 и Taylor Geospatial объявляют о партнерстве для упрощения сравнения, запуска и разработки геопространственного ИИ
AI2 (Allen Institute for AI)

Ai2 и Taylor Geospatial объявляют о партнерстве для упрощения сравнения, запуска и разработки геопространственного ИИ

LangSmith для агентов по написанию кода: теперь отслеживайте расходы по результатам
LangChain

LangSmith для агентов по написанию кода: теперь отслеживайте расходы по результатам

Модели временных рядов в Streamhouse: новые горизонты и варианты использования
Hugging Face

Модели временных рядов в Streamhouse: новые горизонты и варианты использования

Rumble-2-Flash: открытая речевая модель 0.5B для 40+ языков
Hugging Face

Rumble-2-Flash: открытая речевая модель 0.5B для 40+ языков

Ещё от LangChain

LangSmith для агентов по написанию кода: теперь отслеживайте расходы по результатам
LangChain

LangSmith для агентов по написанию кода: теперь отслеживайте расходы по результатам

Что мы узнали при создании проактивных агентов
LangChain

Что мы узнали при создании проактивных агентов

Почему мы перестроили LangSmith вокруг агента
LangChain

Почему мы перестроили LangSmith вокруг агента

От задач к целям
LangChain

От задач к целям

Инженерия целей
LangChain

Инженерия целей

Стартап в сфере ИА-агентов LangChain достиг оценки в $3 млрдПресса
LangChain

Стартап в сфере ИА-агентов LangChain достиг оценки в $3 млрд