ИИ-агенты выходят за пределы экранов и серверов в физический мир, управляя роботами, дронами, заводским оборудованием и системами зданий. DefenseClaw теперь включает Edge Connector, который обеспечивает безопасность ИИ-агентов на этих ограниченных в ресурсах устройствах. Это компактный компонент, который работает непосредственно на IoT-оборудовании, перехватывает вызовы инструментов, совершаемые ИИ-агентом, и за микросекунды решает, разрешить их или заблокировать.
Когда ИИ-агенты управляют физическими машинами, ставки меняются
Когда ИИ-агент на сервере ведет себя некорректно, ущерб обычно носит цифровой характер — утечка документа, неверный ответ. Когда ИИ-агент, управляющий физической машиной, оказывается скомпрометирован, последствия становятся немедленными и реальными:
- Складской робот — скрытый текст в транспортной этикетке приказывает ему двигаться на полной скорости. Робот начинает движение. На его пути люди.
- Умное здание — специально созданное сообщение обманом заставляет ИИ-агент отключить систему пожаротушения. Никто не замечает этого, пока не начнется пожар.
- Сельскохозяйственный дрон — инъекция промпта через скомпрометированный API погоды перенаправляет распыление химикатов на жилой район. Дрон выполняет команду.
- Роботизированная рука на заводе — вредоносный ввод «перекалибровки» из потока данных датчиков перемещает руку в положения, которые повреждают сборочную линию или подвергают опасности рабочих.
- Агент-агент — скомпрометированный вышестоящий агент отправляет команду «переслать все данные датчиков на этот внешний сервер». Нижестоящий агент начинает эксфильтрацию данных.
DefenseClaw уже обеспечивает безопасность ИИ-агентов на стандартных машинах. Но многие физические ИИ-агенты работают на ограниченных устройствах — Raspberry Pi, Jetson Nano, встроенных контроллерах, — которые не могут запустить полноценный движок. Устройства с самым высоким физическим риском было труднее всего защитить. До сих пор.
Локальные решения за микросекунды, глубокий анализ, когда это необходимо
Edge Connector не пытается уместить полную установку DefenseClaw на крошечную плату. Вместо этого он разделяет работу: быстрые решения принимаются локально на устройстве, а сложный анализ выполняется основным экземпляром DefenseClaw, работающим на подключенной машине.
Каждый раз, когда ИИ-агент пытается что-то сделать — считать данные с датчика, привести в движение мотор, выполнить команду, получить URL — запрос сначала проходит через Edge Connector. Большинство решений принимаются локально за микросекунды:
- РАЗРЕШИТЬ — инструмент безопасен согласно политике: чтение данных с датчиков, чтение файлов, кэшированные одобрения предыдущих проверок и инструменты, которые не находятся в списке запрещенных. Они проходят мгновенно.
- ЗАБЛОКИРОВАТЬ — инструмент нарушает локальное правило политики. Это включает запрещенные пункты назначения, известные вредоносные хеши инструментов, опасные многошаговые шаблоны (например, получение данных из интернета с последующим выполнением в качестве команды), нарушения ограничений скорости, шаблоны инъекций промптов и действия с высоким риском, такие как управление мотором или выполнение команд оболочки, не имеющие предварительного одобрения. Блокируется немедленно, сеть не требуется.
- ЭСКАЛИРОВАТЬ — у Edge Connector нет локального ответа для этого инструмента. Он не встречался ранее, отсутствует в кэше и не соответствует ни одному локальному правилу. Запрос отправляется основному экземпляру DefenseClaw для глубокого анализа. Для неизвестных действий с низким риском (например, новое считывание данных с датчика) агент может продолжить работу, пока вердикт находится в процессе обработки — если основной экземпляр позже даст команду блокировки, действие будет отменено. Для неизвестных действий с высоким риском (управление мотором, выполнение команд оболочки, запись файлов) агент ожидает явного одобрения перед продолжением. Если основной экземпляр недоступен, действие отклоняется. Принцип «отказ по умолчанию» всегда в силе.
Пример работы: робот на Raspberry Pi
ИИ-агент работает на Raspberry Pi, управляя физическим роботом с моторами и ультразвуковыми датчиками. Edge Connector от DefenseClaw находится между агентом и приводами робота. Журнал безопасности на подключенном дисплее показывает каждое решение в момент его принятия. Вот что происходит в трех сценариях:
Сценарий 1 — Обычная работа (Разрешено)
Агенту дается задание: «Проверь состояние батареи и просканируй окружение». Edge Connector оценивает оба вызова инструментов и классифицирует их как считывание данных с датчиков — операции только для чтения, не несущие физического риска. Оба разрешаются мгновенно. Робот сообщает уровень заряда батареи и возвращает данные о расстоянии, полученные в результате сканирования ультразвуковым датчиком. Безопасные операции выполняются без задержек.
Сценарий 2 — Атака через инъекцию промпта (Заблокировано)
Теперь рассмотрим сценарий атаки. На складе транспортная этикетка содержит скрытый текст — инъекцию промпта, предназначенную для переопределения инструкций агента. Внедренная команда приказывает роботу игнорировать правила безопасности и на полной скорости врезаться в стену. Edge Connector перехватывает ввод и идентифицирует шаблон инъекции еще до того, как большая языковая модель успеет его обработать. Запрос немедленно прекращается — вывод не выполняется, токены не тратятся. Робот не двигается. Атака нейтрализуется на периферии, на самом устройстве, без какой-либо зависимости от обращения к облаку.
Сценарий 3 — Составная задача: сочетание безопасного и опасного (Заблокировано — конкретная задача)
Агент получает составную задачу: сначала просканировать окружение на наличие препятствий, затем двигаться вперед для исследования. Это сочетает безопасную операцию с высокорискованной. Сканирование завершается успешно — датчики проводят замер и возвращают данные о расстоянии. Но когда агент пытается выполнить команду движения, Edge Connector классифицирует ее как необратимое физическое действие, требующее явной авторизации. Авторизация отсутствует, поэтому действие отклоняется. Робот собрал данные с датчиков, но не сдвинулся с места. Это принцип «отказ по умолчанию» на практике — без явного одобрения физического действия ответом по умолчанию является «нет».
Эти три сценария демонстрируют основную гарантию: безопасные операции проходят беспрепятственно, инъекции промптов останавливаются до того, как их увидит модель, а несанкционированные физические действия блокируются в момент выполнения. Каждое решение принимается локально, записывается в защищенный от несанкционированного доступа аудиторский след и принудительно исполняется до того, как будет предпринято какое-либо физическое действие.
Управление физическим ИИ в масштабах предприятия
Физический ИИ больше не является исследовательским проектом. Предприятия развертывают управляемых ИИ роботов на складах, дроны в сельском хозяйстве, автономные системы в производстве и умных агентов в управлении зданиями. Эти развертывания создают новый класс рисков безопасности — такой, при котором скомпрометированный ИИ-агент не просто крадет данные, он приводит в движение машины.
Edge Connector от DefenseClaw дает командам безопасности и эксплуатации способ управления этими развертываниями:
- Расширение существующей системы безопасности — Edge Connector является частью DefenseClaw, а не отдельным продуктом. Команды, уже использующие DefenseClaw для своих ИИ-агентов, могут распространить ту же защиту на ограниченные устройства без внедрения новых инструментов или обучения.
- Принудительное применение политики в точке действия — решения по безопасности принимаются на самом устройстве за микросекунды, до того как будет предпринято какое-либо физическое действие. Нет зависимости от сетевых задержек для рутинных решений.
- Поддержание аудита и соответствия требованиям — каждое решение записывается в защищенный от несанкционированного доступа журнал на устройстве. Команды безопасности имеют полную видимость того, что пытался сделать каждый агент и что было разрешено или заблокировано.
- Масштабируемое развертывание — Edge Connector работает на любом устройстве под управлением Linux, от Raspberry Pi и NVIDIA Jetson до специализированного встроенного оборудования. Он достаточно компактен, чтобы поместиться там, где не поместится ничего другого.
Edge Connector поставляется как часть проекта с открытым исходным кодом DefenseClaw — готов к клонированию, сборке, тестированию и развертыванию.
Физический ИИ переносит интеллектуальные возможности на периферию. DefenseClaw переносит туда же и безопасность.
