Перейти к содержимому
AggregaAggrega
Выберите язык: Русский
Эта страница переведена машинным способом. Читать оригинал на английском.

NeMo Guardrails проверяет запросы агента моделями NemoGuard от NVIDIA

Запросы агента к модели проходят через NVIDIA NeMo Guardrails, который проверяет каждый из них двумя моделями NemoGuard от NVIDIA — лицензируемыми продуктами NVIDIA, для запуска которых нужны лицензия от NVIDIA, ключ API NGC и узел с GPU.

Что требуется

Две модели NemoGuard — это продукты NVIDIA, которые вы запускаете на условиях NVIDIA. Для развёртывания того, что собирает это рабочее пространство, нужны:

  • Лицензия от NVIDIA. Документация NVIDIA по каждому микросервису NemoGuard называет его предварительным условием «активную подписку на продукт NVIDIA AI Enterprise или членство в NVIDIA Developer Program» и указывает, что доступ к контейнерам и моделям ограничен.
  • Ключ API NGC, на который сущность Release ссылается как на секрет. Контейнеры NemoGuard загружаются из реестра NVIDIA, nvcr.io, и каждый при запуске получает свою модель от NVIDIA с помощью этого ключа. Сущность Release называет два Kubernetes Secret, которые его хранят, — один, из которого поды читают ключ, и другой, с которым кластер загружает образы, — и ни один файл в этом рабочем пространстве, как и ничто из записываемого сборкой, не хранит сам ключ.
  • Узел с GPU. Каждый контейнер NemoGuard запрашивает GPU NVIDIA. По данным NVIDIA, модели безопасности контента нужно 48 ГБ памяти GPU на одном или двух GPU.

Сборке ничего из этого не нужно: она компилирует в манифесты Kubernetes без какого-либо ключа и не обращается ни к NVIDIA, ни к кластеру.

Что собирается

Агент запрашивает свою модель через ИИ-шлюз. Шлюз сначала направляет каждый запрос к модели через защитника, и защитник проверяет последнее сообщение пользователя тремя способами, прежде чем переслать модели то, что он пропускает: классификатором prompt injection, моделью безопасности контента от NVIDIA и классификатором jailbreak от NVIDIA. Это рабочее пространство компилирует такую схему в манифесты Kubernetes.

Он показывает, что лицензируемый коммерческий продукт предоставляется так же, как продукт с открытым исходным кодом: сущность Component из каталога, сущность Recipe, ребро uses и подключение учётных данных, а лицензия указана там, где читатель выбирает компонент. Он не создаёт ни одной собственной сущности каталога; Aggregate, Manifest и Release — это всё, что кто-либо пишет.

экземплярсущность Component из каталогачем он является здесь
agentcore/ai-agent/langgraphагент, собственный образ приложения сущности Release, обращающийся к своей модели через шлюз
checkpointercore/datastore/valkeyгде агент хранит состояние своего выполнения
routercore/gateway/litellmИИ-шлюз: один псевдоним, assistant, направляемый к модели через защитника
guardcore/security/nemo-guardrailsсервер NVIDIA NeMo Guardrails на пути к модели
detectorcore/security/trustyai-huggingface-detectorклассификатор prompt injection, к которому обращается собственный rail защитника
safetycore/ai-model/nemoguard-content-safetyLlama 3.1 NemoGuard 8B ContentSafety от NVIDIA, обслуживаемая своим NIM
jailbreakcore/security/nemoguard-jailbreak-detectNemoGuard JailbreakDetect от NVIDIA, обслуживаемый своим NIM

Рёбра uses: сокет model агента — к шлюзу, а его сокет checkpointer_db — к хранилищу; сокет guard шлюза — к защитнику; сокеты detector, content_safety и jailbreak_detection защитника — к трём проверкам. Подключения: shield — сущность Feature core/prompt-injection-shield, которая ставит защитника на путь шлюза; upstream_key — учётные данные, которые защитник предъявляет API модели; и ngc_api_key на каждом компоненте NemoGuard.

Создание примера

Этот пример можно собрать командами ниже или поручить сборку вашему ИИ-ассистенту.

Запишите пример в новую папку, названную по его имени:

Terminal window
aggrega scaffold --example nemo-guardrails-nemoguard-nims

Затем она выводит команды, которые нужно выполнить дальше. Первая переходит в новую папку:

Terminal window
cd nemo-guardrails-nemoguard-nims

Сборка

Terminal window
aggrega build --release release.yaml --auto-pull

Перед сборкой релизу нужен lock-файл, а lock-файлы генерируются, а не поставляются, поэтому в свежем клоне его нет. Сначала разрешите его или позвольте сборке его заполнить:

Terminal window
aggrega pull --release release.yaml # resolve once, then build with no flag
aggrega build --release release.yaml --auto-pull # or resolve during the build

Это рабочее пространство разрешает сущности каталога из реестра по умолчанию, который указывает .aggrega-config.yaml. Реализация щита запускает один плагин, который не поставляется ни с компилятором, ни с каталогом, — шаг конфигурации шлюза pipeline-step/litellm-gateway-config, который при разрешении загружается из реестра, указанного в default_registry, — hub.aggrega.ai.

Сборка выводит следующее (<workspace> обозначает папку этого примера):

[… omitted: a line reporting on the gateway configuration step's plugin, the resolution's summary, a notice that core/referenced-secret declares origin in both of its pillars, and a total build time, which differs per run]
Build completed: 18 files written to <workspace>/dist

Сущность Release называет каждый образ, который не называет каталог. Образ агента — это ваше собственное приложение. Образы защитника и детектора — копии запускаемых вами сборок, зеркалированные в реестр под вашим контролем. Два образа NemoGuard принадлежат NVIDIA, и вы вправе загружать их по своей лицензии; каталог не называет ни одного из них, а release.yaml записывает каждый с тегом change-me. Сборка передаёт любую строку, которая там стоит; замените их перед развёртыванием.

С ИИ-ассистентом

ИИ-ассистент, настроенный с инструментами Aggrega, может сделать то же самое: вставьте в него этот промпт.

Используйте только инструменты Aggrega и не создавайте папки самостоятельно. Если в папке Workspace ещё нет папки `nemo-guardrails-nemoguard-nims`, вызовите один раз инструмент `scaffold`, задав для `example` значение `nemo-guardrails-nemoguard-nims` и не задавая `dir`: он запишет пример в новую папку `nemo-guardrails-nemoguard-nims`. Затем вызовите инструмент `build`, задав для `workspace_root` значение `nemo-guardrails-nemoguard-nims`, для `release` — `release.yaml`, для `auto_pull` — true и для `write` — true. Сообщите мне, какие файлы записала сборка; они находятся в `nemo-guardrails-nemoguard-nims/dist/`.

Сгенерированное дерево

dist/helm/
├── agent-deployment.yaml
├── checkpointer-default-service.yaml
├── checkpointer-deployment.yaml
├── detector-default-service.yaml
├── detector-deployment.yaml
├── guard-default-service.yaml
├── guard-deployment.yaml
├── guard/
│ └── nemo-guardrails-config.configmap.yaml
├── jailbreak-default-service.yaml
├── jailbreak-headless-service.yaml
├── jailbreak-statefulset.yaml
├── router-default-service.yaml
├── router-deployment.yaml
├── router/
│ ├── litellm-gateway-config/
│ │ └── configmap.yaml
│ └── request-guard/
│ └── request-guard.yaml
├── safety-default-service.yaml
├── safety-headless-service.yaml
└── safety-statefulset.yaml

Среди них нет ни одного Secret. Все учётные данные подключаются как core/referenced-secret, а сущность Manifest привязывает их к helm/k8s-existing-secret, который направляет рабочую нагрузку на Secret, уже существующий в пространстве имён, и сам ничего не рендерит.

Ключ как ссылка

Aggregate записывает лишь то, где внутри объекта Secret находится ключ, — ключ данных NGC_API_KEY; Release называет объект Secret, ngc-api-key, и объект Secret, с помощью которого загружаются образы, ngc-registry. В файле dist/helm/safety-statefulset.yaml, и точно так же в файле классификатора джейлбрейков:

env:
- name: NGC_API_KEY
valueFrom:
secretKeyRef:
name: ngc-api-key
key: NGC_API_KEY
imagePullSecrets:
- name: ngc-registry

Перед развёртыванием создайте оба объекта Secret в целевом пространстве имён: ngc-api-key, хранящий ключ под NGC_API_KEY, и ngc-registry — Secret для загрузки образов из nvcr.io, который выполняет вход с этим ключом. Учётные данные защитного сервиса для вышестоящего провайдера названы так же: это Secret upstream-provider-key, хранящий ключ API модели под upstream-key.

Release не может записать сам ключ на его месте. Блок values: в присоединении в сущности Release отклоняется при загрузке документа, поскольку то, что Release записывает там, принадлежит оператору, а values принадлежат разработчику. Замените блок infra: в ngc_api_key компонента safety на values:, содержащий origin, и сборка выведет раньше всего остального:

[OPS_ERROR E0215] release.yaml
document envelope validation failed (Release, at release.yaml); 66:11: spec.components.safety.features.ngc_api_key.values: against /$defs/boundary_component: unexpected property: "values". correct the document to match its kind's schema

Единственная строка, которую сущность Release всё же записывает, — имя объекта Secret — публикуется в точности так, как написана: сборка не может отличить имя от ключа, поэтому ключ, введённый там, где должно стоять имя, появился бы в манифесте как это имя. Граф, который выводит aggrega build --ir-graph, в любом случае скрывает его, потому что origin объявлен чувствительным.

Что делает защитный шлюз

Конфигурация защитного сервиса, то есть ключ config.yaml в dist/helm/guard/nemo-guardrails-config.configmap.yaml, вплоть до его промптов:

models:
- type: main
engine: openai
model: named-by-each-request
api_key_env_var: UPSTREAM_API_KEY
- type: content_safety
engine: openai
model: "llama-3.1-nemoguard-8b-content-safety"
parameters:
base_url: "http://safety-default:8000/v1"
api_key: EMPTY
passthrough: true
rails:
config:
hf_classifier:
prompt_injection:
engine: fms
model: "protectai/deberta-v3-base-prompt-injection-v2"
base_url: "http://detector-default:8000"
threshold: 0.5
blocked_labels: ["INJECTION"]
jailbreak_detection:
nim_base_url: "http://jailbreak-default:8000/v1/"
nim_server_endpoint: classify
input:
flows:
- hf classifier check input $classifier=prompt_injection
- jailbreak detection model
- content safety check input $model=content_safety

Для каждого запроса чата защитный сервис выполняет три входных ограничителя над последним сообщением пользователя, в этом порядке, и отклоняет запрос, если это делает любой из них:

  • Классификатор инъекций промптов отклоняет запрос, когда детектор сообщает INJECTION со значением 0.5 или выше.
  • Классификатор джейлбрейков отклоняет запрос, когда классификатор NVIDIA отвечает, что сообщение является попыткой джейлбрейка. Защитный сервис отправляет сообщение на свой маршрут classify; ключ не настроен, поскольку сервис внутри кластера его не запрашивает.
  • Модель безопасности контента отклоняет запрос, когда оценивает сообщение как небезопасное. Защитный сервис объявляет её моделью, доступной через OpenAI-совместимый API, который предоставляет NIM, по конечной точке и под именем модели, которые публикует ребро safety, а её промпт — оставшаяся часть config.yaml — это тот, что приводит документация NeMo Guardrails от NVIDIA для этой модели: он перечисляет её категории вреда и читается парсером, который NeMo Guardrails предоставляет для её вердикта.

На отклонённый запрос отвечает сам защитный сервис — фразой I’m sorry, I can’t respond to that. — и ничего из него не доходит до модели. Конфигурация защитного сервиса также содержит поток rails.co, который запускает входные ограничители независимо от того, что запрашивает тело запроса.

values.model в safety — это имя, на которое отзывается NIM безопасности контента и которое NIM берёт из собственного манифеста модели; его список моделей, /v1/models, показывает это имя на работающем сервере. Защитный сервис отправляет его с каждой проверкой, поэтому они должны совпадать.

Чего он не делает

  • Он оценивает только последнее сообщение пользователя. Попытка, помещённая в системное сообщение, в более раннюю реплику или в результат инструмента, доходит до модели непроверенной, и ни ответ модели, ни аргументы вызовов инструментов, ни изображения не оцениваются.
  • Каждый вердикт выносит модель. Три проверки пропускают некоторые вредоносные или манипулятивные запросы и отклоняют некоторые обычные.
  • Ограничитель джейлбрейков при сбое пропускает запросы. NVIDIA документирует, что когда классификатор джейлбрейков недоступен, превышает время ожидания или отвечает ошибкой, ограничитель пропускает запрос и ничего не сообщает вызывающей стороне. Две другие проверки по-прежнему выполняются. Ограничитель инъекций промптов отклоняет запрос, когда его детектор недоступен.
  • Он охватывает только трафик, проходящий через шлюз. Рабочая нагрузка, обращающаяся к адресу модели напрямую, обходит его. Защитный сервис и три проверки не аутентифицируют вызывающих, поэтому их Services — это адреса для вызывающих их компонентов, а не адреса для публикации.
  • Его работа здесь не доказана. Конфигурация — та, что описана в документации NVIDIA, скомпилированная заранее; ничто в этом рабочем пространстве не запускало контейнеры NemoGuard.

Что останавливает сборку

Recipe защитного сервиса проверяет, что содержат его сокеты NemoGuard. Сделайте safety обычным core/ai-model/nvidia-nim — его тип в сущности Aggregate и его строку в сущности Manifest, — и сборка остановится, ничего не записав:

[… omitted: a line reporting on the gateway configuration step's plugin, what resolving the lockfile prints, the same halt among it, and a notice that core/referenced-secret declares origin in both of its pillars]
[CATALOG_ERROR E0364] instance guard
rendering node "guard"
caused by: [CATALOG_ERROR] nemo-guardrails-config.configmap.yaml
artifact "nemo-guardrails-config.configmap.yaml" template eval
caused by: [CATALOG_ERROR] artifacts[nemo-guardrails/nemo-guardrails-config.configmap.yaml]
template "artifacts[nemo-guardrails/nemo-guardrails-config.configmap.yaml]" execute
caused by (2):
a value template failed while it ran
---
[… omitted: the template position and the template's own source]: error calling fail: the guard's content_safety socket is wired to "safety", a core/ai-model/nvidia-nim, but the content-safety rail's prompt and verdict parser are NVIDIA's for core/ai-model/nemoguard-content-safety, which another model answers in a shape the parser does not read; wire a core/ai-model/nemoguard-content-safety to content_safety

Сокет jailbreak_detection точно так же принимает core/security/nemoguard-jailbreak-detect и ничего другого, а каждый сокет принимает одну цель. Собственные остановки щита — те же, что и в ai-gateway-prompt-injection-shield, который собирает тот же шлюз и защитный сервис без проверок NemoGuard.

Где компилятор не интерпретирует

Компилятор передаёт имена Service и порты NIM в конфигурацию защитного сервиса, а имена объектов Secret — в поды, как строки. Он не загружает образ, не получает модель и не читает ключ, а также не обращается к NVIDIA, защитному сервису или модели. Каждая остановка выше объявлена собственными сущностями каталога.

Адаптация примера

  • Без модели безопасности контента. Удалите компонент safety и ребро content_safety защитного сервиса; тогда конфигурация защитного сервиса не содержит такой модели, ограничителя или промпта. Классификатор джейлбрейков удаляется так же.
  • Модель, которую вы запускаете сами. Направьте upstream_endpoint guard на конечную точку сервера модели — core/ai-model/vllm публикует такую — и запишите цель псевдонима как openai/<the name that server serves>.
  • Более крупные GPU или два GPU. Каждый компонент NemoGuard принимает infra.gpu.count, а также infra.gpu.runtime_class, если кластер выбирает среду выполнения GPU по классу.