Component
core/security/trustyai-guardrails-gateway
TrustyAI's guardrails gateway in a model's path: a service speaking the OpenAI chat-completions API on one route, values.route, that sends every request through the orchestrator wired on its orchestrator socket with a fixed detector applied, overwriting any detectors a caller names. When the detector reports the latest message at or above values.threshold, the gateway answers with an ordinary completion carrying values.fallback_message, and the model is not asked to reply, though its server's /tokenize route still counts the refused text; with values.check_output set, a flagged reply is replaced the same way. It reads no system message, earlier turn or tool result, refuses a request whose latest message is a list of content parts or a tool result, and answers a refused streamed request with a stream carrying the detections and no text. When the orchestrator or its detector cannot be reached, the request is refused with an error. Its verdict is the detector's: a probabilistic classifier misses some attacks, refuses some legitimate requests and is known to be evadable. It authenticates no caller and serves no model listing. The Release supplies the image in infra.image and the catalog names none: TrustyAI's build adds the compat-openssl11 package, whose declared licence includes the OpenSSL licence, and is published only under a floating tag. Nothing renders until the Release sets `infra.image`. Realized on Kubernetes by its Helm Recipe and for local development by its Compose Recipe, each running that image as a single stateless service.
来歴
- コンテンツダイジェスト
- sha256:091ede15c669b068e2f0474f55a3d5097529b29bacb32efc11db83308e84a4f7
- 公開日
- 2026-11-10T10:13:56Z
- 署名 ID
- https://token.actions.githubusercontent.com/https://github.com/aggrega-ai/aggrega-hub/.github/workflows/catalog-publish-sign.yml@refs/heads/main
署名
- 公式application/vnd.dev.sigstore.bundle.v0.3+json
https://token.actions.githubusercontent.com/https://github.com/aggrega-ai/aggrega-hub/.github/workflows/catalog-publish-sign.yml@refs/heads/main
sha256:6f5bb002d081f8b3b5527f6d5f28f3c4d3b5b43c046415095961fd74ea7da560
このバージョンの参照
oci://hub.aggrega.ai/component/core/security/trustyai-guardrails-gateway:1.0.0開発者パラメーター
開発者が Aggregate で設定する値です。
| 名前 | 型 | デフォルト | 必須 | 説明 |
|---|---|---|---|---|
| route | string | guarded | いいえ | Name of the gateway's one route: it serves chat completions at /<route>/v1/chat/completions, and provides.endpoint ends in /<route>/v1, the base URL a client library takes. |
| threshold | number (min 0, max 1) | 0.5 | いいえ | Score at or above which the detector's verdict refuses the request. The orchestrator applies it, and core/security/trustyai-huggingface-detector reports to the orchestrator only labels scored at or above its own 0.5, so with that detector a value below 0.5 has no effect; above 0.5, a higher value lets through a prompt the detector scores below it. |
| fallback_message | string (min 1) | I'm sorry, I can't respond to that. | いいえ | Text of the assistant message the gateway answers a refused request with, in an ordinary completion that also carries the detections. A refused streamed request is answered with the detections and no text. |
| check_output | boolean | false | いいえ | Also checks the model's reply with the same detector and threshold, and replaces a flagged reply with values.fallback_message. The model is called before its reply is checked. |
運用担当者によるサイジング
運用担当者が環境ごとに調整するインフラストラクチャのサイジングです。
| 名前 | 型 | デフォルト | 必須 | 説明 |
|---|---|---|---|---|
| port | integer (min 1024, max 65535) | 8090 | いいえ | Port the gateway listens on and its Service accepts callers on. Most operators should omit this and let the Recipe assign the default (8090), the product's own. |
| image | string | — | はい | Image the gateway runs, supplied by the Release; the catalog names none. The Recipes run the published build's own binary at /app/bin/vllm-orchestrator-gateway, so the image is TrustyAI's guardrails gateway or a copy of it. That build adds the compat-openssl11 package and is tagged only as latest, so a Release that must keep one build mirrors it and names the copy here. |
| compute | object | — | いいえ | — |
出力コントラクト
このコンポーネントが uses トポロジを通じて利用側に公開する値です。
| 名前 | 型 | デフォルト | 必須 | 説明 |
|---|---|---|---|---|
| host | string | — | はい | In-cluster DNS name of the Service fronting the gateway. Every caller reaching this name can send requests through the gateway, so it is an address for the component routing model traffic through it rather than one to publish. |
| port | integer | — | はい | TCP port that Service accepts callers on. It follows the port an operator set in the Release, so a consumer reads it rather than assuming a default. |
| endpoint | string | — | はい | Base URL of the OpenAI-compatible API the gateway serves, with the host, the port and the route already composed. A consumer hands it to a client library as its base URL, and sends chat completions to it. |
| protocol | string | — | いいえ | URL scheme to reach `host` and `port` over, for a consumer composing its own address rather than reading `endpoint`. |
uses ソケット
このコンポーネントが接続に用いる依存関係ソケットです。ソケットを介して配線される各接続のターゲットは、そのソケットのラベルセレクターを満たす必要があり、各接続はソケットが宣言するスロットにアタッチメントを持つことができます。必須スロットは、Aggregate または Release がそのソケットを介して配線する各接続が満たす必要があります。
orchestrator
- セレクター
- security.aggrega.ai/text-detection=orchestrator
- 注入
- —
このソケットはアタッチメントスロットを宣言していないため、このソケットを介した接続はアタッチメントを持ちません。
アタッチメントスロット
Feature がこのコンポーネントにアタッチされる、名前付きのバインディングポイントです。スロットのセレクターはどの Feature がそのスロットを埋められるかを制約し、その inject リストは Feature のマテリアルをどのように配信できるかを示します。必須スロットは、インスタンス上のアタッチメント、またはその上位のスコープでのアタッチメントによって、すべてのインスタンスでバインドされている必要があります。また、機密スロットは秘密のマテリアルを扱うものとして宣言されます。Feature は、どのスロットも宣言していない名前でアタッチすることもできます。
アタッチメントスロットは宣言されていません。
自己注入の許可リスト
自己注入パイプは宣言されていません。
関係
他の公開エンティティとの間の型付きエッジです。公開されたターゲットがない参照は、リンクではなく切れたエッジとして表示されます。
使用先
- 使用ソケット «orchestrator» を使用
security.aggrega.ai/text-detection=orchestrator
アタッチメントスロットを宣言していません。
使用元
ソケット «auth_core» を使用
ソケット «auth_core» を使用
ソケット «auth_core» を使用
ソケット «auth_core» を使用
ソケット «guard» を使用
ソケット «upstream» を使用
ソケット «guard» を使用
ソケット «forward_target» を使用
ソケット «scrape_target» を使用
ソケット «store» を使用
ソケット «jailbreak_detection» を使用
適用対象
適用対象
適用対象
適用対象
適用対象
適用対象
適用対象
実装
実装