Component
core/security/trustyai-guardrails-gateway
TrustyAI's guardrails gateway in a model's path: a service speaking the OpenAI chat-completions API on one route, values.route, that sends every request through the orchestrator wired on its orchestrator socket with a fixed detector applied, overwriting any detectors a caller names. When the detector reports the latest message at or above values.threshold, the gateway answers with an ordinary completion carrying values.fallback_message, and the model is not asked to reply, though its server's /tokenize route still counts the refused text; with values.check_output set, a flagged reply is replaced the same way. It reads no system message, earlier turn or tool result, refuses a request whose latest message is a list of content parts or a tool result, and answers a refused streamed request with a stream carrying the detections and no text. When the orchestrator or its detector cannot be reached, the request is refused with an error. Its verdict is the detector's: a probabilistic classifier misses some attacks, refuses some legitimate requests and is known to be evadable. It authenticates no caller and serves no model listing. The Release supplies the image in infra.image and the catalog names none: TrustyAI's build adds the compat-openssl11 package, whose declared licence includes the OpenSSL licence, and is published only under a floating tag. Nothing renders until the Release sets `infra.image`. Realized on Kubernetes by its Helm Recipe and for local development by its Compose Recipe, each running that image as a single stateless service.
출처
- 콘텐츠 다이제스트
- sha256:091ede15c669b068e2f0474f55a3d5097529b29bacb32efc11db83308e84a4f7
- 게시일
- 2026-11-10T10:13:56Z
- 서명 ID
- https://token.actions.githubusercontent.com/https://github.com/aggrega-ai/aggrega-hub/.github/workflows/catalog-publish-sign.yml@refs/heads/main
서명
- 공식application/vnd.dev.sigstore.bundle.v0.3+json
https://token.actions.githubusercontent.com/https://github.com/aggrega-ai/aggrega-hub/.github/workflows/catalog-publish-sign.yml@refs/heads/main
sha256:6f5bb002d081f8b3b5527f6d5f28f3c4d3b5b43c046415095961fd74ea7da560
이 버전의 참조
oci://hub.aggrega.ai/component/core/security/trustyai-guardrails-gateway:1.0.0개발자 매개변수
개발자가 Aggregate에서 설정하는 값입니다.
| 이름 | 타입 | 기본값 | 필수 | 설명 |
|---|---|---|---|---|
| route | string | guarded | 아니요 | Name of the gateway's one route: it serves chat completions at /<route>/v1/chat/completions, and provides.endpoint ends in /<route>/v1, the base URL a client library takes. |
| threshold | number (min 0, max 1) | 0.5 | 아니요 | Score at or above which the detector's verdict refuses the request. The orchestrator applies it, and core/security/trustyai-huggingface-detector reports to the orchestrator only labels scored at or above its own 0.5, so with that detector a value below 0.5 has no effect; above 0.5, a higher value lets through a prompt the detector scores below it. |
| fallback_message | string (min 1) | I'm sorry, I can't respond to that. | 아니요 | Text of the assistant message the gateway answers a refused request with, in an ordinary completion that also carries the detections. A refused streamed request is answered with the detections and no text. |
| check_output | boolean | false | 아니요 | Also checks the model's reply with the same detector and threshold, and replaces a flagged reply with values.fallback_message. The model is called before its reply is checked. |
운영자 사이징
운영자가 환경별로 조정하는 인프라 사이징입니다.
| 이름 | 타입 | 기본값 | 필수 | 설명 |
|---|---|---|---|---|
| port | integer (min 1024, max 65535) | 8090 | 아니요 | Port the gateway listens on and its Service accepts callers on. Most operators should omit this and let the Recipe assign the default (8090), the product's own. |
| image | string | — | 예 | Image the gateway runs, supplied by the Release; the catalog names none. The Recipes run the published build's own binary at /app/bin/vllm-orchestrator-gateway, so the image is TrustyAI's guardrails gateway or a copy of it. That build adds the compat-openssl11 package and is tagged only as latest, so a Release that must keep one build mirrors it and names the copy here. |
| compute | object | — | 아니요 | — |
출력 계약
이 컴포넌트가 uses 토폴로지를 통해 소비자에게 게시하는 값입니다.
| 이름 | 타입 | 기본값 | 필수 | 설명 |
|---|---|---|---|---|
| host | string | — | 예 | In-cluster DNS name of the Service fronting the gateway. Every caller reaching this name can send requests through the gateway, so it is an address for the component routing model traffic through it rather than one to publish. |
| port | integer | — | 예 | TCP port that Service accepts callers on. It follows the port an operator set in the Release, so a consumer reads it rather than assuming a default. |
| endpoint | string | — | 예 | Base URL of the OpenAI-compatible API the gateway serves, with the host, the port and the route already composed. A consumer hands it to a client library as its base URL, and sends chat completions to it. |
| protocol | string | — | 아니요 | URL scheme to reach `host` and `port` over, for a consumer composing its own address rather than reading `endpoint`. |
uses 소켓
이 컴포넌트가 연결에 사용하는 의존성 소켓입니다. 소켓을 통해 배선되는 모든 연결의 대상은 해당 소켓의 레이블 셀렉터를 충족해야 하며, 각 연결은 소켓이 선언한 슬롯에 첨부를 전달할 수 있습니다. 필수 슬롯은 Aggregate 또는 Release가 해당 소켓을 통해 배선하는 각 연결이 채워야 합니다.
orchestrator
- 셀렉터
- security.aggrega.ai/text-detection=orchestrator
- 주입
- —
이 소켓은 첨부 슬롯을 선언하지 않으므로 이 소켓을 통한 연결은 첨부를 전달하지 않습니다.
첨부 슬롯
Feature가 이 컴포넌트에 첨부되는 이름 있는 바인딩 지점입니다. 슬롯의 셀렉터는 어떤 Feature가 슬롯을 채울 수 있는지를 제한하고, 슬롯의 inject 목록은 Feature의 자료를 어떻게 전달할 수 있는지를 지정합니다. 필수 슬롯은 인스턴스의 첨부 또는 그 위 범위의 첨부를 통해 모든 인스턴스에서 바인딩되어야 하며, 민감 슬롯은 비밀 자료를 처리하도록 선언됩니다. Feature는 어떤 슬롯도 선언하지 않은 이름으로 첨부될 수도 있습니다.
선언된 첨부 슬롯이 없습니다.
자체 주입 허용 목록
선언된 자체 주입 파이프가 없습니다.
관계
게시된 다른 엔터티와 주고받는 타입 지정 에지입니다. 게시된 대상이 없는 참조는 링크가 아닌 끊어진 에지로 표시됩니다.
사용함
- 사용소켓 «orchestrator» 사용
security.aggrega.ai/text-detection=orchestrator
첨부 슬롯을 선언하지 않습니다.
사용됨
소켓 «auth_core» 사용
소켓 «auth_core» 사용
소켓 «auth_core» 사용
소켓 «auth_core» 사용
소켓 «guard» 사용
소켓 «upstream» 사용
소켓 «guard» 사용
소켓 «forward_target» 사용
소켓 «scrape_target» 사용
소켓 «store» 사용
소켓 «jailbreak_detection» 사용
적용 대상
적용 대상
적용 대상
적용 대상
적용 대상
적용 대상
적용 대상
구현
구현