Trang này được dịch bằng máy. Đọc bản gốc tiếng Anh.

Component

core/security/trustyai-guardrails-gateway

TrustyAI's guardrails gateway in a model's path: a service speaking the OpenAI chat-completions API on one route, values.route, that sends every request through the orchestrator wired on its orchestrator socket with a fixed detector applied, overwriting any detectors a caller names. When the detector reports the latest message at or above values.threshold, the gateway answers with an ordinary completion carrying values.fallback_message, and the model is not asked to reply, though its server's /tokenize route still counts the refused text; with values.check_output set, a flagged reply is replaced the same way. It reads no system message, earlier turn or tool result, refuses a request whose latest message is a list of content parts or a tool result, and answers a refused streamed request with a stream carrying the detections and no text. When the orchestrator or its detector cannot be reached, the request is refused with an error. Its verdict is the detector's: a probabilistic classifier misses some attacks, refuses some legitimate requests and is known to be evadable. It authenticates no caller and serves no model listing. The Release supplies the image in infra.image and the catalog names none: TrustyAI's build adds the compat-openssl11 package, whose declared licence includes the OpenSSL licence, and is published only under a floating tag. Nothing renders until the Release sets `infra.image`. Realized on Kubernetes by its Helm Recipe and for local development by its Compose Recipe, each running that image as a single stateless service.

Nguồn gốc

Chính thứcĐược ký bởi một danh tính ký mà danh mục này công nhận là nhà phát hành chính thức.
Digest nội dung
sha256:091ede15c669b068e2f0474f55a3d5097529b29bacb32efc11db83308e84a4f7
Đã xuất bản
2026-11-10T10:13:56Z
Danh tính ký
https://token.actions.githubusercontent.com/https://github.com/aggrega-ai/aggrega-hub/.github/workflows/catalog-publish-sign.yml@refs/heads/main

Chữ ký

  • Chính thứcapplication/vnd.dev.sigstore.bundle.v0.3+json

    https://token.actions.githubusercontent.com/https://github.com/aggrega-ai/aggrega-hub/.github/workflows/catalog-publish-sign.yml@refs/heads/main

    sha256:6f5bb002d081f8b3b5527f6d5f28f3c4d3b5b43c046415095961fd74ea7da560

Tham chiếu ở phiên bản này

oci://hub.aggrega.ai/component/core/security/trustyai-guardrails-gateway:1.0.0

Tham số của nhà phát triển

Các giá trị mà nhà phát triển đặt trong Aggregate.

TênKiểuMặc địnhBắt buộcMô tả
routestringguardedkhôngName of the gateway's one route: it serves chat completions at /<route>/v1/chat/completions, and provides.endpoint ends in /<route>/v1, the base URL a client library takes.
thresholdnumber (min 0, max 1)0.5khôngScore at or above which the detector's verdict refuses the request. The orchestrator applies it, and core/security/trustyai-huggingface-detector reports to the orchestrator only labels scored at or above its own 0.5, so with that detector a value below 0.5 has no effect; above 0.5, a higher value lets through a prompt the detector scores below it.
fallback_messagestring (min 1)I'm sorry, I can't respond to that.khôngText of the assistant message the gateway answers a refused request with, in an ordinary completion that also carries the detections. A refused streamed request is answered with the detections and no text.
check_outputbooleanfalsekhôngAlso checks the model's reply with the same detector and threshold, and replaces a flagged reply with values.fallback_message. The model is called before its reply is checked.

Định cỡ của người vận hành

Định cỡ hạ tầng mà người vận hành tinh chỉnh theo từng môi trường.

TênKiểuMặc địnhBắt buộcMô tả
portinteger (min 1024, max 65535)8090khôngPort the gateway listens on and its Service accepts callers on. Most operators should omit this and let the Recipe assign the default (8090), the product's own.
imagestring—cóImage the gateway runs, supplied by the Release; the catalog names none. The Recipes run the published build's own binary at /app/bin/vllm-orchestrator-gateway, so the image is TrustyAI's guardrails gateway or a copy of it. That build adds the compat-openssl11 package and is tagged only as latest, so a Release that must keep one build mirrors it and names the copy here.
computeobject—không—

Hợp đồng đầu ra

Các giá trị mà thành phần này xuất bản cho bên tiêu thụ qua cấu trúc liên kết uses.

TênKiểuMặc địnhBắt buộcMô tả
hoststring—cóIn-cluster DNS name of the Service fronting the gateway. Every caller reaching this name can send requests through the gateway, so it is an address for the component routing model traffic through it rather than one to publish.
portinteger—cóTCP port that Service accepts callers on. It follows the port an operator set in the Release, so a consumer reads it rather than assuming a default.
endpointstring—cóBase URL of the OpenAI-compatible API the gateway serves, with the host, the port and the route already composed. A consumer hands it to a client library as its base URL, and sends chat completions to it.
protocolstring—khôngURL scheme to reach `host` and `port` over, for a consumer composing its own address rather than reading `endpoint`.

Các socket uses

Các socket phụ thuộc mà thành phần này kết nối qua. Đích của mọi kết nối được nối qua một socket phải thỏa mãn bộ chọn nhãn của socket đó, và mỗi kết nối có thể mang theo phần đính kèm trong các slot mà socket khai báo. Một slot bắt buộc phải được đáp ứng bởi mỗi kết nối mà Aggregate hoặc Release nối qua socket.

orchestrator

Bộ chọn
security.aggrega.ai/text-detection=orchestrator
Tiêm
—

Socket này không khai báo slot đính kèm nào, nên một kết nối qua nó không mang theo phần đính kèm nào.

Slot đính kèm

Các điểm liên kết có tên mà tại đó một Feature được gắn vào thành phần này. Bộ chọn của một slot giới hạn Feature nào có thể lấp đầy nó, và danh sách tiêm của slot nêu cách nội dung của Feature có thể được chuyển giao. Một slot bắt buộc phải được liên kết trên mọi thể hiện, bằng một phần đính kèm trên thể hiện đó hoặc ở một phạm vi phía trên nó, và một slot nhạy cảm được khai báo để xử lý nội dung bí mật. Một Feature cũng có thể được gắn dưới một tên mà không slot nào khai báo.

Chưa khai báo slot đính kèm nào.

Danh sách cho phép tự tiêm

Chưa khai báo đường ống tự tiêm nào.

Quan hệ

Các cạnh có kiểu đi tới và đi từ các thực thể đã xuất bản khác. Một tham chiếu không có đích đã xuất bản được hiển thị là một cạnh bị đứt thay vì một liên kết.

Sử dụng

Được sử dụng bởi

Tài liệu tham khảo khái niệm Component →

Danh mục Aggrega — chỉ mục mở gồm các thành phần, tính năng, công thức và các plugin kết xuất chúng.

Được xây dựng bằng hệ thống thiết kế dùng chung của Aggrega.

Quyền riêng tư