Cette page a été traduite automatiquement. Lire l’original en anglais.

Component

core/security/trustyai-guardrails-gateway

TrustyAI's guardrails gateway in a model's path: a service speaking the OpenAI chat-completions API on one route, values.route, that sends every request through the orchestrator wired on its orchestrator socket with a fixed detector applied, overwriting any detectors a caller names. When the detector reports the latest message at or above values.threshold, the gateway answers with an ordinary completion carrying values.fallback_message, and the model is not asked to reply, though its server's /tokenize route still counts the refused text; with values.check_output set, a flagged reply is replaced the same way. It reads no system message, earlier turn or tool result, refuses a request whose latest message is a list of content parts or a tool result, and answers a refused streamed request with a stream carrying the detections and no text. When the orchestrator or its detector cannot be reached, the request is refused with an error. Its verdict is the detector's: a probabilistic classifier misses some attacks, refuses some legitimate requests and is known to be evadable. It authenticates no caller and serves no model listing. The Release supplies the image in infra.image and the catalog names none: TrustyAI's build adds the compat-openssl11 package, whose declared licence includes the OpenSSL licence, and is published only under a floating tag. Nothing renders until the Release sets `infra.image`. Realized on Kubernetes by its Helm Recipe and for local development by its Compose Recipe, each running that image as a single stateless service.

Provenance

OfficielSigné par une identité de signature que ce catalogue reconnaît comme éditeur officiel.
Empreinte du contenu
sha256:091ede15c669b068e2f0474f55a3d5097529b29bacb32efc11db83308e84a4f7
Publié
2026-11-10T10:13:56Z
Identité de signature
https://token.actions.githubusercontent.com/https://github.com/aggrega-ai/aggrega-hub/.github/workflows/catalog-publish-sign.yml@refs/heads/main

Signature

  • Officielapplication/vnd.dev.sigstore.bundle.v0.3+json

    https://token.actions.githubusercontent.com/https://github.com/aggrega-ai/aggrega-hub/.github/workflows/catalog-publish-sign.yml@refs/heads/main

    sha256:6f5bb002d081f8b3b5527f6d5f28f3c4d3b5b43c046415095961fd74ea7da560

Référence à cette version

oci://hub.aggrega.ai/component/core/security/trustyai-guardrails-gateway:1.0.0

Paramètres du développeur

Valeurs que le développeur définit dans l’Aggregate.

NomTypeValeur par défautObligatoireDescription
routestringguardednonName of the gateway's one route: it serves chat completions at /<route>/v1/chat/completions, and provides.endpoint ends in /<route>/v1, the base URL a client library takes.
thresholdnumber (min 0, max 1)0.5nonScore at or above which the detector's verdict refuses the request. The orchestrator applies it, and core/security/trustyai-huggingface-detector reports to the orchestrator only labels scored at or above its own 0.5, so with that detector a value below 0.5 has no effect; above 0.5, a higher value lets through a prompt the detector scores below it.
fallback_messagestring (min 1)I'm sorry, I can't respond to that.nonText of the assistant message the gateway answers a refused request with, in an ordinary completion that also carries the detections. A refused streamed request is answered with the detections and no text.
check_outputbooleanfalsenonAlso checks the model's reply with the same detector and threshold, and replaces a flagged reply with values.fallback_message. The model is called before its reply is checked.

Dimensionnement de l’opérateur

Dimensionnement de l’infrastructure que l’opérateur ajuste pour chaque environnement.

NomTypeValeur par défautObligatoireDescription
portinteger (min 1024, max 65535)8090nonPort the gateway listens on and its Service accepts callers on. Most operators should omit this and let the Recipe assign the default (8090), the product's own.
imagestring—ouiImage the gateway runs, supplied by the Release; the catalog names none. The Recipes run the published build's own binary at /app/bin/vllm-orchestrator-gateway, so the image is TrustyAI's guardrails gateway or a copy of it. That build adds the compat-openssl11 package and is tagged only as latest, so a Release that must keep one build mirrors it and names the copy here.
computeobject—non—

Contrat de sortie

Valeurs que ce composant publie vers les consommateurs via la topologie uses.

NomTypeValeur par défautObligatoireDescription
hoststring—ouiIn-cluster DNS name of the Service fronting the gateway. Every caller reaching this name can send requests through the gateway, so it is an address for the component routing model traffic through it rather than one to publish.
portinteger—ouiTCP port that Service accepts callers on. It follows the port an operator set in the Release, so a consumer reads it rather than assuming a default.
endpointstring—ouiBase URL of the OpenAI-compatible API the gateway serves, with the host, the port and the route already composed. A consumer hands it to a client library as its base URL, and sends chat completions to it.
protocolstring—nonURL scheme to reach `host` and `port` over, for a consumer composing its own address rather than reading `endpoint`.

Sockets uses

Les sockets de dépendance par lesquels ce composant se connecte. La cible de chaque connexion câblée via un socket doit satisfaire son sélecteur d’étiquettes, et chaque connexion peut porter une attache dans les emplacements que le socket déclare. Un emplacement obligatoire doit être rempli par chaque connexion que l’Aggregate ou la Release câble via le socket.

orchestrator

Sélecteur
security.aggrega.ai/text-detection=orchestrator
Injection
—

Ce socket ne déclare aucun emplacement d’attache, donc une connexion qui le traverse ne porte aucune attache.

Emplacements d’attache

Points de liaison nommés auxquels une Feature s’attache à ce composant. Le sélecteur d’un emplacement restreint la Feature qui peut le remplir, et sa liste inject indique comment le matériel de la Feature peut être livré. Un emplacement obligatoire doit être lié sur chaque instance, par une attache sur l’instance ou à une portée supérieure, et un emplacement sensible est déclaré pour traiter du matériel secret. Une Feature peut aussi s’attacher sous un nom qu’aucun emplacement ne déclare.

Aucun emplacement d’attache déclaré.

Liste d’autorisation d’auto-injection

Aucun canal d’auto-injection déclaré.

Relations

Arêtes typées vers et depuis d’autres entités publiées. Une référence sans cible publiée s’affiche comme une arête rompue plutôt que comme un lien.

Utilise

Utilisé par

Référence du concept Component →

Le catalogue Aggrega — un index ouvert de composants, de fonctionnalités, de recettes et des plugins qui en assurent le rendu.

Conçu avec le système de design partagé d’Aggrega.

Confidentialité