Component
core/gateway/higress
Higress, an open-source gateway built on Envoy and configured through Kubernetes resources: its routes are ingresses, the services it reaches are its own registry's entries, and its controls are WebAssembly plugins on the routes they act on. It terminates client HTTP on its proxy port, publishing its host, port and protocol. It serves models: each model wired to its models socket is reached under an alias at /<alias>/v1 through Higress's AI proxy, sent to the endpoint and model name the model publishes, presenting the connection's credential from its Secret; over https it checks that the model's certificate chains to the system's trust anchors and names its host. Connections naming one alias in serves share its requests. It publishes the route of values.model as its endpoint and that alias as its model, so an agent's model socket takes it in place of a model; with nothing wired both are empty. On those routes it masks requests, keeps a token budget in its cache socket's store, records each model request in its access log and sets each route's retry, refusing by name what Higress cannot keep; it declares no callers. Reply validation, the fallback chain, the semantic cache, the prompt-injection shield and latency-based target selection halt the build naming what Higress lacks. It pulls its plugin modules from Higress's plugin registry at run time, which the cluster must reach and the build cannot check. It is realized on Kubernetes by `higress-chart` alone, and publishes the pod label, port name and path a scraper discovers its gateway's metrics by.
Pochodzenie
- Skrót zawartości
- sha256:8b92c8a380a01667259d0b041b43a42dc1c93b50b58b21741d1cc4a57a8260f9
- Opublikowano
- 2026-11-10T10:11:55Z
- Tożsamość podpisująca
- https://token.actions.githubusercontent.com/https://github.com/aggrega-ai/aggrega-hub/.github/workflows/catalog-publish-sign.yml@refs/heads/main
Podpis
- Oficjalnyapplication/vnd.dev.sigstore.bundle.v0.3+json
https://token.actions.githubusercontent.com/https://github.com/aggrega-ai/aggrega-hub/.github/workflows/catalog-publish-sign.yml@refs/heads/main
sha256:ef9dfa3941c48639070a7b9379a7ff22eb5637b82b98304936be0d1c243fd7b7
Referencja w tej wersji
oci://hub.aggrega.ai/component/core/gateway/higress:1.0.0Parametry dewelopera
Wartości ustawiane przez dewelopera w encji Aggregate.
| Nazwa | Typ | Wartość domyślna | Wymagane | Opis |
|---|---|---|---|---|
| model | string | — | nie | The alias this gateway publishes as its model, and whose route its published endpoint addresses — a serves value a models connection names, or the name of a connection naming none. It must be an alias the models socket serves, and the build halts naming this value otherwise; it is required while the models socket holds a connection, and omitted while it holds none. |
Wymiarowanie przez operatora
Wymiarowanie infrastruktury, które operator dostraja dla każdego środowiska.
| Nazwa | Typ | Wartość domyślna | Wymagane | Opis |
|---|---|---|---|---|
| http_port | integer (min 1, max 65535) | 80 | nie | Proxy data-plane port consumers connect to. |
| source_version | string | — | nie | Version of the Higress chart the chart-backed realization pulls. The realization holds the chart versions its configuration is proven at, and the build halts naming them on any other. |
| compute | object | — | nie | — |
| overrides | object (open) | — | nie | Provider-specific overrides. Accepts any nested structure. Each Recipe documents which keys it reads. |
Kontrakt wyjściowy
Wartości, które ten komponent publikuje konsumentom za pośrednictwem topologii uses.
| Nazwa | Typ | Wartość domyślna | Wymagane | Opis |
|---|---|---|---|---|
| host | string | — | tak | In-cluster DNS name of the Service fronting the gateway's proxy, the name alone without a namespace. A consumer sends its client traffic here rather than to the service behind the gateway. |
| port | integer | — | tak | TCP port that Service accepts proxied traffic on, infra.http_port. |
| protocol | string | — | nie | How the published address is spoken to — `http`, so a consumer composes an address on that scheme. |
| endpoint | string | — | nie | Full base URL of the OpenAI-compatible API the gateway serves for the alias values.model names, with the host, the port and that alias's route already composed. A caller hands it to a client library as its base URL. Every other alias is served at the same host and port under its own name in the path. Empty while nothing is wired to the models socket. |
| model | string | — | nie | The alias a consumer wired to the gateway sends as its model name: values.model. The route behind the endpoint asks each model for the name that model publishes, whatever name a request carries. Empty while nothing is wired to the models socket. |
| metrics_pod_selector | string | — | nie | Kubernetes label selector matching the gateway's pods, for a scraper that discovers those pods directly rather than scraping one address. Published beside `metrics_pod_port` and `metrics_path`. |
| metrics_pod_port | string | — | nie | Name of the container port on those pods that carries the metrics, `istio-prom`. |
| metrics_path | string | — | nie | Path the metrics are served at on that port, `/stats/prometheus`. |
Gniazda uses
Gniazda zależności, przez które łączy się ten komponent. Cel każdego połączenia poprowadzonego przez gniazdo musi spełniać jego selektor etykiet, a każde połączenie może przenosić dołączenie w slotach deklarowanych przez gniazdo. Wymagany slot musi wypełnić każde połączenie, które encja Aggregate lub encja Release prowadzi przez gniazdo.
models
- Selektor
- component.aggrega.ai/category=ai-model
- Wstrzykiwanie
- —
Sloty, które może wypełnić każde połączenie przez to gniazdo
| Slot | Selektor | Wymagane | Wstrzykiwanie | Wrażliwe | Opis |
|---|---|---|---|---|---|
| credential | feature.aggrega.ai/kind=secret | nie | — | tak | Optional credential the gateway presents to the model this connection reaches, as a bearer token. When attached, the AI proxy's configuration names the Secret the credential publishes and the data key holding the key there, and the Higress controller reads the key from that Secret, in the gateway's namespace, so the key appears in no rendered file. The credential must publish both, and a Secret name holding a dot halts the build, because Higress reads the name up to its first dot; a realization naming its own Secret after the connection and this slot writes such a dot, so realize it with one naming an existing Secret whose name holds none. Unattached, the gateway adds no credential. |
cache
- Selektor
- datastore.aggrega.ai/engine=kv
- Wstrzykiwanie
- —
Sloty, które może wypełnić każde połączenie przez to gniazdo
| Slot | Selektor | Wymagane | Wstrzykiwanie | Wrażliwe | Opis |
|---|---|---|---|---|---|
| credential | feature.aggrega.ai/kind=secret | nie | — | tak | Optional password the gateway's token budget presents to the Redis-protocol store this connection reaches. When attached, the budget's configuration names the Secret the credential publishes and the data key holding the password there, and the Higress controller reads the password from that Secret, in the gateway's namespace, so it appears in no rendered file. The credential must publish both, and a Secret name holding a dot halts the build, because Higress reads the name up to its first dot; realize it with one naming an existing Secret whose name holds none. Unattached, the plugin connects with no password, which is what the shipped store components expect by default. |
Sloty dołączania
Nazwane punkty wiązania, w których encja Feature dołącza się do tego komponentu. Selektor slotu ogranicza, która encja Feature może go wypełnić, a jego lista inject określa, jak można dostarczyć materiał encji Feature. Wymagany slot musi być powiązany w każdej instancji, przez dołączenie w instancji lub w zakresie nad nią, a slot wrażliwy jest zadeklarowany do obsługi materiału tajnego. Encja Feature może również dołączyć się pod nazwą, której nie deklaruje żaden slot.
Nie zadeklarowano slotów dołączania.
Lista dozwolonych samowstrzyknięć
Nie zadeklarowano potoków samowstrzykiwania.
Relacje
Typowane krawędzie do innych opublikowanych encji i od nich. Odwołanie bez opublikowanego celu jest renderowane jako przerwana krawędź, a nie jako łącze.
Używa
- używaużywa gniazda «models»
component.aggrega.ai/category=ai-model
Sloty dołączania: credential
core/ai-model/ai21 v1.0.0 →core/ai-model/anthropic v1.0.0 →core/ai-model/azure-managed v1.0.0 →core/ai-model/azure-openai v1.0.0 →core/ai-model/azure-openai-embedding v1.0.0 →core/ai-model/bedrock v1.0.0 →core/ai-model/bedrock-embedding v1.0.0 →core/ai-model/cohere v1.0.0 →core/ai-model/databricks v1.0.0 →core/ai-model/docker-model-runner v1.0.0 →core/ai-model/gemini v1.0.0 →core/ai-model/huggingface v1.0.0 →core/ai-model/litellm v1.0.0 →core/ai-model/mistral v1.0.0 →core/ai-model/nemoguard-content-safety v1.0.0 →core/ai-model/nvidia-api v1.0.0 →core/ai-model/nvidia-nim v1.0.0 →core/ai-model/nvidia-nim-operator v1.0.0 →core/ai-model/ollama v1.0.0 →core/ai-model/openai v1.0.0 →core/ai-model/openai-compatible v1.0.0 →core/ai-model/openai-embedding v1.0.0 →core/ai-model/replicate v1.0.0 →core/ai-model/sagemaker v1.0.0 →core/ai-model/tei v1.0.0 →core/ai-model/tgi v1.0.0 →core/ai-model/vertex-ai v1.0.0 →core/ai-model/vertex-ai-embedding v1.0.0 →core/ai-model/vllm v1.0.0 → - używaużywa gniazda «cache»
datastore.aggrega.ai/engine=kv
Sloty dołączania: credential
Używane przez
używa gniazda «model»
używa gniazda «model»
używa gniazda «model»
używa gniazda «model»
używa gniazda «model»
używa gniazda «model»
używa gniazda «model»
używa gniazda «model»
używa gniazda «model»
używa gniazda «model»
używa gniazda «model»
używa gniazda «model»
używa gniazda «model»
używa gniazda «model»
używa gniazda «model»
używa gniazda «model»
używa gniazda «model»
używa gniazda «model»
używa gniazda «model»
używa gniazda «model»
używa gniazda «model»
używa gniazda «model»
używa gniazda «model»
używa gniazda «model»
używa gniazda «model»
używa gniazda «model»
używa gniazda «model»
używa gniazda «model»
używa gniazda «model»
używa gniazda «model»
używa gniazda «model»
używa gniazda «model»
używa gniazda «model»
używa gniazda «target_model»
używa gniazda «extraction_model»
używa gniazda «embedding_model»
używa gniazda «upstream»
używa gniazda «forward_target»
używa gniazda «scrape_target»
używa gniazda «store»
dotyczy
dotyczy
dotyczy
dotyczy
dotyczy
dotyczy
dotyczy
dotyczy
dotyczy
dotyczy
dotyczy
dotyczy
dotyczy
dotyczy
dotyczy
dotyczy
implementuje