Component
core/gateway/agentgateway
agentgateway, an open-source gateway for model, tool and agent traffic, serving the OpenAI chat-completions API in front of the models wired to it. It terminates client HTTP traffic on its data-plane port, publishes that port's host, port and protocol, and runs from one configuration file. Each model wired to its models socket is served under the connection's alias: a request names the alias as its model at the gateway's one /v1 base URL, and is sent to the endpoint and model name the model publishes, presenting that connection's credential. It publishes that base URL as its endpoint and values.model as its model, so an agent's model socket takes it in place of a model; with nothing wired it serves no model and both are empty. A Release may name its callers in infra.callers, their keys through the caller_keys slot; every model request must then present a declared key as `Authorization: Bearer <key>`. Two realizations run the same image, pinned by digest. On Kubernetes, `agentgateway-chart` renders the project's standalone Helm chart, fetched from the project's registry, and realizes data masking, prompt deny patterns, the period budget, audit logging and the retry policy; the fallback chain, target selection, the semantic cache, response validation and the prompt-injection shield halt the build there, each naming why. Under Docker Compose, `agentgateway` runs it as one service and realizes none of them, nor callers, so an attachment halts the build naming its type. With `values.metrics_enabled` true each Recipe publishes the address of the gateway's metrics, always on, on a port that checks no caller, as `metrics_endpoint`; false, that key is empty.
Nguồn gốc
- Digest nội dung
- sha256:f5492abed6926aaa7a2eb24792e5d8ce4e330c6bb38abce3fcf062b0ddab7d1d
- Đã xuất bản
- 2026-11-10T10:11:36Z
- Danh tính ký
- https://token.actions.githubusercontent.com/https://github.com/aggrega-ai/aggrega-hub/.github/workflows/catalog-publish-sign.yml@refs/heads/main
Chữ ký
- Chính thứcapplication/vnd.dev.sigstore.bundle.v0.3+json
https://token.actions.githubusercontent.com/https://github.com/aggrega-ai/aggrega-hub/.github/workflows/catalog-publish-sign.yml@refs/heads/main
sha256:aa49f49c4376940a1cd50e5e440b56616e25622891d38e12189dbe8eb33246db
Tham chiếu ở phiên bản này
oci://hub.aggrega.ai/component/core/gateway/agentgateway:1.0.0Tham số của nhà phát triển
Các giá trị mà nhà phát triển đặt trong Aggregate.
| Tên | Kiểu | Mặc định | Bắt buộc | Mô tả |
|---|---|---|---|---|
| model | string | — | không | The alias of a connection on the models socket that this gateway publishes as its model, the model name a consumer wired to it sends. It must be an alias a models connection carries, and the build halts naming this value otherwise; it is required while the models socket holds a connection, and omitted while it holds none. |
| metrics_enabled | boolean | false | không | Publishes the address of the gateway's own metrics, in the Prometheus format, as `metrics_endpoint`, putting their port on a Service where a realization needs one; while false that key is empty. The metrics port checks no caller, so anything that reaches it can read them. |
Định cỡ của người vận hành
Định cỡ hạ tầng mà người vận hành tinh chỉnh theo từng môi trường.
| Tên | Kiểu | Mặc định | Bắt buộc | Mô tả |
|---|---|---|---|---|
| http_port | integer (min 1024, max 65535) | 4000 | không | Data-plane port consumers connect to. |
| callers | array (min 1) | — | không | The callers the gateway serves models to, by name, each presenting its own key in the Authorization header as `Bearer <key>`, which is how an OpenAI client presents one. Every model request then has to present a declared key — one presenting none, or an unknown one, is refused with HTTP 401 — and the key is removed from the request the gateway forwards. A name takes letters, digits, hyphens and underscores, and is also the data key holding that caller's key in the Secret the caller_keys slot names. Read by `agentgateway-chart`; the compose realization halts the build on it. Omit it for open routes. |
| storage | object | — | không | — |
| source_version | string | — | không | Version of the standalone Helm chart the chart-backed realization pulls. The realization holds the chart versions its configuration is proven at, and the build halts naming them on any other. The compose realization pulls no chart and ignores it. |
| compute | object | — | không | — |
| overrides | object (open) | — | không | Provider-specific overrides. Accepts any nested structure. Each Recipe documents which keys it reads. |
Hợp đồng đầu ra
Các giá trị mà thành phần này xuất bản cho bên tiêu thụ qua cấu trúc liên kết uses.
| Tên | Kiểu | Mặc định | Bắt buộc | Mô tả |
|---|---|---|---|---|
| host | string | — | có | DNS name of the Service, or the compose service, fronting the gateway's data plane, the name alone without a namespace. A consumer sends its client traffic here rather than to the model behind the gateway. |
| port | integer | — | có | TCP port that address accepts model traffic on, infra.http_port. |
| protocol | string | — | không | How the published address is spoken to — `http`, so a consumer composes an address on that scheme. |
| endpoint | string | — | không | Full base URL of the OpenAI-compatible API the gateway serves, with the host, the port and /v1 composed. A caller hands it to a client library as its base URL and names values.model as its model; every other wired model is served at the same base URL under its own alias. Empty while nothing is wired to the models socket. |
| model | string | — | không | The alias a consumer wired to the gateway sends as its model name: values.model. The gateway sends the request on asking for the model name the wired model publishes. Empty while nothing is wired to the models socket. |
| metrics_endpoint | string | — | không | The full address Prometheus scrapes this component's metrics at — scheme, host, port and path, `http://<host>:15020/metrics`. Empty while values.metrics_enabled is false. |
Các socket uses
Các socket phụ thuộc mà thành phần này kết nối qua. Đích của mọi kết nối được nối qua một socket phải thỏa mãn bộ chọn nhãn của socket đó, và mỗi kết nối có thể mang theo phần đính kèm trong các slot mà socket khai báo. Một slot bắt buộc phải được đáp ứng bởi mỗi kết nối mà Aggregate hoặc Release nối qua socket.
models
- Bộ chọn
- component.aggrega.ai/category=ai-model
- Tiêm
- —
Các slot mà mỗi kết nối qua socket này có thể lấp đầy
| Slot | Bộ chọn | Bắt buộc | Tiêm | Nhạy cảm | Mô tả |
|---|---|---|---|---|---|
| credential | feature.aggrega.ai/kind=secret | không | env | có | Optional credential the gateway presents to the model this connection reaches, as a bearer token. When attached, the Recipe delivers it as AI_PROXY_<ALIAS>_API_KEY, the connection's alias in capitals with every character other than a letter or a digit as an underscore — a Kubernetes secretKeyRef to the Secret the credential publishes on the chart realization, which halts the build when it publishes none, and the value the credential publishes under that name on the inject pipe on compose — and the connection's model entry names $AI_PROXY_<ALIAS>_API_KEY, which agentgateway replaces from its environment, never the value. The key must be a plain token — letters, digits and - . _ ~ + / = — because agentgateway reads the file as YAML after putting the key into it, and other characters can load as a different key or stop the gateway. Unattached, the entry adds no credential. |
Slot đính kèm
Các điểm liên kết có tên mà tại đó một Feature được gắn vào thành phần này. Bộ chọn của một slot giới hạn Feature nào có thể lấp đầy nó, và danh sách tiêm của slot nêu cách nội dung của Feature có thể được chuyển giao. Một slot bắt buộc phải được liên kết trên mọi thể hiện, bằng một phần đính kèm trên thể hiện đó hoặc ở một phạm vi phía trên nó, và một slot nhạy cảm được khai báo để xử lý nội dung bí mật. Một Feature cũng có thể được gắn dưới một tên mà không slot nào khai báo.
| Slot | Bộ chọn | Bắt buộc | Tiêm | Nhạy cảm | Mô tả |
|---|---|---|---|---|---|
| caller_keys | feature.aggrega.ai/kind=secret | không | env | có | The Secret holding the key each caller infra.callers declares presents to the gateway, one data key per caller, the data key being the caller's name. The attached credential must publish the Secret's name, as core/referenced-secret-set does, and a credential publishing none halts the build. The chart Recipe delivers each key as CALLER_<NAME>_KEY, the caller's name in capitals with every character other than a letter or a digit as an underscore, by a Kubernetes secretKeyRef, and the configuration names $CALLER_<NAME>_KEY, never the key. Each key must be a plain token — letters, digits and - . _ ~ + / = — because agentgateway reads the file as YAML after putting the key into it, and other characters can load as a different key or stop the gateway. Required while infra.callers declares a caller, and refused while it declares none. A caller with no data key of its name in the Secret leaves the gateway unable to start, since Kubernetes starts no container whose secretKeyRef names a missing key; that is caught at start, not by the build. A request presenting an empty key is refused. A key changed inside the Secret takes effect when the gateway's pod next starts, so the key it replaces is accepted until then. |
Danh sách cho phép tự tiêm
env
Quan hệ
Các cạnh có kiểu đi tới và đi từ các thực thể đã xuất bản khác. Một tham chiếu không có đích đã xuất bản được hiển thị là một cạnh bị đứt thay vì một liên kết.
Sử dụng
- sử dụngsử dụng socket «models»
component.aggrega.ai/category=ai-model
Slot đính kèm: credential
core/ai-model/ai21 v1.0.0 →core/ai-model/anthropic v1.0.0 →core/ai-model/azure-managed v1.0.0 →core/ai-model/azure-openai v1.0.0 →core/ai-model/azure-openai-embedding v1.0.0 →core/ai-model/bedrock v1.0.0 →core/ai-model/bedrock-embedding v1.0.0 →core/ai-model/cohere v1.0.0 →core/ai-model/databricks v1.0.0 →core/ai-model/docker-model-runner v1.0.0 →core/ai-model/gemini v1.0.0 →core/ai-model/huggingface v1.0.0 →core/ai-model/litellm v1.0.0 →core/ai-model/mistral v1.0.0 →core/ai-model/nemoguard-content-safety v1.0.0 →core/ai-model/nvidia-api v1.0.0 →core/ai-model/nvidia-nim v1.0.0 →core/ai-model/nvidia-nim-operator v1.0.0 →core/ai-model/ollama v1.0.0 →core/ai-model/openai v1.0.0 →core/ai-model/openai-compatible v1.0.0 →core/ai-model/openai-embedding v1.0.0 →core/ai-model/replicate v1.0.0 →core/ai-model/sagemaker v1.0.0 →core/ai-model/tei v1.0.0 →core/ai-model/tgi v1.0.0 →core/ai-model/vertex-ai v1.0.0 →core/ai-model/vertex-ai-embedding v1.0.0 →core/ai-model/vllm v1.0.0 →
Được sử dụng bởi
sử dụng socket «model»
sử dụng socket «model»
sử dụng socket «model»
sử dụng socket «model»
sử dụng socket «model»
sử dụng socket «model»
sử dụng socket «model»
sử dụng socket «model»
sử dụng socket «model»
sử dụng socket «model»
sử dụng socket «model»
sử dụng socket «model»
sử dụng socket «model»
sử dụng socket «model»
sử dụng socket «model»
sử dụng socket «model»
sử dụng socket «model»
sử dụng socket «model»
sử dụng socket «model»
sử dụng socket «model»
sử dụng socket «model»
sử dụng socket «model»
sử dụng socket «model»
sử dụng socket «model»
sử dụng socket «model»
sử dụng socket «model»
sử dụng socket «model»
sử dụng socket «model»
sử dụng socket «model»
sử dụng socket «model»
sử dụng socket «model»
sử dụng socket «model»
sử dụng socket «model»
sử dụng socket «target_model»
sử dụng socket «extraction_model»
sử dụng socket «embedding_model»
sử dụng socket «upstream»
sử dụng socket «forward_target»
sử dụng socket «scrape_target»
sử dụng socket «store»
áp dụng cho
áp dụng cho
áp dụng cho
áp dụng cho
áp dụng cho
áp dụng cho
áp dụng cho
áp dụng cho
áp dụng cho
áp dụng cho
áp dụng cho
áp dụng cho
áp dụng cho
áp dụng cho
áp dụng cho
áp dụng cho
áp dụng cho
triển khai
triển khai