Feature
core/period-budget
Bounds what the traffic through an AI gateway may consume over a period. Once what the gateway has counted over period exceeds limit, it refuses further model requests until the count falls back under the limit. unit names what is counted, a cost in US dollars or tokens, and scope names whose traffic one limit covers: everything the gateway serves, each caller apart, or each model apart. The developer attaches it in the Aggregate, writing unit and scope in values; the operator sizes that attachment in the Release, writing limit and period in infra under the same attachment name on the Release's entry for the component. It attaches to a component in the request path that declares it can keep such a budget (dataplane.aggrega.ai/period-budget, whichever value). Each realization says how its gateway counts a period, and refuses a unit, a scope or a period its gateway cannot keep, naming the value asked for and what the gateway offers, rather than accepting it and counting something else. Each realization writes the budget where its gateway reads one: into the gateway's own configuration, or as a resource the gateway's controller reconciles.
Nguồn gốc
- Digest nội dung
- sha256:34e5efc21634200007e9767d7ace42cf5a75618e98d67b3fada1e94b93bc5154
- Đã xuất bản
- 2026-11-10T10:17:14Z
- Danh tính ký
- https://token.actions.githubusercontent.com/https://github.com/aggrega-ai/aggrega-hub/.github/workflows/catalog-publish-sign.yml@refs/heads/main
Chữ ký
- Chính thứcapplication/vnd.dev.sigstore.bundle.v0.3+json
https://token.actions.githubusercontent.com/https://github.com/aggrega-ai/aggrega-hub/.github/workflows/catalog-publish-sign.yml@refs/heads/main
sha256:fddd9cabf3068aa98288c748b27780a7edaa1621d99b22b8d10480bfb2d3f515
Tham chiếu ở phiên bản này
oci://hub.aggrega.ai/feature/core/period-budget:1.0.0- Áp dụng cho
- dataplane.aggrega.ai/period-budget
- Xung đột với
- —
Tham số của nhà phát triển
Các giá trị mà nhà phát triển đặt khi gắn tính năng này.
Mở rộng BaseComponents#/schemas/BaseFeatureParameter
| Tên | Kiểu | Mặc định | Bắt buộc | Mô tả |
|---|---|---|---|---|
| scope | string (gateway | caller | model) | — | có | Whose traffic one limit covers. gateway: everything the gateway serves counts against one limit. caller: each caller the gateway tells apart has a limit of its own. model: each model the gateway serves has a limit of its own. |
| unit | string (usd | total_tokens | prompt_tokens | completion_tokens) | — | có | What is counted against limit. usd: what the traffic costs in US dollars, as the gateway prices it. total_tokens, prompt_tokens and completion_tokens: the tokens a model reports reading and writing, reading only, or writing only. |
Hợp đồng đầu ra
Các giá trị mà tính năng này xuất bản cho bên tiêu thụ.
Chưa khai báo giá trị đầu ra nào.
Chú thích
Chưa khai báo chú thích nào.
Quan hệ
Các cạnh có kiểu đi tới và đi từ các thực thể đã xuất bản khác. Một tham chiếu không có đích đã xuất bản được hiển thị là một cạnh bị đứt thay vì một liên kết.
Sử dụng
- áp dụng choáp dụng cho
dataplane.aggrega.ai/period-budget
core/gateway/agentgateway v1.0.0 →core/gateway/apisix v1.0.0 →core/gateway/azure-api-management v1.0.0 →core/gateway/cloudflare-ai-gateway v1.0.0 →core/gateway/envoy-gateway v1.0.0 →core/gateway/higress v1.0.0 →core/gateway/kong-enterprise v1.0.0 →core/gateway/litellm v1.0.0 →core/gateway/traefik-hub v1.0.0 → - $refmở rộng lược đồ (values)
BaseComponents#/schemas/BaseFeatureParameter
Được sử dụng bởi
triển khai
triển khai
triển khai
triển khai
triển khai
triển khai
triển khai
triển khai
triển khai