FeatureRecipe
period-budget-kong-enterprise
Realizes core/period-budget on the gateway core/gateway/kong-enterprise; a Release binds it in its Manifest. It emits no file: the gateway's chart Recipe, kong-enterprise-chart, reads the attachment and writes Kong's AI Rate Limiting Advanced into the routes file it imports, one plugin for the whole gateway under scope gateway, or one on each wired model's service under scope model. The gateway counts the tokens each model's reply reports, read, written or both as unit names, in fixed windows of period, each request counted in the one window its time falls in. Once the count reaches limit, the next model request is answered with HTTP 429 until the window ends, so the request that crosses the limit is served. The count is kept in the gateway's PostgreSQL backend, shared by every replica and kept across a restart. Under scope model a request is counted against the alias it named, whichever model answered it. So it honours unit total_tokens, prompt_tokens or completion_tokens, scope gateway or model, and a period of seconds, minutes, hours or days. It refuses usd, scope caller and calendar months by name, and halts on a second such attachment, with nothing wired to the models socket, on a gateway image older than 3.15, and on any component other than core/gateway/kong-enterprise. Kong sells the plugin under its AI Gateway Enterprise entitlement, which no build can verify and without which Kong skips the plugin silently, so the gateway's Recipe halts until infra.ai_gateway_entitled affirms it. No build proves that a running gateway enforces the budget.
Nguồn gốc
- Digest nội dung
- sha256:87c958823572fa665b1aa8d445507e5fa13dec55126a89e692b849557f72b419
- Đã xuất bản
- 2026-11-10T10:15:51Z
- Danh tính ký
- https://token.actions.githubusercontent.com/https://github.com/aggrega-ai/aggrega-hub/.github/workflows/catalog-publish-sign.yml@refs/heads/main
Chữ ký
- Chính thứcapplication/vnd.dev.sigstore.bundle.v0.3+json
https://token.actions.githubusercontent.com/https://github.com/aggrega-ai/aggrega-hub/.github/workflows/catalog-publish-sign.yml@refs/heads/main
sha256:0e3d9456797fd78127d6719368bbf3681b28ad0f5ac1311a0b7f7b6615d30af6
Tham chiếu ở phiên bản này
oci://hub.aggrega.ai/featurerecipe/helm/period-budget-kong-enterprise:1.0.0- Đích
- —
- Triển khai
- core/period-budget:1.0.0
Cung cấp
Các mẫu con trỏ xác định mà công thức này nối cho bên tiêu thụ.
Chưa khai báo mẫu provides nào.
Workload
Chưa khai báo mẫu khối lượng công việc nào.
Giá trị cục bộ
Chưa khai báo giá trị cục bộ nào.
Ánh xạ values
Chưa khai báo ánh xạ values nào.
Quan hệ
Các cạnh có kiểu đi tới và đi từ các thực thể đã xuất bản khác. Một tham chiếu không có đích đã xuất bản được hiển thị là một cạnh bị đứt thay vì một liên kết.
Sử dụng
- triển khaitriển khai
core/period-budget:1.0.0
Được sử dụng bởi
Không có gì trong danh mục phụ thuộc vào thực thể này.