Diese Seite wurde maschinell übersetzt. Englisches Original lesen.

FeatureRecipe

period-budget-higress

Realizes core/period-budget on the gateway core/gateway/higress; a Release binds it in its Manifest. It emits no file: the gateway's chart Recipe, higress-chart, writes Higress's ai-token-ratelimit plugin onto the model routes, counting in the Redis-protocol store on the cache socket. The gateway adds the prompt and completion tokens each reply reports once the reply completes, over a fixed window of period that opens when the first reply in it is counted, and answers model requests with HTTP 429 while the count exceeds limit, until the window ends; the request crossing the limit is served. Scope gateway keeps one count for all it serves, scope model one for each alias. A reply reporting no usage counts nothing, and a streamed request turning the usage report off is refused with HTTP 403, as are a request with a compressed body or an upgrade and one whose content type contains octet-stream or grpc, or neither contains application/json nor begins with multipart/form-data; a client crafting a body the gateway's validation cannot decode gets past them. Without masking, a body over 32 KiB may be refused with HTTP 413, depending on when the store answers. While the store cannot be reached, model requests are served and not counted. So it honours unit total_tokens, scope gateway or model, and a period of one second, minute, hour or day, however spelt. It refuses usd, prompt_tokens, completion_tokens, scope caller, since the gateway verifies no caller, any other period and a limit that is not a whole number by name, and halts on a second such attachment, with nothing wired to the models or cache socket, and on any component other than core/gateway/higress.

Herkunft

OffiziellSigniert von einer Signaturidentität, die dieser Katalog als offiziellen Herausgeber anerkennt.
Inhalts-Digest
sha256:1cab4a366fa7b9a1e973022a2c4a626e90e10d37ac8f589a457f56a52ac68a3c
Veröffentlicht
2026-11-10T10:15:51Z
Signaturidentität
https://token.actions.githubusercontent.com/https://github.com/aggrega-ai/aggrega-hub/.github/workflows/catalog-publish-sign.yml@refs/heads/main

Signatur

  • Offiziellapplication/vnd.dev.sigstore.bundle.v0.3+json

    https://token.actions.githubusercontent.com/https://github.com/aggrega-ai/aggrega-hub/.github/workflows/catalog-publish-sign.yml@refs/heads/main

    sha256:f0fa44b82f51d878839f40b94817b2b970ca42ead267c92d59a29ed18dc4edb5

Referenz zu dieser Version

oci://hub.aggrega.ai/featurerecipe/helm/period-budget-higress:1.0.0
Ziel
—
Implementiert
core/period-budget:1.0.0

Stellt bereit

Deterministische Zeigervorlagen, die dieses Rezept für Konsumenten verdrahtet.

Keine provides-Vorlagen deklariert.

Workload

Keine Workload-Vorlage deklariert.

Lokale Variablen

Keine lokalen Variablen deklariert.

Wertezuordnung

Keine Wertezuordnung deklariert.

Beziehungen

Typisierte Kanten zu und von anderen veröffentlichten Entitäten. Eine Referenz ohne veröffentlichtes Ziel wird als unterbrochene Kante statt als Link dargestellt.

Verwendet

Verwendet von

Nichts im Katalog hängt von dieser Entität ab.

Konzeptreferenz zu FeatureRecipe →

Der Aggrega-Katalog — ein offener Index von Komponenten, Funktionen, Rezepten und den Plugins, die sie rendern.

Erstellt mit dem gemeinsamen Aggrega-Designsystem.

Datenschutz