Diese Seite wurde maschinell übersetzt. Englisches Original lesen.

FeatureRecipe

period-budget-apisix

Realizes core/period-budget on the gateway core/gateway/apisix; a Release binds it in its Manifest. It emits no file: the gateway's chart Recipe, apisix-chart, reads the attachment and writes APISIX's token rate limiting onto the chat routes of the models wired to the gateway's models socket, and writes no completion route, since APISIX counts no tokens on one. The gateway counts the tokens each model's reply reports, read, written or both as unit names, over a window of period that opens with the first model request after the previous window closed rather than on the clock. Once the count reaches limit it answers further model requests with HTTP 503 until the window closes. It adds a request's tokens once the reply is complete, so the request that crosses the limit, and any answered beside it, is served, and a reply the gateway's semantic cache serves counts nothing and is served past the limit. The count is kept in the memory of the gateway process, so the chart runs one replica while the budget is attached, and a restart starts a new window. So it honours unit total_tokens, prompt_tokens or completion_tokens, scope gateway, model or caller, and a period of seconds, minutes, hours or days. Scope caller gives each caller infra.callers declares a count of its own across every route, the gateway telling them apart by the key each presents; with no caller declared it is refused by name. It refuses usd and calendar months by name, and halts on a limit that is not a whole number of tokens, on a second such attachment, with nothing wired to the models socket, and on any component other than core/gateway/apisix.

Herkunft

OffiziellSigniert von einer Signaturidentität, die dieser Katalog als offiziellen Herausgeber anerkennt.
Inhalts-Digest
sha256:67ac52847fbe798bf757e1a5ac891fc305aa894eb0bfa5d72f92bb4cdfe27f32
Veröffentlicht
2026-11-10T10:15:47Z
Signaturidentität
https://token.actions.githubusercontent.com/https://github.com/aggrega-ai/aggrega-hub/.github/workflows/catalog-publish-sign.yml@refs/heads/main

Signatur

  • Offiziellapplication/vnd.dev.sigstore.bundle.v0.3+json

    https://token.actions.githubusercontent.com/https://github.com/aggrega-ai/aggrega-hub/.github/workflows/catalog-publish-sign.yml@refs/heads/main

    sha256:fa80d2e654ff4648fa9e2052481d6d8df4e3b0ba02d28b41eb1550b1af384844

Referenz zu dieser Version

oci://hub.aggrega.ai/featurerecipe/helm/period-budget-apisix:1.0.0
Ziel
—
Implementiert
core/period-budget:1.0.0

Stellt bereit

Deterministische Zeigervorlagen, die dieses Rezept für Konsumenten verdrahtet.

Keine provides-Vorlagen deklariert.

Workload

Keine Workload-Vorlage deklariert.

Lokale Variablen

Keine lokalen Variablen deklariert.

Wertezuordnung

Keine Wertezuordnung deklariert.

Beziehungen

Typisierte Kanten zu und von anderen veröffentlichten Entitäten. Eine Referenz ohne veröffentlichtes Ziel wird als unterbrochene Kante statt als Link dargestellt.

Verwendet

Verwendet von

Nichts im Katalog hängt von dieser Entität ab.

Konzeptreferenz zu FeatureRecipe →

Der Aggrega-Katalog — ein offener Index von Komponenten, Funktionen, Rezepten und den Plugins, die sie rendern.

Erstellt mit dem gemeinsamen Aggrega-Designsystem.

Datenschutz