Trang này được dịch bằng máy. Đọc bản gốc tiếng Anh.

FeatureRecipe

concurrency-limit-litellm

Realizes core/concurrency-limit on the AI gateway core/gateway/litellm; a Release binds it in its Manifest. Each Recipe of the gateway reads the attachment and writes max_in_flight as the max_parallel_requests of every entry of the model map, typed by hand and wired alike. The proxy keeps each entry's count in memory, where a record lapses ten minutes after it is made and a new count starts at zero while requests counted by the old one are in flight, so the Recipe also sets that lifetime to a century, keeping each count as long as the proxy runs. The proxy takes one of an entry's slots for each request it sends there, so at most max_in_flight requests are in flight to each entry at once. A request finding its entry full is answered 429: after the gateway's retries where its alias has one entry, and at once where it has several, even while another of them has room, since the proxy picks the entry before it counts; a fallback chain attached to the gateway sends it on to its alias's fallbacks instead. The count is each running proxy's own. The proxy keeps no total that holds — its one total is read only by a request limiter an environment variable switches on, which counts a request for its first second — so this recipe halts on scope gateway, the Feature's default. It halts on a model map of more than 100 entries, past which the store the counts are kept in, 200 records, can drop one, on a second such attachment, and on any component other than core/gateway/litellm; and the gateway refuses a request carrying priority, whose queue the century lifetime would keep.

Nguồn gốc

Chính thứcĐược ký bởi một danh tính ký mà danh mục này công nhận là nhà phát hành chính thức.
Digest nội dung
sha256:4bc0edd05182b96fdcbfdfec82f8337d4ba62bf3ded7553b7aef287c926b07d3
Đã xuất bản
2026-11-10T10:15:18Z
Danh tính ký
https://token.actions.githubusercontent.com/https://github.com/aggrega-ai/aggrega-hub/.github/workflows/catalog-publish-sign.yml@refs/heads/main

Chữ ký

  • Chính thứcapplication/vnd.dev.sigstore.bundle.v0.3+json

    https://token.actions.githubusercontent.com/https://github.com/aggrega-ai/aggrega-hub/.github/workflows/catalog-publish-sign.yml@refs/heads/main

    sha256:ff15716a5d82add0372a66d1e2cd887af5de7d3a9c6c19358c3a767e63e6fe9c

Tham chiếu ở phiên bản này

oci://hub.aggrega.ai/featurerecipe/helm/concurrency-limit-litellm:1.0.0
Đích
—
Triển khai
core/concurrency-limit:1.0.0

Cung cấp

Các mẫu con trỏ xác định mà công thức này nối cho bên tiêu thụ.

Chưa khai báo mẫu provides nào.

Workload

Chưa khai báo mẫu khối lượng công việc nào.

Giá trị cục bộ

Chưa khai báo giá trị cục bộ nào.

Ánh xạ values

Chưa khai báo ánh xạ values nào.

Quan hệ

Các cạnh có kiểu đi tới và đi từ các thực thể đã xuất bản khác. Một tham chiếu không có đích đã xuất bản được hiển thị là một cạnh bị đứt thay vì một liên kết.

Sử dụng

Được sử dụng bởi

Không có gì trong danh mục phụ thuộc vào thực thể này.

Tài liệu tham khảo khái niệm FeatureRecipe →

Danh mục Aggrega — chỉ mục mở gồm các thành phần, tính năng, công thức và các plugin kết xuất chúng.

Được xây dựng bằng hệ thống thiết kế dùng chung của Aggrega.

Quyền riêng tư