Recipe
litellm-chart
LiteLLM as a self-hosted, OpenAI-compatible model proxy on Kubernetes via BerriAI's own litellm-helm chart, pulled from its OCI registry, running the official upstream image at infra.engine_version. The chart's README calls it community maintained; it was checked for being official, complete and maintained against the chart itself. Its bundled PostgreSQL and Redis stay off, and its schema-migration Job renders only with database_url attached. A ConfigMap of the Recipe's own, mounted by the chart, carries the proxy's configuration, publishing the alias in values.model and pointing it at values.upstream_model. An attached api_key, provider_key or database_url reaches the proxy by a secretKeyRef to its slot's Secret, so no credential value is rendered. Unattached, api_key leaves the proxy with no master key, as on the synthesis. The request guard and the path allowlist in front of the proxy come from the LiteLLMGuard bundle, exactly as on the synthesis, the allowlist as a second container of the chart's pod. With `values.metrics_enabled` true the allowlist forwards a GET of /metrics alone from port 9090, on the chart's metrics Service, published as provides.metrics_endpoint; false leaves that key empty. Reach for this realization where a chart registry is reachable at build time; reach for `litellm`, the workload synthesis, where the build must complete with nothing fetched.
Nguồn gốc
- Digest nội dung
- sha256:4b05d2324c063a955cb76b895050e79ddc8043a3c4eead99869e424e3f34160d
- Đã xuất bản
- 2026-11-10T10:25:00Z
- Danh tính ký
- https://token.actions.githubusercontent.com/https://github.com/aggrega-ai/aggrega-hub/.github/workflows/catalog-publish-sign.yml@refs/heads/main
Chữ ký
- Chính thứcapplication/vnd.dev.sigstore.bundle.v0.3+json
https://token.actions.githubusercontent.com/https://github.com/aggrega-ai/aggrega-hub/.github/workflows/catalog-publish-sign.yml@refs/heads/main
sha256:53a3f842a2c13b2decd5a6875532c1708470001d00fafad4985bb06e036f9f1b
Tham chiếu ở phiên bản này
oci://hub.aggrega.ai/recipe/helm/litellm-chart:1.0.0- Đích
- —
- Triển khai
- core/ai-model/litellm:1.0.0
Cung cấp
Các mẫu con trỏ xác định mà công thức này nối cho bên tiêu thụ.
| Tên | Mẫu |
|---|---|
| host | {{ .context.rendered_name }} |
| port | {{ .infra.port }} |
| endpoint | http://{{ .context.rendered_name }}:{{ .infra.port }}/v1 |
| model | {{ .values.model }} |
| protocol | http |
| metrics_endpoint | {{ if .values.metrics_enabled }}http://{{ .context.rendered_name }}-metrics:{{ .locals.metrics_port }}/metrics{{ end }} |
Workload
Chưa khai báo mẫu khối lượng công việc nào.
Giá trị cục bộ
| Tên | Mẫu |
|---|---|
| request_filter_module | request_field_filter |
| gateway_address | 127.0.0.1 |
| gateway_port | {{ if eq (int .infra.port) 65535 }}65534{{ else }}{{ add1 (int .infra.port) }}{{ end }} |
| metrics_port | 9090 |
| gateway_metrics_port | 9091 |
| path_allowlist_file | path-allowlist.conf |
| path_allowlist_image_tag | 1.27.5-alpine |
| request_guard_config_map_name | {{ .context.instance_id }}-request-guard |
| request_guard_dir | /etc/litellm-request-guard |
| request_guard_delivery | config_map |
| forward_organization_routes | false |
Ánh xạ values
Chưa khai báo ánh xạ values nào.
Quan hệ
Các cạnh có kiểu đi tới và đi từ các thực thể đã xuất bản khác. Một tham chiếu không có đích đã xuất bản được hiển thị là một cạnh bị đứt thay vì một liên kết.
Sử dụng
- triển khaitriển khaihợp đồng tương thích
core/ai-model/litellm:1.0.0
Tất cả đầu ra bắt buộc đều được đáp ứng và mọi đầu ra được cung cấp đều được nêu tên trong hợp đồng.
Được sử dụng bởi
Không có gì trong danh mục phụ thuộc vào thực thể này.