Ta strona została przetłumaczona maszynowo. Przeczytaj oryginał w języku angielskim.

Recipe

vllm

vLLM as a self-hosted inference server on Kubernetes via the helm provider's Workload synthesis, running the official upstream image directly (no external Helm chart). Renders a StatefulSet: a weights-pull initContainer resolves the model pointer into a per-replica model-cache volume, and the serving container mounts the same volume and serves the OpenAI-compatible API behind a ClusterIP Service. The model value is a deterministic pointer the initContainer resolves at pod start; the compiler never fetches weights. When the optional model_pull_token credential slot is attached the token reaches the initContainer as an env secretKeyRef, so it never appears in the rendered manifest; unattached, weights are pulled anonymously, byte-identically to a recipe with no slot. When the optional api_key slot is attached the key reaches the serving container as VLLM_API_KEY the same way, and the server requires it of every caller under /v1; unattached, it requires none. provides.host is the bare, self-contained in-cluster service name; a consumer in another namespace qualifies it on its own side. provides.metrics_endpoint names the server's metrics on the same Service while it runs one replica; above one it is empty and metrics_service names that Service for a scraper to discover every replica behind it.

Pochodzenie

OficjalnyPodpisano tożsamością podpisującą, którą ten katalog uznaje za oficjalnego wydawcę.
Skrót zawartości
sha256:b7e2a07da70253727e8cce5267d1000fb9f03ee57bea809b17922fae4b5bf62c
Opublikowano
2026-11-10T10:28:02Z
Tożsamość podpisująca
https://token.actions.githubusercontent.com/https://github.com/aggrega-ai/aggrega-hub/.github/workflows/catalog-publish-sign.yml@refs/heads/main

Podpis

  • Oficjalnyapplication/vnd.dev.sigstore.bundle.v0.3+json

    https://token.actions.githubusercontent.com/https://github.com/aggrega-ai/aggrega-hub/.github/workflows/catalog-publish-sign.yml@refs/heads/main

    sha256:aac522f6ab46c06eba722df4dd23c4c23e1d2d7b257c557dd91e852f8cd02822

Referencja w tej wersji

oci://hub.aggrega.ai/recipe/helm/vllm:1.0.0
Cel
—
Implementuje
core/ai-model/vllm:1.0.0

Udostępnia

Deterministyczne szablony wskaźników, które ta receptura podłącza dla konsumentów.

NazwaSzablon
host{{ .context.rendered_name }}-default
port{{ .infra.port }}
endpointhttp://{{ .context.rendered_name }}-default:{{ .infra.port }}/v1
model{{ default .values.model .values.served_model_name }}
protocolhttp
metrics_endpoint{{ if le (int .infra.replicas) 1 }}http://{{ .context.rendered_name }}-default:{{ .infra.port }}/metrics{{ end }}
metrics_service{{ if gt (int .infra.replicas) 1 }}{{ .context.rendered_name }}-default{{ end }}
metrics_service_port{{ if gt (int .infra.replicas) 1 }}http{{ end }}
metrics_pod_selector
metrics_pod_port
metrics_path{{ if gt (int .infra.replicas) 1 }}/metrics{{ end }}

Workload

Workload · form: stateful · replicas: {{ · containers: main

Zmienne lokalne

Nie zadeklarowano zmiennych lokalnych.

Mapowanie wartości

Nie zadeklarowano mapowania wartości.

Relacje

Typowane krawędzie do innych opublikowanych encji i od nich. Odwołanie bez opublikowanego celu jest renderowane jako przerwana krawędź, a nie jako łącze.

Używa

  • implementujeimplementujekontrakt zgodny

    core/ai-model/vllm:1.0.0

    Wszystkie wymagane wyjścia są spełnione, a każde udostępniane wyjście jest wymienione w kontrakcie.

Używane przez

Nic w katalogu nie zależy od tej encji.

Dokumentacja pojęcia Recipe →

Katalog Aggrega — otwarty indeks komponentów, funkcji, receptur oraz wtyczek, które je renderują.

Zbudowano przy użyciu wspólnego systemu projektowego Aggrega.

Prywatność