Cette page a été traduite automatiquement. Lire l’original en anglais.

Recipe

nvidia-nim-service

NVIDIA Inference Microservice realized as a `NIMService` custom resource that NVIDIA's NIM Operator reconciles, rather than a directly synthesized StatefulSet, selectable in the Manifest beside the synthesis and chart realizations. Using it needs an NVIDIA account and an NGC API key, under NVIDIA's licence terms: the operator runs the NIM image infra.image names, which the reader must be entitled to pull, and reads the key from the Secret the ngc_api_key slot names, so the build halts while that slot is unattached. The catalog names no image. The resource is authored against the operator's 3.1.2 release at the `apps.nvidia.com/v1alpha1` API, and written into the namespace the Release, or else the Aggregate, names through the aggrega.ai/namespace annotation. The operator runs one serving replica on one model-cache claim it creates, requests the GPU on the container, and creates the Service provides names. The NIM Operator is a runtime prerequisite: the build halts unless the operator affirms it with infra.control_plane_present. Reach for this realization where the operator runs, or is declared beside the model as `core/ai-model/nvidia-nim-operator`; reach for `nvidia-nim`, the synthesis, where it is not, or where more than one replica is wanted.

Provenance

OfficielSigné par une identité de signature que ce catalogue reconnaît comme éditeur officiel.
Empreinte du contenu
sha256:4f44a85304e3debda09a88693d88910da6f8deb2435585967d39ef477e733469
Publié
2026-11-10T10:25:58Z
Identité de signature
https://token.actions.githubusercontent.com/https://github.com/aggrega-ai/aggrega-hub/.github/workflows/catalog-publish-sign.yml@refs/heads/main

Signature

  • Officielapplication/vnd.dev.sigstore.bundle.v0.3+json

    https://token.actions.githubusercontent.com/https://github.com/aggrega-ai/aggrega-hub/.github/workflows/catalog-publish-sign.yml@refs/heads/main

    sha256:08096bff187317b22fc05bc2c06fa1ec7ef80483f6a014d0e4d9a50a2de7a562

Référence à cette version

oci://hub.aggrega.ai/recipe/helm/nvidia-nim-service:1.0.0
Cible
—
Implémente
core/ai-model/nvidia-nim:1.0.0

Fournit

Modèles de pointeurs déterministes que cette recette câble pour les consommateurs.

NomModèle
host{{ .context.instance_id }}
port{{ .infra.port }}
endpointhttp://{{ .context.instance_id }}:{{ .infra.port }}/v1
model{{ .values.model }}
protocolhttp
metrics_endpointhttp://{{ .context.instance_id }}:{{ .infra.port }}/v1/metrics
metrics_service
metrics_service_port
metrics_path

Workload

Aucun modèle de charge de travail déclaré.

Variables locales

Aucune variable locale déclarée.

Correspondance des valeurs

Aucune correspondance des valeurs déclarée.

Relations

Arêtes typées vers et depuis d’autres entités publiées. Une référence sans cible publiée s’affiche comme une arête rompue plutôt que comme un lien.

Utilise

  • implémenteimplémentecontrat compatible

    core/ai-model/nvidia-nim:1.0.0

    Toutes les sorties obligatoires sont satisfaites et chaque sortie fournie est nommée dans le contrat.

Utilisé par

Rien dans le catalogue ne dépend de cette entité.

Référence du concept Recipe →

Le catalogue Aggrega — un index ouvert de composants, de fonctionnalités, de recettes et des plugins qui en assurent le rendu.

Conçu avec le système de design partagé d’Aggrega.

Confidentialité