Trang này được dịch bằng máy. Đọc bản gốc tiếng Anh.

Recipe

nvidia-nim-chart

NVIDIA Inference Microservice as a self-hosted, GPU-native inference server on Kubernetes through NVIDIA's own `nim-llm` Helm chart, pulled from NVIDIA's chart repository at helm.ngc.nvidia.com. Using it needs an NVIDIA account and an NGC API key, under NVIDIA's licence terms: the chart's licence file names LicenseRef-NvidiaProprietary, and it runs the NIM image infra.image names, which the reader must be entitled to pull. The catalog names no image, and the build halts until infra.image is set. The chart renders a StatefulSet giving each replica its own model-cache claim, its Service on infra.port and the headless Service beside it. An attached ngc_api_key reaches the chart as the name and data key of its Secret, so no key is rendered. The chart's connection-test Pods are left out, and its autoscaler, ingress and monitor stay off. Reach for this realization where NVIDIA's chart is wanted and its repository is reachable from the build. Reach for `nvidia-nim`, the workload synthesis, where the build must fetch nothing or a GPU runtime class is named, which this chart cannot set; reach for `nvidia-nim-service` where the NIM Operator runs.

Nguồn gốc

Chính thứcĐược ký bởi một danh tính ký mà danh mục này công nhận là nhà phát hành chính thức.
Digest nội dung
sha256:d6cf7a6063cef8a96cb769b9740e3a4f728282136bd441a06f0ce180b9881cad
Đã xuất bản
2026-11-10T10:25:59Z
Danh tính ký
https://token.actions.githubusercontent.com/https://github.com/aggrega-ai/aggrega-hub/.github/workflows/catalog-publish-sign.yml@refs/heads/main

Chữ ký

  • Chính thứcapplication/vnd.dev.sigstore.bundle.v0.3+json

    https://token.actions.githubusercontent.com/https://github.com/aggrega-ai/aggrega-hub/.github/workflows/catalog-publish-sign.yml@refs/heads/main

    sha256:4dbf08dc37bd5b0742c8515e0f084276af2a05876a73a0a76320c2f520623b50

Tham chiếu ở phiên bản này

oci://hub.aggrega.ai/recipe/helm/nvidia-nim-chart:1.0.0
Đích
—
Triển khai
core/ai-model/nvidia-nim:1.0.0

Cung cấp

Các mẫu con trỏ xác định mà công thức này nối cho bên tiêu thụ.

TênMẫu
host{{ .context.rendered_name }}
port{{ .infra.port }}
endpointhttp://{{ .context.rendered_name }}:{{ .infra.port }}/v1
model{{ .values.model }}
protocolhttp
metrics_endpoint{{ if le (int .infra.replicas) 1 }}http://{{ .context.rendered_name }}:{{ .infra.port }}/v1/metrics{{ end }}
metrics_service{{ if gt (int .infra.replicas) 1 }}{{ .context.rendered_name }}{{ end }}
metrics_service_port{{ if gt (int .infra.replicas) 1 }}http-openai{{ end }}
metrics_path{{ if gt (int .infra.replicas) 1 }}/v1/metrics{{ end }}

Workload

Chưa khai báo mẫu khối lượng công việc nào.

Giá trị cục bộ

Chưa khai báo giá trị cục bộ nào.

Ánh xạ values

Chưa khai báo ánh xạ values nào.

Quan hệ

Các cạnh có kiểu đi tới và đi từ các thực thể đã xuất bản khác. Một tham chiếu không có đích đã xuất bản được hiển thị là một cạnh bị đứt thay vì một liên kết.

Sử dụng

  • triển khaitriển khaihợp đồng tương thích

    core/ai-model/nvidia-nim:1.0.0

    Tất cả đầu ra bắt buộc đều được đáp ứng và mọi đầu ra được cung cấp đều được nêu tên trong hợp đồng.

Được sử dụng bởi

Không có gì trong danh mục phụ thuộc vào thực thể này.

Tài liệu tham khảo khái niệm Recipe →

Danh mục Aggrega — chỉ mục mở gồm các thành phần, tính năng, công thức và các plugin kết xuất chúng.

Được xây dựng bằng hệ thống thiết kế dùng chung của Aggrega.

Quyền riêng tư