Diese Seite wurde maschinell übersetzt. Englisches Original lesen.

Recipe

tgi

Text Generation Inference as a self-hosted inference server for local development via Docker Compose, synthesized from the Workload kind by the compose provider. A weights-pull step, running the runtime's own downloader from the serving image at the same tag, resolves the model pointer into a named model-cache volume before the server starts; the compiler never fetches weights. The server is started under the weights identifier, which is the model name published to consumers. An attached model_pull_token is rendered as the HF_TOKEN environment variable on the pull step, which is also the key the credential must publish under; unattached, weights are pulled anonymously. An attached api_key is rendered the same way as API_KEY on the serving service, and the server then requires it of every caller on its generation routes. A GPU count is honoured: the compose provider reserves that many NVIDIA GPUs for the serving service, which the Docker host must be able to hand out. Compose is single-host: the replica count and the GPU runtime class are authored all the same, and the build reports each as an unsupported-field warning naming the setting. provides.host is the compose service name, which a consumer on the same compose network resolves directly.

Herkunft

OffiziellSigniert von einer Signaturidentität, die dieser Katalog als offiziellen Herausgeber anerkennt.
Inhalts-Digest
sha256:957c5f867ba3afbaa0e06bd205048758f2a232c688cfeaf46213e2eba0daf764
Veröffentlicht
2026-11-10T10:21:06Z
Signaturidentität
https://token.actions.githubusercontent.com/https://github.com/aggrega-ai/aggrega-hub/.github/workflows/catalog-publish-sign.yml@refs/heads/main

Signatur

  • Offiziellapplication/vnd.dev.sigstore.bundle.v0.3+json

    https://token.actions.githubusercontent.com/https://github.com/aggrega-ai/aggrega-hub/.github/workflows/catalog-publish-sign.yml@refs/heads/main

    sha256:cc2dfa9a8128165b647879bb71193d014bd641b07e790e5766d18527afd8420d

Referenz zu dieser Version

oci://hub.aggrega.ai/recipe/compose/tgi:1.0.0
Ziel
—
Implementiert
core/ai-model/tgi:1.0.0

Stellt bereit

Deterministische Zeigervorlagen, die dieses Rezept für Konsumenten verdrahtet.

NameVorlage
host{{ .context.instance_id }}
port{{ .infra.port }}
endpointhttp://{{ .context.instance_id }}:{{ .infra.port }}/v1
model{{ .values.model }}
protocolhttp
metrics_endpointhttp://{{ .context.instance_id }}:{{ .infra.port }}/metrics
metrics_service
metrics_service_port
metrics_path

Workload

Workload · form: stateless · replicas: {{ · containers: main

Lokale Variablen

Keine lokalen Variablen deklariert.

Wertezuordnung

Keine Wertezuordnung deklariert.

Beziehungen

Typisierte Kanten zu und von anderen veröffentlichten Entitäten. Eine Referenz ohne veröffentlichtes Ziel wird als unterbrochene Kante statt als Link dargestellt.

Verwendet

  • implementiertimplementiertVertrag kompatibel

    core/ai-model/tgi:1.0.0

    Alle erforderlichen Ausgaben sind erfüllt, und jede bereitgestellte Ausgabe ist im Vertrag genannt.

Verwendet von

Nichts im Katalog hängt von dieser Entität ab.

Konzeptreferenz zu Recipe →

Der Aggrega-Katalog — ein offener Index von Komponenten, Funktionen, Rezepten und den Plugins, die sie rendern.

Erstellt mit dem gemeinsamen Aggrega-Designsystem.

Datenschutz