Recipe
ollama
Ollama as a self-hosted inference server for local development via Docker Compose, synthesized from the Workload kind by the compose provider. A weights-pull step, running the same image at the same tag, resolves the model pointer into a named model-cache volume before the server starts, and a failed pull holds the server back; the compiler never fetches weights. The server serves what the cache holds, so the model name published to consumers is the weights identifier itself. An attached model_pull_token is rendered as the OLLAMA_PULL_TOKEN environment variable on the pull step, which is also the key the credential must publish under; unattached, weights are pulled anonymously. A GPU count is honoured: the compose provider reserves that many NVIDIA GPUs for the serving service, which the Docker host must be able to hand out. Compose is single-host: the replica count and the GPU runtime class are authored all the same, and the build reports each as an unsupported-field warning naming the setting. provides.host is the compose service name, which a consumer on the same compose network resolves directly.
Herkunft
- Inhalts-Digest
- sha256:7135f62c0c4249a1542715f7bf2d875914fe1537af83bc03492f851cc6f101e8
- Veröffentlicht
- 2026-11-10T10:20:04Z
- Signaturidentität
- https://token.actions.githubusercontent.com/https://github.com/aggrega-ai/aggrega-hub/.github/workflows/catalog-publish-sign.yml@refs/heads/main
Signatur
- Offiziellapplication/vnd.dev.sigstore.bundle.v0.3+json
https://token.actions.githubusercontent.com/https://github.com/aggrega-ai/aggrega-hub/.github/workflows/catalog-publish-sign.yml@refs/heads/main
sha256:4da5a8e7c22140fac06b3e1f07eaadcec7901dde8a0b0b59a6be48bb7a430b8a
Referenz zu dieser Version
oci://hub.aggrega.ai/recipe/compose/ollama:1.0.0- Ziel
- —
- Implementiert
- core/ai-model/ollama:1.0.0
Stellt bereit
Deterministische Zeigervorlagen, die dieses Rezept für Konsumenten verdrahtet.
| Name | Vorlage |
|---|---|
| host | {{ .context.instance_id }} |
| port | {{ .infra.port }} |
| endpoint | http://{{ .context.instance_id }}:{{ .infra.port }}/v1 |
| model | {{ .values.model }} |
| protocol | http |
Workload
Workload · form: stateless · replicas: {{ · containers: main
Lokale Variablen
Keine lokalen Variablen deklariert.
Wertezuordnung
Keine Wertezuordnung deklariert.
Beziehungen
Typisierte Kanten zu und von anderen veröffentlichten Entitäten. Eine Referenz ohne veröffentlichtes Ziel wird als unterbrochene Kante statt als Link dargestellt.
Verwendet
- implementiertimplementiertVertrag kompatibel
core/ai-model/ollama:1.0.0
Alle erforderlichen Ausgaben sind erfüllt, und jede bereitgestellte Ausgabe ist im Vertrag genannt.
Verwendet von
Nichts im Katalog hängt von dieser Entität ab.