FeatureRecipe
semantic-caching-azure-api-management
Realizes core/semantic-caching on core/gateway/azure-api-management's terraform Recipe; a Release binds it in its Manifest. It writes a cache lookup and a cache store into the API's policy and emits no file. embedding_model names an API Management backend for an embeddings model that the instance already holds and reaches with its managed identity; the instance also needs a Redis cache with RediSearch configured as its external cache. The build cannot see either, so the gateway's Recipe halts until the operator affirms that cache by setting infra.cache_serves_vector_search. A reply is kept for ttl_seconds, apart per API and per API Management subscription, so it honours scope key and refuses end_user by name: the API validates no end user's token, so the gateway has no verified end user to keep apart. Key needs the subscription key the API requires by default. similarity_threshold is written as score-threshold, 1 minus the threshold, reading Azure's score as a cosine distance: Microsoft gives the score's range and direction, lower requiring closer prompts, but not its measure. Microsoft warns a similar prompt can be served a reply that is wrong for it. That the policy applies as described is not observed by any build.
Nguồn gốc
- Digest nội dung
- sha256:8a64351412e440523d3bf50c49c4721703631067b28f6c419835d8afc9aff063
- Đã xuất bản
- 2026-11-10T10:16:52Z
- Danh tính ký
- https://token.actions.githubusercontent.com/https://github.com/aggrega-ai/aggrega-hub/.github/workflows/catalog-publish-sign.yml@refs/heads/main
Chữ ký
- Chính thứcapplication/vnd.dev.sigstore.bundle.v0.3+json
https://token.actions.githubusercontent.com/https://github.com/aggrega-ai/aggrega-hub/.github/workflows/catalog-publish-sign.yml@refs/heads/main
sha256:fd14e00f53267cbdbb31207ae1e80540d0c3087d689a703a36ad79d8f3eb0c0e
Tham chiếu ở phiên bản này
oci://hub.aggrega.ai/featurerecipe/terraform/semantic-caching-azure-api-management:1.0.0- Đích
- —
- Triển khai
- core/semantic-caching:1.0.0
Cung cấp
Các mẫu con trỏ xác định mà công thức này nối cho bên tiêu thụ.
Chưa khai báo mẫu provides nào.
Ánh xạ tiêm
azure_api_management:
semantic_cache_lookup: {{ printf "<llm-semantic-cache-lookup score-threshold=\"%s\" embeddings-backend-id=\"%s\" embeddings-backend-auth=\"system-assigned\">\n <vary-by>@(context.Api.Id)</vary-by>\n <vary-by>@(context.Subscription.Id)</vary-by>\n</llm-semantic-cache-lookup>" .locals.score_threshold .values.embedding_model | toJson }}
semantic_cache_store: {{ printf "<llm-semantic-cache-store duration=\"%v\" />" .values.ttl_seconds | toJson }}
subscription_scoped.{{ .attachment_name }}: "core/semantic-caching"
Workload
Chưa khai báo mẫu khối lượng công việc nào.
Giá trị cục bộ
| Tên | Mẫu |
|---|---|
| score_threshold | {{ printf "%.6g" (subf 1.0 (float64 .values.similarity_threshold)) }} |
Ánh xạ values
Chưa khai báo ánh xạ values nào.
Quan hệ
Các cạnh có kiểu đi tới và đi từ các thực thể đã xuất bản khác. Một tham chiếu không có đích đã xuất bản được hiển thị là một cạnh bị đứt thay vì một liên kết.
Sử dụng
- triển khaitriển khai
core/semantic-caching:1.0.0
Được sử dụng bởi
Không có gì trong danh mục phụ thuộc vào thực thể này.