Trang này được dịch bằng máy. Đọc bản gốc tiếng Anh.

ArtifactLibrary

KongModelRoutes

The routes a Kong gateway serves for the models wired to it, written as Kong's own declarative configuration, as one bundle every Recipe running that gateway imports, so the configuration and the rules it is written by live here once. ModelRoutes writes, for each connection on the importing Component's models socket, a service named model-<alias> addressed at the endpoint the model publishes, with a chat route at /<alias>/v1/chat/completions and a completion route at /<alias>/v1/completions, each through Kong's request transformer and AI proxy. A connection carrying a credential has its routes present it as a bearer token read through Kong's environment vault, which names the variable and never the value. With nothing wired to the models socket it writes nothing. The importing Recipe picks the delivery with the local model_routes_delivery — config_map, one ConfigMap for a Kubernetes target, or compose_configs, one compose config — and declares as locals the names and the variable parts it shares with the bundle, which stops the build when one is missing or differs. The bundle is authored against Kong 3.9.3. On the open-source edition it writes Kong's AI Prompt Guard on every route while the importing component carries core/prompt-deny-patterns. A Recipe running Kong Gateway Enterprise declares model_routes_edition: enterprise, and the bundle then writes what the importing component's core/fallback-chain, core/period-budget and core/data-masking attachments ask for: AI Proxy Advanced on a chained alias's routes, AI Rate Limiting Advanced for the whole gateway or on each wired model's service, and the AI PII Sanitizer on each wired model's routes.

Nguồn gốc

Chính thứcĐược ký bởi một danh tính ký mà danh mục này công nhận là nhà phát hành chính thức.
Digest nội dung
sha256:7d26466cddb79038e9b4c81d7a536f85fa91801fd6824f1b636e9ec60b502145
Đã xuất bản
2026-11-10T10:06:55Z
Danh tính ký
https://token.actions.githubusercontent.com/https://github.com/aggrega-ai/aggrega-hub/.github/workflows/catalog-publish-sign.yml@refs/heads/main

Chữ ký

  • Chính thứcapplication/vnd.dev.sigstore.bundle.v0.3+json

    https://token.actions.githubusercontent.com/https://github.com/aggrega-ai/aggrega-hub/.github/workflows/catalog-publish-sign.yml@refs/heads/main

    sha256:d415b6eae2bd0d3836abaefbdf5a3c7d95f8d639b105073e45815ca6bc6dabe1

Tham chiếu ở phiên bản này

oci://hub.aggrega.ai/artifactlibrary/kongmodelroutes:1.0.0

Quan hệ

Thực thể này không tham chiếu tới và cũng không được tham chiếu bởi bất kỳ thực thể đã xuất bản nào khác.

Danh mục Aggrega — chỉ mục mở gồm các thành phần, tính năng, công thức và các plugin kết xuất chúng.

Được xây dựng bằng hệ thống thiết kế dùng chung của Aggrega.

Quyền riêng tư