コンテンツにスキップ
AggregaAggrega
言語の選択: 日本語
このページは機械翻訳されています。英語の原文を読む。

AI Features

Aggrega の AI Feature セット

現代の AI システム特有の要求、変動性、セキュリティ脅威に対応するため、Aggrega はオープンソースの AI 標準ライブラリ(カタログ) に専門的なインテリジェンスを直接組み込んでいます。これにより、汎用的なクラウドネイティブの足場と、高度に専門化された AI ネイティブの推論エンジンが安全に共存できます。

中核となる Go コンパイラは内容に対して中立なユニバーサルルーターです。AI 固有のインテリジェンスはすべて、プラグ可能な WebAssembly(Wasm)ポリシーと、Platform Architect がカタログエンティティ上に記述する JSON Schema 2020-12 の宣言に存在します。

1. 運用クラウドオントロジーと AI ダックタイピング

汎用的な Open Application Model(OAM)と現代のインフラストラクチャの厳密な現実とを橋渡しするため、component.aggrega.ai/type ラベルは ユニバーサルなクラウドネイティブプリミティブ の閉じた集合にのみ対応します。このセマンティックな識別情報は、ソケットセレクター、Feature の appliesTo、ガバナンスポリシーが、コンポーネントが状態、ネットワークイングレス、ライフサイクルをどう扱うかを知るために読み取るものです。コンパイラはこれを不透明な文字列として照合するだけで、それに基づいて分岐することはなく、コンポーネントがどうレンダリングされるかは、Manifest がそのコンポーネントにマッピングする Recipe によって決まります。

クラウドネイティブタイプ(インフラストラクチャの基盤):

  • server:インバウンドのアプリケーショントラフィックを受け付ける 、長時間稼働するステートレスなコンピュート(例:AI ゲートウェイやチャット UI)。
  • worker:インバウンドのアプリケーションポートを持たず、キューから取得するかバックグラウンドループを実行する 、長時間稼働するステートレスなコンピュート(例:LangGraph エージェントや Celery ワーカー)。
  • task:完了まで実行されて終了する一時的なコンピュート(例:DB マイグレーションスクリプト)。
  • function:ゼロまでスケールするイベント駆動のコンピュート(例:AWS Lambda)。
  • stateful-server:安定したネットワーク識別子と永続ディスクを必要とするクラスタ内のコンピュート(例:Qdrant ベクトルデータベース、Kafka ブローカー)。
  • resource:外部のプラットフォーム管理インフラストラクチャ(例:AWS RDS PostgreSQL、S3 バケット、ホスト型イベントバス)。

この集合は Aggrega 独自のものであり、閉じています。 公開されている Component スキーマはこれらの値を列挙しており、それ以外の値を持つドキュメントは読み込み時に拒否されます。E0215 がそのラベルを示し、受け付ける値を列挙します。これがこの軸の利点です。stateful-server に対して記述された Feature やソケットセレクタは、どのカタログでも同じ意味を持ちます。

独自の語彙でコンポーネントが 何であるか は、独自のキーに記述します。 ティア、データゾーン、サービスクラス、プリミティブのより細かい区分などは、いずれも予約済みキーの横に記述するラベルキーです。Component スキーマは文字列値を持つ任意の追加ラベルキーを受け付け、すべてのセレクタはそれを同じように読み取るためです。これは後述の AI ダックタイピングラベルがすでに使っている仕組みと同じです。予約済みキーは共通の土台であり、その上はすべて自由に定義できます。

運用タイプは閲覧カテゴリではなく、両者は意図的に別々の軸になっています。 Kafka ブローカーは messaging カテゴリ(ユーザーが探す場所)に属し、タイプ として stateful-server を持ちます。インフラストラクチャがそれに対して行うべきことがそれだからです。一方の軸に対して記述されたセレクタが、もう一方の軸に一致することはありません。

セマンティックラベル分類の表については entities/component を参照してください。Architect が基本タイプの上に認知的な識別情報を重ねるために使う、Generic Cloud Layer、Specialized AI Layer、Cross-Cutters、Dynamic Business Context の各ラベルが掲載されています。


1.1 オープンソースカタログの標準:「Naked Base, Flavored Edges」

これらのラベルを適用する際には、公式 Aggrega オープンソースカタログ(core/*)とプライベートエンタープライズカタログ(acme/*)との間に重要な区別があります。

公式のオープンソースカタログが普遍的に利用可能であり続けるには、不変の技術的物理特性と主観的な認知的意図を厳密に区別する必要があります。汎用の core/datastore/postgres に engine: relational がハードコードされていると、データストア種別の一致を強制するよう設定されたガバナンス判定プラグインは、開発者が values で pgvector 拡張を有効にし、vector データストアを必要とする AI エージェントを接続しようとした時点でビルドを停止させます。

主張を持たないコアカタログを維持するため、公式のコンポーネントは次の標準に従います:ベースは素のままに保ち、エッジに味付けする。

  1. 素のベース: ルートレベルのオープンソース Component がハードコードするのは、製品について客観的に真であり、作成者が設定するいかなるものによっても変更できないことだけです。まず、そして常に、運用上のプリミティブ(component.aggrega.ai/type)です。Postgres データベースは客観的に stateful-server であり、その事実は変わりません。同じ基準により、製品のアイデンティティがその機能 そのもの である場合には機能ラベルも認められます。core/datastore/qdrant と core/datastore/weaviate はベクトル検索エンジンであり、作成者が何を書いてもそれ以外のものにはならないため、core/datastore/redis が kv を持つのとまったく同様に、それぞれベースに datastore.aggrega.ai/engine: vector を持ちます。素のベースが拒むのはその逆のケース、すなわちコンポーネントの設定方法や使われ方に依存する特性であり、そのために後述の 3 つ目の仕組みが存在します。
  2. 味付けされたインターフェース(スキーマ継承): Component は extends を宣言して別の Component をベースとして指定でき、それが合成するのは構造です。すなわち、ラベル、アノテーション、アタッチメントスロット、セルフインジェクトの許可リスト、トポロジーソケット、および名前付きの assertions です。3 つのデータの柱は合成されません。拡張する Component はリテラルのマーカー schema: inherited を書き、独自の values、infra、provides の内容は一切記述しないため、その契約はベースのものと同一です。これが、この仕組みが変化させるのではなく絞り込む理由です。契約が変わらないため、ベース向けに書かれたすべての Recipe がすでに特化版にも対応し、特化版のコストはカタログエンティティ 1 つと Manifest のマッピング 1 行だけです。したがって特化版が追加するのは、セレクターやポリシーが読み取るアイデンティティです。監査ティア、データゾーン、ガバナンス担当者、あるいはベースのものより許容範囲の狭いセレクターを持つソケットなどです。異なる契約を追加することはできません。それを記述する場がないためです。見落としやすい帰結が 1 つあります:マッピング行は依然として必要です。 Recipe の選択は正確なマッピングキーによって行われるため、特化版は独自の Recipe を必要としなくても、独自の mappings.components.type エントリを必要とします。レビュー済みティアのラベルを追加し、それに基づいてソケットを絞り込む公開ラッパーと、そのソケットに接続されたエッジがティアから外れたときに停止するビルドについては、examples/extends-wrapper を参照してください。コンポーネントの設定方法に依存する特性は、この仕組みの対象ではありません。特化版はベースのアーティファクトを固定し、その契約を継承するため、特化版について真である特性はすでにベースについても真であり、素のベースのルールがそれをベースに置きます。そのような特性は後述の動的ミューテーターの領分です。
  3. 動的ミューテーター(Wasm による昇格): ある特性が開発者のペイロード(例: enable_vector: true)によって決まる場合、エンタープライズはトポロジー構築時にガバナンスソケットの label-transform ロールを使い、不透明な values を動的に読み取って、ポリシーが実行される前に datastore.aggrega.ai/engine: vector ラベルを IR グラフへ自動的に注入します。ここで、設定に依存する特性が厳密なポリシー評価で利用可能になります。それを昇格させるのは開発者が宣言した values であり、トランスフォームはいずれかのポリシーがラベルを読む前に実行されます。

エンタープライズの例外: コンパイラは主張を持たないため、独自の社内カタログを作成するエンタープライズはこのルールを自由に破れます。企業のセキュリティポリシーが社内のデータベースは すべて 機密性が高いと定めている場合、Platform Architect は compliance.aggrega.ai/data-class: restricted(または企業が定める同様のラベル)を acme/postgres ベースコンポーネントに直接ハードコードでき、またそうすべきです。そうすれば、そのすべてのインスタンスがそのクラスを持ち、エンタープライズがアタッチするポリシーがそのすべてでそれを読み取ります。ラベル自体は何も強制しません。コンパイラはそれを文字列として運ぶだけで、ビルドを停止させるのはアタッチされたポリシーです。ある製品の利用のうち一部だけがそのデータを保持する場合は、代わりに extends による特化版がそのクラスを持ちます。examples/policy-data-class-route を参照してください。そのクレームアシスタントは標準ライブラリの LangGraph エージェントにクラスラベルを 1 つ加えたもので、それを読み取るポリシーと並べて示されています。

1.2 セマンティックラベルがコンパイラパイプラインを駆動する仕組み

ラベルを Platform Architect の領域に保つため、開発者は Aggregate 内の Component インスタンスにラベルを書くことができません。Aggregate スキーマはコンポーネントインスタンスに labels キーを与えていません。ノードのラベルはそのカタログエンティティのラベルであり、これにオペレーターが設定した label-transform ガバナンスアタッチメントがトポロジー構築中に追加するラベルが加わります。これらのラベルが、カスタムの Go コードを必要とせずにコンパイルパイプラインをどのように駆動するかを、以下に正確に示します。

1. component.aggrega.ai/type(ベースプリミティブ)

  • 誰が書くか? Platform Architect(ドメイン 2)です。これはカタログ内のすべてのコンポーネントで必須です。
  • 誰が利用するか? Static Analyzer と Wasm Rendering Plugins です。
  • コンパイラでのユースケース: これはコアとなる運用クラウドオントロジーです。Static Analyzer は usesSchema セレクター文字列を Go でネイティブに評価し、ソケットが特定の AI 機能を要求する場合に、開発者がエージェントを標準のデータベースにアタッチできないことを保証します。さらに DevOps はこのラベルを使って、ステートフルなプリミティブ(stateful-server、resource)を永続ディスクをサポートする物理クラスター境界へ明示的にルーティングし、ガバナンス判定ロールは、ステートフルなコンポーネントがエフェメラル専用の境界に決して配置されないよう強制できます。

2. model.aggrega.ai/capability

  • 誰が書くか? Platform Architect です。
  • 誰が使うか? Static Analyzer です(usesSchema ソケットの Kubernetes 形式のラベルセレクターを介して)。
  • コンパイラでのユースケース: Architect が必要な機能ラベルを指定する usesSchema セレクターを記述すると、コンパイラのネイティブなラベル照合エンジンは、アーティファクトが生成される前に、そのセレクターを満たさない接続を拒否します。コンパイラはこれらのラベルを不透明な文字列として扱います。「text-generation」と「embedding」の意味の違いは、Architect によるセレクターの記述の中にあります。

3. component.aggrega.ai/hosting

  • 誰が書くか? Platform Architect です。
  • 誰が利用するか? Policy Engine(ガバナンス判定ロール)、Wasm Rendering Plugins、そして標準ライブラリ自身にあるモデルまたはエージェントの呼び出し元です。具体的には、各 model 接続でアサーションがこれを読むエージェント、target_agent 接続でアサーションがこれを読む core/ai-tool/agent-invocation(その Kubernetes 実現も同様にこれを読み、http 経由で到達する external エージェントへの認証情報の提供を拒否します)、models ソケットと cache_store ソケットへの各接続でアサーションがこれを読む AI ゲートウェイ、そして models ソケットへの各接続でアサーションがこれを読む core/gateway/kong、core/gateway/kong-enterprise、core/gateway/apisix、core/gateway/envoy-gateway、core/gateway/traefik-hub、core/gateway/agentgateway、core/gateway/higress です。これらのアサーションは、2 つの Kong の backend、APISIX と Traefik Hub の cache_store ソケット、および Envoy Gateway、Higress、Traefik Hub の cache ソケットへの各接続でもこれを読みます。後述の「呼び出し元が提示するキー」を参照してください。
  • コンパイラでのユースケース: このラベルは、コンポーネントの基盤となるリソースを誰が運用しているかを記録し、オペレーターが適用するポリシーがデータ流出のリスクを判断できるようにします。コンパイラは値を文字列として読むだけで、何も判断しません。クラスラベルで internal データを保持すると示された Agent が、managed とラベル付けされた Model(Release 自身の境界の外で運用されるサービス)に接続する場合、そのようなポリシーはデータがその境界を出ることを読み取り、接続が core/data-masking を持つ AI ゲートウェイを経由していない限りビルドを停止できます。このゲートウェイは、転送するチャットおよび補完のテキストをマスクします。エージェントの model ソケットはモデルの代わりにそのようなゲートウェイを受け付けるため、その経路はポリシーが読むグラフのエッジとなります。また、ゲートウェイが models ソケットから提供するモデルは、ゲートウェイからモデルコンポーネントへの独立したエッジであり、ポリシーはそのラベルを読みます。したがって、エージェントからゲートウェイを経て managed モデルに至る経路は、端から端までグラフ内に存在します。ゲートウェイのモデルマップに手作業で入力された上流はそうではありません。それはコンパイラが解決しない文字列であるため、グラフを読むポリシーにはゲートウェイが見えるだけで、その背後には何も見えません。examples/policy-data-class-route はそのようなポリシーです。その設定は managed モデルを public に分類し、restricted データを保持するアシスタントが、経路上にマスキングゲートウェイのないままそのようなモデルに到達するビルドを停止します。これは横断的な特性です。同じ self-hosted | managed | external の値は、モデルと同様に、マネージドデータベースや自前で運用する推論サーバーも表します。そのため、このラベルはモデル固有の名前空間ではなく、共有の component.aggrega.ai/ 名前空間に置かれています。

4. agent.aggrega.ai/autonomy

  • 誰が書くか? Platform Architect です。
  • 誰が利用するか: ポリシーエンジン(ガバナンスの verdict ロール)。
  • コンパイラでのユースケース: 認知ループの実行リスクを識別します。エージェントが autonomous(ユーザーのプロンプトなしにバックグラウンドループを実行することを意味します)とラベル付けされ、非常に機密性の高いデータベースに接続する場合、ポリシーエンジンは、企業自身のルールが求める承認または封じ込めの Feature を作成者がアタッチしない限りビルドを停止できます。これにより、無人のループがレビューなしにそのデータに到達することはありません。
  • この軸でラベルのないコンポーネントが意味すること(ラベルがないのは意図的です)。 このラベルは認知ループの実行リスクを表すため、自身のループを持たないコンポーネントは、2 つの値のうち低い方ではなく、何の値も持ちません。エージェントカテゴリの多くのコンポーネントがラベルを持たないのは、まさにその理由によります。エージェントプラットフォームがサーバーとともに提供する補助的な部品(ブラウザコンソール、スキーマ移行の実行、タスクワーカー、コードサンドボックス、エグレスプロキシ)は、探す場所がそこであるためにそのカテゴリに入っていますが、それらが支えるループはプラットフォームのサーバーにあり、ラベルもそこに置かれます。最も明確な例は、1 つの製品が両方の扱いに分かれる場合です。プラットフォームのサーバーは copilot を持ち、その横に同梱されるコードサンドボックスは何も持ちません。判定基準は部品の形ではなくループがどこにあるかであるため、利用者が提供するエージェントコードをホストするランタイムもラベルを持ちません。そこでのループはデプロイされたものであり、製品が主張するものではないからです。したがって、どちらかの値を指定するセレクターはループを持つコンポーネントだけに一致し、任意の自律性の姿勢に一致するよう書かれたセレクターは、補助的な部品をデプロイメント内で最も自律性の低いものとして扱うのではなく、それらを除外します。

5. gateway.aggrega.ai/intelligence

  • 誰が書くか? Platform Architect です。
  • 誰が利用するか: 静的アナライザー、および企業が作成したリンター Wasm プラグイン。
  • コンパイラでのユースケース: ルーターが物理的にサポートできる機能を規定します。AI の fallback-chain Feature は appliesTo: gateway.aggrega.ai/intelligence=semantic を宣言しており、静的アナライザーはアーティファクトがレンダリングされる前に、そのセレクターを対象コンポーネントのラベルに対して評価します。開発者がこれを標準の l4-mesh ゲートウェイにアタッチすると、Feature と満たせなかったセレクターを示すセレクター違反でビルドが停止します。これは、標準の TCP メッシュでは LLM の JSON ペイロードを解析してリクエストが指定するモデルを読み取れないことを知った上で、Architect がそのセレクターを作成したためです。この拒否は l4-mesh の存在ではなく semantic の不在から読み取られるため、intelligence ラベルをまったく持たないルーターにも同様に適用されます。コンパイラは上記と同じく、このラベルを不透明な文字列として扱います。semantic の意味は Architect のセレクター作成の中にあります。semantic を持つルーターではアタッチはセレクターを通過し、その後の動作はそのリアライゼーションに委ねられます。標準ライブラリのリアライゼーションは、チェーンを AI ゲートウェイのルーティング設定に書き込みます。
  • 標準ライブラリが持っているもの。 次のコンポーネントが semantic を持ちます。core/gateway/litellm(そのリアライゼーションはプロキシのルーティングテーブル、すなわち複数のアップストリームプロバイダーにまたがるモデルマップをレンダリングします)、core/gateway/cloudflare-ai-gateway(Cloudflare のホスト型ゲートウェイで、転送する各モデルリクエストについて、指定されたモデル、課金対象のトークン、そしてゲートウェイ自身のチェックが有効な場合はその内容を読み取ります)、core/gateway/azure-api-management(ホスト型サービスである Azure API Management の AI ゲートウェイで、モデルを提供する API 上の各モデルリクエストについて、セマンティックキャッシュが比較するプロンプト、応答が報告するトークン、安全性チェックが検査に送る内容を読み取ります)、core/gateway/apisix(その AI プロキシは、モデルを提供するルート上の各リクエストの本文と、モデルの応答が報告するトークンを読み取ります)、core/gateway/envoy-gateway(その Envoy AI Gateway 拡張は、接続されたモデルを提供するルート上の各リクエストの本文を読み取って指定されたモデルを見つけ、各応答が報告するトークンを読み取ります)、core/gateway/kong-enterprise(Kong Gateway Enterprise。その AI プロキシは、接続されたモデルを提供するルート上の各リクエストの本文、すなわち指定されたモデルと含まれるメッセージ、および各応答が報告するトークンを読み取ります)、core/gateway/traefik-hub(Traefik Hub。その Chat Completion ミドルウェアは、接続されたモデルを提供するルート上の各リクエストの本文を読み取り、チャット補完スキーマに照らして検査し、各応答が報告するトークンを読み取ります)、core/gateway/agentgateway(agentgateway。モデル提供パス上の各リクエストの本文を読み取って、指定されたモデル、リクエストの送信先となる接続済みモデルの選び方、各応答が報告するトークンを見つけます)、そして core/gateway/higress(Higress。その AI プロキシは、接続されたモデルを提供するルート上の各リクエストの本文、すなわち指定されたモデルとストリーミングの有無を読み取り、そのプラグインは各応答が報告するトークンを読み取ります)。したがって、この値を必要とする AI Features はこれらのいずれに対しても解決され、各リアライゼーションはそのゲートウェイが何を尊重するかを示すか、ゲートウェイが何も尊重しない場合はビルドを停止します。あるゲートウェイに対するリアライゼーションを持たない Feature は、その型を示してそこでビルドを停止します。l4-mesh を持つコンポーネントはなく、標準ライブラリの他のゲートウェイコンポーネントは intelligence ラベルをまったく持ちません。トラフィックをルーティングするものは HTTP を終端してレイヤー 7 でルーティングし、そのうちの 1 つは何もルーティングしないコントロールプレーンであるため、どちらの値もそれを表しません。レイヤー 4 の TCP メッシュはさらに別の製品クラスです。そのため、上記の拒否は semantic の不在から読み取られるので完全に有効なままです。その値を必要とするアタッチは、これらのいずれでも停止します。カタログでレイヤー 4 メッシュを実際に運用している Architect は、そのコンポーネントに l4-mesh を付与します。これにより、両方向でこの区別を選択できるようになります。
  • この軸が示すのは製品の階層であり、コンポーネントがトラフィックに対して何ができるかとは別の問いです。後者として読むことが、この軸が誘いやすい誤りです。semantic はルーターがリクエスト本文を解析することを示し、それはリクエストが指定するモデルに作用する制御に必要なものです。したがって、その用途にはこの軸が適切です。しかし、ルーターがトラフィックを複製できるか、呼び出し元の ID を伝えられるか、アップストリームの証明書を検証できるか、パターンのリストに一致するプロンプトを拒否できるか、期間ごとの予算を保持できるかについては何も示さず、それらのいずれかを必要とする Feature が階層を問う理由はありません。それらを提供するコンポーネントの大半は、intelligence の値をまったく持たない通常のレイヤー 7 プロキシであり、semantic ルーターがそれらを提供する場合も、階層が記録していない理由によって提供しています。そのため階層は両方向で誤った集合に届きます。プレーンなプロキシを完全に除外し、届いた AI ゲートウェイが実際にどの機能を持つかについては何も示しません。その問いは後述のデータパスの軸に属し、二つは組み合わせられます。Feature は両方を指定することで、ミラーリングも行う semantic ルーターを要求できます。

6. tool.aggrega.ai/impact

  • 誰が書くか? Platform Architect です。
  • 誰が消費するか? Policy Engine と Wasm Rendering Plugins です。
  • コンパイラのユースケース: これを開発者が変更可能な values ブロックから不変のラベル ID へ移すことで、ポリシーエンジンは厳格な最小権限の設定を評価できます。レンダリングプラグインは、read-only の Web 検索ツールには標準の invoke 権限を生成し、mutating の SQL-drop ツールの呼び出しには厳格な暗号署名の設定を要求する、といったことができます。

7. compliance.aggrega.ai/data-class

  • 誰が書くか? その環境自身のカタログの Platform Architect です(またはガバナンスの label-transform ロールによって動的に注入されます)。
  • 誰が利用するか: ポリシーエンジン(ガバナンスの verdict ロール)。
  • コンパイラのユースケース: コンポーネントが保持するデータに、ポリシーがグラフに沿って追跡できるガバナンス上の ID を与えます。コンパイラはラベルを文字列として IR グラフへ運ぶだけで、何も順位付けしません。restricted が public より機密性が高いことも、どちらかの語が何かを意味することも知りません。ir-verdict ロールにアタッチされたポリシーが、その意味を自身の設定で与え(どのクラスが存在し、どう順位付けされるか)、コンパイラが uses エッジ上で列挙する経路のコンポーネントのラベルを読みます。これにより、restricted データを保持するコンポーネントが、ポリシーが機密解除とみなす Feature(経路が通過する AI ゲートウェイ上の core/data-masking など)がアタッチされていない経路に沿って別のクラスのコンポーネントに到達するビルドを停止できます。列挙は起点のコンポーネントごとに上限があり、上限を超えたものは列挙しません。そのため、ポリシーが読む経路は実在しますが、経路がないことは存在しないことの証明にはなりません。examples/policy-data-class-route がそのポリシーで、CLI に組み込まれた Rego と CEL のエンジン、および OPA 向けに書かれており、停止するビルドと完了するビルドが並べて示されています。
  • 標準ライブラリが持つもの。 このラベルを持つ core/ Component はありません。コンポーネントのデータがどのクラスかは、環境がそのコンポーネントをどう使うかについての記述であり、どの Release でも成り立つ製品の性質ではないため、Naked Base のルールによりベースには付けません。環境は自身の Component にこれを付けます。作業例の claims assistant のような extends による特殊化か、前述の Enterprise Exception のもとでの独自のベースです。

8. hardware.aggrega.ai/accelerator

  • 誰が書くか? Platform Architect です。ローカルモデルのコンポーネントをパッケージ化する際、それが動作に GPU を本質的に必要とすることを知っています。
  • 誰が消費するか? DevOps(Domain 4)です。
  • コンパイラのユースケース: DevOps は、components: {} マップを介して、Release 内で GPU ラベル付きのコンポーネントを物理的なハードウェアプールの境界へ明示的に配置します。Developer は自身の Aggregate でコグニティブモデルを要求するだけで、DevOps がそれを高価な GPU クラスタの境界に配置するため、関心の分離が完全に保たれます。さらにガバナンスの判定ロールにより、このラベルを持つコンポーネントが GPU インフラのない境界に配置されないことを強制できます。

9. datastore.aggrega.ai/engine

  • 誰が書くか? Platform Architect が、datastore カテゴリのコンポーネントに付けます(静的に、フレーバー付きの特殊化上で、または開発者の values がロールを昇格させた場合に label-transform ロールによって注入されます)。カタログ全体で使われている値は次のとおりです: relational、document、kv、vector、graph、semantic-memory、search。各値は製品がそれであるストレージエンジンを示します(search はベクトルもインデックスする検索・分析エンジンを示します)。そのため、デプロイ可能なストアではなくアプリケーション自身のスキーマやアクセスパターンに存在する特性は、この軸の値ではありません。
  • 誰が消費するか? Static Analyzer(セレクター文字列を介して)と Policy Engine です。
  • コンパイラのユースケース: セレクターは製品ではなくストレージのセマンティクスを対象にします。エージェントのナレッジベースのソケットは datastore.aggrega.ai/engine in (vector, semantic-memory, search) を選択し、ポリシーエンジンはベクトルエンジンへの SQL ペイロードのルーティングを拒否できます。用途が二重のデータストアにおける AI との関連性はこのラベルから導出され、別個の boolean として保存されることはありません。
  • 標準ライブラリが持つもの。 core/datastore/qdrant、core/datastore/weaviate、core/datastore/chroma、core/datastore/pgvector、core/datastore/milvus は vector を、core/datastore/cognee は semantic-memory を、core/datastore/opensearch と core/datastore/elasticsearch は search を持つため、前述のナレッジベースのセレクターはそのいずれに対しても解決されます。core/datastore/redis、core/datastore/valkey、core/datastore/memcached は kv を持ちます。これらのラベルはすべてコンポーネント自身のベースに付いています。製品の ID がそのエンジンだからです。core/datastore/pgvector の場合、その ID は固定するアーティファクトにあります。拡張を含む pgvector プロジェクト独自の PostgreSQL イメージを実行し、どの Recipe もコンポーネントが作成するデータベースで拡張を有効にします。そのためベクトルの特性は設定に依存しません。これが、汎用の PostgreSQL が開発者が拡張を有効にしたときにのみ特性を得る、前述の「Naked Base, Flavored Edges」における設定の場合との違いです。relational、document、graph には標準ライブラリのコンポーネントがないため、これらの値のみを指定するセレクターはここでは何にも一致せず、それを持つカタログによって満たされます。

10. pipeline.aggrega.ai/mode

  • 誰が書くか? Platform Architect が、pipeline カテゴリのコンポーネントに付けます。各値は製品がマルチステップのジョブをどう実行するかを示し、値はあらかじめ定めたリストではなく、それを持つコンポーネントに従います。標準ライブラリは二つを持ちます。core/ai-pipeline/temporal の durable は、エンジンが各ステップの結果をイベント履歴として記録して再生するため、ワーカーがクラッシュしたジョブは停止した場所から再開します。core/ai-pipeline/argo-workflows の reconciled は、コントローラーがクラスタ自身の API に保持されたワークフローリソースから各ステップを pod として実行します。
  • 誰が消費するか? Policy Engine と Wasm Rendering Plugins です。
  • コンパイラのユースケース: ポリシーとレンダラーが、製品名ではなく、実行が障害をどう乗り越えるか(再生されるイベント履歴か、リコンサイルされるクラスタリソースか)によってパイプラインエンジンを区別できるようにします。

11. dataplane.aggrega.ai/*(データパスの機能)

  • 誰が書くか? Platform Architect が、トラフィックパス上にあるあらゆるコンポーネント(リバースプロキシ、イングレスゲートウェイ、サービスメッシュ、AI ゲートウェイ)に付けます。
  • 誰が消費するか? Static Analyzer が、Feature の appliesTo とソケットの usesSchema セレクターを介して消費します。
  • コンパイラのユースケース: このラベルは「このコンポーネントがトラフィックに対して何をできるか」に答えます。これはランタイムの制御が実際に知る必要があることであり、製品ティアのラベルでは表せないことです。ライブのリクエストを評価用に 2 つ目のサービスへコピーする core/traffic-shadowing は appliesTo: dataplane.aggrega.ai/request-mirroring(キーのみ)を宣言し、Static Analyzer は何かがレンダリングされる前にこれをターゲットのラベルに対して評価します。そのため、ミラーリングがまったくできないコンポーネントにこれをアタッチすると、その Feature と満たせなかったセレクタを示すセレクタ違反で停止します。コンパイラはこれらの文字列をすべて、他の文字列とまったく同じように不透明なものとして扱います。
  • 接頭辞がコンポーネントの種類ではなくトラフィックパスを名指す理由。 ミラーリング、呼び出し元のアイデンティティ、アップストリームの検証はゲートウェイの性質ではありません。リクエストパスに立つあらゆるものの性質であり、カタログに追加されたサービスメッシュはこの 3 つをすべて備えています。この系列を、たまたま最初にそれらを持っていたコンポーネントの種類にちなんで名付けると、後に続くすべての種類が同じ語彙を自身の接頭辞の下で言い直さなければならなくなり、1 つの機能に複数の名前があり、それらにまたがれるセレクタがない状態になります。
  • 忠実度が値に載る理由。 2 つのコンポーネントがどちらもリクエストをミラーリングでき、それでも Feature が気にする点で異なることがあります。一方は一致するすべてのリクエストをコピーし、もう一方はその設定可能な割合をコピーします。コンポーネントがミラーリングするかどうかだけを表すキーでは両方が受け入れられ、その違いはレンダリング後に発見されることになります。忠実度を値に入れることで、Feature に合う 2 つの方法のいずれかでそれを求められるようになります。ある忠実度なしではまったく機能しない Feature は、セレクタでその値を名指します。低い忠実度でも機能する Feature はキーのみで選択し、その実現はコンポーネントが守れない設定を拒否します。ストリーム全体のコピーはミラーリングするすべてのコンポーネントで機能するため、core/traffic-shadowing はそのすべてにアタッチされ、full-rate を宣言するコンポーネント向けの実現は、100 未満の割合を、求められた割合とコンポーネントが宣言する忠実度を示すメッセージで拒否します。この 2 つはセレクタ違反が述べない事柄です。したがって値は、分類体系として構成されるのではなく、出荷されている製品が実装しているものから導かれます。request-mirroring が full-rate と sampled を持つのは、実際のプロキシがまさにそのように分かれ、一方はコピー率の設定を提供し、もう一方は何も提供しないからです。
  • 値は機能を表明するものであり、設定された状態を表すことはありません。 この 2 つは開発者には同じように読めますが、コンポーネントの性質であるのは一方だけです。アップストリームの証明書を検証できるプロキシは、どのデプロイメントがそのチェックを有効にしているかに関係なく upstream-tls: trust-anchor を持ちます。ラベルは、何かが設定される前に Feature が選択の対象とするものであり、設定を載せると、使われる時点で読めなくなってしまいます。
  • 標準ライブラリが持つもの。 core/gateway/nginx は request-mirroring: full-rate、upstream-tls: trust-anchor、および転送するすべてのリクエストに対する 1 つの上限である concurrency-cap: total を持ちます。core/gateway/contour は request-mirroring: sampled、caller-identity: client-certificate、upstream-tls: trust-anchor を持ちます。core/gateway/envoy-gateway は core/gateway/contour と同じ 3 つの値に加え、Envoy AI Gateway を通じて提供するモデルの各応答が報告するトークンを数える period-budget: tokens と、提供する各モデルへの処理中リクエストに対する上限である concurrency-cap: per-target を持ちます。core/gateway/kong は upstream-tls: trust-anchor と prompt-guard: pattern-list を持ち、その AI Prompt Guard がモデルリクエストのメッセージをルートが保持するリストと照合します。core/gateway/tyk は upstream-pinning: public-key を持ち、これを core/upstream-key-pinning が選択します。core/gateway/litellm は caller-identity: injected-header、content-masking: entity-recognition、period-budget: cost、prompt-guard: pattern-list、upstream-tls: trust-anchor、およびモデルマップの各エントリへの処理中リクエストに対する上限である concurrency-cap: per-target を持ちます。core/gateway/cloudflare-ai-gateway は period-budget: cost を持ちます。core/gateway/apisix は、各モデルの応答が報告するトークンを数え、価格付けは何も行わない period-budget: tokens と、prompt-guard: pattern-list を持ちます。core/gateway/kong-enterprise は、各モデルの応答が報告するトークンを数える period-budget: tokens と、content-masking: entity-recognition を持ちます。core/gateway/traefik-hub は content-masking: entity-recognition と prompt-guard: pattern-list を持ち、その Content Guard ミドルウェアが、設定が保持するパターンの一致箇所や、呼び出す Presidio アナライザが検出するエンティティタイプをマスクし、またはパターンに一致するリクエストを拒否します。さらに、クォータミドルウェアに同梱されたモデルごとの価格表から価格付けされる period-budget: cost を持ち、代わりに各応答が報告するトークンを数えることもできます。core/gateway/agentgateway は content-masking: pattern-list と prompt-guard: pattern-list を持ち、その正規表現ガードが、設定が保持するパターンの一致箇所をマスクまたは拒否し、エンティティタイプは認識しません。さらに period-budget: cost を持ち、これは API キーごとに、モデルコストカタログから価格付けされた米ドル、またはトークンで保持する予算です。core/gateway/higress は content-masking: pattern-list を持ち、その ai-data-masking プラグインがチャットリクエストのメッセージのテキスト内で設定が保持するパターンの一致箇所をマスクし、エンティティタイプは認識しません。さらに、各応答が報告するプロンプトトークンと補完トークンを合わせて数え、価格付けは何も行わない period-budget: tokens を持ちます。core/gateway/azure-api-management は、各応答が報告するプロンプトトークンと補完トークンを合わせて数え、インスタンスの各ゲートウェイで別々にカウントし、価格付けは何も行わない period-budget: tokens を持ちます。core/security/nemo-guardrails と core/security/trustyai-guardrails-gateway は、モデルのパスに立ち、学習済み分類器でリクエストを判定する 2 つのガードで、prompt-guard: classifier を持ちます。これを AI ゲートウェイと NGINX ゲートウェイの guard ソケットが選択します。これらのうち AI ゲートウェイである core/gateway/litellm、core/gateway/cloudflare-ai-gateway、core/gateway/apisix、core/gateway/envoy-gateway、core/gateway/kong-enterprise、core/gateway/traefik-hub、core/gateway/agentgateway、core/gateway/higress、core/gateway/azure-api-management は semantic を持ち、残りは gateway.aggrega.ai/intelligence の値を持ちません。これは分離に対する例外ではなく、分離が機能している結果です。ミラーを必要とする Feature はミラーを持つ 3 つのコンポーネントに届きますが、製品ティアのセレクタではそのうち Envoy Gateway にしか届かず、しかもその理由はミラーリングについて何も語りません。また、プロンプトガード、コンテンツマスキング、期間予算を必要とする Feature は、AI ゲートウェイが属するティアではなく、それができることに基づいて AI ゲートウェイに届きます。一方、処理中リクエストに上限を設ける Feature は、ティアの値を持たない NGINX ゲートウェイにも、Envoy Gateway や AI ゲートウェイと同様に届き、パターンのリストに基づいてリクエストを拒否する Feature は、同じくティアの値を持たないオープンソース版 Kong にも、APISIX と同様に届きます。これらの軸のいずれかで記述すべきものがないコンポーネントは、最も弱い値ではなく、その軸に値を持ちません。そのため、その軸のいずれかの値を名指すセレクタは、正しくそのコンポーネントにはアタッチされません。

12. security.aggrega.ai/text-anonymization

  • 誰が書くか? Platform Architect が、機密テキストのマスキングに関わるサービスに書きます。その作業が 2 つのサービスに分かれている場合、analyzer はテキスト内の機密箇所を見つけて報告するサービスに付け、anonymizer は渡された箇所を書き換えるサービスに付けます。sanitizer は、送られたテキスト内の機密箇所を見つけて自ら書き換え、書き換えたテキストを応答として返すという両方を 1 回の呼び出しで行うサービスに付けます。
  • 誰が使うか? Static Analyzer が、ソケットの usesSchema セレクタを介して使います。
  • コンパイラのユースケース: コンシューマーに正しいアドレスが渡される仕組みです。core/gateway/litellm は security.aggrega.ai/text-anonymization=analyzer を選択する pii_analyzer ソケットと、anonymizer 値を選択する pii_anonymizer ソケットを宣言するため、どちらかのサービスをもう一方のソケットに接続すると、そのソケットを名指しするセレクター違反で停止します。core/gateway/kong-enterprise は sanitizer 値を選択する pii_sanitizer という 1 つのソケットを宣言し、core/gateway/traefik-hub は analyzer 値のみを選択する pii_analyzer という 1 つのソケットを宣言します。これは、そのチャートの Recipe が core/data-masking のために書き出す Content Guard が、アナライザーの検出したものを自ら置換するためです。コンパイラは選択されたコンポーネントが公開するアドレスをルーティングするだけで、そこで何が応答するかについては何も検査しません。
  • 標準ライブラリの内容。 core/security/presidio-analyzer は analyzer を、core/security/presidio-anonymizer は anonymizer を持ちます。どちらも、core/data-masking のアタッチメント、またはゲートウェイ自身の values.log_masking がエンティティタイプを列挙しているときに AI ゲートウェイが呼び出す Presidio HTTP API を話します。また Traefik Hub の Content Guard は、そのゲートウェイ上の core/data-masking アタッチメントがエンティティタイプを列挙しているとき、アナライザーのみを呼び出します。core/security/kong-ai-pii-service は sanitizer を持ち、Kong の AI PII サービス API を話します。Kong Gateway Enterprise の AI PII Sanitizer は、そのゲートウェイに core/data-masking アタッチメントがある間、マスクするすべてのテキストを、正規表現も含めてこの API で呼び出します。サニタイザーはこのサービスに資格情報を提示せず、すべてのテキストはマスクされないまま届くため、そのアドレスはクラスター内のものであり、クラスター外に公開することは想定されていません。

13. model.aggrega.ai/api

  • 誰が書くか? Platform Architect が、モデルカテゴリのすべてのコンポーネントと、モデル API を提供するゲートウェイに書きます。値は、コンポーネントが公開するアドレスでどのモデル API が応答するかを示します。OpenAI API(ベンダー自身のもの、またはサーバーによるその実装)であれば openai、Anthropic の Messages API であれば anthropic、Google の Gemini API であれば gemini、これらのいずれでもなく製品独自の API であれば native で、後者にはコンシューマーがその製品のクライアントを通じて到達します。各値は製品自身のリファレンスから読み取られ、コンポーネントは、特定の Release が何を設定するかにかかわらずその値を持ちます。
  • 誰が利用するか? Static Analyzer がソケットの usesSchema セレクターを通じて利用し、また AI ゲートウェイ、core/gateway/kong、core/gateway/kong-enterprise、core/gateway/apisix、core/gateway/envoy-gateway、core/gateway/traefik-hub、core/gateway/agentgateway、core/gateway/higress のアサーションが、それぞれの models ソケットへの各接続で利用します。
  • コンパイラのユースケース: 1 つのソケットがモデルとモデルを提供するゲートウェイのどちらでも受け取れるようにするものです。後述の 5 つのランタイムを除くすべてのエージェントの model ソケット、core/ai-tool/model-invocation の target_model ソケット、core/datastore/cognee の 2 つのモデルソケットは component.aggrega.ai/category in (ai-model, gateway), model.aggrega.ai/api を選択します。カテゴリ要件は 2 つのカテゴリを許可し、キー要件はそのうちラベルを持つコンポーネントのみを許可するため、このようなソケットをモデル API を提供しないゲートウェイに接続すると、そのソケットを名指しするセレクター違反で停止します。セレクターの要件はすべて満たされる必要があり、その選択肢は 1 つのキーの集合の中にしか置けないため、両方の種類のコンポーネントが応える 1 つのキーは、ゲートウェイだけでなくすべてのモデルコンポーネントにも置かれる必要があります。これが、このラベルがゲートウェイだけを示すのではなく API を名指しする理由です。このラベルを持つゲートウェイはモデルが公開するのと同じ endpoint キーと model キーを公開するため、コンシューマーの Recipe はどちらも同じ方法で読み取れます。Recipes が 1 つのモデル API の変数を提供するエージェントは、代わりにその値を名指しします。core/ai-agent/openai-agents-sdk、core/ai-agent/agent-framework、core/ai-agent/mastra の model ソケットは model.aggrega.ai/api=openai を選択し、core/ai-agent/claude-agent-sdk のソケットは model.aggrega.ai/api=anthropic を、core/ai-agent/google-adk のソケットは model.aggrega.ai/api=gemini を選択するため、これらのいずれかを別の API を提供するモデルまたはゲートウェイに接続すると、そのソケットを名指しするセレクター違反で停止します。core/ai-agent/google-adk のソケットはさらにカテゴリを ai-model に絞り込み、すべてのゲートウェイを拒否します。ADK のクライアントはアドレスを読み取らず、ゲートウェイの資格情報を Google 自身のアドレスに送ってしまうためです。AI ゲートウェイはこの値で選択するのではなく、値を読み取ります。その models ソケットは component.aggrega.ai/category=ai-model を選択してすべてのモデルを許可しますが、ゲートウェイはそこに接続されたモデルを OpenAI API のみを通じてプロキシに記述するため、その Component のアサーションは、ターゲットが openai 以外の値を持つ接続でビルドを停止し、その接続を名指しして、代わりにそのアップストリームをゲートウェイの手入力のモデルマップに入力するよう伝えます。core/gateway/kong、core/gateway/kong-enterprise、core/gateway/apisix、core/gateway/envoy-gateway、core/gateway/traefik-hub、core/gateway/agentgateway、core/gateway/higress も、それぞれの models ソケットで同じように値を読み取ります。いずれも接続されたモデルのルート(agentgateway ではモデルエントリ)を OpenAI API のみ向けに書き出すためです。コンパイラは値を不透明な文字列として扱い、そのアドレスで何が応答するかについては何も検査しません。
  • 標準ライブラリの内容。 core/gateway/litellm、core/gateway/kong、core/gateway/kong-enterprise、core/gateway/apisix、core/gateway/envoy-gateway、core/gateway/traefik-hub、core/gateway/agentgateway、core/gateway/higress は openai を持ちます。セルフホスト型サーバーの core/ai-model/vllm、ollama、docker-model-runner、tgi、tei、nvidia-nim、litellm、マネージド API の core/ai-model/openai、openai-embedding、nvidia-api、そしてその API を話すサービスを指すブローカーの core/ai-model/openai-compatible も同様です。core/ai-model/anthropic は anthropic を、core/ai-model/gemini は gemini を持ちます。その他のモデルコンポーネントはすべて native を持ちます。

14. tool.aggrega.ai/transport

  • 誰が書くか? Platform Architect が、コンシューマーが特定のトランスポートを話して到達する必要のあるツールに書きます。値はそのトランスポートを示します。
  • 誰が利用するか? Static Analyzer が、コンシューマーのツールソケットを通じて利用します。
  • コンパイラのユースケース: コンシューマーに通信可能なツールだけが渡される仕組みです。ツールソケットは component.aggrega.ai/category=ai-tool, tool.aggrega.ai/transport=http を選択します。カテゴリ要件はツールのみを許可し、トランスポート要件は HTTP で到達するツールのみを許可するため、このようなソケットをそのラベルを持たないツールに接続すると、そのソケットを名指しするセレクター違反で停止します。ツールへの到達方法は公開値ではなくラベルである必要があります。セレクターはラベルを読み取り、値の内容は決して読み取らないためです。コンパイラは値を不透明な文字列として扱い、そのアドレスで何が応答するかについては何も検査しません。
  • 標準ライブラリが付与しているもの。 core/ai-tool/mcp は http を付与します。これは Model Context Protocol サーバーをエージェントに接続するもので、そのサーバーをどのように実現するかは Manifest が選択します。helm/mcp と compose/mcp は HTTP でプロトコルを提供するイメージを実行します。helm/mcp-stdio-bridge と compose/mcp-stdio-bridge は stdio しか話さないパッケージを、HTTP で提供する固定バージョンのブリッジの背後で実行します。helm/mcp-remote と compose/mcp-remote は他者が運用するサーバーに到達し、何も実行しません。どの実現方法も同じ host、port、endpoint、protocol、credential_header を公開するため、コンシューマーの配線は実現方法によって変わりません。サーバー自身の認証情報は環境変数であり、ツールの server_env スロットに保持されます。Kubernetes では参照によってブリッジに渡され、Docker Compose では渡されたとおりにサービスの環境へ書き込まれます。その際、Compose の変数参照を使えば認証情報はファイルに含まれません。リモートサーバーの認証情報は、コンシューマーがツールへの自身の接続上で保持し、credential_header が指定するヘッダー(Release が別のものを指定しない限り Authorization)で提示します。リモートサーバーが自身のアドレスからキーを読み取る場合、コンシューマーはその接続上でアドレス全体も保持します。これは endpoint スロットに置かれ、Kubernetes では Secret への参照、Docker Compose では Compose の変数参照で埋められるため、キーはどのレンダリング済みファイルにも到達しません。一方、ツールの infra.endpoint はキーを含む部分を除いたアドレスを保持します。examples/mcp-address-from-secret は両方をビルドします。core/ai-agent/openai-agents-sdk、core/ai-agent/claude-agent-sdk、core/ai-agent/agent-framework、core/ai-agent/google-adk、core/ai-agent/mastra、およびフロープラットフォームの core/ai-agent/flowise と core/ai-agent/n8n は、この形式のツールソケット tools を宣言し、配線された各ツールのアドレスと、接続の認証情報を参照として、接続のエイリアスにちなんだ名前の変数で渡します。ただし、inject: ブロックを書いた接続は、ツールが公開するものから導出される変数の代わりに、そのブロックが指定するものを受け取り、その credential スロットと endpoint スロットが保持するものはエイリアスの名前のまま残ります。独自のコンシューマーも同じ方法で宣言します。3 つのフロープラットフォームはいずれも、Aggregate で作成されたフローをデプロイ時に両方のターゲットでプラットフォームへ持ち込みます。Langflow は起動のたびに、持ち込まれた定義を flows ディレクトリから読み込みます。Flowise の chatflow は、Release が指定するオーナーアカウントとしてサインインするワンショットのステップによって投入されます。n8n の workflow は、プラットフォームの起動前に init ステップによってインポートされます。core/ai-agent/langflow は同じ形式の tools ソケットを宣言しますが、このソケットは inject: ブロックを受け付けず、各接続はそのフローを通じて渡します。Langflow の MCP Tools コンポーネントは、サーバーのアドレスを Langflow 自身の設定かフローからしか受け取らず、変数からは受け取らないためです。その Recipes は、ツールのアドレスを、接続のエイリアスにちなんだ名前のサーバーを持つ MCP Tools ノードに書き込み、接続の認証情報を、そのノードのヘッダーが指定する変数として参照で渡し(Authorization の下で、Bearer と認証情報を保持する変数)、配線されたツールとストアのホストに Langflow のプライベートアドレス対策を通過させます。3 つのプラットフォームはすべて datastore.aggrega.ai/engine in (vector, semantic-memory, search) を選択する vector_store ソケットも宣言し、配線された各ストアのアドレス(公開される endpoint。core/datastore/pgvector ではパスワードを含まない接続 URI、またはそのプロトコル、ホスト、ポートから組み立てたもの)と、接続の認証情報を参照として、同じ方法で渡します。core/datastore/pgvector のようにデータベースとユーザーも公開するストアは、Flowise と n8n にはそれらの部分としても届きます。どちらのプラットフォームの PostgreSQL ベクトルノードも接続文字列を受け付けないためです。PGVector コンポーネントが 1 つの文字列を受け取る Langflow は、そのようなストアを AGGREGA_VECTOR_STORE_<ALIAS>_CONNECTION_STRING として受け取り、接続の認証情報がそのパスワードとなります。Kubernetes では参照によって、Docker Compose では渡されたとおりに受け取ります。Flowise の chatflow は、Flowise の Variables ページで作成した同名の Runtime 変数を通じて渡された変数を読み取ります。n8n の workflow は、Aggregate がプラットフォームの allow_env_access_in_nodes 値を設定した場合に限り $env を通じて読み取ります。デフォルトでは、その Recipes がノードでの環境アクセスに対する n8n のブロックを維持するためです。

2. ポートの抽象化(ゼロポートの慣例)

オープンソースの Aggrega 標準ライブラリカタログは、Components の認知レイヤーから物理ポートの宣言を省き、ポートの選択を Ops Recipe に委ねることを推奨しています。この推奨に従う作成者は、デプロイターゲット間でのポートの衝突を避け、Injection Contract を迂回するバックドア API を防ぎ、プロバイダー間でネットワークトポグラフィの柔軟性を保てます。コンパイラ自体はポートに依存しません。解決された JSON Schema が許可する値であれば何でも渡します。この 慣例には、物理ポートを動かせないレガシーシステムのための明示的なエスケープハッチがあります。

  • クラウドネイティブのデフォルト(動的注入): モダンなワークロードでは、Components は schema: 宣言から物理ポートを完全に省きます(ports や expose の配列を持ちません)。Platform Ops の Recipes が内部の TCP/UDP ポートを選択し、名前付きの provides キーとして公開します。下流のコンシューマーはそれを .context.uses Injection Contract を通じて読み取ります。
  • レガシーのエスケープハッチ(明示的な宣言): レガシーコンポーネントが変更できないハードコードされたポートを持つ場合、Platform Architect は Component の schema: 宣言内で port フィールドを明示的に公開します。これにより Developer は、物理的な制約を検証済みの方法で宣言できます。コンパイラは その値を変更せずにパイプラインに通し、Recipe は {{ .values.port }} で値を利用します。
  • 運用ポート(帯域外): クラスターインフラストラクチャのみが使用するポート(例:Prometheus のスクレイピング、Envoy サイドカーのメトリクス)は、Developer の認知レイヤーからは隠されたままです。これらは Platform Ops によって Features を通じて帯域外で注入されます(例:core/prometheus-exporter Feature の接続。そのスクレイプポートは運用者が設定する infra です)。

3. ドメイン固有のスキーマ(設定のインテリジェンス)

開発者の values ブロック(Go コンパイラにとっては不透明ですが、Component の schema: 宣言によって厳密に型付けされます)は、明示的な AI ワークフローをサポートするよう検証されます:

  • エージェントリンク(依存関係配列): 標準ライブラリの共有エージェントパラメータスキーマは、tools_allowed と agents_allowed を、エージェントが呼び出しまたは委任できるカタログの Components を指定する values 配列として持ちます。これは文書化された慣例であり、コンパイラは評価しません。コンパイラがトポロジー上のエッジとして配線するリンクは、エージェントの Component が usesSchema で宣言する uses ソケットであり、ビルドが検査するのはそのソケットのセレクターです。
  • 深い認知メモリのパーティショニング(CoALA): 1 つのフラットなメモリバケットの代わりに、Architect は cognitive_memory ソケットを宣言できます。その接続は意味記憶、エピソード記憶、手続き記憶を明示的なトポロジー上のエッジとして別々のインフラストラクチャターゲットにマッピングするため、ポリシーエンジンはきめ細かなアクセスガードレールを評価し、義務付けることができます(例:エージェントが意味記憶を読み取れるが、乗っ取られた場合でも上書きはできないようにする)。標準ライブラリはそのようなソケットを宣言していません。
  • マルチモーダルパイプライン: Component の schema: は、document_chunking、embedding_generation、storage_routing などの明示的な実行ステージを型付きの values として宣言できるため、宣言的なデータフローは何かがレンダリングされる前に検証されます。標準ライブラリはそのようなステージを宣言していません。

4. ゲートウェイのインテリジェンスとルーティング

標準ライブラリの AI ゲートウェイは、LLM API へのリクエストをルーティングするための制御を備えています。クラスタ内で動作する core/gateway/litellm と、2 つのホスト型サービスです。1 つは Cloudflare のホスト型ゲートウェイである core/gateway/cloudflare-ai-gateway で、その terraform Recipe が Cloudflare アカウント内にゲートウェイを作成します。もう 1 つは Azure API Management の AI ゲートウェイである core/gateway/azure-api-management で、その terraform Recipe は、モデルを提供する API をバックエンドとポリシーとともに既存の API Management インスタンスに追加します。各ホスト型ゲートウェイの helm および compose の Recipes は、すでに構成済みの場所にあるゲートウェイを参照します。制御には、ゲートウェイ自体の値であるものと、ゲートウェイにアタッチされる Features であるものがあり、以下の各 Feature では、標準ライブラリがそれをどのゲートウェイで実現しているかを示します。ホスト型ゲートウェイでは、すべての制御がゲートウェイ自身の構成(Cloudflare ゲートウェイのリソースの設定、Azure API Management 上の API のポリシーの要素)に書き込まれるため、制御を持てるのは terraform Recipe だけであり、helm および compose の Recipes のほうはどのアタッチメントでもビルドを停止します。以下では、「AI ゲートウェイ」は core/gateway/litellm、「ホスト型ゲートウェイ」は core/gateway/cloudflare-ai-gateway を指し、Azure API Management のゲートウェイは正式名で呼びます。

Aggrega の外、実行時

エージェント

ゲートウェイに接続された model ソケット

AI ゲートウェイ

アタッチされたコントロール付き

トークン予算

セマンティックキャッシュ

プロンプトインジェクション防御

モデル

ゲートウェイの背後にあるプロバイダー

エージェントのリクエストは、その model ソケットが接続されたゲートウェイを通過するため、ゲートウェイにアタッチされたすべてのコントロールがエージェントとモデルの間に位置します。ここに描かれた 3 つは Features core/period-budget、core/semantic-caching、core/prompt-injection-shield で、1 つのゲートウェイの構成としてではなく、それぞれが置かれる位置を示すために並べて表示しています。どのゲートウェイが各コントロールを実現し、何がビルドを停止させるかは、以下の項目に記載しています。

  • 背後のモデル: AI ゲートウェイのモデルマップ(提供するエイリアスと、それぞれのリクエストの送信先となるアップストリーム)は 2 つの部分からなります。ゲートウェイの models ソケットに接続されたモデルコンポーネントは、マネージドでもセルフホストでも、接続のエイリアスで提供され、そのエントリはモデルが公開する endpoint と model から書き込まれます。これらはコンパイラがゲートウェイの構成へ渡すだけで解決することのない文字列です。したがってモデルはグラフのコンポーネントであり、それ自身のエッジを介して到達されます。ゲートウェイはこのようなモデルをプロキシに対して OpenAI API のみで記述するため、model.aggrega.ai/api が openai ではないモデルに到達する接続はビルドを停止し、その接続を示します。もう 1 つの部分はゲートウェイの values.models で、プロキシ独自の provider/model 表記で手書きされるエントリです。カタログがモデル化していないアップストリーム、独自の API が OpenAI API ではないプロバイダ、そして 1 つのエイリアスを共有する複数のエントリのために使います。接続されたモデルはそれぞれ自身の接続のエイリアスで提供されるため、後者は実現できません。接続されたエントリは、下記の「呼び出し元が提示するキー」で説明するとおり自身の接続が持つ認証情報を提示し、ゲートウェイの provider_key は決して提示しません。手書きのエントリはすべて、そのスロットにある 1 つの認証情報を提示します。両方の部分が公開するエイリアスはビルドを停止してそのエイリアスを示し、どちらの部分からもモデルが与えられないゲートウェイも同様にビルドを停止します。

  • エージェントの経路上: ゲートウェイは、モデルコンポーネントが公開するキーである endpoint と model を公開し、model.aggrega.ai/api: openai を持つため、エージェントの model ソケットはゲートウェイを直接受け入れ、ゲートウェイにアタッチされたすべての制御がそのエージェントと背後のプロバイダとの間に位置します。公開される model は values.model が指定するエイリアスで、マップのどちらの部分もそれを公開しない場合はビルドが停止します。省略できるのは、ゲートウェイが単一のエイリアスを提供し、values.models のエントリがそれを公開する場合だけで、そのときはそれが公開されます。マップが公開する別のエイリアスを使いたい呼び出し元は、同じエンドポイントに名前で要求します。core/gateway/cloudflare-ai-gateway も同じ 2 つのキー(Cloudflare アカウントとゲートウェイの id から組み立てたゲートウェイのエンドポイントの 1 つのアドレスと、呼び出し元が要求するモデルで、ゲートウェイはこれを検査せずに転送します)を公開しますが、model.aggrega.ai/api を持たないため、エージェントの model ソケットはこれを受け入れません。core/gateway/azure-api-management も同様にこれらを公開します(インスタンスのホストと API のパスから組み立てた API のアドレスと、検査せずに転送される呼び出し元が要求するモデル)。こちらも model.aggrega.ai/api を持ちません。API は OpenAI の chat completions リクエストに応答しますが、デフォルトでは呼び出し元は OpenAI のベアラートークンではなく API Management のサブスクリプションキーを独自のヘッダーで提示するため、通常の OpenAI クライアントだけでは呼び出せません。

  • モデルの前段に置く Kong: オープンソースの Kong ゲートウェイである core/gateway/kong は、自身の models ソケットに接続されたモデルを Kong の AI プロキシを通じて提供し、以下の制御のうちプロンプト拒否パターンのみを、接続された各モデルのすべてのルート上の Kong の AI Prompt Guard として実現します。接続された各モデルには、モデルが公開する endpoint と model から書き込まれた chat ルートと completion ルートが /<alias>/v1 の下に作られ、その Recipes はゲートウェイの起動前にこれらのルートをゲートウェイの PostgreSQL バックエンドにインポートします。ルートがモデルを選ぶため、リクエストはどのモデル名を持っていてもパスが示すモデルに送られます。ゲートウェイは各接続自身の認証情報を、構成がゲートウェイの環境から名前で読み取るベアラートークンとして提示し、model.aggrega.ai/api が openai ではないモデルに到達する接続はビルドを停止します。ゲートウェイは values.model が指定するエイリアスのルートを endpoint として、そのエイリアスを model として公開し、model.aggrega.ai/api: openai を持つため、エージェントの model ソケットは AI ゲートウェイと同様にこれを受け入れます。そのソケットに何も接続されていない場合、ゲートウェイはモデルを提供せず両方のキーを空で公開し、それに接続されたエージェントはアドレスもモデル名も読み取りません。インポートはルートを追加・更新しますが削除はしないため、接続が削除されたルートは応答し続け、core/prompt-deny-patterns のアタッチメントが書き込んだプロンプトガードはアタッチメントの削除後も拒否し続けます。これはそれぞれを Kong の Admin API で削除するまで続きます。同じ理由で、ゲートウェイは呼び出し元を宣言せず、そのモデルルートは呼び出し元のキーを検査しません。Kong が呼び出し元を区別するのは認証プラグインが指定するコンシューマーとしてのみであり、コンシューマーとそのキーは一度インポートされると、呼び出し元が Release から削除された後も認証可能なままとなり、キーをローテーションしても古いキーが有効なままになります。また key-auth のキーは参照で保持できないため、呼び出し元のキーはレンダリングされたファイル内のリテラルとしてしか Kong に届きません。

  • モデルの前段に置く Kong Gateway Enterprise: core/gateway/kong-enterprise は、同じデータベースを持つゲートウェイの Kong による有償版で、自身の models ソケットに接続されたモデルを core/gateway/kong が提供するルートで提供します。これらのルートは同じ設定から書き出され、ゲートウェイが起動する前にゲートウェイ自身の Pod 内のステップによって PostgreSQL バックエンドにインポートされます。また、Kong と同様に endpoint と model を公開します。唯一の実現は Kong の公式 Helm チャートを用いる chart Recipe であり、compose による実現はありません。Kong はエンタープライズイメージを独自の条件で配布しており、そのためカタログはイメージを指定しないので、ゲートウェイは Release が infra.image に指定するイメージを、バージョンタグを含めて実行します。このキーが未設定であるか、そのタグにバージョンが含まれていない間、ビルドは停止します。ライセンスは値としてではなく、必須の license スロットにバインドされた Secret への参照によってゲートウェイに渡され、このスロットに何もバインドされていない間、ビルドは停止します。コンパイラはライセンスを検証せず、ベンダーにも接続しないため、Release が問題なくビルドできてもライセンスについては何もわかりません。Kong はノードの起動時にライセンスを読み取り、有効なライセンスのないノードは期限切れのライセンスと同じように動作します。つまりエンティティ設定は読み取り専用となり、プロキシトラフィックは既存の設定で処理されます。Kong は AI プラグインを AI Gateway Enterprise という製品として販売しており、これはどのビルドからも見えないライセンス内の利用権です。ライセンスにこの利用権がない場合、Kong はそのようなプラグインを拒否せずにスキップします。そのため、core/semantic-caching、core/period-budget、core/data-masking、core/fallback-chain、core/retry-policy、core/target-selection のいずれかをアタッチすると、Release が infra.ai_gateway_entitled を true に設定し、ライセンスにこの利用権が含まれていることを表明するまでビルドは停止します。以下の制御のうち、このゲートウェイは期間予算とフォールバックチェーンを実現し、それぞれをゲートウェイがインポートするルートに書き込みます。また、core/data-masking を後述の「Data Exfiltration & Payload Interception」で説明するとおりに実現します。セマンティックキャッシュ、リトライポリシー、ターゲット選択の実現はあらゆるアタッチメントで停止し、それぞれその理由を示します。同時実行数制限、監査ログ、プロンプトインジェクションのスクリーニング、レスポンス検証、プロンプト拒否パターンにはこのゲートウェイでの実現がないため、いずれかをアタッチするとビルドは停止します。ルートセットが変更されるとゲートウェイはロールアウトされます。インポートはルートを追加・更新するだけで削除はしないため、接続が削除されたルートや、Feature が削除された後も AI Feature が書き込んだプラグインは、Kong の Admin API で削除されるまでデータベースに残ります。前項で述べた理由により、このゲートウェイも呼び出し元を宣言せず、そのモデルルートは呼び出し元のキーを検査しません。実行中のゲートウェイがこれらの制御を実際に適用していることは、どのビルドでも確認されません。

  • モデルの前段に置く APISIX: core/gateway/apisix はオープンソースの Apache APISIX ゲートウェイで、Manifest がその chart Recipe(APISIX 3.18.0 を実行します)をバインドする場合、自身の models ソケットに接続されたモデルを APISIX の AI プロキシを通じて提供します。接続された各モデルには /<alias>/v1 配下にチャットルートと補完ルートが用意されます。ただし期間予算またはプロンプト拒否パターンがアタッチされている間はチャットルートのみとなります。APISIX は補完リクエストのトークンを数えず、そのプロンプトガードも補完リクエストを読まないためです。これらのルートは、モデルが公開する endpoint と model から、ゲートウェイとともにレンダリングされるルートファイルに書き出され、ゲートウェイは起動時と、ファイルが変更されるたびにそれを読み込みます。このファイルからルートを読み込むゲートウェイは etcd を読まず Admin API も実行しないため、モデルが接続されている場合は etcd 接続または admin_key アタッチメントがあるとビルドは停止し、何も接続されていない場合はその両方が必須となります。ルートがモデルを選択します。ゲートウェイは各接続自身の資格情報を、ルートがゲートウェイの環境から名前で読み取るベアラートークンとして提示し、model.aggrega.ai/api が openai でないモデルに到達する接続があるとビルドは停止します。ゲートウェイは values.model が指定するエイリアスのルートを endpoint として、そのエイリアスを model として公開し、model.aggrega.ai/api: openai を持つため、エージェントの model ソケットは AI ゲートウェイと同様にこのゲートウェイを受け入れます。何も接続されていない場合は両方のキーを空で公開します。接続が削除されたルートは次のレンダリングで消えます。Release は infra.callers にゲートウェイの呼び出し元を、caller_keys スロットを通じてそのキーを指定できます。このスロットは呼び出し元名ごとにデータキーを持つ 1 つの Secret です。このとき各呼び出し元はルートファイル内のコンシューマーとなり、そのキーはこの Secret から名前で読み取られます。すべてのルートは、宣言されたキーを Authorization: Bearer <key>(OpenAI クライアントがキーを提示する方法)として提示しないリクエストを HTTP 401 で拒否し、転送するリクエストからキーを取り除きます。呼び出し元がない場合、ルートはオープンです。workload Recipe(APISIX 3.17.0)はルートを etcd に保持し、ルートファイルをレンダリングせず、このソケットへの接続と infra.callers で停止します。以下の制御のうち、このゲートウェイは期間予算、宣言した呼び出し元向けのセマンティックキャッシュ、プロンプト拒否パターンを実現します。

  • モデルの前段に置く Envoy Gateway: core/gateway/envoy-gateway はオープンソースの Envoy Gateway で、自身の models ソケットに接続されたモデルを Envoy AI Gateway を通じて提供します。Envoy AI Gateway のコントローラーである core/gateway/envoy-ai-gateway-operator を、ゲートウェイは extension ソケットを通じて拡張サーバーとして呼び出します。このソケットに何も接続せずにモデルを接続するとビルドは停止し、コントローラーを接続した場合は Release がゲートウェイを envoy-gateway-system に配置しなければビルドは停止します。接続された各モデルは、ゲートウェイにアタッチされた 1 つの AI ルートのルールとなり、リクエストが持つモデル名によって選択され、モデルが公開する endpoint と model から書き出されたバックエンドを持ちます。そのため、接続されたすべてのモデルはゲートウェイ自身のアドレスの /v1 配下で提供されます。ゲートウェイは各接続自身の資格情報をベアラートークンとして提示し、Envoy AI Gateway のコントローラーはそれを資格情報が指定する Secret から読み取ります。model.aggrega.ai/api が openai でないモデルに到達する接続があるとビルドは停止します。モデルが接続されている間、ゲートウェイ上のすべてのルートは Envoy AI Gateway が設定する接続ごと 50Mi のリクエストバッファを使用します。ゲートウェイは、どの namespace からも解決できるよう envoy-gateway-system で修飾した自身のアドレスを endpoint として、values.model が指定するエイリアスを model として公開し、model.aggrega.ai/api: openai を持つため、エージェントの model ソケットは AI ゲートウェイと同様にこのゲートウェイを受け入れます。何も接続されていない場合は両方のキーを空で公開します。コントローラーの Webhook は cert-manager が発行する証明書を提供するため、cert-manager がすでにクラスターで稼働している必要があります。ただし Release がコントローラーの infra.webhook_tls_secret に、オペレーターが用意した証明書を保持する Secret を指定した場合は、Webhook がその証明書を提供します。以下の制御のうち、このゲートウェイは期間予算、リトライポリシー、同時実行数制限を実現し、それぞれをモデルを提供するルートの 1 つのトラフィックポリシーに書き込みます。セマンティックキャッシュとレスポンス検証は実現しません。Envoy AI Gateway は後のリクエストに応答するための返答を保持せず、返答をスキーマに照らして検査もしないためです。フォールバックチェーンも実現しません。Envoy AI Gateway はモデルのルールの後続バックエンドにリトライすることでフォールバックしますが、ゲートウェイは 1 つのトラフィックポリシーのリトライ回数を、モデルを提供するルートのすべてのルールに書き込むため、フォールバックリストが正確に指定どおりの送信回数になるのは、接続されたすべてのモデルのリストが同じ長さの場合に限られるからです。core/audit-logging はアクセスログとして、後述の「Audit logging」で説明するとおりに実現し、そのログが保持できないものは名前を示して拒否します。すなわち、リクエストのコスト(Envoy AI Gateway が計算できるリクエストごとのコストには単位がなく、ゲートウェイは価格を保持しないため)、ゲートウェイが検証した呼び出し元(この経路では何も呼び出し元を検証しないため)、保持期間(このログにはストアも保持期間の設定もないため)です。examples/envoy-ai-gateway-token-budget は、エージェントがゲートウェイを通じて OpenAI のマネージドモデルに到達する経路全体をビルドします。

  • モデルの前段に置く agentgateway: オープンソースの agentgateway である core/gateway/agentgateway は、自身の models ソケットに接続されたモデルを、その Recipes がレンダリングする 1 つの設定ファイルから提供します。接続された各モデルはそのファイルのエントリであり、接続のエイリアスで名前が付けられ、モデルが公開する endpoint と model から chat completions の OpenAI 互換プロバイダとして書き出されます。そのため、接続されたすべてのモデルはゲートウェイ自身のアドレスの /v1 配下で提供され、リクエストが持つモデル名によってモデルが選ばれます。リクエストは、モデルが公開するモデル名を要求する形でモデルに届き、どの接続も持たない名前には HTTP 404 で応答します。ゲートウェイは各接続自身の認証情報を bearer トークンとして提示します。ファイルはこれを、ゲートウェイがファイルを読み込む際に環境から読み取る変数として指定し、その変数が環境にない場合ゲートウェイは起動しません。また、model.aggrega.ai/api が openai でないモデルに到達する接続はビルドを停止させます。ゲートウェイはその /v1 ベース URL を endpoint として、values.model が指定するエイリアスを model として公開し、model.aggrega.ai/api: openai を持つため、エージェントの model ソケットは AI ゲートウェイと同様にこれを受け入れます。何も接続されていない場合は、両方のキーを空で公開します。2 つの Recipes が、ダイジェストで固定された同じイメージを実行します。agentgateway-chart はプロジェクトのレジストリから取得したプロジェクトのスタンドアロン Helm チャートをレンダリングし、以下の制御を実現します。agentgateway はイメージを 1 つの Docker Compose サービスとして実行し、それらの制御も呼び出し元も一切実現しないため、そこへのアタッチはその型を名指ししてビルドを停止させます。ビルドがそのレジストリに到達できる Kubernetes 上ではチャートを使用してください。チャートでは、APISIX と同様に、Release が infra.callers でゲートウェイの呼び出し元を、caller_keys スロットを通じてそのキーを指定できます。各呼び出し元はファイルの API キーとなり、strict モードで検査され、その Secret から名前で読み取られます。そのため、宣言されたキーを Authorization: Bearer <key> として提示しないモデルリクエストは HTTP 401 で拒否され、キーは転送されるリクエストから削除されます。呼び出し元がない場合、モデルのルートはオープンです。agentgateway は、ファイルがこの方法で指定する各キー(どちらの Recipe でも接続されたモデルのキー、チャートでは呼び出し元のキー)を、ファイルを YAML として読み込む前にファイルのテキストに埋め込みます。そのため、キーは英字、数字、および -、.、_、~、+、/、= からなるプレーンなトークンでなければならず、それ以外の文字は別のキーとして読み込まれたり、ゲートウェイを停止させたりすることがあります。ゲートウェイはファイルが変更されると再読み込みするため、Release から削除された呼び出し元は、マウントされたファイルが更新された時点で拒否されます。core/audit-logging、またはスコープ caller の core/period-budget がアタッチされている間、チャートの Recipe はゲートウェイに専用ボリューム上の SQLite ファイルというストアを与え、1 レプリカで実行します。以下の制御のうち、データマスキング、プロンプト拒否パターン、期間予算、監査ログ、リトライポリシーを実現し、それぞれをファイルに書き込み、保持できない値はそれぞれ名指しで拒否します。データマスキングは、リクエストの system および developer プロンプト、その他のメッセージ、ツール呼び出しの引数と結果、ならびに一括で届く応答のメッセージテキストにおいて、アタッチメントが列挙するパターンの各一致を <masked> に置き換えるか、refuse の下ではリクエストまたは応答に HTTP 403 で応答します。エンティティ型は認識せず、何も復元しません。agentgateway はストリーミング応答をマスクしないため、応答がマスクされている間は、ストリーミング応答を求めるモデルリクエストは転送前に HTTP 403 で拒否されます。ストリーミングかどうかにかかわらず、本文がゲートウェイがその検査のために読み取る 2 MiB を超えるモデルリクエストも同様です。拒否パターンによるものを含め、ガードによる拒否は本文「The request was rejected due to inappropriate content」を伴う HTTP 403 です。予算、記録、リトライについては、以下の「Period budget」、「Audit logging」、「Resilience」で説明します。フォールバックチェーン、ターゲット選択、セマンティックキャッシュ、応答検証、プロンプトインジェクション検査の実現は、すべてのアタッチメントをそれぞれ理由を示して停止させます。また、dataplane.aggrega.ai/concurrency-cap 値を持たないため、同時実行数制限はアタッチされません。

  • モデルの前段に置く Traefik Hub: Traefik の有償ゲートウェイである core/gateway/traefik-hub は、自身の models ソケットに接続されたモデルを Traefik Hub の Chat Completion ミドルウェアを通じて提供します。実現は Traefik 独自の Helm チャートに基づくチャート Recipe の 1 つのみで、compose による実現はありません。Traefik は Traefik Hub を独自の条件で配布しており、そのためカタログはイメージを指定しないので、Release が infra.image で指定するイメージをタグを含めて実行します。そのキーが未設定の間、またはタグを指定していない間は、ビルドが停止します。ライセンストークンは、必須の license スロットにバインドされた Secret への参照により、データキー token の下でゲートウェイに届き、値として渡されることはありません。そのスロットに何もバインドされていない間、またはその Secret が別のデータキーを公開している間は、ビルドが停止します。Traefik は、ゲートウェイがトークンを検証する api.traefik.io への送信 HTTPS を必要とします。Traefik Hub v3.21 以降、ゲートウェイはそのホストに到達できない間もバックグラウンドで再試行しながら提供を続けます。トークンの有効期間はデフォルトで 1 年で、期限切れになるとゲートウェイは停止します。チャートの Recipe は、ゲートウェイのエラーログを Traefik のプラットフォームへ送信するチャートの機能と、新しいリリースの確認を無効にします。コンパイラはトークンを検証せず、ベンダーにも接続しないため、問題なくビルドできる Release であっても、ゲートウェイが起動するかどうかについては何も示しません。接続された各モデルには /<alias>/v1/chat/completions のルートが与えられ、ExternalName 型の Service を通じてモデルが公開する endpoint に送られ、リクエストがどのモデル名を持つかにかかわらず、モデルが公開する model を要求します。そのため、パスによってモデルが選ばれます。提供するのは chat completions のみです。ゲートウェイは各接続自身の認証情報を bearer トークンとして提示し、Traefik Hub はそれを接続の Chat Completion ミドルウェアが指定する Secret から読み取ります。model.aggrega.ai/api が openai でないモデル、またはエンドポイントがホストではなくアドレスを指定しているモデルに到達する接続は、ビルドを停止させます。ゲートウェイは、values.model が指定するエイリアスのルートを endpoint として、そのエイリアスを model として公開し、model.aggrega.ai/api: openai を持つため、エージェントの model ソケットは AI ゲートウェイと同様にこれを受け入れます。何も接続されていない場合は、両方のキーを空で公開します。Release は infra.callers でゲートウェイの呼び出し元を、caller_keys スロットを通じてそのキーの htpasswd ハッシュを指定できます。その場合、Traefik Hub の API Key ミドルウェアがすべてのモデルルートの先頭に置かれ、宣言されたキーを Authorization: Bearer <key> として提示しないリクエストを拒否し、キーは転送されるリクエストから削除されます。呼び出し元がない場合、ルートはオープンです。存在しない Secret やデータキーを指定する呼び出し元のエントリを Traefik Hub がどう扱うかはそのリファレンスに記載されていないため、最悪の場合、ルートは呼び出し元がない場合と同様にオープンになります。以下の制御のうち、期間予算、宣言した呼び出し元向けのセマンティックキャッシュ、プロンプト拒否パターン、データマスキングを Traefik Hub の AI ゲートウェイのミドルウェアを通じて、フォールバックチェーンとリトライポリシーを Traefik 自身のフェイルオーバーとリトライを通じて実現し、それぞれをチャートの Recipe がレンダリングするルートに書き込みます。AI ゲートウェイはライセンス内に含まれる権利であり、どのビルドからも見えません。また、有効なトークンでもライセンスにその権利がない場合に Traefik Hub がどう動作するかは文書化されていないため、最初の 4 つのいずれかをアタッチすると、Release が infra.ai_gateway_entitled を true に設定するまでビルドが停止します。プロンプトインジェクション検査、監査ログ、ターゲット選択、応答検証の実現は、すべてのアタッチメントをそれぞれ理由を示して停止させます。また、dataplane.aggrega.ai/concurrency-cap 値を持たないため、同時実行数制限はアタッチされません。稼働中のゲートウェイがこれらの制御を実際に適用しているかどうかは、どのビルドでも確認されません。

  • モデルの前段に置く Higress: core/gateway/higress は、Envoy 上に構築され Kubernetes リソースを通じて設定されるオープンソースの Higress ゲートウェイであり、自身の models ソケットに接続されたモデルを Higress の AI プロキシを通じて提供します。その唯一の実現は、プロジェクト自身の higress-core Helm チャートに対する chart Recipe で、このチャートは Higress のコントローラ(ディスカバリサービスを含む)とゲートウェイを実行します。compose による実現はありません。プロジェクトは compose 配布を主にローカルテスト向けとしており、その配布は独自のストアを通じて設定される複数の協調サービスを実行するためです。この Recipe はチャート、イメージ、および書き出すすべてのプラグインモジュールを固定し、infra.source_version には設定が検証済みのチャートバージョンのみを受け付けます。ゲートウェイはそれらのモジュールを実行時に Higress プラグインレジストリから取得します。クラスタはこのレジストリに到達できる必要があり、ビルドはそれを確認できません。コントローラは Release の名前空間のみを監視し、ゲートウェイとその名前空間にちなんで名付けられた IngressClass の下で動作するため、1 つの名前空間に 2 つの Higress ゲートウェイがあると衝突します。各エイリアスには /<alias>/v1 のルートが与えられ、ゲートウェイ自身のレジストリのエントリを通じて、そのエイリアスのモデルが公開する endpoint に送られ、リクエストがどのモデル名を持っていても、そのモデルが公開する model を要求します。そのため、パスがモデルを選択します。serves の値で同じエイリアスを指定する接続は、そのリクエストを均等に分け合います。ゲートウェイは各接続自身の資格情報をベアラートークンとして提示します。Higress コントローラはこれを、ゲートウェイの名前空間にある、AI プロキシの設定が指定する Secret から読み取ってゲートウェイに渡すため、キーはレンダリングされるどのファイルにも含まれません。ドットを含む Secret 名はビルドを停止させます。Higress は名前を最初のドットまでしか読まないためです。また、資格情報を持たない接続は、リクエストが提示するキーをそのまま渡します。Higress の AI プロキシは、クライアントが送る Authorization ヘッダーを X-HI-ORIGINAL-AUTH ヘッダーにもコピーしますが、すべてのモデルルートはリクエストがモデルに届く前にそのコピーを削除するため、クライアントが提示するキーが接続自身の資格情報と並んで送られることはありません。https では、ゲートウェイは、クライアントが送ったホストにかかわらず、モデルの証明書がシステムのトラストアンカーにチェーンし、かつモデルのホストを指していることを確認し、そうでなければモデルに何も送りません。Recipe は、接続がすべて https であるエイリアスのルートに Higress の higress.io/backend-protocol: HTTPS アノテーションを付けます。これにより、ゲートウェイは AI プロキシが各リクエストに書き込むホスト(モデルのホストで、ドットを含まない場合はモデルの名前空間で修飾したもの)からサーバー名を取り、それに対して証明書を確認します。このアノテーションはエイリアスのすべての接続に適用されるため、http と https の接続が混在するエイリアスは両方を示してビルドを停止させます。2 つのエイリアスに分けて提供すれば解消します。model.aggrega.ai/api が openai でないモデル、またはエンドポイントがホストではなくアドレスを指すモデルに到達する接続は、ビルドを停止させます。このゲートウェイは、values.model が指定するエイリアスのルートを endpoint として、そのエイリアスを model として公開し、model.aggrega.ai/api: openai を持つため、エージェントの model ソケットは AI ゲートウェイと同じようにこれを受け入れます。何も接続されていない場合は、両方のキーを空で公開します。呼び出し元を宣言しないため、モデルルートは呼び出し元のキーを確認せず、ゲートウェイが検証した呼び出し元を必要とする値は名前を示して拒否されます。以下の制御のうち、期間予算、監査ログ、リトライポリシーを実現し、それぞれモデルルートに書き込みます。また、core/data-masking を後述の「Data Exfiltration & Payload Interception」で説明するとおりに実現します。レスポンス検証、フォールバックチェーン、セマンティックキャッシュ、プロンプトインジェクション検査、ターゲット選択の実現は、いずれもアタッチメントごとに理由を示してビルドを停止させます。また、dataplane.aggrega.ai/prompt-guard や dataplane.aggrega.ai/concurrency-cap の値を持たないため、プロンプト拒否パターンも同時実行数制限もこれにはアタッチされません。稼働中のゲートウェイがこれらの制御を実施していることは、どのビルドでも観測されません。

  • モデルの前段に置く Azure API Management: core/gateway/azure-api-management は、ホスト型サービスである Azure API Management の AI ゲートウェイであり、既存の API Management インスタンス上の API を通じて 1 つのモデル API を提供します。その terraform Recipe はインスタンスを読み取り、API、そのチャット補完オペレーション、転送先のバックエンド、および API のポリシーを追加します。このポリシーは、転送する内容から呼び出し元のサブスクリプションキーを削除し、infra.backend_authentication の指定に従って、インスタンスのマネージド ID、Key Vault に保持されたプロバイダーキー、または認証なしのいずれかでモデル API に認証します。helm と compose の Recipes は Release の外で設定された API を参照し、アタッチメントがあるとビルドを停止させます。以下の制御のうち、terraform Recipe はセマンティックキャッシュ、期間予算、プロンプトインジェクション検査、リトライポリシーを実現し、それぞれ API のポリシーに書き込みます。同時実行数制限は実現しません。Microsoft は、同時実行ポリシーが課す上限は決して完全に正確ではなく、リージョン内で複数のキャパシティユニットが稼働すると低くなるとしているためです。フォールバックチェーンも実現しません。API は 1 つのバックエンドに転送し、Azure 独自のフォールバックであるバックエンドプールの優先度グループは、失敗したリクエストを別のモデルに送るのではなく、サーキットブレーカーが作動したバックエンドから後続のリクエストを移すものだからです。core/audit-logging の実現は、アタッチメントごとに、届かないものを示してビルドを停止させます。すなわち、ログそのもの(インスタンスの診断設定で有効にします)、require_cost が有効な場合のリクエストのコスト(Azure のモデルリクエストログはトークン数とモデルを記録し、価格は記録しないため)、そして retention_days が指定された場合の保持期間(行は、それが格納される Log Analytics ワークスペースが保持する限り残るため)です。ポリシーが Microsoft の文書どおりに適用され実施されることは、どのビルドでも観測されません。

  • 呼び出し元が提示するキー: 呼び出し元が提示するキーを検証するサーバーは、そのキーを自身のスロットに保持します。このスロットは、キーを検証する各モデル提供ターゲット(core/ai-model/vllm、tei と tgi、LiteLLM モデル、および AI ゲートウェイ。AI ゲートウェイでは LiteLLM がマスターキーと呼ぶキーです)で api_key という名前を持ち、その各 Recipes はサーバーが読み取る変数としてキーを渡します。core/gateway/apisix と core/gateway/agentgateway は、それぞれの Release が infra.callers に挙げる呼び出し元ごとに 1 つのキーを caller_keys スロットに保持します。これは 1 つの Secret で、各呼び出し元のキーをその呼び出し元の名前で保持します。core/gateway/traefik-hub も同じ方法で呼び出し元を保持しますが、その Secret は各呼び出し元のキーの htpasswd ハッシュを保持し、キー検証は提示されたキーをこれと比較します。そのため、これは呼び出し元がキーを提示する元の Secret ではありません。呼び出し元は、提示するキーを自身の側、つまりキーを提示する接続上の、ソケットが宣言するスロットに保持します。標準ライブラリのエージェントは model ソケットに credential を宣言し、AI ゲートウェイは models ソケットと cache_store ソケット(ここではゲートウェイのセマンティックキャッシュがストアに提示するパスワードです)に、core/gateway/kong と core/gateway/kong-enterprise は models ソケットに、core/gateway/apisix は models ソケットと cache_store ソケット(ここでも同様にセマンティックキャッシュがストアに提示するパスワードです)に、core/gateway/agentgateway は models ソケットに、core/gateway/envoy-gateway は models ソケットと cache ソケット(ここではゲートウェイのレート制限サービスが期間予算のカウントを保持するストアに提示するパスワードです)に、core/gateway/higress は models ソケットと cache ソケット(ここではトークン制限が期間予算のカウントを保持するストアに提示するパスワードです)に、そして core/gateway/traefik-hub は models ソケット、cache ソケット(ここではクォータが期間予算のカウントを保持するストアに提示するパスワードです)、および cache_store ソケット(ここではセマンティックキャッシュがストアに提示するパスワードです)にこれを宣言します。そのため、モデルに到達するエージェントや、提供するモデルに到達するゲートウェイは、その接続のキーをそこに保持します。AI ゲートウェイ、2 つの Kong、APISIX、agentgateway は、接続された各モデルのキーをそれぞれ専用の変数で渡し、その変数は設定内のそのモデルのエントリまたはルートが名前で指定します。Envoy Gateway はモデルのバックエンドのセキュリティポリシーで Secret を指定し、Envoy AI Gateway のコントローラがそこからキーを読み取ります。Traefik Hub はモデルのルートの Chat Completion ミドルウェアで Secret とデータキーを指定し、そこからキーを読み取ります。component.aggrega.ai/hosting: managed というラベルの付いたモデルに到達する接続は、キーを 1 つ持つか、自身の values でモデルがキーを受け取らないこと(unauthenticated: true)を示します。どちらもない場合、呼び出し元のアサーションが接続とそのターゲットを名指ししてビルドを停止します。それ以外のラベルの付いたモデルでは、このような停止は発生しません。呼び出し元の Component が代わりに自身のスロットに宣言するキーは、その Component が行うすべての接続に共通の 1 つのキーになります。どちらの端も相手のアタッチメントを参照しないため、サーバーは呼び出し元のキーについて何も知りません。両者が一致するのは、Aggregate が 1 つのパラメータから両方に値を渡すためです。両端が 1 つのスコープ(1 つの Kubernetes 名前空間、1 つの Compose プロジェクト)でシークレットを解決する場合は 1 つのシークレットを参照し、それ以外の場合はそれぞれが同じストアエントリから実現された独自のシークレットを保持します。vLLM、TEI、TGI はそれぞれ単一のキーを検証するため、すべての呼び出し元が同じキーを提示し、サーバーは呼び出し元を区別できません。また、TGI は大文字と小文字を区別せずにキーを照合します。APISIX、agentgateway、Traefik Hub はそれぞれ宣言されたすべての呼び出し元のキーを検証し、それによって呼び出し元を区別します。2 つの Kong は、前述の「Kong in front of models」で述べた理由により、呼び出し元を宣言せず、呼び出し元のキーを検証しません。LiteLLM モデルと AI ゲートウェイは、管理用データベースがアタッチされている間、自身が発行したキーも受け入れます。Credential Model では、この形を 1 つの Aggregate で詳しく説明しています。

  • ターゲットの選択: core/target-selection は、同じリクエストを処理できる複数のターゲットの中からゲートウェイがどのように選択するかを宣言します。strategy には latency(応答が最も速いと観測されたターゲット)または cost(呼び出しが最も安価なターゲット)を指定します。この戦略はアプリケーションがゲートウェイに求める内容の一部であるため、開発者が Aggregate でアタッチします。AI ゲートウェイでは、ターゲットは同じエイリアスを公開する values.models のエントリです。接続されたモデルは接続のエイリアスで提供され、そのエイリアスを他のエントリが公開することはできません。標準ライブラリは、ゲートウェイの Recipe がレンダリングするルーティング設定にプロキシの latency-based-routing を書き込むことで latency を実現します。プロキシは、直近 10 回の応答の平均所要時間が最も短いエントリに各リクエストを送ります。この時間は、応答がトークン数を報告する場合は出力トークンあたり、ストリーミングリクエストの場合は最初のトークンまでの時間で計測され、まだ試されていないエントリは最速とみなされます。アタッチメントがない場合、設定には戦略が指定されず、プロキシはそれらのエントリからランダムに選択します。そこでは cost は名前を示して拒否されます。プロキシはエントリのターゲットを記述どおりに価格表で検索して価格を決めますが、その価格表はゲートウェイのターゲットが持つプロバイダー接頭辞なしで OpenAI と Anthropic のモデルを記載しており、見つからないエントリには固定のフォールバック価格を付けます。そのため、エイリアスを共有するエントリは同じ価格となり、順序によって選ばれてしまいます。core/gateway/kong-enterprise ではすべてのアタッチメントが停止します。接続された各モデルはそのモデルだけを扱う専用のルートで提供されるため、選択の対象が残らないからです。core/gateway/agentgateway でもすべてのアタッチメントが理由を示して停止します。agentgateway はモデル名のターゲットから 2 つをランダムに選び、ヘルスを応答にかかった時間で割ったスコアが高い方を採用するため、最速のターゲットは選ばれた場合にのみ採用され、またコストによってターゲットを選ぶことはありません。core/gateway/higress でもすべてのアタッチメントが理由を示して停止します。Higress はサービスのレイテンシーを測定できますが、そのロードバランサープラグインは AI プロキシの後に実行されます。AI プロキシはすでにルートが解決した候補に対してリクエストのモデル、アドレス、資格情報を設定しており、プラグインは選択結果をリクエストヘッダーに書き込みますが、このカタログがレンダリングしない Envoy フィルターがなければ、そのヘッダーでルーティングするものはありません。そのため選択は反映されず、またコストによってターゲットを選ぶこともありません。core/gateway/traefik-hub でもすべてのアタッチメントが理由を示して停止します。Traefik が最短応答時間で選択するのは 1 つの Service のサーバー間に限られ、その Service は 1 つのモデル名と 1 つの資格情報で扱われます。Service 間では重みまたはクライアントアドレスのハッシュで分散し、レイテンシーで分散することはなく、どの戦略もコストでターゲットを選びません。さらに、ゲートウェイに接続された各モデルはそのモデルだけを扱う専用のルートで提供されるため、選択の対象が残りません。その他のゲートウェイでは、アタッチメントがビルドを停止します。

  • レジリエンス: core/fallback-chain は、モデルが失敗したリクエストを別のモデルへ送ります。chains は、フォールバックする各モデルエイリアスについて、いずれかが応答するまで順に試すエイリアスを指定し、失敗したフォールバックはさらにそのエイリアス自身のエントリに従います。max_hops は、リクエストがそのチェーンをどこまで渡されるかを制限します。標準ライブラリは AI ゲートウェイ上で、両方をゲートウェイの Recipe がレンダリングするルーティング設定に書き込むことでこれを実現し、ゲートウェイのモデルマップが公開していない名前があるとビルドを停止します。リクエストがフォールバックするのは、ゲートウェイが要求されたエイリアスを諦めた後だけです。1 つのエイリアスが複数回公開されている場合、失敗した呼び出しはまずリトライとしてそのエイリアスの別のエントリへ移り、これはゲートウェイのリトライ回数で制限されます。core/retry-policy はその回数、つまり、拒否された接続、レート制限、タイムアウトなど、再送すれば成功する失敗に対してゲートウェイがリクエストを送信できる回数(最初の送信を含む、max_attempts)を設定し、標準ライブラリは AI ゲートウェイ上で、これをゲートウェイの Recipe がレンダリングするルーティング設定に書き込むことで実現します。core/gateway/envoy-gateway では、接続されたモデルを提供するルート上のトラフィックポリシーのリトライとして実現されます。これは期間予算のレート制限を担うポリシーと同じものです。Envoy Gateway はルートに 1 つのトラフィックポリシーしか付与しないためです。リクエストは、接続またはストリームの拒否、リセット、または 429、503、504 の応答の後に、最大 max_attempts 回の送信まで再送されます。ルートのリクエストタイムアウト内に何も応答しないモデルには再送されません。そのタイムアウトはすべての送信にまたがるためです。core/gateway/azure-api-management では、API のポリシーの backend セクションにおける、転送を囲む Azure のリトライとして実現されます。HTTP 429 または 5xx ステータスで応答されたリクエストは、再送できるよう本文が保持され、前回の送信の 1 秒後に、最大 max_attempts 回の送信まで再送されます。拒否または切断された接続、および転送のタイムアウト内に何も応答しないモデルには再送されません。Azure はそのようなエラーでリトライを終了し、ポリシーの on-error セクションに引き渡すためです。Azure は最初の送信の後に 1 回から 50 回リトライするため、max_attempts が 1 の場合はリトライを書き込まず、51 を超える値は名前を挙げて拒否されます。リトライは API が継承するはずの転送に置き換わるため、これが付与されている間は、タイムアウトなど、インスタンスのより広いスコープで行われた転送設定は API に適用されず、API は Azure のデフォルトで転送します。ホスト型ゲートウェイでは、core/retry-policy はゲートウェイのリソースにリトライ回数を書き込むことで実現されます。この回数は最初の送信の後の送信を 1 から 5 で指定するため、2 から 6 の max_attempts が尊重され、その他の値は拒否されます。core/fallback-chain はそこでは実現されません。そのゲートウェイは、リクエストがモデルの代わりに指定するルートの内部でのみモデル間のフォールバックを行うため、モデルを指定したリクエストは決してフォールバックしないからです。core/gateway/kong-enterprise では、core/fallback-chain はその chart Recipe 上で実現されます。chains がエントリを与える各エイリアスの chat および completion ルートは、AI プロキシの代わりに Kong の AI Proxy Advanced を担い、そのエイリアスのモデルと、その経路がフォールバックする先のモデルを優先順にターゲットとします。すなわち、エイリアス、次にそのエントリのフォールバックを順に並べ、フォールバック自身のエントリには、数えたホップ数が max_hops 未満である間だけ続けて従います。バランサーは経路の各ターゲットへ、いずれかが応答するまで順に 1 回ずつリクエストを送り、接続エラーまたはタイムアウト、無効な応答ヘッダー、または 429、500、502、503、504 の応答の後に次へ移り、その他の応答はすべて受け取ったまま返します。ビルドは、models ソケットが持たない名前、同じエイリアスに 2 回到達する経路、core/retry-policy との併用(Kong は経路全体で 1 つのリトライ回数しか保持せず、フォールバックの前に同じモデルへ再送できないため)、および 3.12 より古いゲートウェイイメージで停止します。core/retry-policy はそこでは実現されず、その実現は理由を示してすべての付与を停止します。接続された各モデルはそのモデル 1 つだけを担う専用のルートで提供されるため、リトライはリクエストを同じターゲットへ再送する必要がありますが、そのバランサーがそうするかどうかについて Kong のリファレンスはどちらとも読めるためです。core/gateway/agentgateway では、core/retry-policy は chart Recipe 上で、ゲートウェイ自身の設定のリトライポリシーとして実現され、モデルリクエストが到着するリスナーに付与されます。リクエストは、429、500、502、503、504 の応答、拒否またはリセットされた接続、開くのに 11 秒を超える接続、または名前解決の失敗の後に、即座に同じモデルへ、最大 max_attempts 回の送信まで再送されます。agentgateway はリクエストをポリシーの試行回数より 1 回多く送信するため、ポリシーは max_attempts から 1 を引いた値で書き込まれ、max_attempts が 1 の場合は何も書き込まず、256 を超える値は名前を挙げて拒否されます。本文が 64 KiB を超えるリクエストは 1 回だけ送信され、設定はタイムアウトを設けないため、接続を受け入れて何も応答しないモデルは再送されるのではなく待たれます。core/fallback-chain はそこでは実現されず、その実現は理由を示してすべての付与を停止します。agentgateway は失敗したモデルを後続のリクエストから除外することでモデル間のフェイルオーバーを行い、失敗したリクエスト自体にはその失敗が返されるため、どのリクエストもチェーンに沿って渡されないからです。core/gateway/higress では、core/retry-policy はルート自身のリトライとして実現され、すべてのモデルルートに Ingress アノテーションとして書き込まれます。リクエストは、拒否またはリセットされた接続、5xx 応答または 429 の後に、POST も含めて、最大 max_attempts 回の送信まで再送されます。max_attempts が 1 の場合はリトライを無効として書き込み、アノテーションを持たないルートに Higress のコントロールプレーンが与えるリトライを上書きします。2147483648 を超える値は名前を挙げて拒否されます。接続を受け入れた後に何も応答しない、または応答が遅いモデルには再送されません。ルートは試行ごとの期限を設けないためです。また、ストリーミングリクエストは応答が始まる前にのみ再送されます。core/fallback-chain もそこでは実現されず、その実現は理由を示してすべての付与を停止します。Higress は失敗したリクエストを最大 1 回、別の 1 つの宛先(ルートのデフォルトバックエンド、またはそのコンソールが AI ルートに書き込む 1 つのフォールバックルート)へ送るだけなので、どのリクエストもチェーンに沿って渡されないからです。core/gateway/traefik-hub では両方が chart Recipe 上で実現され、それぞれ v3.20 より古い Traefik Hub イメージでビルドを停止します。そのようなイメージのフェイルオーバーは試行するサービスにミドルウェアを持たず、そのリトライは応答のステータスに基づいて POST を再送できないためです(送信 1 回のリトライポリシーは例外です)。core/fallback-chain は、chains がエントリを与える各エイリアスのルートを Traefik 自身の入れ子のフェイルオーバーに通し、エイリアスの経路のモデルを順に試します。すなわち、エイリアス、次にそのエントリのフォールバックを順に試し、フォールバック自身のエントリには、数えたホップ数が max_hops 未満である間だけ続けて従います。各モデルはそれぞれ独自のモデル名、認証情報、クォータ、リトライを持ちます。モデルの 429 または 500 から 504 の応答は、そのモデルのリトライの後に、リクエストを次のモデルへ移します。その他の応答は受け取ったまま返され、最後のモデルの応答は内容にかかわらず返されます。また、1 MiB を超えるリクエスト本文は送信されずに HTTP 413 で拒否されます。ビルドは、models ソケットが持たない名前と、同じエイリアスに 2 回到達する経路で停止します。core/retry-policy は Traefik のリトライミドルウェアで、各モデルルート、または経路が試行する各モデルの最後に置かれます。リクエストは、モデルに何も運ばなかった接続の後、および 429 または 500 から 504 の応答の後に、POST も含めて、即座に、最初の送信を含めて最大 max_attempts 回の送信まで再送されます。max_attempts が 1 の場合は何も書き込みません。ゲートウェイ自身が形成する応答(キーチェックによる拒否、ガード、マスキング、クォータ)は決して再送されず、ストリーミング応答も一度始まると再送されません。

  • 期間予算: core/period-budget は、ゲートウェイを通るトラフィックが一定期間に消費できる量を制限します。limit、それが対象とする period、scope(ゲートウェイが提供するすべて、呼び出し元ごと、またはモデルごと)、unit(US ドル建てのコストまたはトークン)を指定し、ゲートウェイがその期間に数えた量が上限を超えると、以降のモデルリクエストは拒否されます。dataplane.aggrega.ai/period-budget を宣言する任意の component にアタッチできます。標準ライブラリはこれを AI ゲートウェイ上で実現します。このゲートウェイの予算はゲートウェイが提供するすべてを対象とし、US ドルで数えられ、各期間の開始時、つまり UTC の午前 0 時から数える日数、または暦月の初日に、再びゼロから始まります。実現では上限と期間をゲートウェイの Recipe がレンダリングする設定に書き込み、それ以外の単位、スコープ、期間は名前を示して拒否します(ゲートウェイが暦月として数える 30d もその一つです)。また、ゲートウェイの database_url と api_key の両方の認証情報スロットがアタッチされていなければ停止します。管理用データベースがなければゲートウェイはカウントを保持せず、管理キーがなければどの呼び出し元も予算と照合しないためです。カウントが上限を超えると、ゲートウェイはすべての呼び出し元のモデルリクエストに加えて管理キーのモデルリクエストも拒否しますが、モデル一覧とキー管理はそのキーに引き続き応答します。ホスト型ゲートウェイでは、ゲートウェイのリソース上の支出上限ルールとして実現され、時間とともに前進するウィンドウ(直近の period、ゲートウェイが価格を把握しているモデルについて)にわたって US ドルで、ゲートウェイが提供するすべてを対象に数えられます。呼び出し元ごと・モデルごとの予算、トークン、暦月は名前を示して拒否されます。core/gateway/apisix では chart Recipe 上で実現され、配線されたモデルのルートに APISIX のトークンレート制限として書き込まれます。各モデルの応答が報告するトークン(total_tokens、prompt_tokens または completion_tokens)で数えられ、時計ではなく前のウィンドウが閉じた後の最初のモデルリクエストで開く period の固定ウィンドウにわたり、ゲートウェイが提供するすべて、配線された各モデル個別、または Release が infra.callers で宣言した各呼び出し元個別に数えられます。ゲートウェイは各呼び出し元が提示するキーで区別します。カウントが上限に達すると、ゲートウェイはウィンドウが閉じるまでモデルリクエストに HTTP 503 で応答します。リクエストのトークンは応答の完了時に加算されるため、上限に達したリクエストは処理され、セマンティックキャッシュが返す応答は何も数えられず、上限を超えても返されます。APISIX は completion リクエストのトークンを数えないため、予算がアタッチされている間、配線された各モデルには chat ルートだけが与えられます。また、カウントはゲートウェイプロセスのメモリに保持されるため、chart はレプリカを 1 つだけ実行し、再起動すると新しいウィンドウが開きます。US ドル建ての予算、infra.callers が何も宣言していない場合の呼び出し元ごとの予算、暦月、1 つのゲートウェイ上の 2 つ目の予算は名前を示して拒否され、ルートをレンダリングしない workload Recipe へのアタッチも同様です。core/gateway/envoy-gateway では、ゲートウェイに配線されたモデルを提供する AI ルート上の Envoy Gateway の使用量ベースのレート制限として実現されます。ルートは unit が指定するトークン数(total_tokens、prompt_tokens または completion_tokens)を Envoy AI Gateway が各応答から読み取るコストとして宣言し、そのルート上のトラフィックポリシーが応答完了時にそれを、Envoy Gateway のレート制限の 1 単位あたり limit トークンに対して、ゲートウェイが提供するすべて、または配線された各モデル個別に課金します。各ウィンドウは UTC の時計に固定されます(1 秒、1 分、1 時間、午前 0 時からの 1 日、木曜日からの 1 週間、または 1970 年 1 月 1 日から数えた 30 日または 365 日)。1mo は暦月で、これは Envoy Gateway のレート制限サービスの設定によるもので、その設定はそのインストールが保持するすべての月次レート制限に適用されます。カウントは、Envoy Gateway のコントロールプレーンが作成し、提供するすべてのゲートウェイに対して有効にするレート制限サービスによって、ゲートウェイの cache ソケットに配線された Redis プロトコルのストアに保持されます。カウントが上限を超えると、ゲートウェイはウィンドウが終わるまでモデルリクエストに HTTP 429 で応答します。リクエストのトークンは応答完了時に加算されるため、上限を超えたリクエストは処理されます。ストアまたはレート制限サービスに到達できない間、またはチェックが Envoy のレート制限タイムアウトより長くかかる場合、モデルリクエストは HTTP 500 で拒否されます。これは Envoy Gateway のコントロールプレーンの設定によるもので、その設定はそのインストールが保持するすべてのレート制限に適用されるため、手動で適用したレート制限もフェイルクローズになります。障害の直前に受け付けられたリクエストは引き続き処理され、カウントされません。トークンは応答後に課金されるためです。また、カウントをメモリに保持するストアは再起動時にすべてのウィンドウを最初からやり直します。US ドル建ての予算、呼び出し元ごとの予算(ゲートウェイは呼び出し元自身が書くヘッダーでしか呼び出し元を区別できず、その経路上で何もそれを検証しません)、その他の期間、1 つのゲートウェイ上の 2 つ目の予算は名前を示して拒否され、models または cache ソケットに何も配線されていないアタッチも同様です。core/gateway/azure-api-management では、API のポリシーに書き込まれる Azure のトークン制限として実現されます。各応答が報告する prompt トークンと completion トークンを合算して、API が提供するすべて、またはゲートウェイがキーを検証する API Management サブスクリプションごとに数えます。UTC の時計上の固定ウィンドウ(1 時間、1 日、1 週間、暦月、暦年。1h、1d、7d、1mo または 12mo。週が何曜日に始まるかは Microsoft が明示していません)にわたるクォータで、超過すると HTTP 403 で応答するもの、または 1 分間(1m)のレートで、HTTP 429 で応答し、クラシック階層ではスライディングウィンドウ、v2 階層ではトークンバケットとして数えられるもののいずれかです。カウントは各応答が報告する使用量であるため、同時リクエストが上限を超えることがあり、インスタンスの各ゲートウェイはそれぞれ独自のカウントを保持します。US ドル建て、または prompt トークンもしくは completion トークンのみの予算、モデルごとの予算(リクエストが指定するモデルは呼び出し元が書くものであり、複数の名前が 1 つのモデルに到達しうるため)、サブスクリプションキーを必要としない API 上のサブスクリプションごとの予算、その他の期間、整数でない上限は名前を示して拒否されます。Consumption 階層はトークン制限を実行しません。core/gateway/kong-enterprise では chart Recipe 上で実現され、ゲートウェイがインポートするルートに Kong の AI Rate Limiting Advanced として書き込まれます。各モデルの応答が報告するトークン(total_tokens、prompt_tokens または completion_tokens)で、秒、分、時間、日の数で表される period の固定ウィンドウごとに数えられ、各リクエストはその時刻が属する 1 つのウィンドウで数えられます。対象はゲートウェイが提供するすべて、または配線された各モデル個別で、スコープ model のリクエストは、どのモデルが応答したかにかかわらず、指定したエイリアスに対して数えられます。カウントが上限に達すると、ウィンドウが終わるまで次のモデルリクエストは HTTP 429 で応答されるため、上限を超えたリクエストは処理されます。Kong は、リクエストが運ぶ prompt トークンの独自の見積もりに基づいて、リクエストを早期に拒否することもできます。カウントはゲートウェイの PostgreSQL バックエンドに保持され、すべてのレプリカで共有され、再起動後も保持されます。US ドル建ての予算(Kong は設定が各モデルに与える価格からしかコストを数えず、カタログは価格を提供しません)、呼び出し元ごとの予算(Kong は認証プラグインが指定するコンシューマーとしてしか呼び出し元を区別できず、上記の「Kong in front of models」で述べた理由により、ゲートウェイは呼び出し元を宣言しません)、暦月、1 つのゲートウェイ上の 2 つ目の予算、3.15 より古いゲートウェイイメージは名前を示して拒否され、models ソケットに何も配線されていないアタッチも同様です。core/gateway/agentgateway では chart Recipe 上で実現され、ゲートウェイの設定に書き込まれ、各応答が報告する合計トークンで数えられます。スコープ caller では、Release が infra.callers で宣言した各呼び出し元の API キーに対する予算として、Unix エポックに揃えた period の固定ウィンドウ(1 日は UTC の午前 0 時に始まります)にわたって数えられ、Recipe がレンダリングするボリューム上の SQLite ストアに、レプリカ 1 つで保持されます。スコープ gateway または model では、ゲートウェイが提供するすべて、またはリクエストが求める各モデル名に対するトークンバケットとして、ゲートウェイが設定を読み込んだ時点から period ごとに上限まで補充され、メモリに保持されるため、再起動や設定の変更でバケットは再び満たされます。数えた量が上限に達すると、ウィンドウが終わるかバケットが補充されるまで、モデルリクエストは HTTP 429 で応答されます。上限に達したリクエストは処理されます。US ドル建ての予算(ゲートウェイのモデルコストカタログは配線されたモデルのいずれにも価格を付けていないため、予算は何も数えません)、prompt トークンまたは completion トークンのみの予算、infra.callers が何も宣言していない場合の呼び出し元ごとの予算、暦月、整数でない上限、1 つのゲートウェイ上の 2 つ目の予算は名前を示して拒否され、models ソケットに何も配線されていないアタッチも同様です。compose Recipe にはこの実現がありません。core/gateway/traefik-hub では chart Recipe 上で、配線された各モデルのルートに対する Traefik Hub のクォータミドルウェアとして実現され、カウントはゲートウェイの cache ソケットに配線された Redis プロトコルのストアに保持されます。各応答が報告するトークン(total_tokens、prompt_tokens または completion_tokens)を数えるか、usd の場合はミドルウェアに同梱されたモデル一覧から価格を付けた US ドル建てのコストを数えます(価格のないモデルは HTTP 422 で拒否されます)。ウィンドウは時間とともにスライドし、ある時点で数えた量は 1 期間後に再び解放されます。対象は配線された各モデル個別、または 1 つのモデルが配線されている場合はゲートウェイが提供するすべてです。カウントが上限に達すると、モデルリクエストは HTTP 429 で拒否されます。リクエストのカウントは応答完了時に加算されるため、上限を超えたリクエストとそれと並行して処理されたリクエストは処理され、セマンティックキャッシュが返す応答は何も数えられません。Traefik のリファレンスによれば、ストアに到達できない間、クォータはリクエストをカウントせずに処理します。呼び出し元ごとの予算(クォータはクライアントのアドレス、リクエストヘッダー、またはリクエストのホストでリクエストを区別し、そのいずれもゲートウェイのキーチェックが検証した呼び出し元ではありません)、複数のモデルが配線されている場合のゲートウェイ全体に対する予算(1 つのクォータを指定するルート同士がカウントを共有するかどうかを Traefik のリファレンスが明示していないため)、暦月、および時間または日、あるいは整数時間になる分または秒以外の期間は名前を示して拒否され、整数トークンでない上限、models または cache ソケットに何も配線されていないアタッチも同様です。core/gateway/higress では chart Recipe 上で、配線された各モデルのルートに対する Higress のトークン制限プラグインとして実現され、カウントはゲートウェイの cache ソケットに配線された Redis プロトコルのストアに保持されます。各応答が報告する prompt トークンと completion トークンを合算して応答完了時に加算し、period の固定ウィンドウ(1 秒、1 分、1 時間または 1 日)にわたって数えます。ウィンドウはその中で最初の応答が数えられたときに開き、対象はゲートウェイが提供するすべて、または各エイリアス個別です。カウントが上限を超えている間、ウィンドウが終わるまでモデルリクエストは HTTP 429 で応答されるため、上限を超えたリクエストは処理されます。使用量を報告しない応答は何も数えられないため、Recipe はストリーミングリクエストのモデルに使用量の報告を求め、その報告を無効にするストリーミングリクエスト、コンテンツタイプが application/json を含まず multipart/form-data で始まりもしないリクエスト(AI プロキシは報告を求めずに転送します)、ゲートウェイのプラグインが本文を読まないリクエスト(圧縮された本文、octet-stream または grpc を含むコンテンツタイプ、アップグレード)を HTTP 403 で拒否します。ゲートウェイの検証がデコードできない本文を意図的に送るクライアントはこれらの拒否をすり抜け、そのようなストリーミングリクエストはカウントされません。マスキングがアタッチされていない場合、本文がゲートウェイの 32 KiB バッファを超えるリクエストは、ストアが応答するタイミングによっては HTTP 413 で拒否されることがあります。ストアに到達できない間、モデルリクエストは処理され、カウントされません。プラグインにはその際にリクエストを拒否する設定がありません。US ドル建て、または prompt トークンもしくは completion トークンのみの予算、呼び出し元ごとの予算(ゲートウェイは呼び出し元を宣言しないため、どれも検証しません)、その他の期間、整数でない上限、1 つのゲートウェイ上の 2 つ目の予算は名前を示して拒否され、models または cache ソケットに何も配線されていないアタッチも同様です。

  • 同時実行数: core/concurrency-limit は、ゲートウェイが同時に運ぶリクエストの数(max_in_flight)に上限を設け、呼び出し元のバーストがその背後のモデルでキューになるのを防ぎます。scope は 1 つの上限が何を数えるかを指定します。デフォルトの gateway は、ゲートウェイが転送するすべてのリクエストをまとめて数えます。model は、ゲートウェイがリクエストを送る各ターゲットに個別のカウントを与えます。ターゲットとはゲートウェイがルーティングする各アップストリームエントリであり、1 つのモデル名に複数のエントリがある場合はそれぞれ個別に数えられます。上限とそのスコープはオペレーターが決める容量の見積もりであり、アタッチの infra で設定するため、オペレーターが Release でアタッチします。上限は実行中のプロキシごとに数えられるため、複数のレプリカが実行される場合はそれぞれがその数だけ受け付けます。dataplane.aggrega.ai/concurrency-cap を宣言する任意の component にアタッチでき、実現は、そのゲートウェイが数えないスコープを名前を示して拒否します。core/gateway/nginx では、スコープ gateway は NGINX の limit_conn として実現されます。キーはすべてのリクエストで同じ 1 語であるため、NGINX は処理中のすべてのリクエストを 1 つの合計として、ワーカープロセスが共有するメモリに保持して数え、上限を超えたリクエストには HTTP 503 で応答します。NGINX はアップストリームターゲットごとのカウントを保持しないため、スコープ model は拒否され、limit_conn が受け付ける最大値である 65535 を超える max_in_flight も拒否されます。core/gateway/envoy-gateway では、スコープ model は、配線されたモデルを提供するルート上のトラフィックポリシーのサーキットブレーカーとして実現されます。このポリシーは期間予算のレート制限とリトライポリシーのリトライも運びます。Envoy Gateway はこれをそのルートの各ルールのバックエンドに適用し、配線された各モデルは独自のルールを持つため、配線された各モデルに同時に送られるリクエストは最大 max_in_flight 件となり、上限を超えたリクエストは HTTP 503 で応答され、再送されません。リトライポリシーが繰り返す送信も、最初の送信と同様に上限に対して数えられます。Envoy のワーカースレッドはカウントを確認してから加算するため、同時に到着したリクエストによって一時的に上限を超えることがあります。Envoy Gateway はバックエンドごとに上限を保持し、その合計には上限を保持しないため、スコープ gateway は拒否され、models ソケットに何も配線されていないアタッチも拒否されます。AI ゲートウェイでは、スコープ model は、手動で入力したものも配線したものも含め、モデルマップのすべてのエントリの max_parallel_requests として実現されます。各エントリに同時に処理中となるリクエストは最大 max_in_flight 件で、エントリが満杯のリクエストは HTTP 429 で応答されます。エイリアスのエントリが 1 つの場合はゲートウェイのリトライの後に、複数ある場合は、プロキシが数える前にエントリを選ぶため、他のエントリに余裕があっても即座に応答されます。ただし、core/fallback-chain がそのエイリアスのフォールバックを列挙している場合は、リクエストはそちらに送られます。プロキシは各カウントをメモリに保持し、デフォルトではレコードは作成から 10 分後に失効し、その後新しいカウントがゼロから始まるため、アタッチはその有効期間を 1 世紀に設定し、プロキシが実行されている限りすべてのカウントを保持します。この有効期間のため、上限がアタッチされている間、Release がそのフィールドを許可していても、ゲートウェイは priority を持つリクエストを拒否します。プロキシはそのようなリクエストごとに、レコードが失効するまでキューエントリを保持するためです。また、モデルマップが 100 エントリを超えるとビルドは停止します。それを超えると、カウントを保持するストア(200 レコードを保持し、満杯になるたびに 1 つを破棄します)がカウントを破棄する可能性があるためです。そこではスコープ gateway は拒否されます。プロキシの 1 つの合計は、環境変数で有効にするリクエストリミッターだけが読み取り、そのリミッターはリクエストを最初の 1 秒間だけ数えるためです。ホスト型ゲートウェイもこれを実現しません。その terraform Recipe がゲートウェイのリソースに書き込むリクエスト制限はレート、つまり一定間隔あたりのリクエスト数であり、処理中のリクエストに対する上限ではありません。

  • 監査ログ: core/audit-logging は、ゲートウェイが処理する各モデルリクエストの記録をゲートウェイに保持させます。記録には応答したモデルと、応答が報告するトークン数が含まれ、記録の保存先は各実現が定めます。gateway.aggrega.ai/intelligence: semantic を持つ任意の component にアタッチでき、3 つの値はオペレーターのもので、その infra で設定されるため、オペレーターが Release でアタッチします。require_cost はデフォルトで有効で、各リクエストのコストも、実現が指定する通貨で記録に含めます。require_verified_caller はデフォルトで有効で、ゲートウェイが検証した呼び出し元、つまりゲートウェイが発行または確認したキーを記録に含めます。retention_days はデフォルトで未設定で、設定するとゲートウェイはその日数を経過した記録を削除します。未設定の場合、ゲートウェイ自体は記録を削除せず、記録は保存先が保持する限り残ります。値を保持できないゲートウェイはビルド時にその値を挙げてアタッチを拒否するため、require_cost と require_verified_caller をデフォルトのままにしたアタッチは、コストと検証済みの呼び出し元を得るか、停止するかのどちらかになります。require_verified_caller を無効にすると、呼び出し元がリクエスト自身の主張するもの、あるいは呼び出し元のない記録を受け入れます。その場合、リクエストを送る誰もが別の呼び出し元の名義で記録させることができるため、そのような記録は誰がリクエストを送ったかを示しません。AI ゲートウェイでは、記録はゲートウェイの管理用データベースの行であり、すべての値が守られます。行には、ゲートウェイがモデルごとに保持する料金表から算出した米ドル建てのリクエストコストが記され(料金表に価格のないモデルはコストゼロとして記録されます)、ゲートウェイが検証したキーと、そのキーが属するユーザーおよびチームが記されます。一方、行に記されるエンドユーザーはリクエストが書いたものであり、確認されません。管理用データベースがなければゲートウェイは行を書かず、管理キーがなければ呼び出し元を確認せず、キーを提示せずエンドユーザーも指定しないリクエストについては行を書かないため、ゲートウェイの database_url と api_key の資格情報スロットが両方アタッチされていない限りビルドは停止します。ゲートウェイの values.log_masking がマスク対象を列挙している間は、応答済みのリクエストのみを記録します。core/gateway/envoy-gateway では、記録はゲートウェイのアクセスログの 1 行であり、アタッチが存在する間その Recipe が書き込みます。データプレーンの標準出力に、リクエストごとに 1 行の JSON として出力され、Envoy Gateway がデフォルトで書くフィールド、リクエストが指定したモデル、応答したモデル、応答が報告するプロンプト・補完・合計のトークン数を含みます。モデルを提供するルートがこれらのカウントを宣言することで、Envoy AI Gateway がそれらを記録します。モデルが応答しなかったリクエストには応答したモデルもトークン数も含まれず、アクセスログ自体は何も保持しないため、行がどれだけ残るかはその出力を収集するもの次第です。ゲートウェイが検証した呼び出し元を示すフィールドはありません。クライアントのアドレスと送信されたヘッダーは届いたまま書き込まれます。ゲートウェイは料金を保持せず、その Recipe がレンダリングするルート上には呼び出し元を検証するものがなく、アクセスログには削除できる記録がないため、その実現は require_cost と require_verified_caller を無効にし retention_days を指定しないアタッチをビルドし、それ以外の場合は保持できない各値を挙げて、すべてを 1 つの失敗として停止します。models ソケットに何も接続されていない場合も停止します。core/gateway/agentgateway では、記録は、アタッチが存在する間そのチャート Recipe がレンダリングするボリューム上の SQLite ストアにゲートウェイが書き込む行で、レプリカは 1 つです。キー、予算、認可のチェックを通過した各モデルリクエスト(ガードによる拒否を含む)ごとに書き込まれ、ゲートウェイがモデルサーバーに要求したモデル(呼び出し元が送ったエイリアスではなく、接続されたモデルが公開する名前)、応答したモデル、応答が報告する入力・出力・合計のトークン数、ステータスとタイミング、そして Release が infra.callers で宣言する各呼び出し元については、ゲートウェイが検証した API キーから得たその呼び出し元の名前を含みます。キー、認可ルール、または呼び出し元の予算によって拒否されたリクエストは行を残しません。プロンプトや応答のテキストは保持されず、行はポッド内で待ち受けるゲートウェイの管理インターフェースを通じて読み取られます。require_verified_caller は呼び出し元が宣言されている間は守られます。require_cost は、ゲートウェイのモデルコストカタログが接続されたモデルのいずれにも価格を付けていないため名前を挙げて拒否され、呼び出し元が宣言されていない場合の require_verified_caller と、ゲートウェイが記録を削除しないため retention_days も同様に拒否されます。その compose Recipe にはこの実現がありません。core/gateway/higress では、記録はゲートウェイのアクセスログ行の ai_log フィールドであり、アタッチが存在する間 Higress の統計プラグインがそれを埋めます。応答したモデルと、応答が報告する入力・出力・合計のトークン数がゲートウェイの標準出力に出力され、プロンプトや応答のテキストは含まれません。ゲートウェイは呼び出し元を宣言せず、何も価格付けせず、削除できる記録を保持しないため、その実現は require_cost と require_verified_caller を無効にし retention_days を指定しないアタッチをビルドし、それ以外の場合は保持できない各値を挙げて、すべてを 1 つの失敗として停止します。models ソケットに何も接続されていない場合も停止します。core/gateway/traefik-hub では、すべてのアタッチが理由を挙げて停止します。Traefik Hub はモデルリクエストの記録を、その AI ミドルウェアがトレーシングバックエンドへエクスポートする OpenTelemetry スパンとしてのみ保持し(モデルと、詳細レベルではトークン数とその米ドル建てコストを含みます)、その実現はトレーシングバックエンドを接続しないため、記録はどこにも届きません。また、スパンは呼び出し元を示さないため、ゲートウェイのキーチェックが検証した呼び出し元を示すこともできません。core/gateway/azure-api-management では、上記のゲートウェイの項目が述べるとおりすべてのアタッチが停止し、標準ライブラリの他のゲートウェイはこれを実現しないため、それ以外のゲートウェイへのアタッチは型を挙げて停止します。

  • セマンティックキャッシュ: core/semantic-caching は、モデルを再度呼び出す代わりに、意味が十分に近い以前のプロンプトに対して保存された応答でプロンプトに答えるキャッシュを宣言します。embedding_model は各プロンプトをベクトルに変換するモデルを、ゲートウェイが公開する名前で指定します。保存された応答は、2 つのプロンプトの類似度が similarity_threshold 以上のときに返され、ttl_seconds の間使用できます。scope はキャッシュを誰が共有するかを決めます。デフォルトの end_user はゲートウェイが識別するエンドユーザーごとにキャッシュを分け、key は同じキーを提示するすべての呼び出し元に 1 つのキャッシュから応答するため、そのキーの背後にいるエンドユーザーに別のエンドユーザー向けに生成された応答が返されることがあります。core/data-masking はこれとの競合を宣言しているため、両方を持つ component ではビルドが停止します。標準ライブラリは AI ゲートウェイ上でこれを実現します。AI ゲートウェイは応答を cache_store ソケットに接続された core/datastore/redis に保持し、ストアがパスワードを必要とする場合はその接続上のクレデンシャルが保持するパスワードをストアに提示します。ストアは ttl_seconds が経過すると各応答を削除します。キャッシュされるのは chat、responses、messages のリクエストであり、completions や embeddings はキャッシュされません。この実現は、ゲートウェイの api_key スロットがアタッチされていない場合(管理キーがないとゲートウェイは呼び出し元を検証しないため)、ゲートウェイのモデルマップが公開していない embedding_model の場合、および cache_store に何も接続されていない場合にビルドを停止します。保存された応答は、保存時の条件に一致するリクエストにのみ返されます。その条件とは、リクエストが提示し、ゲートウェイが検証するキーとそのキーのチームおよび組織、end_user の下ではリクエストが指定するエンドユーザー、そしてリクエストが要求するモデルとその他のパラメータです。ゲートウェイはキー、チーム、組織、エンドユーザーをリクエスト自体に書き込み、chat リクエストでは呼び出し元がそれらに送ったどの値も上書きします。responses または messages リクエストでは、リクエスト自身のメタデータからチーム、組織、エンドユーザーのフィールドを削除し、そこでキーを指定するものは拒否するため、どのリクエストも名前を指定して別のキーの応答に入り込むことはできません。ただし、リクエスト自身のメタデータによって、提示するキーの応答の間でリクエストを移動させることはできます。responses リクエストでは model_group が、応答の保存条件のうち要求するモデルを置き換えます。responses または messages リクエストでは caching_groups により、同じモデルエイリアスのグループを指定するリクエスト同士がそれらをまたいで応答を共有できます。responses または chat リクエストでは redis_namespace により、名前空間を指定するリクエストが指定しないリクエストと分けられます。ゲートウェイはリクエスト自体が指定するヘッダーまたはボディフィールドからエンドユーザーを読み取り、そのいずれも検証しません。end_user の下では、別のエンドユーザーを名乗る呼び出し元にそのエンドユーザーの応答が返され、エンドユーザーを指定しないリクエストは、提示するキーの下で同様の他のすべてのリクエストと 1 つのキャッシュを共有します。ホスト型ゲートウェイはこれを実現しません。そのキャッシュは以前のリクエストと同一のリクエストにのみ応答します。core/gateway/azure-api-management では、API のポリシーに書き込まれる Azure のセマンティックキャッシュの lookup と store として実現されます。embedding_model は、API Management インスタンスがすでに保持している embeddings モデル用のバックエンドを指定し、インスタンスはマネージド ID でそこに到達します。また、インスタンスには外部キャッシュとして RediSearch を構成した Redis キャッシュが必要です。ビルドからはそのどちらも見えないため、オペレーターがゲートウェイの infra.cache_serves_vector_search を設定してキャッシュが RediSearch を提供することを確認するまで、ビルドは停止します。ストアは応答を ttl_seconds の間保持します。similarity_threshold は Azure のスコアしきい値として、1 からしきい値を引いた値で書き込まれ、そのスコアはコサイン距離として解釈されます。Microsoft はその範囲と方向(小さいほどより近いプロンプトを要求する)を示していますが、その尺度は示していないためです。応答は API ごと、および API Management サブスクリプション(ゲートウェイがそのキーを検証します)ごとに分けて保存・返却されるため、この実現は key を維持し、サブスクリプションキーを要求しない API ではそれを拒否し、end_user を拒否します。その Recipe がレンダリングする API はエンドユーザーのトークンを検証しないため、ゲートウェイには分けて扱える検証済みのエンドユーザーがありません。core/gateway/contour と core/gateway/nginx もこれを実現しません。これらはセマンティックキャッシュを提供しないためです。core/gateway/agentgateway では、その実現はすべてのアタッチメントで理由を示して停止します。agentgateway は応答のキャッシュを持たず、そのプロンプトキャッシュは、自らプロンプトをキャッシュするプロバイダーがそうしてよい箇所を示すだけだからです。core/gateway/kong-enterprise では、その実現はすべてのアタッチメントで、要求されたスコープを示して停止します。Kong の AI Semantic Cache には、ある呼び出し元の保存済み応答を別の呼び出し元のものと分ける設定がなく、ゲートウェイは呼び出し元を認証プラグインが指定する consumer としてしか区別せず、上記「Kong in front of models」で述べた理由により呼び出し元を宣言しません。そのため end_user の下でも key の下でも、すべてのリクエストが 1 つのキャッシュを共有することになります。core/gateway/higress では、その実現はすべてのアタッチメントで、要求されたスコープを示して停止します。Higress のセマンティックキャッシュは各応答を 1 つのキープレフィックスとそれに続くプロンプトテキストの下に保存し、そのキーには呼び出し元もエンドユーザーも含まれず、さらにゲートウェイは呼び出し元を宣言しないため、すべてのリクエストが 1 つのキャッシュを共有することになります。core/gateway/apisix では、chart Recipe 上で、その Release が infra.callers で宣言する呼び出し元に対し、接続された各モデルの chat ルートに APISIX 3.18.0 のセマンティックキャッシュとして書き込まれる形で実現されます。応答はルートごと・呼び出し元ごとに、呼び出し元が提示しゲートウェイが検証するキーの下に保存されるため、どの呼び出し元にも別の呼び出し元向けに保存された応答は返されません。この実現は key を維持し、end_user を名指しで拒否します。ゲートウェイは 1 つのキーの背後にいるエンドユーザーを区別できないためです。embedding_model はゲートウェイの models ソケット上の接続を指定し、キャッシュはそのエンドポイント、モデル、クレデンシャルを使って埋め込みを行います。キャッシュはリクエストの最後のユーザーメッセージを埋め込み、メッセージの類似度が similarity_threshold 以上で、それ以前のメッセージ(システムプロンプト、以前のターン)が同一である保存済み応答を返します。応答はゲートウェイの cache_store ソケットに接続された core/datastore/redis に ttl_seconds の間置かれ、キャッシュはその接続上のクレデンシャルが保持するパスワードをストアに提示します。意味によって返された応答は、そのリクエストの下でさらに ttl_seconds の間再保存されます。completion リクエストはキャッシュされず、ストアまたは埋め込みの失敗はミスとして扱われ、リクエストにはそのまま応答されます。この実現は、呼び出し元が宣言されていない場合、cache_store または models ソケットに何も接続されていない場合、およびそこにどの接続も持たない embedding_model の場合に停止します。APISIX は保存済み応答をゲートウェイ単位ではなくルートと呼び出し元でキー付けするため、1 つのストアに接続された 2 つの APISIX ゲートウェイ、または 1 つの Aggregate の 2 つの Releases がゲートウェイを 1 つの外部ストアに向けている場合、同じエイリアスとモデル上の同名の呼び出し元にキャッシュされた応答が返されることがあります。APISIX 3.17.0 のその workload Recipe には、セマンティックキャッシュがまったくありません。core/gateway/traefik-hub では、chart Recipe 上で、その Release が infra.callers で宣言する呼び出し元に対し、接続された各モデルのルート上の Traefik Hub のセマンティックキャッシュとして実現されます。応答は接続されたモデルごと・呼び出し元ごとに、ゲートウェイのキーチェックが検証した呼び出し元の下で、それぞれ固有のキーにより保存されるため、どの呼び出し元にも別の呼び出し元向けに保存された応答は返されません。この実現は key を維持し、end_user を名指しで拒否します。ゲートウェイは 1 つのキーの背後にいるエンドユーザーを区別できないためです。embedding_model はゲートウェイの models ソケット上の接続を指定し、キャッシュはそのエンドポイント、モデル、クレデンシャルを使ってリクエストのテキストを埋め込みます。similarity_threshold はキャッシュの距離上限として、1 からしきい値を引いた値で書き込まれ、コサイン距離として解釈されます。Traefik のリファレンスは上限の方向を示していますが、その尺度は示していないためです。応答はゲートウェイの cache_store ソケットに接続された core/datastore/redis に ttl_seconds の間保持され、埋め込むには大きすぎるリクエストはキャッシュなしで応答されます。この実現は、呼び出し元が宣言されていない場合、cache_store または models ソケットに何も接続されていない場合、そこにどの接続も持たない embedding_model の場合、および 3.19 系で v3.19.11 以降、または v3.20.6 以降のリリースをタグが示さない Traefik Hub イメージの場合に停止します。それより前のリリースは、ルートのすべての呼び出し元で 1 つのキャッシュを共有するためです。

  • プロンプトインジェクションのスクリーニング: core/prompt-injection-shield は、ゲートウェイが転送するモデルリクエストを、モデルが呼び出される前に、モデルに与えられた指示を上書きしようとする試みがないか、standard または strict の sensitivity で検査することを宣言します。strict はそのような試みをより多く拒否し、それに伴って正当なリクエストもより多く拒否します。この検査は確率的な分類器の判定です。言い換えられたもの、エンコードされたもの、綴りを変えたものを含め一部の攻撃を見逃し、一部の正当なリクエストを拒否し、回避可能であることが知られています。そのため、これは他の対策と並ぶ対策の一つであり、モデルの応答、ツール呼び出しの引数、画像は判定しません。これは任意のゲートウェイにアタッチでき、実現は、ゲートウェイのリクエストをその guard ソケットに配線されたガードを経由させるか(ゲートウェイには設定されたアドレスへ転送すること以外何も求めません)、ゲートウェイ自身が実行する検査を有効にするかのいずれかです。ガードを経由する場合、ガードが各リクエストを検査し、許可したものをモデルへ転送します。そのソケットに何もない状態で Feature をアタッチすると、それを名指ししてビルドが停止します。標準ライブラリは、AI ゲートウェイと NGINX ゲートウェイでこれを実現し、いずれも core/security/nemo-guardrails をガードとします。これは OpenAI の chat-completions API を話すサービスで、そのレールはリクエストの最新のユーザーメッセージを、配線された core/security/trustyai-huggingface-detector の分類器に送り、その分類器のスコアがガードのしきい値に達するとリクエストを拒否します。拒否されたリクエストにはガード自身が通常の completion で応答し、その内容はモデルに一切届きません。ガードまたはその検出器に到達できない場合も、リクエストは拒否されます。両者とも、ガードがそのガードであり、感度が示すしきい値(standard では 0.5、strict では 0.001。検出器のデフォルト分類器について測定された 2 つの値です)で動作していない限り、ビルドを停止します。ゲートウェイはガードを見るものの、その背後の検出器は見ないため、そのモデルを確認できません。AI ゲートウェイでは、モデルマップのすべてのエイリアスがガードに送られ、各ターゲットは openai/<model> と書かれるため、マップは手で記述したものになります。ゲートウェイの models ソケットに配線されたモデルは、自身の接続の認証情報で自身のエンドポイントに送られ、ガードを迂回してしまうため、そのソケットが接続を保持している間、実現はそれを名指ししてビルドを停止します。AI ゲートウェイは、ガードが検査する唯一の種類である chat completion 以外のすべてのリクエストを拒否します。NGINX ゲートウェイでは、その唯一の location がアップストリームの代わりにガードへ転送し、ガードは他のモデルルートには応答しません。core/gateway/azure-api-management では、infra.content_safety_backend_id が指すインスタンスの Azure AI Content Safety バックエンドを通じて API のポリシーで有効化される Azure 独自のプロンプトシールドとして実現され、そのキーが未設定の間はビルドが停止します。Azure AI Content Safety は、モデルが呼び出される前に、セマンティックキャッシュの参照より先に、各リクエストにユーザー攻撃がないか検査し、ゲートウェイは検出したものに HTTP 403 で応答します。サービスが受け付ける長さを超えるリクエストにも同様に応答します。シールドはオンかオフのみのため、standard は維持され、strict は名指しで拒否されます。また、Microsoft 独自の感度で動作し、ガードで standard が示すしきい値に対して測定されたものではありません。インスタンスはマネージド ID でそのバックエンドに到達し、その ID にはサービス上の Cognitive Services User ロールが必要です。ビルドはそのどちらも確認できません。標準ライブラリのゲートウェイのうち、これを実現するのはこの 3 つだけで、他のゲートウェイにアタッチすると型を名指ししてビルドが停止します。ほとんどは、実現がガードを経由させられるルートをレンダリングしません。ルートを独自のストアに保持するか、背後のサービスから取得するか、標準ライブラリがこの種の検査を有効にしないホスト型サービスであるかのいずれかです。また、配線されたモデルのルートをチャート Recipe がレンダリングする core/gateway/apisix と、配線されたモデルの AI ルートを Recipe がレンダリングする core/gateway/envoy-gateway には、その実現がありません。配線された各モデルのエントリを Recipes がレンダリングする core/gateway/agentgateway では、実現は理由を示してすべてのアタッチメントで停止します。agentgateway は、呼び出すサービス(オペレーターが運用する webhook、または Azure AI Content Safety、Google Model Armor、AWS Bedrock Guardrails)を通じてのみそのような試みを判定し、実現はそのいずれも配線しません。core/gateway/higress でも、実現は理由を示してすべてのアタッチメントで停止します。Higress は、呼び出すサービス(Alibaba Cloud のコンテンツセキュリティサービス、またはソースには含まれるものの 2.2.5 のプラグインリリースでは公開されていないプラグインを通じた、オペレーターが運用する Qwen3Guard モデルサービス)を通じてのみそのような試みを判定し、いずれもその呼び出しが失敗するとリクエストを通過させます。実現はそのどちらも配線しません。core/gateway/traefik-hub でも、実現は理由を示してすべてのアタッチメントで停止します。Traefik Hub は、呼び出すサービスを通じてのみそのような試みを判定します。すなわち、LLM Guard および Parallel LLM Guard ミドルウェア(実現が記述しなければならないリクエストと条件でガードサービスまたはモデルを呼び出し、プロンプト攻撃検出器での動作は測定されていないため、そこでの検査に対応する感度がありません)、または Azure Prompt Shield、Amazon Bedrock Guardrails、GCP Model Armor ミドルウェア(実現が配線しないホスト型サービスを呼び出します)です。ガードは最新のユーザーメッセージのみを読むため、システムメッセージ、以前のターン、ツールの結果は読まれないままモデルに届きます。また、スクリーニングされるのはゲートウェイを通過するトラフィックのみであり、モデルのアドレスを直接呼び出すワークロードはそれを迂回します。

  • 応答の検証と評価: core/response-validation は、モデルの応答が呼び出し元に届く前に JSON Schema に照らして検査することを宣言します。schema はスキーマそのものを保持し、それに一致しない応答は渡されずに拒否されます。invert をオンにすると、一致する応答が拒否されます。スキーマはアタッチメントのものであり、すべてのリクエストで同じです。呼び出し元が自身のリクエストとともに送るものではないため、開発者は Aggregate でこれをアタッチし、スキーマをその values に記述します。標準ライブラリにこれを維持する実現はありません。core/gateway/agentgateway では、実現は理由を示してすべてのアタッチメントで停止します。agentgateway の応答ガードはパターンを照合するか、コンテンツセーフティまたは webhook サービスを呼び出すもので、そのいずれもスキーマを受け取りません。core/gateway/higress での実現も同様です。その応答検査は、合格した応答に対して、OpenAI ルートが返す chat completion ではなく応答メッセージ内で見つけた素の JSON で応答し、リクエストヘッダー X-HIGRESS-AI-JSON-RESP: true を送るクライアントによってスキップされ、6 階層を超えてネストしたスキーマは検査しないままにします。core/gateway/traefik-hub での実現も同様です。Traefik Hub のリファレンスには応答をスキーマに照らして検査するミドルウェアがないためです。その Chat Completion ミドルウェアはリクエストを chat completion スキーマに照らして検査し、API 管理はリクエストボディを OpenAPI ドキュメントに照らして検査し、LLM Guard は応答を外部サービスに送りますが、実現はそのサービスを配線しません。その他のゲートウェイでは、アタッチメントは型を名指ししてビルドを停止します。core/traffic-shadowing は、ライブリクエストを 2 つ目のサービスにコピーし、そのサービスの応答を破棄します。これにより、どの呼び出し元にもその出力を見せることなく、候補のモデルやサービスを実際のトラフィックで評価できます。これは dataplane.aggrega.ai/request-mirroring を宣言する任意のコンポーネントにアタッチでき、AI ゲートウェイはそれを宣言しません。標準ライブラリは NGINX ゲートウェイでこれを実現し、NGINX ゲートウェイはストリームの一部ではなく全体をコピーするため、より小さい割合が指定されると名指しで停止します。

5. 非同期実行と HITL インフラストラクチャ

Aggrega は、人間と対話するフレームワーク(AutoGen や LangGraph など)をワーカーノードとして扱います。状態を失わずに人間の入力を待つ「スリープ中」のエージェントをサポートするため、Platform Architect はこれらのエージェントの Components に usesSchema ソケットを宣言でき、これによりデータストアカテゴリのコンポーネントをエージェントに明示的にバインドすることを厳密に強制できます。コンポーネントはデータストアのエンジンラベルで選択されます。エージェントが類似度で検索するストアには datastore.aggrega.ai/engine in (vector, semantic-memory, search)、実行状態をチェックポイントとして保存するストアには datastore.aggrega.ai/engine=kv を使います。ソケットは製品名ではなくエンジンラベルでバインドするため、どのストアを使うかは作成者が選択でき、宣言はそのまま有効です。さらに、人間からエージェントへのフィードバックループ(Slack 連携など)では、明示的に宣言された Gateway コンポーネントがアタッチされていない限りアーキテクチャを拒否するようにガバナンス判定ロールを設定でき、コールバック Webhook が宣言されたイングレス境界を通って入るようにします。

独立した製品として提供されるのではなく、アプリケーションがその上に書かれるフレームワークや SDK で構築されたエージェントは、標準ライブラリでは一つの形をとります。Release はアプリケーションイメージを指定し、カタログはそれを固定しません。model ソケットは、接続されたモデルについてフレームワークが読み取るもの(フレームワークが読み取る場合はそのアドレスとモデル名、および接続の認証情報を参照で)を、そのフレームワークが読み取る変数に渡します。フレームワークが独自のサーバーを定義しない場合、コンポーネントは worker となりポートを開きません。core/ai-agent/crewai と core/ai-agent/langgraph がこの形をとり、core/ai-agent/openai-agents-sdk(その model ソケットは model.aggrega.ai/api: openai を持つモデルまたはゲートウェイのみを受け付けます)、core/ai-agent/claude-agent-sdk(そのソケットは model.aggrega.ai/api: anthropic を持つもののみを受け付けます)、そして core/ai-agent/agent-framework(Microsoft Agent Framework で構築された、自身では何も提供しないアプリケーション向けで、そのソケットは model.aggrega.ai/api: openai を持つもののみを受け付け、Agent Framework の Python OpenAI クライアントが読み取る変数を渡します)も同様です。これら三つは、Release が infra.image を設定するまで、それを名指ししてビルドを停止します。OpenAI Agents SDK はデフォルトで各実行のトレースを OpenAI にアップロードするため、core/ai-agent/openai-agents-sdk は、Aggregate がその upload_traces_to_openai 値を true に設定しない限り、そのアップロードを無効にします。フレームワーク自体が HTTP を提供する場合、コンポーネントはフレームワーク独自のポート上の server となり、呼び出し元が到達するアドレスを host、port、endpoint、protocol として公開します。これも Release が infra.image を設定するまで、それを名指ししてビルドを停止します。core/ai-agent/google-adk は ADK の REST API をポート 8000 で提供し、ADK の Gemini クライアントが Gemini API に送るキーを渡します。その model ソケットは core/ai-model/gemini のような model.aggrega.ai/api: gemini を持つモデルのみを受け付け、ADK のクライアントがアドレスを読み取らないゲートウェイは決して受け付けません。core/ai-agent/mastra は Mastra が構築するサーバーをポート 4111 で提供し、Kubernetes 上では /health ルートが応答した時点で準備完了となり、model.aggrega.ai/api: openai を持つモデルまたはゲートウェイを受け付けます。また Aggregate が agent_id 値でアプリケーションのエージェントの一つを指定した場合、そのエージェントの Agent2Agent カードのアドレスを公開するため、core/ai-tool/agent-invocation がそのエージェントに委任できます。両サーバーのルートは、アプリケーションが認証しない限りどの呼び出し元にも応答するため、いずれかに core/public-ingress または core/http-route をアタッチすると、Release が infra.routes_authenticated を true に設定してアプリケーションがルートの受け取るすべてのリクエストを認証することを確認するまで、ビルドは停止します。SDK とサーバーのランタイム、および core/ai-agent/agent-framework は、オプションの tools ソケットも宣言します。これは接続された各ツールのアドレスと、接続の認証情報を参照で、接続のエイリアスにちなんで名付けられた変数に渡します。アプリケーションは Release 自身のコードであるため、これらのエージェントがそのコードに読ませるために渡す変数はデフォルトにすぎません。各ソケットは inject: ブロックを受け付け、Aggregate はそれを通じて、アプリケーションが代わりに読み取る変数やファイルを指定できます。一方、フレームワークが自ら読み取る変数と、接続上のアタッチメントが渡すものはそのまま残ります。エージェント自身の値についても同様です。各コンポーネントは自身に対して env と file のエントリからなる inject: ブロックを受け付け、テンプレートがコンポーネント自身の値の一つだけを読み取り、コンポーネントのそれ以外のもの(他の値も、その infra も、メタデータも、アイデンティティも)を何も読み取らないエントリは、CrewAI エージェントの role に対する CREWAI_ROLE のように、Recipe がその値を渡す際のデフォルト名を置き換えます。CrewAI プロジェクトのエージェント宣言、LangGraph アプリケーションの langgraph.json、Google ADK アプリケーションのエージェント設定、または Agent Framework の宣言的エージェントをインポートすると、これらのエージェント(core/ai-agent/crewai、core/ai-agent/langgraph、core/ai-agent/google-adk、core/ai-agent/agent-framework)が、設定が指定するデータストアに接続され、エージェントの model ソケットが受け付ける場合は設定が指定するモデルにも接続された状態で、プログラムが実行されるイメージの指定をオペレーターに委ねるドラフトの Release とともに下書きされます。Importer Plugins で説明するとおり、読み取るのは設定のみで、プログラムは決して読み取りません。

6. トポロジーに基づくセキュリティ検証とランタイムでの強制

AI ワークロードは新たな攻撃ベクトル(プロンプトインジェクションや自律的なデータ持ち出しなど)をもたらすため、その保護には静的なアーキテクチャガバナンスとアクティブなランタイムでの強制を橋渡しする必要があります。AOT(Ahead-of-Time)コンパイラである Aggrega は、稼働中のネットワークトラフィックを傍受したり、AI プロンプトを評価したりはしません。代わりに、静的アーキテクチャコンパイル(コンパイル時)と実行のハンドオフ(デプロイ時)という二部構成のアーキテクチャ上のハンドシェイクによって、複雑なセキュリティ要件を解決します。

A. コンパイル時: ポリシー検証とアーティファクト生成

コンパイラは、すべてのノード、エッジ、アタッチされた Features を含むフラットな中間表現(IR)グラフを構築します。物理インフラストラクチャが生成される前に、ガバナンス判定ロールでこの静的な JSON グラフを業界標準のポリシーエンジンに対して評価することで、企業のセキュリティポスチャが強制されます。

ソケットは汎用的な JSON データを評価するため、単一のポリシー言語に縛られません。企業は、自社のエコシステムに最も適した標準を使って、アーキテクチャのルールをコンパイルし強制できます。

  • Open Policy Agent(OPA/Rego): 複雑な多段のグラフ関係を評価し、分散トポロジー全体で最小権限アクセスを算出するために広く使われている言語です。CLI に組み込まれた Rego エンジンは .rego ファイルをそのまま実行します。OPA の組み込み関数をすべて必要とするポリシーは、OPA 自身のツールチェーンでコンパイルされ、アダプターゲストの背後で実行されます。
  • Common Expression Language(CEL): CLI に組み込まれた CEL エンジンは、Kubernetes の validating-admission ポリシーと同じように、ドキュメントに対する単一の式として書かれたルールを実行します。
  • Kyverno: 静的な JSON/YAML マニフェストを評価し、チームは Rego を習得せずにネイティブな YAML でポリシーを記述できます。コンパイラには Kyverno のゲストは同梱されていません。コンパイラはポリシーを WebAssembly ゲストとしてのみ実行し、Kyverno CLI を呼び出すことはないため、Kyverno のルールはエンジンをラップするゲストの背後で実行されます。
  • Rust/TypeScript によるカスタム検証: セキュリティチームは、組織独自のポリシーを標準的な言語で記述し、Wasm にコンパイルして検証ゲートとして機能させることができます。

ポリシーエンジンがグラフを検証すると、コンパイラはそれらの抽象的なセキュリティ要件を物理的な設定に変換します。開発者がセキュリティ Feature(たとえば AI ゲートウェイ上の core/data-masking)をアタッチすると、コンパイラはその実現が指定するパイプラインステップ、つまり分離された WebAssembly(Wasm)プラグインを実行し、そのステップが、制御に必要な設定を、ゲートウェイ自身の Recipe がすでにレンダリングしている設定に書き込みます。実現は、代わりに書き込みをゲートウェイ自身の Recipe に任せることもできます。その場合 Recipe がアタッチメントを読み取って自ら設定を書き込みます(core/gateway/kong-enterprise 上の core/data-masking がそうです)。また別の種類の制御のための実現は、独自のリソースを出力することもあります。いずれの場合も、出力は開発者がアタッチしたものから書き出された静的なアーティファクトです。

B. デプロイ時とランタイム:実行の引き渡しと強制

Aggrega の責任は、入力の処理を終えて、設定済みの静的アーティファクトを出力ディレクトリに書き出したその瞬間に終わります。Aggrega は純粋なコンパイラです。設定を書き出し、その後は呼び出し元のシステムに制御が完全に戻ります。

それらの設定をどのように実行するかは非常に柔軟で、完全に企業に委ねられています。

  • アーティファクトの引き渡し(デプロイ時): 外部のデプロイコントローラーが引き継ぎ、アーティファクトを実環境に反映します。これは Kubernetes クラスタにファイルを同期する厳格な GitOps コントローラー(ArgoCD や Flux など)である場合もありますが、terraform apply を実行する標準的な CI/CD パイプラインや、Docker Compose に対してローカルのシェルスクリプトを実行する開発者であっても同様に構いません。
  • ランタイムでの強制: 設定が対象環境に適用されると、物理インフラストラクチャが引き継ぎます。Aggrega が設定した専用ツール(ガードレールのサイドカー、稼働中のサービスメッシュ、ネイティブのクラウドファイアウォールなど)が起動し、実際の処理を開始します。ペイロードを物理的に傍受し、JWT を検証し、悪意のあるプロンプトインジェクションを破棄します。

7. Aggrega が AI のセキュリティ課題にどう対処するか

アーキテクチャの検証をランタイムの実行から切り離すことで、プラットフォームチームは Aggrega を使って、以下の AI の脆弱性に対する解決策を明示的にモデル化し、検証し、設定として生成できます。

A. データの持ち出しとペイロードの傍受

  • 問題: 自律型エージェントが、制限された企業データを許可されていない外部 API に漏洩させようとする可能性があります。
  • Aggrega による解決策:
    1. コンパイル時(検証と生成): プラットフォームチームは、ガバナンスの判定ロールで評価されるポリシー(Rego など)を作成し、*「AI ゲートウェイを通過するすべてのパスは core/data-masking を持たなければならない」*と記述します。これが欠けていればコンパイラは停止します。存在すれば、Manifest がバインドする実現が、ゲートウェイがすでにレンダリングしている設定にマスキングを書き込みます。core/gateway/litellm では、アタッチメントが列挙する正規表現に一致し、列挙されたエンティティ型についてゲートウェイの pii_analyzer ソケットと pii_anonymizer ソケットに接続された Presidio のアナライザーとアノニマイザーにテキストを送るガードレールエントリを書き込みます。core/gateway/kong-enterprise では、接続された各モデルのチャットおよび補完ルートに Kong の AI PII Sanitizer をゲートウェイのチャート Recipe が書き込み、これはマスクするテキストを、アタッチメントが列挙する正規表現とエンティティ型とともに、ゲートウェイの pii_sanitizer ソケットに接続された Kong AI PII サービスに送ります。core/gateway/agentgateway では、ゲートウェイ自身の正規表現ガードをチャート Recipe がその設定に書き込み、これはアタッチメントが列挙するパターンの各一致を <masked> に置き換えるか、refuse の下ではリクエストまたは応答に HTTP 403 で応答し、エンティティ型は認識しません。これらのガードはストリーミング応答をマスクしないため、応答がマスクされる間、同じ Recipe は、ストリーミング応答を求めるリクエストと、ストリーミングかどうかにかかわらずゲートウェイがそのルールのために読み取る 2 MiB を超える本文を持つリクエストを、転送前に HTTP 403 で拒否するルールを書き込みます。core/gateway/traefik-hub では、接続された各モデルのルートに Traefik Hub の AI ゲートウェイの Content Guard をチャート Recipe が書き込み、これはアタッチメントが列挙するパターンの一致を正規表現エンジンで、または列挙されたエンティティ型の一致をゲートウェイの pii_analyzer ソケットに接続された Presidio アナライザーでマスクし、エンジンはアタッチメントごとに 1 つです。core/gateway/higress では、接続された各モデルのルートに Higress の ai-data-masking プラグインをチャート Recipe が書き込み、これはチャットリクエストのメッセージ内でアタッチメントが列挙するパターンの各一致を角括弧で囲んだパターン名に置き換え、エンティティ型は認識しません。ポリシーは、ルート全体のアタッチメントではなくルート上の各コンポーネントのアタッチメントを読み取ることで、マスキングが制限されたデータとプロバイダーの間にあるかどうかという、より限定的な問いを立てることもできます。examples/policy-data-class-route がその例です。
    2. ランタイム(物理的な強制): オーケストレーターが生成されたアーティファクトをデプロイすると、ゲートウェイはマスクするリクエストテキスト内の各一致を、転送前にプレースホルダーに置き換えます。そのため、モデルプロバイダーが受け取るのはプレースホルダーです。action: refuse の場合、アタッチメントは一致を含むリクエストを一切転送せず、代わりにエラーで応答します。到達できない、またはエラーを返すレコグナイザーはリクエストを失敗させるため、そのテキストは渡されません。マスキングが及ばない範囲は 2 つの値で決まり、そのデフォルトが保護になっています。AI ゲートウェイでは、アタッチメントが返信もマスクする間、ゲートウェイは返信のテキストと、モデルやそのプロバイダーがその横に追加する部分(拒否、引用と注釈、Web 検索のクエリと結果、プロバイダー独自の名前のフィールド)をマスクし、refuse の下では一致を含む返信を一切送りません。パターンでマスクするストリーミング返信は、最後にまとめて呼び出し元に届きます。デフォルトでは、リクエストのうちマスキングが及ばないもの(画像生成などのルート、safety_identifier などのフィールド、会話内の画像やファイル、プロバイダー自身が実行するツール)を、AI ゲートウェイはその一部も転送する前に HTTP 400 で拒否します。そのようなテキストがマスクされずにプロバイダーに届くことを受け入れるオペレーターは、Release 内のアタッチメントに allow_unmasked_text を設定します。このときリアライゼーションは何が通過するかを正確に列挙し、テキストでないコンテンツは引き続き allow_non_text_content によって制御されます。デフォルトでは、マスクされた返信が持つもののうちマスキングが読み取れないもの(音声とそのトランスクリプト、画像、モデルが選んだトークンの確率)は保留され、失敗した呼び出しは、プロバイダーが返したメッセージの代わりに固定メッセージで呼び出し元に届きます。allow_unmasked_reply_parts を使うと、それらはマスクされずに呼び出し元に届きます。返信自体のテキストがこれによって通されることはありませんが、通される部分は返信の言葉を含みうるものです。音声返信のトランスクリプト、トークン確率の背後にあるトークン、返信を引用するプロバイダーのエラーメッセージなどです。core/gateway/kong-enterprise では各一致が番号付きプレースホルダーに置き換えられるため、redact の下にパターンを列挙するアタッチメントは placeholder_shows_name: false を設定します。refuse はリクエストにのみ及び、Kong 3.12 以降で、一致を含むリクエストに HTTP 400 で応答します。返信は 3.12 以降でマスクされ、その場合ストリーミング返信を求めるリクエストは転送前に拒否され、allow_streamed_replies は拒否されます。Kong のサニタイザーはユーザーのターンのテキスト、補完のプロンプト、返信のメッセージテキストを読み取りますが、Kong のリファレンスには、サニタイザーが読まないものを理由にリクエストを拒否する設定や、返信の残りを保留する設定が記載されていません。そのため、このゲートウェイでは各保護がデフォルトのままである間はビルド時に名前を挙げて拒否され、Release がそれらを緩めると(リクエストをマスクする場合は allow_unmasked_text と allow_non_text_content、返信をマスクする場合は allow_unmasked_reply_parts と mask_reasoning: false)アタッチメントはビルドされ、data-masking-kong-enterprise がそれぞれで何が通過するかを列挙します。このゲートウェイでは、テキストが OpenAI API の返す単一の文字列として届かない返信は読まれずに通過し、その返信自体のテキストがマスクされずに呼び出し元に届きます。これに対するガードは、そのゲートウェイに接続されたすべてのモデルに対するビルドのチェックで、model.aggrega.ai/api が openai でないモデルがあればビルドを停止します。core/gateway/traefik-hub では各一致が一致と同じ長さの * の並びに置き換えられるため、redact の下にパターンを列挙するアタッチメントは placeholder_shows_name: false を設定します。refuse はリクエストまたは返信の代わりに HTTP 403 を返します。マスクされる返信はまとめて保持されて最後に送られ、ストリーミング返信も含まれるため、返信内のエンティティタイプをマスクするアタッチメントは allow_streamed_replies を設定します。Traefik のリファレンスには、Content Guard がチャットリクエストや返信のどのフィールドを読むかが記載されておらず、読まないものを理由にリクエストを拒否する設定や返信の一部を保留する設定も記載されていません。そのため、このゲートウェイでは各保護がデフォルトのままである間はビルド時に名前を挙げて拒否され、Release がそれらを緩めると(リクエストをマスクする場合は allow_unmasked_text と allow_non_text_content、返信をマスクする場合は allow_unmasked_reply_parts と mask_reasoning: false)アタッチメントはビルドされ、data-masking-traefik-hub がそれぞれで何が通過するかを列挙します。パターンとエンティティタイプの両方を列挙するアタッチメント、および 1 つのゲートウェイ上の 2 つ目のマスキングアタッチメントは拒否されます。ルート上の 2 つ目の Content Guard が、1 つ目がマスクしたテキストを読むのか、呼び出し元が送ったままのリクエストを読むのかを Traefik のリファレンスが示していないためです。core/gateway/higress では、Higress の ai-data-masking プラグインが、チャットリクエストの各メッセージのコンテンツと推論において、アタッチメントが列挙するパターンの各一致を角括弧で囲んだパターン名に置き換えます。マスクするのはリクエストのみであるため、scope の response と both は拒否され、エンティティタイプは認識しません。このプラグインはリクエストのそれ以外の部分を読まないため、保護がデフォルトのままである間、ゲートウェイのチャート Recipe は Higress の request-validation プラグインも書き込み、マスキングが読まないもの(JSON として送られていない、またはチャット補完でないボディ、コンテンツがリストまたは null であるメッセージ、ツール呼び出しやツールのターン、メッセージの name、チャット補完の非テキストのパラメーターと開発者自身のツール、レスポンス形式、停止シーケンス以外のあらゆるパラメーター)を含むリクエストを、何かが転送される前に HTTP 403 で拒否させます。さらに、アタッチメントが何を緩めても、Higress のプラグインがボディをスキップするリクエスト(圧縮されたボディ、octet-stream または grpc を含むコンテンツタイプ、アップグレード)と、Unicode 置換文字 U+FFFD を含むボディも拒否させます。U+FFFD は、この検証が有効な UTF-8 でないバイトを読み取る形であり、マスキングプラグインは有効な UTF-8 でないボディをマスクせずに転送するためです。ボディがゲートウェイの 32 KiB バッファーを超えるリクエストは HTTP 413 で拒否されます。検証は JSON デコーダーが受け付けるボディしか読まないため、デコーダーが拒否する有効な JSON(たとえば double が保持できる範囲を超える数値)を意図的に送るクライアントは、そのボディに対するすべての拒否を通過します。その場合、マスキングプラグインは各メッセージのプレーンなコンテンツと推論しかマスクしないため、ボディ内のそれ以外の場所にある列挙された値(ツール呼び出しの引数、name、その他のフィールド)はマスクされずに転送され、JSON エスケープシーケンスで書かれたコンテンツも同様です。そのようなボディが有効な UTF-8 でもない場合、その全体がマスクされずに転送されます。tools のように検証が許可するフィールドの中で、ボディを 127 階層より深く意図的にネストするクライアントは、検証がデコードして許可する有効な JSON を送りますが、マスキングプラグインの JSON リーダーはその深さで停止するため、そのボディ内で JSON エスケープシーケンスで書かれたコンテンツもマスクされずに転送されます。マスキングだけでは十分ではありません。どのパターンにも一致せず、どのレコグナイザーも検出しないテキストは変更されずに通過します。AI ゲートウェイでは、ツール呼び出しの引数とツールの結果は値ごとにマスクされますが、そのキーの名前はマスクされません。開発者自身のツール定義、レスポンス形式、停止シーケンスは送られたまま通過します。ゲートウェイとレコグナイザーサービスは元のテキストを参照します。ゲートウェイが呼び出しについて記録するもの(自身のログ、またはロギング連携に渡すもの)には、そのテキストが残る可能性があります。そして、ゲートウェイを通過しないトラフィックには一切手が加えられません。

B. MCP ポイズニングへの防御(信頼と分離)

  • 問題: ポイズニングされた Model Context Protocol(MCP)ツールを介してエージェントが侵害されると、エージェントが破壊的な操作(データベースの削除や送金の承認など)を自律的に実行する可能性があります。
  • Aggrega による解決策:
    1. コンパイル時(検証と生成): 開発者は Aggregate.yaml 内の機密性の高いツールに承認ゲートの Feature をアタッチします。標準ライブラリにはこのような Feature は含まれていないため、この Feature は、それをレンダリングする FeatureRecipe とともに、企業独自のカタログで作成します。コンパイラはグラフを検証し、そのアタッチメントを L7 プロキシまたは Webhook ゲートウェイの設定に変換します。
    2. ランタイム(物理的な強制): 乗っ取られたエージェントがツールを呼び出そうとすると、デプロイされたプロキシがリクエストを一時停止し、人間のオペレーターから暗号署名された承認を受け取るまで実行を物理的にブロックします。

C. 「Confused Deputy」の解決(コンテキストの伝播)

  • 問題: マルチエージェントのチェーンでは、公開されているエージェントが乗っ取られ、内部の高い権限を持つエージェントに機密データを取得するよう命令する可能性があります。標準的なファイアウォールは「Agent A が Agent B と通信している」ことしか認識せずにトラフィックを許可するため、元の悪意あるユーザーのコンテキストが完全に失われます。
  • Aggrega のソリューション: 企業は 2 つの特定のパターンを重ねて適用できます。
    1. 呼び出し元 ID の伝播(2 つのホップ): 元の呼び出し元の ID は 2 つの異なるホップを経ても保持される必要があり、それぞれ異なる場所で保護されます。ゲートウェイホップでは、開発者はリクエストが入るゲートウェイに core/context-propagation をアタッチします。これは dataplane.aggrega.ai/caller-identity で選択されます。コンパイル時には、アタッチメントはそのゲートウェイ自身の設定として実現されます。Envoy Gateway では、Release が指定する認証局に対して各クライアントの証明書を検証し、証明書の詳細を転送するクライアントトラフィックポリシーになります。LiteLLM AI ゲートウェイでは、アタッチメントが destinations に列挙するモデルエイリアスへのリクエストに対し、呼び出し元が付与した ID ヘッダーをすべて削除し、ゲートウェイが検証した仮想キーのユーザーとチーム、およびキーが組織を指定している場合はその組織を追加するリクエストフックになります。ランタイムには、ゲートウェイの背後にあるサービスは、ゲートウェイが呼び出したことだけでなく、誰が呼び出したかを受け取ります。ワークロードホップでは、あるエージェントが別のエージェントに直接送るリクエストはそのゲートウェイを通過しないため、受信側エージェント自身のイングレスでチェックされます。そこでは、サービスメッシュが、元のユーザーの意図を証明する署名付きトークンを持たないリクエストをすべて拒否します(例:Istio JWT AuthorizationPolicy)。標準ライブラリにはゲートウェイホップの Feature が含まれ、ワークロードホップの Feature は含まれていません。そのため、core/context-propagation をアタッチするとゲートウェイを通過するトラフィックは保護されますが、エージェント間の呼び出しは企業が自ら用意するメッシュ設定に委ねられます。別の当事者が運用するエージェントで、core/ai-tool/agent-invocation が A2A 経由で core/ai-agent/a2a-remote として到達するものは、Release の完全に外側にあります。その当事者は各呼び出しをエージェントの Agent Card が宣言するセキュリティスキームに照らしてチェックし、ツールは接続に保持された認証情報(Secret から参照によって読み込まれます)を、エージェントが公開するリクエストヘッダーで提示します。カードが OAuth 2.0 クライアントクレデンシャルまたは OpenID Connect を要求する場合、接続はその代わりに、またはそれに加えてクライアントシークレットを、オペレーターが接続に記述するクライアント ID とともに保持し、エージェントはトークンまたはディスカバリーのアドレスと、カードが宣言するスコープを公開します。ツール自身のコンテナはそれらを使ってトークンを取得・更新し、各呼び出しで提示します。カタログが提供するのはそれらの入力だけであり、コンテナがそれらをどう扱うかをビルドでチェックすることはできません。カードが相互 TLS を要求する場合、接続はクライアント証明書を保持し、イメージがまだ信頼していない認証局がエージェントのサーバー証明書に署名している場合はその認証局も保持します。それぞれは接続が指定する Secret からファイルとしてツールのコンテナにマウントされ、コンテナ自身が TLS ハンドシェイクで証明書を提示します。したがってツールが到達できるのは、カードがヘッダーまたは Cookie 内の API キー、Bearer や Basic のように値が固定された HTTP 認証スキーム(Secret がヘッダー値全体を保持します)、クライアントクレデンシャルグラントを用いる OAuth 2.0 または OpenID Connect、あるいは相互 TLS を宣言しているエージェントです。カードがクエリ文字列内のキー、Digest のようにエージェントからのチャレンジに応答する HTTP スキーム、またはクライアントクレデンシャル以外の OAuth 2.0 フローを要求するエージェントには到達できません。また、別の当事者が平文の HTTP で運用するエージェントに認証情報を提示することもありません。そのエージェントのアドレスが http である場合、接続上の認証情報またはクライアントシークレットは、その接続を名指ししてビルドを停止させます。認証情報、またはシークレットで取得したトークンが暗号化されずにそのエージェントへ送られることになるためです。Release 内で稼働するエージェントには、どちらがあっても http で到達でき、その場合、認証情報は暗号化されずにクラスターネットワークを通過します。
    2. エージェント間のペイロード検査: あるエージェントが別のエージェントに直接送るリクエストは AI ゲートウェイを通過しないため、受信側エージェント自身のイングレスで、そのエージェントの隣で稼働するガードレールエンジン(例:NeMo Guardrails)によって検査されます。コンパイル時には、受信側エージェントにアタッチされた Feature を実現する FeatureRecipe が、エンジンの設定をレンダリングします。ランタイムには、エンジンが企業の記述するルールに照らして各リクエストを評価し、ルールが拒否するリクエストを拒絶します。乗っ取られたリクエストを正当なリクエストとどれだけ正確に見分けられるかはエンジンとルールの問題です。Aggrega は設定をコンパイルするのであり、プロンプトを評価することは決してないためです。標準ライブラリにはそのようなエンジンを配置する Feature は含まれていないため、このパターンは企業独自のカタログで作成します。ゲートウェイ自身のパターンガード dataplane.aggrega.ai/prompt-guard: pattern-list はより範囲が狭く、core/prompt-deny-patterns がこれを有効にします。AI ゲートウェイでは、リクエストのすべてのメッセージを読み、大文字と小文字を区別しません。core/gateway/apisix と core/gateway/kong では、すべてのロールのすべてのメッセージを 1 つのテキストとして読み、大文字と小文字を区別し、リクエストが一致しなければならないパターンのリストにも従います。core/gateway/agentgateway では、各メッセージ、ツール呼び出しの引数、ツールの結果を個別に読み、大文字と小文字を区別します。core/gateway/traefik-hub では、リクエストをチャット補完として読み(Traefik のリファレンスは読み取るフィールドを列挙していません)、大文字と小文字を区別します。このガードは、テキストがアタッチメントの列挙する式のいずれかに文字どおり一致するモデルリクエストを拒否します(言い換え、別の言語、エンコーディングは通過します)。また、ゲートウェイを通過するトラフィックに対してのみ機能するため、エージェント間で直接送られるリクエストがこのガードに当たることはありません。core/prompt-injection-shield は同じホップにおける分類器版の対応物で、ゲートウェイが転送する各モデルリクエストを、そのゲートウェイの guard ソケットに接続された NeMo Guardrails ガード、または Azure API Management では Azure AI Content Safety のプロンプトシールドに通します。これもゲートウェイを通過するトラフィックのみを対象とします。

D. トポロジカルなリスク分析

  • 問題: 相互接続された数十のモデル、ベクトル、ツールを持つ複雑な AI アーキテクチャは、推移的な脆弱性(例:「Agent A は Tool B と通信でき、Tool B は Agent C と通信し、Agent C は Database D にアクセスできるか?」)を人間が手作業で監査するには大きすぎます。
  • Aggrega のソリューション: このチェックは事前に実行されます。Aggrega は意図されたトポロジーの完全な IR グラフをメモリ上に構築するため、ガバナンスの判定ロールがアーキテクチャ全体にわたって高度な経路探索ルールを実行できます。公開ノードから始まり、機密性の高いデータベースで終わる連続した推移的なエッジのチェーンがあり、その経路上のどこにも企業が要求する制御がアタッチされていないことをポリシーが検出すると、ただちにビルドを停止します。安全でないアーキテクチャは、インフラストラクチャのコードが 1 行も生成される前にブロックされます。

8. オブザーバビリティとコンプライアンス

厳格な規制要件(例: EU AI Act)を満たすために、プラットフォームアーキテクトは Aggrega のフィーチャーシステムを利用して、アプリケーションコードに頼るのではなく、構造的なインフラ要件として AI のオブザーバビリティを強制できます。

  • 監査ログ: エンタープライズが作成した Wasm プラグインにより、ゲートウェイのサイドカーを設定し、未編集の生のプロンプトとレスポンスを、標準のアプリケーションログを経由せずに、安全な WORM(Write Once, Read Many)ストレージバケットへ非同期でストリーミングできます。
  • LLM トレーシング: プロキシのフィーチャーにより、データプレーンを設定して AI 固有の OpenTelemetry スパンヘッダーを抽出・転送し、複雑なエージェントの推論ループを外部ツールで可視化できるようにします。

9. Feature の互換性とトポロジー上の安全性

コアコンパイラは物理インフラの仕組みに依存しないため、互換性のない設定の生成を防ぐことは、カタログ内の明示的な宣言に全面的に頼っています。

  • conflictsWith: Feature のカタログエンティティの interoperability の下で宣言する、その Feature と一緒にアタッチできない Features のリストです。コンパイラは、すべてのスコープが寄与した後に各コンポーネントが最終的に持つ Features、つまりコンポーネント自身のアタッチメント、それを含むサブシステムまたはバウンダリに書かれたもの、その Release のコンポーネントエントリに書かれたもの、アノテーション駆動の展開が生成したものと、このリストを比較し、1 つのコンポーネントが両方を持つ場合(すなわち、ある Feature の作成者が明示的に互換性がないと宣言した 2 つの Features を、作成者が直接またはスコープを通じてアタッチした場合)は、物理アーティファクトを一切レンダリングする前に停止します。宣言は一方だけで十分であり、Features はバージョンにかかわらず名前で照合されます。コンパイラは名前に意味を読み取りません。非互換性は作成者の宣言であり、チェックは名前の比較です。Feature のアトミック性と純粋性そのものは社会契約のままであり、Feature が 1 つのことだけを行うかどうかは何もチェックしません。

10. 動的トポロジーマッピング(依存関係の解決)

ハードコードされたルールなしに IR グラフを構築するため、コンパイラは 3 つの明示的な宣言からグラフを読み取ります。

  • uses エッジ: 開発者は各インスタンスの uses ブロックでコンポーネントを結び付け、ソケットにターゲットのコンポーネントを指定します。グラフのすべてのエッジはこのブロックから生じます。たまたま別のコンポーネントの名前を含む values のエントリはエッジを描画しません。コンパイラは値に意味を読み取らないからです。
  • エッジのターゲット: すべての uses ターゲットは、ビルドが保持するコンポーネントを指定しなければなりません。存在しないターゲットは、それが接続されたソケットを名指ししてビルドを停止します。
  • ノード間の型安全性: usesSchema のセレクター文字列は明示的な帯域外の指示として働き、静的解析中に Go コンパイラのラベルマッチングエンジンによってネイティブに評価されます。これにより、特定の AI ネイティブな機能やコンプライアンスラベルを必要とする宣言済みソケットに、開発者が誤って標準のコンポーネントを接続できないことが保証されます。この保証は構造上、宣言済みソケットに限定されます。セレクターは usesSchema エントリ内にあるため、アドホックなソケットには評価するセレクターがありません。各エッジはそのソケットがカタログで宣言されたものかどうかを記録するため、保証を全体に及ぼす必要があるオペレーターは、それをガバナンス判定として要求できます。

11. エージェントシステムの自動設計(ADAS)

高度な AI システムには、コードを書いて新しいエージェントをその場で考案・デプロイするメタエージェントがあります。Aggrega は事前(AOT)の静的アーキテクチャを必要とするため、実行時のインフラの進化を 2 つの明示的な境界によって解決します。

  • 事前プロビジョニングされたサンドボックス境界: 実行時に考案される一時的なツールのために、アーキテクトはフィーチャー(例: dynamic-execution-environment)を定義します。これがアタッチされると、Wasm レンダリングプラグインが、ロックダウンされたコンピュートプール(WebAssembly ランタイムなど)をプロビジョニングする設定を生成します。メタエージェントはこのサンドボックスに新しいコードを注入しますが、その影響範囲は生成された静的ネットワークポリシーによって制限されます。
  • 「開発者」ロールとしてのメタエージェント(GitOps ループ): メタエージェントが本当に新しい物理インフラを必要とする場合、メタエージェントは開発者として振る舞います。新しい Aggregate.yaml を書き、Git にコミットします。これにより標準の CI/CD パイプラインが起動します。ガバナンス判定ロールが AI の要求したトポロジーを静的に解析し、AI が脆弱性をハルシネーションした場合はビルドを安全に停止します。

12. モデルのシリアライズとサプライチェーンセキュリティ

オープンソースモデルのデプロイでは、悪意のあるコードペイロードを含みうる不透明な .pkl や .gguf ファイルをダウンロードすることがよくあります。エンタープライズは、モデルのサプライチェーンセキュリティをターゲットプラットフォームの設定の問題として扱えます。カタログに model_provenance フィーチャーを定義することで、エンタープライズの Wasm レンダリングプラグインが設定を評価し、それを実行時のアーティファクト(Kubernetes の Kyverno ポリシーなど)に変換できます。これにより、署名されていないモデルの重みや検証されていないモデルの重みをオーケストレーターが取得するのをブロックするようにターゲットクラスターが設定されます。