Thanos スタック — オブジェクトストレージ上のメトリクス読み取り層をモジュールとして構成する
この例では、小規模ながら実用的なスタック — Thanos メトリクスシステムの読み取り/クエリ層 — を、
Developer が作成した 1 つの Aggregate から、合成された Kubernetes マニフェストへとコンパイルします。
読み取り層は単一のコンポーネントではありません。これはモジュール、つまり再利用可能な サブアグリゲートであり、単一ワークロードの 3 つのコンポーネントを構成します —
- 過去のメトリクスブロックをボリュームに保持し、S3 API で提供する S3 互換オブジェクトストア、
- オブジェクトストアからそれらのブロックを読み取り、StoreAPI を介してクエリアに 提供する Store Gateway(一時的なローカルキャッシュのみを保持します)、そして
- PromQL に応答し、Store Gateway の StoreAPI へリクエストを ファンアウトする Query フロントエンド(自身の状態は保持しません)。
モジュールは自身の内部エッジ — Store Gateway からオブジェクトストアへ、
Query から Store Gateway へ — を接続し、Query をパブリックエンドポイント
query としてエクスポートします。トップレベルの Aggregate はモジュールを名前でインポートし、
構成されたスタックをレンダリングします。オペレーターは Release でモジュールの内部
コンポーネントのサイズを指定します。
ファイル
| ファイル | 役割 |
|---|---|
aggregate.yaml | Developer の意図:Thanos 読み取り層モジュール(core/thanos)をインポートします。 |
manifest-helm-synth.yaml | オブジェクトストア、Store Gateway、Query の各型を synth helm の Recipes にマッピングし、モジュールがアタッチする認証情報 Feature を、モジュールの 2 つのキーパラメーターのそれぞれから Secret を出力する実現にマッピングします。 |
release-helm-synth.yaml | Kubernetes ターゲット向けのオペレーターのレコードです。モジュールの内部コンポーネントをモジュールスコープの ID でサイズ指定します。スキーマのデフォルトに任せた部分は自己完結した形でレンダリングされます。 |
実行時の前提条件
このモジュールは読み取り/クエリ層のみです。オブジェクトストアは、Store Gateway が読み取る thanos バケットをサービス開始前に作成するため、レンダリングされたマニフェストの外側で実行時に用意すべきものはメトリクスブロックを生成するライターだけです。読み取り層はブロックを提供しますが、作成はしません。ライター — Thanos Receive 層、または Thanos サイドカー付きの Prometheus インスタンス — が同じバケットにメトリクスブロックを送る必要があります。ライターがブロックをアップロードするまで、Store Gateway は空の結果セットを返します。
サンプルを生成する
このサンプルは以下のコマンドでビルドできます。または、AI アシスタントにビルドを任せることもできます。
例の名前を付けた新しいフォルダーに例を書き出します。
aggrega scaffold --example thanos-stackその後、次に実行するコマンドを表示します。最初のコマンドは新しいフォルダーに移動します。
cd thanos-stackビルド
このワークスペースには .aggrega-config.yaml がないため、標準ライブラリのエンティティはハブレジストリ hub.aggrega.ai から解決され、カタログフラグは不要です。--auto-pull は、新しいクローンに欠けているロックファイルをビルド中に書き込みます。
aggrega build --release release-helm-synth.yaml --auto-pullレンダリングされた成果物は dist/ 以下に出力されます。Kubernetes ターゲットはオフラインで
プレーンなマニフェストをレンダリングするため、チャートのプルは不要です。
AI アシスタントを使う
Aggrega のツールでセットアップした AI アシスタントでも同じことができます。次のプロンプトを貼り付けてください。
Aggrega のツールのみを使用し、フォルダーは自分で作成しないでください。ワークスペースフォルダーにまだ `thanos-stack` フォルダーがない場合は、`example` を `thanos-stack` に設定し、`dir` を指定せずに `scaffold` ツールを 1 回呼び出してください。これにより、新しい `thanos-stack` フォルダーに例が書き込まれます。次に、`workspace_root` を `thanos-stack`、`release` を `release-helm-synth.yaml`、`auto_pull` を true、`write` を true に設定して `build` ツールを呼び出してください。ビルドが書き込んだファイルを教えてください。ファイルは `thanos-stack/dist/` の下にあります。構成されたスタックの姿
Store Gateway は、ステートレスな Deployment と、StoreAPI の gRPC ポートおよび HTTP ポートを公開する ClusterIP Service としてレンダリングされます。コンテナは thanos store と、単一のインライン --objstore.config フラグで起動されます。その値は、オブジェクトストアが公開するエンドポイント — クラスター内の Service 名とポート — から構築された S3 スタンザであり、そのエンドポイントはプレーン HTTP で提供されるため insecure: true が付きます。この設定は AWS SDK の認証情報チェーンを選択するため、シークレットを含みません。アクセスキーの両方の部分が、Secret から読み取られる環境変数として渡されます:
args: - store - --grpc-address - 0.0.0.0:10901 - --http-address - 0.0.0.0:10902 - --data-dir - /var/thanos/store - |- --objstore.config=type: S3 config: bucket: thanos endpoint: metrics-zdobjstore-default:8333 insecure: true aws_sdk_auth: true[… omitted: the container ports for the two addresses named in the args]env: - name: AWS_ACCESS_KEY_ID valueFrom: secretKeyRef: name: metrics-zdstore-s3.credential-id key: s3-access-key - name: AWS_SECRET_ACCESS_KEY valueFrom: secretKeyRef: name: metrics-zdstore-s3.credential key: s3-secret-key[… omitted: the container's resources and its liveness and readiness probes]Query は、ステートレスな Deployment と、HTTP ポート上の ClusterIP Service として
レンダリングされます。コンテナは thanos query で起動され、ストアエッジから構成された
エンドポイントで Store Gateway の StoreAPI に接続します:
args: - query - --http-address - 0.0.0.0:10902 - --grpc-address - 0.0.0.0:10901 - --endpoint - metrics-zdstore-default:10901オブジェクトストアは、/data にボリュームクレームをマウントした 1 レプリカの SeaweedFS StatefulSet、S3 ポート 8333 上の ClusterIP Service、そして StatefulSet が指定する headless Service としてレンダリングされます。init コンテナが、サーバーがサービスを開始する前に thanos バケットを作成します。サーバーのアカウントは同じキーペアであり、独自の 2 つの Secret metrics-zdobjstore-access-key-id と metrics-zdobjstore-secret-access-key から読み取られます。4 つの Secret はワークロードと並んで出力されます。2 つはオブジェクトストアのキースロット用、2 つは Store Gateway の s3 接続が持つキーペア用で、いずれもモジュールの開発用デフォルトを保持します。
示す内容
- モジュールとしての構成。 複数ワークロードにまたがる機能 — 実体はオブジェクトストアと Store Gateway とクエリフロントエンドからなるメトリクス読み取り層 — を、1 つのモノリシックな コンポーネントではなく、単一ワークロードの 3 つのコンポーネントを構成するサブアグリゲートとして パッケージ化します。モジュールは名前でインポートされ、Thanos 読み取り層が必要な場所で再利用されます。
- 提供済みバックエンドの再利用。 オブジェクトストアは標準ライブラリの
core/storage/s3-object-storeコンポーネントをそのまま再利用したものです。読み取り層は独自のストレージロジックを追加しません。Manifest はその SeaweedFS の実現形態を選択するため、ストアは読み取り層と並んでクラスター内で動作します。 - モジュール内部のエッジ。 Store Gateway はオブジェクトストアの利用を宣言し、Query は
Store Gateway の利用を宣言します。オブジェクトストアが公開する
endpointと、Store Gateway が 公開するホストとポートは、各エッジのコンシューマーへ渡され、各コンシューマーの Recipe がそこから アドレスを構築します。コンパイラは文字列を解釈せずにルーティングします。 - パブリックエンドポイント。 モジュールは Query を
queryとしてエクスポートします。これは コンシューマーが接続する安定したパブリック名であり、モジュールの内部コンポーネント名から 切り離されています。 - シークレットを含まない設定。 オブジェクトストアの設定は AWS SDK の認証情報チェーンを 選択するため、レンダリングされた設定はシークレットを含みません。認証情報は環境変数としてのみ流れます。
- 参照で受け取る共有キーペア。 Store Gateway はストア自身のアカウントでオブジェクトストアに認証するため、両者は 1 つのキーペアを共有します。モジュールはそれぞれの半分をパラメーター
s3_access_keyとs3_secret_keyとして受け取り、core/referenced-secret認証情報 Feature をそれぞれについて 2 回アタッチします。1 回はオブジェクトストアのaccess_key_idとsecret_access_keyスロットへ、もう 1 回はゲートウェイがそれらを提示する接続、すなわち Store Gateway からオブジェクトストアへの接続のcredential_idとcredentialとしてです。各ワークロードはそれらをインラインで持つのではなく、Secret から読み取ります。モジュールがその Feature をアタッチするため、Manifest がそれをマッピングします。この例ではパラメーターをモジュールの開発用デフォルトのままにし、Feature をk8s-secret-from-parameterにマッピングします。これは各値を保持する Secret を出力するため、スタックは自己完結して動作します。実トラフィックを扱う Release では、Aggregate が独自のパラメーターを宣言してaggregates.metrics.parametersを通じて下位に渡し、Release がそれを満たし、Manifest が Feature をk8s-existing-secretにマッピングします。これは各パラメーターを、名前空間に既に存在する Secret の名前として読み取ります。 - 再現可能なイメージ。 すべてのコンポーネントが明示的なイメージタグを固定するため、 レンダリングされたマニフェストは安定したイメージを参照します。