Ir al contenido
AggregaAggrega
Seleccionar idioma: Español
Esta página se tradujo automáticamente. Lee el original en inglés.

Features de IA

El conjunto de Feature de IA de Aggrega

Para atender las exigencias particulares, la volatilidad y las amenazas de seguridad de los sistemas de IA modernos, Aggrega integra inteligencia especializada directamente en su biblioteca estándar de IA (el Catálogo) de código abierto. Garantiza que tanto el andamiaje cloud-native genérico como los motores de razonamiento nativos de IA altamente especializados coexistan de forma segura.

El compilador Go central es un enrutador universal neutral respecto al contenido; toda la inteligencia específica de IA reside en políticas WebAssembly (Wasm) conectables y en las declaraciones JSON Schema 2020-12 que los arquitectos de plataforma redactan en las entidades del Catálogo.

1. La ontología cloud operativa y el duck typing de IA

Para unir el Open Application Model (OAM) genérico con las estrictas realidades de la infraestructura moderna, la etiqueta component.aggrega.ai/type se asigna exclusivamente a un conjunto cerrado de primitivas cloud-native universales. Esta identidad semántica es lo que leen un selector de socket, el appliesTo de una Feature y una política de gobernanza para saber cómo trata un componente el estado, la entrada de red y los ciclos de vida; el compilador la compara como una cadena opaca y no ramifica en función de ella, y cómo se renderiza un componente lo decide la Recipe que el Manifest le asigna.

Los tipos cloud-native (la base de infraestructura):

  • server: cómputo sin estado de larga duración que espera tráfico de aplicación entrante (p. ej., un AI Gateway o una interfaz de chat).
  • worker: cómputo sin estado de larga duración que extrae de colas o ejecuta bucles en segundo plano sin ningún puerto de aplicación entrante (p. ej., un agente LangGraph o un worker de Celery).
  • task: cómputo efímero que se ejecuta hasta completarse y termina (p. ej., scripts de migración de base de datos).
  • function: cómputo dirigido por eventos que escala a cero (p. ej., AWS Lambda).
  • stateful-server: cómputo dentro del clúster que requiere identidades de red estables y discos permanentes (p. ej., una base de datos vectorial Qdrant, un broker de Kafka).
  • resource: infraestructura externa gestionada por la plataforma (p. ej., AWS RDS PostgreSQL, buckets de S3, un bus de eventos alojado).

El conjunto es propio de Aggrega y es cerrado. El esquema de Component publicado enumera estos valores, y un documento que lleve cualquier otro se rechaza al cargarse — E0215 nombra la etiqueta y enumera lo que admite. Eso es lo que aporta el eje: una Feature o un selector de socket escrito contra stateful-server significa lo mismo en todos los catálogos con los que se encuentra.

Lo que un componente es en tu propio vocabulario va en tu propia clave. Un nivel, una zona de datos, una clase de servicio, una división más fina de las primitivas — cada uno es una clave de etiqueta que redactas junto a la reservada, ya que el esquema de Component acepta cualquier clave de etiqueta adicional con un valor de cadena y todas las superficies de selección la leen de forma idéntica. Es el mismo mecanismo que ya usan las etiquetas de duck typing de IA descritas más abajo; la clave reservada es la base común, y todo lo que está por encima es tuyo.

El tipo operativo no es la categoría de navegación, y son ejes separados a propósito. Un broker de Kafka está en la categoría messaging — donde un usuario lo busca — y lleva stateful-server como tipo, porque eso es lo que la infraestructura tiene que hacer por él. Un selector escrito contra un eje nunca coincide en el otro.

Consulta entities/component para ver las tablas de la taxonomía de etiquetas semánticas — las etiquetas Generic Cloud Layer, Specialized AI Layer, Cross-Cutters y Dynamic Business Context que los arquitectos usan para superponer una identidad cognitiva sobre los tipos base.


1.1 El estándar del catálogo de código abierto: «Base desnuda, bordes especializados»

Al aplicar estas etiquetas, hay una distinción fundamental entre el Catálogo oficial de código abierto de Aggrega (core/*) y un Catálogo empresarial privado (acme/*).

Para que el catálogo oficial de código abierto siga siendo utilizable universalmente, debe distinguir estrictamente entre la física técnica inmutable y la intención cognitiva subjetiva. Si el core/datastore/postgres de uso general lleva fijado engine: relational, un plugin de veredicto de gobernanza configurado para imponer la coincidencia del tipo de datastore detendrá el build cuando un desarrollador habilite la extensión pgvector en sus values e intente conectar un agente de IA que requiere un datastore vector.

Para mantener un catálogo central sin opiniones propias, los componentes oficiales siguen este estándar: mantén la base desnuda y especializa los bordes.

  1. La base desnuda: el Component de código abierto de nivel raíz fija solo lo que es objetivamente cierto del producto y que nada de lo que configure un autor puede cambiar — en primer lugar y siempre, la primitiva operativa (component.aggrega.ai/type). Una base de datos Postgres es objetivamente un stateful-server; ese hecho no puede cambiar. La misma prueba admite una etiqueta de capacidad cuando la identidad del producto es esa capacidad: core/datastore/qdrant y core/datastore/weaviate son motores de búsqueda vectorial y nada de lo que escriba un autor los convierte en otra cosa, así que cada uno lleva datastore.aggrega.ai/engine: vector en la base, exactamente como core/datastore/redis lleva kv. Lo que la base desnuda rechaza es el caso contrario — un rasgo que depende de cómo se configura o se usa un componente, para el que existe el tercer mecanismo descrito más abajo.
  2. Las interfaces especializadas (herencia de esquema): un Component puede declarar extends, nombrando otro Component como su base, y lo que eso compone es la estructura: etiquetas, anotaciones, slots de adjuntos, la lista de permitidos de autoinyección, los sockets de topología y las assertions con nombre. Los tres pilares de datos no se componen — un Component que extiende escribe el marcador literal schema: inherited y no redacta contenido propio de values, infra ni provides, de modo que su contrato es idéntico al de su base. Por eso el mecanismo restringe en lugar de variar: como el contrato no cambia, toda Recipe escrita para la base ya sirve a la especialización, y la especialización cuesta una entidad de catálogo y una línea de mapeo en el Manifest. Lo que una especialización añade es, por tanto, identidad que lee un selector o una política — un nivel de auditoría, una zona de datos, un contacto de gobernanza, o un socket cuyo selector admite menos que el de la base. No puede añadir un contrato distinto, porque no tiene ninguna superficie en la que redactarlo. Una consecuencia es fácil de pasar por alto: la línea de mapeo sigue siendo obligatoria. La selección de Recipe se hace por clave de mapeo exacta, así que una especialización necesita su propia entrada mappings.components.type aunque no necesite una Recipe propia. Consulta examples/extends-wrapper para ver un wrapper publicado que añade una etiqueta de nivel revisado y restringe un socket con ella, junto con el build que se detiene cuando una arista conectada a ese socket sale del nivel. Un rasgo que depende de cómo se configura un componente no es objeto de este mecanismo: una especialización fija el artefacto de su base y hereda su contrato, así que un rasgo cierto de la especialización ya es cierto de la base, donde lo sitúa la regla de la base desnuda. Ese rasgo corresponde al mutador dinámico descrito más abajo.
  3. El mutador dinámico (promoción Wasm): si un rasgo lo dicta la carga útil del desarrollador (p. ej., enable_vector: true), la empresa usa el rol label-transform del socket de gobernanza durante la construcción de la topología para leer dinámicamente los values opacos e inyectar automáticamente la etiqueta datastore.aggrega.ai/engine: vector en el grafo IR antes de que se ejecuten las políticas. Aquí es donde un rasgo dependiente de la configuración queda disponible para una evaluación estricta de políticas — son los values declarados por el desarrollador los que lo promueven, y la transformación se ejecuta antes de que cualquier política lea una etiqueta.

La excepción empresarial: como el compilador se mantiene sin opiniones propias, las empresas que redactan sus propios catálogos internos son libres de romper esta regla. Si una política de seguridad corporativa dicta que todas las bases de datos internas son altamente sensibles, el arquitecto de plataforma puede y debe fijar compliance.aggrega.ai/data-class: restricted (o una etiqueta similar dictada por la empresa) directamente en su componente base acme/postgres, de modo que cada instancia suya lleve la clase y una política que la empresa conecte la lea en cada una. La etiqueta en sí no impone nada: el compilador la transporta como una cadena, y es la política conectada la que detiene un build. Cuando solo algunos de los usos de un producto en un parque contienen esos datos, es una especialización mediante extends la que lleva la clase — consulta examples/policy-data-class-route, cuyo asistente de siniestros es el agente LangGraph de la biblioteca estándar más una etiqueta de clase, junto a la política que la lee.

1.2 Cómo las etiquetas semánticas impulsan el pipeline del compilador

Para mantener las etiquetas en el dominio del arquitecto de plataforma, los desarrolladores no pueden escribir etiquetas en sus instancias de Component dentro del Aggregate: el esquema del Aggregate no da a una instancia de componente ninguna clave labels. Las etiquetas de un nodo son las de su entidad de catálogo, junto con las que añada durante la construcción de la topología un adjunto de gobernanza label-transform que configure el operador. Así es exactamente como estas etiquetas impulsan el pipeline de compilación sin requerir código Go personalizado:

1. component.aggrega.ai/type (la primitiva base)

  • ¿Quién la escribe? El arquitecto de plataforma (dominio 2). Es obligatoria para cada componente del catálogo.
  • ¿Quién la consume? El analizador estático y los Plugins de renderizado Wasm.
  • Caso de uso en el compilador: es la ontología cloud operativa central. El analizador estático evalúa de forma nativa en Go las cadenas de selector usesSchema para garantizar que un desarrollador no pueda conectar un agente a una base de datos estándar si el socket requiere una capacidad de IA concreta. Además, DevOps usa esta etiqueta para enrutar explícitamente las primitivas con estado (stateful-server, resource) hacia fronteras físicas del clúster que admiten discos persistentes, mientras que un rol de veredicto de gobernanza puede imponer que los componentes con estado nunca se coloquen en fronteras solo efímeras.

2. model.aggrega.ai/capability

  • ¿Quién la escribe? El arquitecto de plataforma.
  • ¿Quién la consume? El analizador estático (mediante los selectores de etiquetas al estilo de Kubernetes de los sockets usesSchema).
  • Caso de uso en el compilador: cuando un arquitecto redacta un selector usesSchema que nombra la etiqueta de capacidad requerida, el motor nativo de coincidencia de etiquetas del compilador rechaza el cableado que no satisface el selector antes de que se generen los artefactos. El compilador trata estas etiquetas como cadenas opacas; el significado semántico de «text-generation» frente a «embedding» reside en cómo el arquitecto redacta el selector.

3. component.aggrega.ai/hosting

  • ¿Quién la escribe? El arquitecto de plataforma.
  • ¿Quién la consume? El motor de políticas (un rol de veredicto de gobernanza), los Plugins de renderizado Wasm y los propios llamadores de un modelo o de un agente en la biblioteca estándar: sus agentes, cuya aserción la lee en cada conexión model, core/ai-tool/agent-invocation, cuya aserción la lee en su conexión target_agent, igual que su realización de Kubernetes, que niega una credencial a un agente external al que se llega por http, la pasarela de IA, cuya aserción la lee en cada conexión a sus sockets models y cache_store, y core/gateway/kong, core/gateway/kong-enterprise, core/gateway/apisix, core/gateway/envoy-gateway, core/gateway/traefik-hub, core/gateway/agentgateway y core/gateway/higress, cuyas aserciones la leen en cada conexión a sus sockets models, y al backend de los dos Kong, a los sockets cache_store de APISIX y Traefik Hub y a los sockets cache de Envoy Gateway, Higress y Traefik Hub — consulta «La clave que presenta un llamador» más abajo.
  • Caso de uso en el compilador: registra quién opera el recurso subyacente del componente, lo que permite que una política conectada por un operador juzgue el riesgo de exfiltración de datos; el compilador lee el valor como una cadena y no juzga nada. Cuando un agente cuya etiqueta de clase dice que contiene datos internal se conecta a un modelo etiquetado managed — un servicio operado fuera de la frontera propia de la Release — una política así puede leer que los datos salen de esa frontera, y detener el build a menos que la conexión se enrute a través de una pasarela de IA que lleve core/data-masking, que enmascara el texto de chat y de completado que reenvía la pasarela. El socket model de un agente acepta una pasarela así en lugar del modelo, de modo que esa ruta es una arista del grafo que lee la política, y un modelo que la pasarela sirve desde su socket models es una arista propia, de la pasarela al componente del modelo, cuyas etiquetas lee la política — así, el camino desde un agente a través de la pasarela hasta un modelo managed está en el grafo de extremo a extremo. Un upstream escrito a mano en el mapa de modelos de la pasarela no lo está: es una cadena que el compilador no resuelve, así que una política que lee el grafo ve la pasarela y nada detrás de ella. examples/policy-data-class-route es una política así: su configuración clasifica un modelo managed como public, y detiene un build en el que un asistente que contiene datos restricted llega a uno sin pasarela de enmascaramiento en la ruta. Es un rasgo transversal: los mismos valores self-hosted | managed | external describen una base de datos gestionada o un servidor de inferencia autogestionado igual que describen un modelo, por eso la etiqueta vive bajo el espacio de nombres compartido component.aggrega.ai/ y no bajo el específico de modelos.

4. agent.aggrega.ai/autonomy

  • ¿Quién la escribe? El arquitecto de plataforma.
  • ¿Quién la consume? El motor de políticas (un rol de veredicto de gobernanza).
  • Caso de uso en el compilador: identifica el riesgo de ejecución del bucle cognitivo. Si un agente está etiquetado como autonomous (es decir, ejecuta bucles en segundo plano sin prompts del usuario) y se conecta a una base de datos altamente sensible, el motor de políticas puede detener el build a menos que un autor conecte la Feature de aprobación o de contención que exijan las propias reglas de la empresa, de modo que un bucle desatendido no pueda llegar a esos datos sin revisión.
  • Qué significa un componente sin etiqueta en este eje, porque la ausencia es deliberada. La etiqueta describe el riesgo de ejecución de un bucle cognitivo, así que un componente que no contiene un bucle propio no lleva aquí ningún valor en lugar del más bajo de los dos. Bastantes componentes de la categoría de agentes carecen de etiqueta precisamente por esa razón: las piezas de apoyo que una plataforma de agentes distribuye junto a su servidor — una consola en el navegador, una ejecución de migración de esquema, un task worker, un sandbox de código, un proxy de salida — están en esa categoría porque es donde las buscas, mientras que el bucle al que dan soporte vive en el servidor de la plataforma, que es donde está la etiqueta. El caso más claro es un mismo producto repartido entre ambos tratamientos: el servidor de una plataforma lleva copilot, y el sandbox de código que se distribuye a su lado no lleva nada. La prueba es dónde vive el bucle y no qué forma tiene la pieza, así que un runtime que aloja código de agente que proporcionas tú también carece de etiqueta — el bucle ahí es lo que despliegues en él, no algo que el producto afirme. Por tanto, un selector que nombre cualquiera de los dos valores coincide con los componentes que contienen un bucle y con ningún otro, y uno escrito para coincidir con cualquier postura de autonomía omite las piezas de apoyo en lugar de tratarlas como lo menos autónomo del despliegue.

5. gateway.aggrega.ai/intelligence

  • ¿Quién la escribe? El arquitecto de plataforma.
  • ¿Quién la consume? El analizador estático y los plugins Wasm de linter redactados por la empresa.
  • Caso de uso en el compilador: dicta qué funciones puede admitir físicamente un enrutador. La Feature de IA fallback-chain declara appliesTo: gateway.aggrega.ai/intelligence=semantic, y el analizador estático evalúa ese selector contra las etiquetas del componente de destino antes de que se renderice ningún artefacto. Si un desarrollador la conecta a una pasarela l4-mesh estándar, el build se detiene con una infracción de selector que nombra la Feature y el selector que no cumplió, porque el arquitecto redactó ese selector sabiendo que una malla TCP estándar no puede analizar las cargas útiles JSON de los LLM para leer el modelo que nombra una solicitud. El rechazo se basa en la ausencia de semantic y no en la presencia de l4-mesh, así que se aplica igualmente a un enrutador que no lleva ninguna etiqueta de inteligencia. El compilador trata la etiqueta como una cadena opaca, exactamente como arriba: lo que significa semantic reside en cómo el arquitecto redacta el selector. En un enrutador que sí lleva semantic, el adjunto supera el selector, y lo que ocurre después corresponde a su realización: la realización de la biblioteca estándar escribe la cadena en la configuración de enrutamiento de la pasarela de IA.
  • Lo que lleva la biblioteca estándar. Estos componentes llevan semantic: core/gateway/litellm, cuya realización renderiza la tabla de enrutamiento del proxy: un mapa de modelos sobre varios proveedores upstream; core/gateway/cloudflare-ai-gateway, la pasarela alojada de Cloudflare, que lee cada solicitud de modelo que reenvía — el modelo que nombra, los tokens que se le facturan y, donde las comprobaciones propias de la pasarela están activadas, su contenido; core/gateway/azure-api-management, la pasarela de IA de Azure API Management, un servicio alojado, que lee cada solicitud de modelo en una API que sirve un modelo — el prompt que compara su caché semántica, los tokens que informa una respuesta y el contenido que su comprobación de seguridad envía para inspección; core/gateway/apisix, cuyo proxy de IA lee el cuerpo de cada solicitud en una ruta que sirve un modelo y los tokens que informa la respuesta del modelo; core/gateway/envoy-gateway, cuya extensión Envoy AI Gateway lee el cuerpo de cada solicitud en la ruta que sirve los modelos conectados a ella, para encontrar el modelo que nombra, y los tokens que informa cada respuesta; core/gateway/kong-enterprise, Kong Gateway Enterprise, cuyo proxy de IA lee el cuerpo de cada solicitud en una ruta que sirve un modelo conectado — el modelo que nombra y los mensajes que transporta — y los tokens que informa cada respuesta; core/gateway/traefik-hub, Traefik Hub, cuyo middleware Chat Completion lee el cuerpo de cada solicitud en la ruta que sirve un modelo conectado, lo comprueba frente al esquema de chat completion y lee los tokens que informa cada respuesta; core/gateway/agentgateway, agentgateway, que lee el cuerpo de cada solicitud en sus rutas de servicio de modelos para encontrar el modelo que nombra, que es la forma en que elige el modelo conectado al que se envía una solicitud, y los tokens que informa cada respuesta; y core/gateway/higress, Higress, cuyo proxy de IA lee el cuerpo de cada solicitud en una ruta que sirve un modelo conectado — el modelo que nombra y si hace streaming — y cuyos plugins leen los tokens que informa cada respuesta — de modo que las Features de IA que requieren este valor se resuelven contra cualquiera de ellos, y cada realización indica qué respeta su pasarela, o detiene el build donde su pasarela no respeta nada de ello; una Feature sin realización para una pasarela detiene ahí el build, nombrando su tipo. Ningún componente lleva l4-mesh, y los demás componentes de pasarela de la biblioteca estándar no llevan ninguna etiqueta de inteligencia: los que enrutan tráfico terminan HTTP y enrutan en la capa 7, y uno de ellos es un plano de control que no enruta nada en absoluto, de modo que ninguno de los dos valores lo describe. Una malla TCP de capa 4 es, a su vez, otra clase de producto. Eso deja plenamente vigente el rechazo descrito arriba, porque se basa en la ausencia de semantic: un adjunto que requiere ese valor se detiene en cualquiera de ellos. Un arquitecto cuyo catálogo sí ejecuta una malla de capa 4 pone l4-mesh en ese componente, lo que hace que la distinción sea seleccionable en ambas direcciones.
  • Este eje nombra un nivel de producto, que es una cuestión distinta de lo que un componente puede hacer con el tráfico, y leerlo en este segundo sentido es el error al que invita. semantic indica que el router analiza el cuerpo de la solicitud, que es lo que necesita un control que actúa sobre el modelo que nombra una solicitud — así que es el eje adecuado para eso. No dice nada sobre si un router puede copiar tráfico, transportar la identidad de un llamador, verificar el certificado de un upstream, rechazar un prompt que coincide con una lista de patrones o mantener un presupuesto durante un periodo, y una Feature que necesita una de esas capacidades no tiene por qué preguntar por el nivel: la mayoría de los componentes que las ofrecen son proxies de capa 7 comunes sin ningún valor de inteligencia, y donde un router semantic ofrece una, la ofrece por razones que el nivel no registra. Así, el nivel alcanza el conjunto equivocado en ambas direcciones — excluye por completo los proxies simples y no dice nada sobre qué capacidades tiene realmente el gateway de IA que sí alcanza. Esa pregunta corresponde al eje de la ruta de datos que se describe más adelante, y ambos se combinan — una Feature puede exigir un router semantic que además haga réplica, nombrando ambos.

6. tool.aggrega.ai/impact

  • ¿Quién la escribe? El arquitecto de plataforma.
  • ¿Quién la consume? El motor de políticas y los Plugins Wasm de renderizado.
  • Caso de uso del compilador: Al sacar esta información del bloque values mutable del desarrollador y llevarla a la identidad inmutable de las etiquetas, permite que el motor de políticas evalúe configuraciones estrictas de mínimo privilegio. Un plugin de renderizado podría generar permisos invoke estándar para una herramienta de búsqueda web read-only, pero exigir configuraciones estrictas de firma criptográfica para invocar una herramienta mutating de eliminación SQL.

7. compliance.aggrega.ai/data-class

  • ¿Quién la escribe? El arquitecto de plataforma del catálogo propio de una organización (o se inyecta dinámicamente mediante el rol de gobernanza label-transform).
  • ¿Quién la consume? El motor de políticas (un rol de veredicto de gobernanza).
  • Caso de uso del compilador: Da a los datos que contiene un componente una identidad de gobernanza que una política puede seguir a lo largo del grafo. El compilador lleva la etiqueta al grafo IR como una cadena y no clasifica nada: no sabe que restricted es más sensible que public, ni que alguna de las dos palabras signifique algo. Una política asociada al rol ir-verdict aporta ese significado en su propia configuración — qué clases existen y cómo se ordenan — y lee la etiqueta en los componentes de las rutas que el compilador enumera sobre las aristas uses, de modo que puede detener una compilación en la que un componente que contiene datos restricted alcanza un componente de otra clase por una ruta en la que no hay asociada ninguna Feature que la política considere desclasificadora, como core/data-masking en el gateway de IA por el que pasa la ruta. La enumeración está acotada por cada componente de partida y no enumera nada más allá del límite, de modo que una ruta que la política lee es real, mientras que la ausencia de una no prueba que no exista ninguna. examples/policy-data-class-route es esa política, escrita para los motores Rego y CEL compilados en la CLI y para OPA, con las compilaciones que se detienen y la que se completa una al lado de la otra.
  • Lo que incluye la biblioteca estándar. Ningún Component core/ lleva esta etiqueta. La clase de los datos de un componente es una afirmación sobre cómo una organización usa el componente, no una propiedad del producto válida en cada Release, por lo que, según la regla Naked Base, queda fuera de la base: una organización la lleva en su propio Component — una especialización mediante extends, como lo es el asistente de siniestros del ejemplo desarrollado, o una base propia bajo la Enterprise Exception descrita más arriba.

8. hardware.aggrega.ai/accelerator

  • ¿Quién la escribe? El arquitecto de plataforma. Al empaquetar un componente de modelo local, sabe que fundamentalmente requiere una GPU para funcionar.
  • ¿Quién la consume? DevOps (dominio 4).
  • Caso de uso del compilador: DevOps enruta explícitamente los componentes etiquetados con GPU hacia los límites de pools de hardware físico en la Release mediante el mapa components: {}. El desarrollador simplemente solicita el modelo cognitivo en su Aggregate, y DevOps lo coloca en el límite del costoso clúster de GPU, preservando por completo la separación de responsabilidades. Un rol de veredicto de gobernanza puede además imponer que ningún componente que lleve esta etiqueta se coloque nunca en un límite que carezca de infraestructura de GPU.

9. datastore.aggrega.ai/engine

  • ¿Quién la escribe? El arquitecto de plataforma, en los componentes de la categoría datastore (de forma estática, en una especialización flavored, o inyectada por el rol label-transform cuando los values del desarrollador promueven el rol). Los valores en uso en el catálogo son: relational, document, kv, vector, graph, semantic-memory, search. Cada valor nombra un motor de almacenamiento que un producto es — search nombra un motor de búsqueda y análisis que también indexa vectores — por lo que un rasgo que reside en el esquema y el patrón de acceso propios de una aplicación, y no en un almacén desplegable, no es un valor de este eje.
  • ¿Quién la consume? El analizador estático (mediante cadenas de selector) y el motor de políticas.
  • Caso de uso del compilador: Los selectores apuntan a la semántica de almacenamiento en lugar de a productos — el socket de base de conocimiento de un agente selecciona datastore.aggrega.ai/engine in (vector, semantic-memory, search), y un motor de políticas puede rechazar el enrutamiento de cargas útiles SQL hacia un motor vectorial. La relevancia para la IA de los datastores de doble uso se deriva de esta etiqueta y nunca se almacena como un booleano aparte.
  • Lo que incluye la biblioteca estándar. core/datastore/qdrant, core/datastore/weaviate, core/datastore/chroma, core/datastore/pgvector y core/datastore/milvus llevan vector, core/datastore/cognee lleva semantic-memory, y core/datastore/opensearch y core/datastore/elasticsearch llevan search, de modo que el selector de base de conocimiento anterior se resuelve contra cada uno de ellos. core/datastore/redis, core/datastore/valkey y core/datastore/memcached llevan kv. Cada una de estas etiquetas está en la base propia del componente, porque la identidad del producto es ese motor. En core/datastore/pgvector esa identidad es el artefacto que fija: ejecuta la imagen de PostgreSQL del propio proyecto pgvector, que incluye la extensión, y cada Recipe habilita la extensión en la base de datos que crea el componente — así que su rasgo vectorial no depende de ningún ajuste, y eso es lo que lo separa del caso configurado descrito arriba en «Naked Base, Flavored Edges», donde un PostgreSQL de uso general adquiere el rasgo solo cuando un desarrollador activa una extensión. relational, document y graph no tienen ningún componente en la biblioteca estándar, por lo que un selector que nombra solo valores de entre ellos no coincide aquí con nada y lo satisface un catálogo que incluya uno.

10. pipeline.aggrega.ai/mode

  • ¿Quién la escribe? El arquitecto de plataforma, en los componentes de la categoría pipeline. Cada valor nombra cómo un producto ejecuta un trabajo de varios pasos, y los valores siguen a los componentes que los llevan en lugar de a una lista fijada de antemano. La biblioteca estándar incluye dos: durable en core/ai-pipeline/temporal, cuyo motor registra el resultado de cada paso como un historial de eventos y lo reproduce, de modo que un trabajo cuyo worker falla se reanuda donde se detuvo; y reconciled en core/ai-pipeline/argo-workflows, cuyo controlador ejecuta cada paso como un pod a partir de un recurso de workflow guardado en la propia API del clúster.
  • ¿Quién la consume? El motor de políticas y los Plugins Wasm de renderizado.
  • Caso de uso del compilador: Permite que las políticas y los renderizadores distingan los motores de pipeline por cómo una ejecución sobrevive a un fallo — un historial de eventos reproducido o un recurso de clúster reconciliado — en lugar de por el nombre del producto.

11. dataplane.aggrega.ai/* (Las capacidades de la ruta de datos)

  • ¿Quién la escribe? El arquitecto de plataforma, en cualquier componente que esté en la ruta del tráfico — un proxy inverso, un gateway de entrada, una service mesh, un gateway de IA.
  • ¿Quién la consume? El analizador estático, mediante el appliesTo de una Feature y el selector usesSchema de un socket.
  • Caso de uso del compilador: Responde a qué puede hacer este componente con el tráfico, que es lo que un control en tiempo de ejecución realmente necesita saber y lo que una etiqueta de nivel de producto no puede decir. core/traffic-shadowing, que copia solicitudes en vivo a un segundo servicio para su evaluación, declara appliesTo: dataplane.aggrega.ai/request-mirroring — solo la clave — y el analizador estático la evalúa contra las etiquetas del destino antes de renderizar nada, de modo que asociarla a un componente que no puede replicar en absoluto se detiene con una violación de selector que nombra la Feature y el selector que no cumplió. El compilador trata cada una de estas cadenas como opaca, exactamente igual que trata las demás.
  • Por qué el prefijo nombra la ruta del tráfico y no un tipo de componente. La réplica, la identidad del llamador y la verificación del upstream no son propiedades de un gateway — son propiedades de cualquier cosa situada en la ruta de la solicitud, y una service mesh añadida a un catálogo tiene las tres. Nombrar la familia según el tipo de componente que casualmente las llevó primero obligaría a cada tipo posterior a reformular el mismo vocabulario bajo su propio prefijo, dejando una misma capacidad con varios nombres y ningún selector capaz de abarcarlos.
  • Por qué la fidelidad va en el valor. Dos componentes pueden replicar solicitudes y aun así diferir en lo que le importa a una Feature: uno copia cada solicitud coincidente, el otro copia una proporción configurable de ellas. Una clave que solo dijera si un componente replica admitiría a ambos y dejaría la diferencia por descubrir después del renderizado. Poner la fidelidad en el valor permite pedirla de la forma, de entre dos, que encaje con la Feature. Una Feature que no puede funcionar en absoluto sin una fidelidad concreta nombra ese valor en su selector. Una Feature que sigue funcionando con la fidelidad inferior selecciona solo por la clave, y su realización rechaza el ajuste que el componente no puede cumplir: copiar todo el flujo funciona en cualquier componente que replique, por lo que core/traffic-shadowing se asocia a todos ellos, y la realización para un componente que declara full-rate rechaza una proporción inferior a 100 con un mensaje que nombra la proporción solicitada y la fidelidad que declara el componente — dos cosas que la violación de selector no dice. Por eso los valores se derivan de lo que implementan los productos disponibles en el mercado en lugar de componerse como una taxonomía: request-mirroring lleva full-rate y sampled porque los proxies reales se dividen exactamente así, uno que ofrece un ajuste de tasa de copia y otro que no ofrece ninguno.
  • Un valor afirma una capacidad, nunca un estado configurado. Para un desarrollador ambos se leen igual, y solo uno de ellos es una propiedad del componente. Un proxy capaz de verificar el certificado de un upstream lleva upstream-tls: trust-anchor tanto si algún despliegue habilita la comprobación como si no — la etiqueta es aquello por lo que una Feature selecciona antes de que se configure nada, así que cargarla con configuración la volvería ilegible justo en el momento en que se usa.
  • Lo que incluye la biblioteca estándar. core/gateway/nginx lleva request-mirroring: full-rate, upstream-tls: trust-anchor y concurrency-cap: total, un único límite sobre cada solicitud que reenvía. core/gateway/contour lleva request-mirroring: sampled, caller-identity: client-certificate y upstream-tls: trust-anchor. core/gateway/envoy-gateway lleva los mismos tres valores que core/gateway/contour, además de period-budget: tokens, que cuenta los tokens que informa cada respuesta de un modelo que sirve a través de Envoy AI Gateway, y concurrency-cap: per-target, un límite sobre las solicitudes en curso hacia cada modelo que sirve. core/gateway/kong lleva upstream-tls: trust-anchor y prompt-guard: pattern-list, con su AI Prompt Guard comparando los mensajes de una solicitud a un modelo con las listas que contienen sus rutas. core/gateway/tyk lleva upstream-pinning: public-key, que selecciona core/upstream-key-pinning. core/gateway/litellm lleva caller-identity: injected-header, content-masking: entity-recognition, period-budget: cost, prompt-guard: pattern-list, upstream-tls: trust-anchor y concurrency-cap: per-target, un límite sobre las solicitudes en curso hacia cada entrada de su mapa de modelos. core/gateway/cloudflare-ai-gateway lleva period-budget: cost. core/gateway/apisix lleva period-budget: tokens, que cuenta los tokens que informa la respuesta de cada modelo sin poner precio a nada, y prompt-guard: pattern-list. core/gateway/kong-enterprise lleva period-budget: tokens, que cuenta los tokens que informa la respuesta de cada modelo, y content-masking: entity-recognition. core/gateway/traefik-hub lleva content-masking: entity-recognition y prompt-guard: pattern-list, con su middleware Content Guard enmascarando las coincidencias de los patrones que contiene su configuración o los tipos de entidad que detecta un analizador Presidio al que llama, o rechazando una solicitud con la que coincide un patrón, y period-budget: cost, con precios tomados de la lista de precios por modelo que se distribuye con su middleware de cuotas, que puede en su lugar contar los tokens que informa cada respuesta. core/gateway/agentgateway lleva content-masking: pattern-list y prompt-guard: pattern-list, con su guarda de expresiones regulares enmascarando o rechazando las coincidencias de los patrones que contiene su configuración y sin reconocer tipos de entidad, y period-budget: cost, los presupuestos que mantiene por clave de API en dólares estadounidenses, con precios tomados de su catálogo de costos de modelos, o en tokens. core/gateway/higress lleva content-masking: pattern-list, con su plugin ai-data-masking enmascarando las coincidencias de los patrones que contiene su configuración en el texto de los mensajes de una solicitud de chat y sin reconocer tipos de entidad, y period-budget: tokens, que cuenta juntos los tokens de prompt y de completado que informa cada respuesta sin poner precio a nada. core/gateway/azure-api-management lleva period-budget: tokens, que cuenta juntos los tokens de prompt y de completado que informa cada respuesta, con un recuento separado en cada gateway de la instancia, y sin poner precio a nada. core/security/nemo-guardrails y core/security/trustyai-guardrails-gateway, dos guardas que se sitúan en la ruta de un modelo y juzgan una solicitud con un clasificador entrenado, llevan prompt-guard: classifier, que seleccionan los sockets guard del gateway de IA y del gateway NGINX. Los gateways de IA de entre ellos — core/gateway/litellm, core/gateway/cloudflare-ai-gateway, core/gateway/apisix, core/gateway/envoy-gateway, core/gateway/kong-enterprise, core/gateway/traefik-hub, core/gateway/agentgateway, core/gateway/higress y core/gateway/azure-api-management — llevan semantic y el resto no lleva ningún valor gateway.aggrega.ai/intelligence, lo cual es la separación funcionando y no una excepción a ella: una Feature que necesita una réplica alcanza los tres componentes que tienen una, mientras que un selector de nivel de producto alcanzaría entre ellos solo Envoy Gateway, por una razón que no dice nada sobre la réplica, y una Feature que necesita una guarda de prompts, enmascaramiento de contenido o un presupuesto por periodo alcanza un gateway de IA por lo que puede hacer y no por el nivel en el que está, mientras que una que limita las solicitudes en curso alcanza el gateway NGINX, que no lleva ningún valor de nivel, igual que alcanza Envoy Gateway y el gateway de IA, y una que rechaza una solicitud según una lista de patrones alcanza Kong de código abierto, que tampoco lleva ninguno, igual que alcanza APISIX. Un componente que no tiene nada que describir en uno de estos ejes no lleva ahí ningún valor en lugar del más débil, de modo que un selector que nombra cualquier valor de ese eje, correctamente, no se asocia a él.

12. security.aggrega.ai/text-anonymization

  • ¿Quién la escribe? El arquitecto de plataforma, en un servicio que participa en el enmascaramiento de texto sensible. Cuando ese trabajo se reparte entre dos servicios, analyzer va en el que encuentra los fragmentos sensibles de un texto y los informa, y anonymizer en el que reescribe los fragmentos que se le entregan; sanitizer va en un servicio que hace ambas cosas en una sola llamada, encontrando los fragmentos sensibles en el texto que se le envía y reescribiéndolos él mismo, y respondiendo con el texto reescrito.
  • ¿Quién la consume? El analizador estático, mediante el selector usesSchema de un socket.
  • Caso de uso del compilador: es la forma en que un consumidor recibe la dirección correcta. core/gateway/litellm declara un socket pii_analyzer que selecciona security.aggrega.ai/text-anonymization=analyzer y un socket pii_anonymizer que selecciona el valor anonymizer, de modo que conectar cualquiera de los dos servicios al socket del otro detiene el build con una violación de selector que nombra el socket. core/gateway/kong-enterprise declara un socket, pii_sanitizer, que selecciona el valor sanitizer, y core/gateway/traefik-hub uno, pii_analyzer, que selecciona solo el valor analyzer, porque el Content Guard que su Recipe de chart escribe para core/data-masking reemplaza por sí mismo lo que encuentra el analizador. El compilador enruta la dirección que publica el componente seleccionado y no comprueba nada de lo que responde allí.
  • Lo que incluye la biblioteca estándar. core/security/presidio-analyzer lleva analyzer y core/security/presidio-anonymizer lleva anonymizer. Ambos hablan la API HTTP de Presidio a la que llama el gateway de IA cuando una vinculación de core/data-masking, o el propio values.log_masking del gateway, enumera tipos de entidad, y el Content Guard de Traefik Hub llama solo al analizador cuando una vinculación de core/data-masking en ese gateway los enumera. core/security/kong-ai-pii-service lleva sanitizer y habla la API del servicio AI PII de Kong, a la que el AI PII Sanitizer de Kong Gateway Enterprise llama con cada texto que enmascara, incluidas sus expresiones regulares, mientras haya una vinculación de core/data-masking en ese gateway. El sanitizer no le presenta ninguna credencial y todo texto le llega sin enmascarar, por lo que su dirección es interna del clúster y no está pensada para exponerse fuera del clúster.

13. model.aggrega.ai/api

  • ¿Quién lo escribe? El Platform Architect, en cada componente de la categoría model y en un gateway que sirve una API de modelos. El valor indica qué API de modelos responde en la dirección que publica el componente: openai cuando es la API de OpenAI — la del propio proveedor o la implementación que hace de ella un servidor —, anthropic cuando es la Messages API de Anthropic, gemini cuando es la Gemini API de Google, y native cuando es la API propia del producto y ninguna de esas, a la que un consumidor llega mediante el cliente de ese producto. Cada valor se toma de la referencia propia del producto, y un componente lo lleva sea cual sea la configuración de una Release determinada.
  • ¿Quién lo consume? El Static Analyzer, mediante el selector usesSchema de un socket, y las aserciones del gateway de IA, de core/gateway/kong, de core/gateway/kong-enterprise, de core/gateway/apisix, de core/gateway/envoy-gateway, de core/gateway/traefik-hub, de core/gateway/agentgateway y de core/gateway/higress, en cada conexión a sus sockets models.
  • Caso de uso del compilador: es lo que permite que un mismo socket acepte tanto un modelo como un gateway que sirve modelos. El socket model de todos los agentes salvo los cinco runtimes nombrados más abajo, el socket target_model de core/ai-tool/model-invocation y los dos sockets de modelo de core/datastore/cognee seleccionan component.aggrega.ai/category in (ai-model, gateway), model.aggrega.ai/api: el requisito de categoría admite las dos categorías, y el requisito de clave admite, de entre sus componentes, solo los que llevan la etiqueta, de modo que conectar un socket así a un gateway que no sirve ninguna API de modelos detiene el build con una violación de selector que nombra el socket. Todos los requisitos de un selector deben cumplirse y sus alternativas viven dentro del conjunto de una sola clave, por lo que la única clave a la que responden ambos tipos de componente tiene que estar en cada componente de modelo además de en el gateway — por eso la etiqueta nombra una API en lugar de marcar solo los gateways. Un gateway que la lleva publica las claves endpoint y model que publica un modelo, de modo que la Recipe de un consumidor lee cualquiera de los dos de la misma manera. Un agente cuyas Recipes entregan las variables de una sola API de modelos nombra en cambio su valor: los sockets model de core/ai-agent/openai-agents-sdk, core/ai-agent/agent-framework y core/ai-agent/mastra seleccionan model.aggrega.ai/api=openai, el de core/ai-agent/claude-agent-sdk selecciona model.aggrega.ai/api=anthropic y el de core/ai-agent/google-adk selecciona model.aggrega.ai/api=gemini, de modo que conectar uno de ellos a un modelo o a un gateway que sirve otra API detiene el build con una violación de selector que nombra el socket. El socket de core/ai-agent/google-adk restringe además la categoría a ai-model, rechazando todo gateway, porque el cliente de ADK no lee ninguna dirección y enviaría la credencial de un gateway a la dirección propia de Google. El gateway de IA lee el valor en lugar de seleccionar por él: su socket models selecciona component.aggrega.ai/category=ai-model, admitiendo cualquier modelo, y como el gateway describe a su proxy un modelo conectado allí solo mediante la API de OpenAI, la aserción de su Component detiene el build en una conexión cuyo destino lleva cualquier valor distinto de openai, nombrando la conexión e indicando que se escriba en su lugar ese upstream en el mapa de modelos escrito a mano del gateway. core/gateway/kong, core/gateway/kong-enterprise, core/gateway/apisix, core/gateway/envoy-gateway, core/gateway/traefik-hub, core/gateway/agentgateway y core/gateway/higress lo leen de la misma manera en sus propios sockets models, porque cada uno escribe la ruta de un modelo conectado, o en agentgateway su entrada de modelo, solo para la API de OpenAI. El compilador trata el valor como una cadena opaca y no comprueba nada de lo que responde en la dirección.
  • Lo que incluye la biblioteca estándar. core/gateway/litellm, core/gateway/kong, core/gateway/kong-enterprise, core/gateway/apisix, core/gateway/envoy-gateway, core/gateway/traefik-hub, core/gateway/agentgateway y core/gateway/higress llevan openai, al igual que los servidores autoalojados core/ai-model/vllm, ollama, docker-model-runner, tgi, tei, nvidia-nim y litellm, las API gestionadas core/ai-model/openai, openai-embedding y nvidia-api, y el bróker core/ai-model/openai-compatible, que se apunta a un servicio que habla esa API. core/ai-model/anthropic lleva anthropic, y core/ai-model/gemini lleva gemini. Todos los demás componentes de modelo llevan native.

14. tool.aggrega.ai/transport

  • ¿Quién lo escribe? El Platform Architect, en una herramienta a la que un consumidor llega mediante un transporte que tiene que hablar. El valor nombra ese transporte.
  • ¿Quién lo consume? El Static Analyzer, mediante el socket de herramientas de un consumidor.
  • Caso de uso del compilador: es la forma en que un consumidor recibe solo las herramientas con las que puede comunicarse. Un socket de herramientas selecciona component.aggrega.ai/category=ai-tool, tool.aggrega.ai/transport=http: el requisito de categoría admite herramientas y nada más, y el requisito de transporte admite solo las herramientas a las que se llega por HTTP, de modo que conectar un socket así a una herramienta que no lleva esa etiqueta detiene el build con una violación de selector que nombra el socket. La forma de llegar a una herramienta tiene que ser una etiqueta y no un valor publicado, porque un selector lee etiquetas y nunca el contenido de un valor. El compilador trata el valor como una cadena opaca y no comprueba nada de lo que responde en la dirección.
  • Lo que incluye la biblioteca estándar. core/ai-tool/mcp lleva http. Vincula un servidor Model Context Protocol a un agente, y el Manifest elige cómo se realiza ese servidor: helm/mcp y compose/mcp ejecutan una imagen que sirve el protocolo por HTTP; helm/mcp-stdio-bridge y compose/mcp-stdio-bridge ejecutan un paquete que solo habla stdio detrás de un puente fijado que lo sirve por HTTP; helm/mcp-remote y compose/mcp-remote llegan a un servidor que opera otra persona y no ejecutan nada. Toda realización publica los mismos host, port, endpoint, protocol y credential_header, de modo que el cableado de un consumidor no cambia con la realización. Las credenciales propias de un servidor son variables de entorno, guardadas en el slot server_env de la herramienta: entregadas al puente por referencia en Kubernetes y, en Docker Compose, escritas en el entorno del servicio tal como se entregan, donde una referencia a una variable de Compose mantiene la credencial fuera del archivo; la credencial de un servidor remoto la guarda el consumidor en su propia conexión a la herramienta y la presenta bajo la cabecera que nombra credential_header, Authorization salvo que la Release nombre otra. Cuando un servidor remoto lee su clave de su propia dirección, el consumidor guarda también la dirección completa en esa conexión, en un slot endpoint que en Kubernetes se rellena con una referencia a un Secret y en Docker Compose con una referencia a una variable de Compose, de modo que la clave no llega a ningún archivo renderizado, mientras que el infra.endpoint de la herramienta contiene la dirección sin la parte que lleva la clave; examples/mcp-address-from-secret construye ambos. core/ai-agent/openai-agents-sdk, core/ai-agent/claude-agent-sdk, core/ai-agent/agent-framework, core/ai-agent/google-adk y core/ai-agent/mastra, y las plataformas de flujos core/ai-agent/flowise y core/ai-agent/n8n, declaran un socket de herramientas de esta forma, tools, y entregan la dirección de cada herramienta conectada, y la credencial de la conexión por referencia, en variables nombradas según el alias de la conexión, mientras que una conexión que escribe un bloque inject: recibe lo que dicta ese bloque en lugar de las variables derivadas de lo que publica la herramienta, y lo que contienen sus slots credential y endpoint se mantiene bajo el nombre del alias; un consumidor propio declara uno de la misma manera. Cada una de las tres plataformas de flujos lleva a la plataforma, en el despliegue, un flujo escrito en el Aggregate, en ambos destinos: Langflow carga la definición transportada desde su directorio de flujos en cada arranque, el chatflow de Flowise se siembra mediante un paso único que inicia sesión como la cuenta propietaria que nombra la Release, y el workflow de n8n se importa mediante un paso de init antes de que arranque la plataforma. core/ai-agent/langflow declara un socket tools de la misma forma, que no admite ningún bloque inject:, y entrega en cambio cada conexión a través de ese flujo, porque el componente MCP Tools de Langflow toma la dirección de un servidor solo de la configuración propia de Langflow o del flujo, nunca de una variable: sus Recipes escriben la dirección de la herramienta en el nodo MCP Tools cuyo servidor lleva el nombre del alias de la conexión, entregan la credencial de la conexión por referencia como una variable que nombra la cabecera de ese nodo — bajo Authorization, una variable que contiene Bearer y la credencial — y dejan pasar los hosts de las herramientas y almacenes conectados a través de la protección de Langflow contra direcciones privadas. Las tres plataformas declaran también un socket vector_store que selecciona datastore.aggrega.ai/engine in (vector, semantic-memory, search), que entrega de la misma manera la dirección de cada almacén conectado — el endpoint que publica, para core/datastore/pgvector un URI de conexión sin contraseña, o una compuesta a partir de su protocolo, host y puerto — y la credencial de la conexión por referencia; un almacén que publica además su base de datos y su usuario, como hace core/datastore/pgvector, llega a Flowise y n8n también en esas partes, ya que el nodo vectorial de PostgreSQL de ninguna de las dos plataformas acepta una cadena de conexión; Langflow, cuyo componente PGVector acepta una sola cadena, recibe un almacén así como AGGREGA_VECTOR_STORE_<ALIAS>_CONNECTION_STRING, con la credencial de la conexión como su contraseña, por referencia en Kubernetes y tal como se entrega en Docker Compose. Un chatflow de Flowise lee una variable entregada mediante una variable Runtime del mismo nombre creada en la página Variables de Flowise, y un workflow de n8n lee una mediante $env solo donde el Aggregate establece el valor allow_env_access_in_nodes de la plataforma, ya que por defecto sus Recipes mantienen el bloqueo de n8n al acceso al entorno en los nodos.

2. Abstracción de puertos (la convención de cero puertos)

El catálogo de código abierto de la biblioteca estándar de Aggrega recomienda omitir las declaraciones de puertos físicos de la capa cognitiva de los Components y encaminar en su lugar la selección de puertos a través de la Recipe de Ops. Los autores que siguen esta recomendación evitan colisiones de puertos entre destinos de despliegue, impiden API de puerta trasera que eluden el Injection Contract y mantienen flexible la topografía de red entre proveedores. El propio compilador es agnóstico respecto a los puertos — canaliza cualquier valor que permita el JSON Schema resuelto. La convención funciona con una vía de escape explícita para los sistemas heredados cuyos puertos físicos no pueden moverse.

  • El valor predeterminado cloud-native (inyección dinámica): para las cargas de trabajo modernas, los Components omiten por completo los puertos físicos (ningún array ports ni expose) de su declaración schema:. Las Recipes de Platform Ops eligen el puerto TCP/UDP interno y lo publican como una clave provides con nombre, que los consumidores posteriores leen mediante el Injection Contract .context.uses.
  • La vía de escape heredada (declaración explícita): cuando un componente heredado tiene un puerto fijo en el código e inmodificable, el Platform Architect expone explícitamente un campo port dentro de la declaración schema: del Component. Esto da al Developer una forma validada de declarar la restricción física. El compilador lleva el valor a través del pipeline sin cambios; la Recipe lo consume mediante {{ .values.port }}.
  • Puertos operativos (fuera de banda): los puertos que usa estrictamente la infraestructura del clúster (p. ej., el scraping de Prometheus, las métricas del sidecar de Envoy) permanecen ocultos a la capa cognitiva del Developer. Platform Ops los inyecta fuera de banda mediante Features (p. ej., vinculando la Feature core/prometheus-exporter, cuyo puerto de scraping es infra del operador).

3. Esquemas específicos del dominio (inteligencia de configuración)

Los bloques values del desarrollador (opacos para el compilador de Go pero estrictamente tipados por la declaración schema: del Component) se validan para admitir flujos de trabajo de IA explícitos:

  • Enlaces entre agentes (arrays de dependencias): el esquema compartido de parámetros de agente de la biblioteca estándar lleva tools_allowed y agents_allowed como arrays de values que nombran los Components del catálogo que un agente puede invocar o en los que puede delegar — una convención documentada que el compilador no evalúa. Un enlace que el compilador conecta como arista topológica es un socket uses que el Component del agente declara en su usesSchema, y el selector de ese socket es lo que comprueba el build.
  • Particionamiento profundo de la memoria cognitiva (CoALA): en lugar de un único contenedor de memoria plano, un arquitecto puede declarar un socket cognitive_memory cuyas conexiones asignan la memoria semántica, episódica y procedimental a destinos de infraestructura distintos como aristas topológicas explícitas, de modo que los motores de políticas pueden evaluar e imponer barreras de acceso granulares (p. ej., garantizar que un agente pueda leer la memoria semántica pero no sobrescribirla si es secuestrado). La biblioteca estándar no declara ningún socket así.
  • Pipelines multimodales: el schema: de un Component puede declarar etapas de ejecución explícitas como document_chunking, embedding_generation y storage_routing como values tipados, de modo que un flujo de datos declarativo se valida antes de que se renderice nada. La biblioteca estándar no declara ninguna etapa así.

4. Inteligencia de gateways y enrutamiento

Los gateways de IA de la biblioteca estándar llevan los controles para enrutar solicitudes a las API de LLM: core/gateway/litellm, que se ejecuta en el clúster, y dos servicios alojados — core/gateway/cloudflare-ai-gateway, el gateway alojado de Cloudflare, que su Recipe de terraform crea en una cuenta de Cloudflare, y core/gateway/azure-api-management, el gateway de IA de Azure API Management, cuya Recipe de terraform añade una API que sirve un modelo, con su backend y su política, a una instancia de API Management que ya existe. Las Recipes de helm y compose de cada gateway alojado lo referencian donde ya está configurado. Algunos controles son valores en el propio gateway y otros son Features vinculadas a él, y cada Feature de más abajo indica en qué gateway la realiza la biblioteca estándar. En un gateway alojado, cada control se escribe en la configuración propia del gateway — un ajuste del recurso del gateway de Cloudflare, un elemento de la política de la API en Azure API Management —, por lo que solo su Recipe de terraform puede llevar uno, y sus Recipes de helm y compose detienen el build ante cualquier vinculación. Más abajo, «el gateway de IA» es core/gateway/litellm, «el gateway alojado» es core/gateway/cloudflare-ai-gateway, y el gateway de Azure API Management se nombra completo.

Fuera de Aggrega, en tiempo de ejecución

agente

su socket model, conectado al gateway

gateway de IA

con los controles adjuntos a él

presupuesto de tokens

caché semántica

escudo contra la inyección de prompts

modelo

un proveedor detrás del gateway

Las solicitudes de un agente pasan por el gateway al que está conectado su socket model, de modo que cada control adjunto al gateway se sitúa entre el agente y el modelo. Los tres que se dibujan aquí son las Features core/period-budget, core/semantic-caching y core/prompt-injection-shield, mostradas una junto a otra por el lugar que ocupan y no como la configuración de un único gateway: las entradas siguientes indican qué gateway realiza cada control y qué detiene la compilación.

  • Los modelos detrás: el mapa de modelos del gateway de IA — los alias que sirve, cada uno con el upstream al que se envía una solicitud para él — tiene dos partes. Un componente de modelo conectado al socket models del gateway, gestionado o autoalojado, se sirve bajo el alias de la conexión, con su entrada escrita a partir del endpoint y el model que publica el modelo, cadenas que el compilador canaliza a la configuración del gateway y nunca resuelve; el modelo es, por tanto, un componente del grafo, al que se llega por una arista propia. El gateway describe un modelo así a su proxy solo mediante la API de OpenAI, de modo que una conexión que llega a un modelo cuyo model.aggrega.ai/api no es openai detiene el build, nombrando la conexión. La otra parte es el values.models del gateway, entradas escritas a mano en la notación proveedor/modelo propia del proxy: para un upstream que el catálogo no modela, para un proveedor cuya API propia no es la API de OpenAI, y para varias entradas que comparten un alias, algo que los modelos conectados no pueden hacer, ya que cada uno se sirve bajo el alias de su propia conexión. Una entrada conectada presenta la credencial que lleva su propia conexión, como describe «La clave que presenta un llamador» más abajo, y nunca el provider_key del gateway; cada entrada escrita a mano presenta la única credencial de ese slot. Un alias que publican ambas partes detiene el build, nombrándolo, y lo mismo ocurre con un gateway al que ninguna de las dos partes da un modelo.

  • En la ruta de un agente: el gateway publica un endpoint y un model, las claves que publica un componente de modelo, y lleva model.aggrega.ai/api: openai, de modo que el socket model de un agente acepta directamente el gateway y cada control vinculado a él se sitúa entre ese agente y los proveedores que hay detrás. El model que publica es el alias que nombra su values.model, ante el cual el build se detiene cuando ninguna de las dos partes del mapa lo publica; puede omitirse solo cuando el gateway sirve un único alias y una entrada de values.models lo publica, que es entonces el publicado. Un llamador que quiera otro alias que publica el mapa lo pide por su nombre al mismo endpoint. core/gateway/cloudflare-ai-gateway publica las mismas dos claves — la dirección de uno de los endpoints del gateway, compuesta a partir de la cuenta de Cloudflare y del id del gateway, y el modelo que pide un llamador, que el gateway reenvía sin comprobar — pero no lleva ningún model.aggrega.ai/api, de modo que el socket model de un agente no lo acepta. core/gateway/azure-api-management también las publica — la dirección de su API, compuesta a partir del host de la instancia y la ruta de la API, y el modelo que pide un llamador, reenviado sin comprobar — y tampoco lleva ningún model.aggrega.ai/api: la API responde a la solicitud de chat completions de OpenAI, pero de forma predeterminada un llamador presenta una clave de suscripción de API Management en su propia cabecera en lugar del bearer token de OpenAI, por lo que un simple cliente de OpenAI no basta para llamarla.

  • Kong delante de los modelos: core/gateway/kong, el gateway Kong de código abierto, sirve los modelos conectados a su propio socket models mediante el AI Proxy de Kong y, de los controles de más abajo, realiza solo los patrones de denegación de prompts, como el AI Prompt Guard de Kong en cada ruta de cada modelo conectado. Cada modelo conectado obtiene una ruta de chat y una ruta de completion bajo /<alias>/v1, escritas a partir del endpoint y el model que publica el modelo, y sus Recipes importan esas rutas al backend PostgreSQL del gateway antes de que arranque. La ruta elige el modelo, de modo que una solicitud se envía al modelo que nombra su ruta, sea cual sea el nombre de modelo que lleve. El gateway presenta la credencial propia de cada conexión como un bearer token que su configuración lee por nombre del entorno del gateway, y una conexión que llega a un modelo cuyo model.aggrega.ai/api no es openai detiene el build. Publica la ruta del alias que nombra su values.model como su endpoint y ese alias como su model, y lleva model.aggrega.ai/api: openai, de modo que el socket model de un agente lo acepta igual que acepta el gateway de IA. Sin nada conectado a ese socket, el gateway no sirve ningún modelo y publica ambas claves vacías, y un agente conectado a él no lee entonces ninguna dirección ni ningún nombre de modelo. La importación añade y actualiza rutas y no elimina ninguna, de modo que una ruta cuya conexión se elimina sigue respondiendo, y el prompt guard que escribió una vinculación de core/prompt-deny-patterns sigue rechazando una vez eliminada la vinculación, hasta que cada uno se borra mediante la Admin API de Kong. Por la misma razón, el gateway no declara llamadores y sus rutas de modelo no comprueban la clave de ningún llamador: Kong distingue a los llamadores solo como los consumers que nombra un plugin de autenticación, y un consumer y su clave, una vez importados, seguirían pudiendo autenticarse después de eliminar al llamador de la Release, y una clave rotada dejaría funcionando la antigua; tampoco puede guardarse por referencia una clave key-auth, de modo que la clave de un llamador solo podría llegar a Kong como un literal en un archivo renderizado.

  • Kong Gateway Enterprise delante de los modelos: core/gateway/kong-enterprise, la edición de pago de Kong del mismo gateway respaldado por base de datos, sirve los modelos conectados a su propio socket models en las rutas que sirve core/gateway/kong, escritas a partir de la misma configuración e importadas en su backend PostgreSQL por un paso en el propio pod del gateway antes de que el gateway arranque, y publica su endpoint y su model como lo hace Kong. Su única realización es una Recipe de chart sobre el chart de Helm oficial de Kong; no hay realización compose. Ejecuta la imagen que la Release nombra en infra.image, etiqueta de versión incluida, porque Kong distribuye la imagen enterprise bajo sus propios términos y, por tanto, el catálogo no nombra ninguna; la compilación se detiene mientras esa clave no esté definida o su etiqueta no lleve ninguna versión. La licencia llega al gateway por referencia al Secret vinculado a su slot obligatorio license, nunca como valor, y la compilación se detiene mientras nada vincule ese slot. El compilador no valida ninguna licencia ni contacta con ningún proveedor, así que una Release que compila sin errores no dice nada de una licencia: Kong lee la licencia al arrancar un nodo, y un nodo sin licencia válida se comporta como con una caducada, con su configuración de entidades en solo lectura y su tráfico de proxy servido con la configuración ya existente. Kong vende sus plugins de IA como su oferta AI Gateway Enterprise, un derecho de uso dentro de la licencia que ninguna compilación puede ver, y omite un plugin así en lugar de rechazarlo cuando la licencia carece de ese derecho, por lo que vincular core/semantic-caching, core/period-budget, core/data-masking, core/fallback-chain, core/retry-policy o core/target-selection detiene la compilación hasta que la Release establezca infra.ai_gateway_entitled en true, afirmando que la licencia lo incluye. De los controles siguientes realiza el presupuesto por periodo y la cadena de fallback, cada uno escrito en las rutas que el gateway importa, y realiza core/data-masking como describe más abajo «Exfiltración de datos e interceptación de payloads»; sus realizaciones de la caché semántica, la política de reintentos y la selección de destino detienen cualquier vinculación, cada una indicando el motivo, y el límite de concurrencia, el registro de auditoría, la detección de inyección de prompts, la validación de respuestas y los patrones de denegación de prompts no tienen realización allí, así que una vinculación de cualquiera de ellos detiene la compilación. Un conjunto de rutas modificado provoca un despliegue gradual del gateway, y la importación añade y actualiza rutas sin eliminar ninguna, así que una ruta cuya conexión se elimina, y un plugin que escribió una Feature de IA una vez eliminada la Feature, permanecen en la base de datos hasta que se borran mediante la Admin API de Kong; por los motivos que da el punto anterior, tampoco declara llamadores, y sus rutas de modelos no comprueban la clave de ningún llamador. Que un gateway en ejecución aplique alguno de estos controles no lo observa ninguna compilación.

  • APISIX delante de los modelos: core/gateway/apisix, el gateway de código abierto Apache APISIX, sirve los modelos conectados a su propio socket models mediante el proxy de IA de APISIX donde el Manifest vincula su Recipe de chart, que ejecuta APISIX 3.18.0. Cada modelo conectado recibe una ruta de chat y una ruta de completion bajo /<alias>/v1 —solo la ruta de chat mientras haya vinculados un presupuesto por periodo o patrones de denegación de prompts, ya que APISIX no cuenta tokens en una solicitud de completion y su prompt guard no lee ninguna—, escritas a partir del endpoint y el model que el modelo publica en un archivo de rutas renderizado con el gateway, que este lee al arrancar y de nuevo cada vez que el archivo cambia. Un gateway que lee sus rutas de ese archivo no lee ningún etcd ni ejecuta ninguna Admin API, así que, con un modelo conectado, una conexión etcd o una vinculación admin_key detiene la compilación, y sin nada conectado ambas son obligatorias. La ruta elige el modelo. El gateway presenta la credencial propia de cada conexión como un bearer token que sus rutas leen por nombre del entorno del gateway, y una conexión que llega a un modelo cuyo model.aggrega.ai/api no es openai detiene la compilación. Publica la ruta del alias que nombra su values.model como su endpoint y ese alias como su model, y lleva model.aggrega.ai/api: openai, así que el socket model de un agente lo acepta como acepta el gateway de IA; sin nada conectado publica ambas claves vacías. Una ruta cuya conexión se elimina desaparece del siguiente renderizado. Una Release puede nombrar a los llamadores del gateway en infra.callers y sus claves mediante el slot caller_keys, un Secret que contiene una clave de datos por cada nombre de llamador: cada llamador es entonces un consumer en el archivo de rutas cuya clave se lee por nombre de ese Secret, y cada ruta rechaza con HTTP 401 una solicitud que no presenta ninguna clave declarada como Authorization: Bearer <key> —como la presenta un cliente de OpenAI— y elimina la clave de la solicitud que reenvía. Sin llamadores, las rutas están abiertas. Su Recipe de workload, con APISIX 3.17.0, guarda sus rutas en etcd, no renderiza ninguna y detiene la compilación ante una conexión a ese socket y ante infra.callers. De los controles siguientes realiza el presupuesto por periodo, una caché semántica para los llamadores que declara y los patrones de denegación de prompts.

  • Envoy Gateway delante de los modelos: core/gateway/envoy-gateway, el gateway de código abierto Envoy Gateway, sirve los modelos conectados a su propio socket models mediante Envoy AI Gateway, cuyo controlador, core/gateway/envoy-ai-gateway-operator, el gateway invoca como su servidor de extensión a través de su socket extension. Un modelo conectado sin nada en ese socket detiene la compilación, y con el controlador conectado la Release coloca el gateway en envoy-gateway-system o la compilación se detiene. Cada modelo conectado se convierte en una regla de una única ruta de IA vinculada al gateway, elegida por el nombre de modelo que lleva una solicitud, con un backend escrito a partir del endpoint y el model que el modelo publica, así que cada modelo conectado se sirve bajo /v1 en la propia dirección del gateway. El gateway presenta la credencial propia de cada conexión como un bearer token, que el controlador de Envoy AI Gateway lee del Secret que nombra la credencial, y una conexión que llega a un modelo cuyo model.aggrega.ai/api no es openai detiene la compilación. Mientras haya un modelo conectado, cada ruta del gateway adopta el búfer de solicitud de 50Mi por conexión que configura Envoy AI Gateway. Publica su dirección, calificada con envoy-gateway-system para que se resuelva desde cualquier namespace, como su endpoint y el alias que nombra su values.model como su model, y lleva model.aggrega.ai/api: openai, así que el socket model de un agente lo acepta como acepta el gateway de IA; sin nada conectado publica ambas claves vacías. El webhook del controlador sirve un certificado que emite cert-manager, por lo que cert-manager ya debe estar en ejecución en el clúster, a menos que la Release nombre, en el infra.webhook_tls_secret del controlador, un Secret que contenga un certificado proporcionado por el operador, que el webhook sirve entonces. De los controles siguientes realiza el presupuesto por periodo, la política de reintentos y el límite de concurrencia, cada uno escrito en la única política de tráfico de la ruta que sirve sus modelos. No realiza la caché semántica ni la validación de respuestas, ya que Envoy AI Gateway no guarda ninguna respuesta con la que responder a una solicitud posterior ni comprueba ninguna respuesta con un esquema, ni la cadena de fallback: Envoy AI Gateway hace fallback reintentando en otros backends de la regla de un modelo, y el gateway escribe el número de reintentos de su única política de tráfico en cada regla de la ruta que sirve sus modelos, así que una lista de fallback obtendría exactamente sus envíos solo donde la lista de cada modelo conectado tuviera la misma longitud. Realiza core/audit-logging como su registro de acceso, como describe más abajo «Registro de auditoría», y rechaza por nombre lo que ese registro no puede guardar: lo que costó una solicitud, ya que el coste por solicitud que Envoy AI Gateway puede calcular no tiene unidad y el gateway no guarda precios; un llamador verificado por el gateway, ya que nada en esa ruta verifica al llamador; y una retención, ya que ese registro no tiene almacén ni ajuste de retención. examples/envoy-ai-gateway-token-budget construye la ruta completa, con un agente que llega al modelo gestionado de OpenAI a través del gateway.

  • agentgateway delante de los modelos: core/gateway/agentgateway, el agentgateway de código abierto, sirve los modelos conectados a su propio socket models desde un único archivo de configuración que renderizan sus Recipes. Cada modelo conectado es una entrada de ese archivo, nombrada con el alias de la conexión y escrita a partir del endpoint y el model que el modelo publica como proveedor de chat completions compatible con OpenAI, así que cada modelo conectado se sirve bajo /v1 en la propia dirección del gateway y es el nombre de modelo que lleva una solicitud el que lo elige: la solicitud llega al modelo pidiendo el nombre de modelo que el modelo publica, y a un nombre que ninguna conexión lleva se responde con HTTP 404. El gateway presenta la credencial propia de cada conexión como un bearer token, que el archivo nombra como una variable que el gateway lee de su entorno al leer el archivo, y una variable que falte allí le impide arrancar; una conexión que llega a un modelo cuyo model.aggrega.ai/api no es openai detiene la compilación. Publica esa URL base /v1 como su endpoint y el alias que nombra su values.model como su model, y lleva model.aggrega.ai/api: openai, así que el socket model de un agente lo acepta como acepta el gateway de IA; sin nada conectado publica ambas claves vacías. Dos Recipes ejecutan la misma imagen, fijada por digest: agentgateway-chart renderiza el chart de Helm independiente del proyecto, obtenido del registro del proyecto, y realiza los controles siguientes, y agentgateway ejecuta la imagen como un único servicio de Docker Compose y no realiza ninguno de ellos, ni los llamadores, así que una vinculación allí detiene la compilación indicando su tipo; recurre al chart en Kubernetes, donde la compilación puede llegar a ese registro. En el chart, una Release puede nombrar a los llamadores del gateway en infra.callers y sus claves mediante el slot caller_keys, como en APISIX: cada llamador es una clave de API del archivo, comprobada en modo estricto y leída por nombre de ese Secret, así que una solicitud de modelo que no presenta ninguna clave declarada como Authorization: Bearer <key> se rechaza con HTTP 401, y la clave se elimina de la solicitud reenviada; sin llamadores, las rutas de modelos están abiertas. agentgateway inserta cada clave que el archivo nombra de este modo, la de un modelo conectado en cualquiera de las dos Recipes y la de un llamador en el chart, en el texto del archivo antes de leer el archivo como YAML, así que una clave debe ser un token simple —letras, dígitos y -, ., _, ~, +, / e =— y otros caracteres pueden cargarse como una clave distinta o detener el gateway. El gateway vuelve a leer su archivo cuando cambia, así que un llamador eliminado de la Release se rechaza en cuanto se actualiza el archivo montado. Mientras esté vinculado core/audit-logging, o core/period-budget con el ámbito caller, la Recipe de chart da al gateway un almacén, un archivo SQLite en un volumen propio, y ejecuta una sola réplica. De los controles siguientes realiza el enmascaramiento de datos, los patrones de denegación de prompts, el presupuesto por periodo, el registro de auditoría y la política de reintentos, cada uno escrito en el archivo, y rechaza por nombre cada valor que no puede respetar. El enmascaramiento de datos sustituye cada coincidencia de los patrones que enumera la vinculación por <masked>, o bien, con refuse, responde a la solicitud o a la respuesta con HTTP 403, en los prompts de sistema y de desarrollador de una solicitud, sus demás mensajes y los argumentos y resultados de sus llamadas a herramientas, y en el texto del mensaje de una respuesta que llega completa; no reconoce tipos de entidad y no restaura nada. agentgateway no enmascara una respuesta en streaming, así que, mientras se enmascaran las respuestas, una solicitud de modelo que pide una respuesta en streaming se rechaza con HTTP 403 antes de reenviarse, y también cualquier solicitud de modelo cuyo cuerpo supere los 2 MiB que el gateway lee para esa comprobación, sea en streaming o no. Un rechazo por parte de una guarda, incluido el de un patrón de denegación, es un HTTP 403 con el cuerpo «The request was rejected due to inappropriate content» (La solicitud fue rechazada debido a contenido inapropiado). El presupuesto, los registros y los reintentos se describen más abajo en «Presupuesto por periodo», «Registro de auditoría» y «Resiliencia». Sus realizaciones de la cadena de fallback, la selección de destino, la caché semántica, la validación de respuestas y la detección de inyección de prompts detienen cualquier vinculación, cada una indicando el motivo, y el límite de concurrencia no se vincula a él, ya que no lleva ningún valor dataplane.aggrega.ai/concurrency-cap.

  • Traefik Hub delante de los modelos: core/gateway/traefik-hub, el gateway de pago de Traefik, sirve los modelos conectados a su propio socket models mediante el middleware Chat Completion de Traefik Hub. Su única realización es una Recipe de chart sobre el propio chart de Helm de Traefik; no hay realización compose. Ejecuta la imagen que la Release nombra en infra.image, etiqueta incluida, porque Traefik distribuye Traefik Hub bajo sus propios términos y, por tanto, el catálogo no nombra ninguna; la compilación se detiene mientras esa clave no esté definida o no nombre ninguna etiqueta. El token de licencia llega al gateway por referencia al Secret vinculado a su slot obligatorio license, bajo la clave de datos token, nunca como valor, y la compilación se detiene mientras nada vincule ese slot o este publique otra clave de datos. Traefik requiere HTTPS saliente hacia api.traefik.io, donde el gateway valida su token; desde Traefik Hub v3.21 el gateway sigue sirviendo mientras ese host no sea accesible, reintentando en segundo plano, y un token dura un año por defecto, y el gateway se detiene una vez que caduca. La Recipe de chart desactiva la exportación que hace el chart de los registros de errores del gateway a la plataforma de Traefik y su comprobación de una versión más reciente. El compilador no valida ningún token ni contacta con ningún proveedor, así que una Release que compila sin errores no dice nada sobre si el gateway arranca. Cada modelo conectado recibe una ruta en /<alias>/v1/chat/completions, enviada al endpoint que el modelo publica a través de un Service de tipo ExternalName y que pide el model que este publica sea cual sea el nombre de modelo que lleve una solicitud, así que la ruta de acceso elige el modelo; sirve solo chat completions. El gateway presenta la credencial propia de cada conexión como un bearer token, que Traefik Hub lee del Secret que nombra el middleware Chat Completion de la conexión, y una conexión que llega a un modelo cuyo model.aggrega.ai/api no es openai, o cuyo endpoint nombra una dirección en lugar de un host, detiene la compilación. Publica la ruta del alias que nombra su values.model como su endpoint y ese alias como su model, y lleva model.aggrega.ai/api: openai, así que el socket model de un agente lo acepta como acepta el gateway de IA; sin nada conectado publica ambas claves vacías. Una Release puede nombrar a los llamadores del gateway en infra.callers y los hashes htpasswd de sus claves mediante el slot caller_keys: el middleware API Key de Traefik Hub encabeza entonces cada ruta de modelo y rechaza una solicitud que no presenta ninguna clave declarada como Authorization: Bearer <key>, y la clave se elimina de la solicitud reenviada; sin llamadores, las rutas están abiertas. Qué hace Traefik Hub con la entrada de un llamador que nombra un Secret o una clave de datos inexistente no lo indica su referencia, así que, en el peor caso, las rutas están tan abiertas como sin llamadores. De los controles siguientes realiza el presupuesto por periodo, la caché semántica para los llamadores que declara, los patrones de denegación de prompts y el enmascaramiento de datos, mediante middlewares del gateway de IA de Traefik Hub, y la cadena de fallback y la política de reintentos, mediante el failover y los reintentos propios de Traefik, cada uno escrito en las rutas que renderiza su Recipe de chart. El gateway de IA es un derecho de uso incluido en la licencia, que ninguna compilación puede ver, y lo que hace Traefik Hub con un token válido cuya licencia carece de él no está documentado, así que vincular cualquiera de los cuatro primeros detiene la compilación hasta que la Release establezca infra.ai_gateway_entitled en true. Sus realizaciones de la detección de inyección de prompts, el registro de auditoría, la selección de destino y la validación de respuestas detienen cualquier vinculación, cada una indicando el motivo, y el límite de concurrencia no se vincula a él, ya que no lleva ningún valor dataplane.aggrega.ai/concurrency-cap. Que un gateway en ejecución aplique alguno de estos controles no lo observa ninguna compilación.

  • Higress delante de los modelos: core/gateway/higress, el gateway de código abierto Higress, construido sobre Envoy y configurado mediante recursos de Kubernetes, sirve los modelos conectados a su propio socket models a través del AI proxy de Higress. Su única realización es una Recipe chart sobre el chart de Helm higress-core del propio proyecto, que ejecuta el controlador de Higress, con su servicio de descubrimiento, y el gateway; no hay realización compose, ya que el proyecto concibe su distribución compose principalmente para pruebas locales y esa distribución ejecuta varios servicios cooperantes configurados mediante un almacén propio. La Recipe fija el chart, las imágenes y cada módulo de plugin que escribe, y acepta en infra.source_version solo las versiones del chart en las que su configuración está probada; el gateway obtiene esos módulos del registro de plugins de Higress en tiempo de ejecución, que el clúster debe poder alcanzar y que la build no puede comprobar. El controlador observa solo el namespace de la Release, bajo una IngressClass nombrada según el gateway y ese namespace, de modo que dos gateways Higress en un mismo namespace colisionan. Cada alias recibe una ruta en /<alias>/v1, enviada al endpoint que publica el modelo del alias mediante una entrada del registro propio del gateway y que solicita el model que este publica, sea cual sea el nombre de modelo que lleve una solicitud, de modo que es la ruta la que elige el modelo; las conexiones que nombran un mismo alias en su valor serves se reparten sus solicitudes a partes iguales. El gateway presenta la credencial propia de cada conexión como bearer token, que el controlador de Higress lee del Secret que nombra la configuración del AI proxy, en el namespace del gateway, y entrega al gateway, de modo que la clave no figura en ningún archivo renderizado; un nombre de Secret que contiene un punto detiene la build, ya que Higress lee el nombre hasta su primer punto, y una conexión que no lleva credencial transmite la clave que presenta la solicitud. El AI proxy de Higress además copia el encabezado Authorization que envía un cliente en un encabezado X-HI-ORIGINAL-AUTH, y cada ruta de modelo elimina esa copia antes de que la solicitud llegue al modelo, de modo que una clave que presenta un cliente nunca viaja junto a la credencial propia de una conexión. Sobre https, el gateway comprueba que el certificado de un modelo encadena con los anclajes de confianza del sistema y nombra el host del modelo, sea cual sea el host que envió el cliente, y en caso contrario no envía nada al modelo: la Recipe marca la ruta de cada alias cuyas conexiones son todas https con la anotación higress.io/backend-protocol: HTTPS de Higress, de modo que el gateway toma el nombre de servidor del host que el AI proxy escribe en cada solicitud —el del modelo, calificado con el namespace del modelo cuando no contiene ningún punto— y comprueba el certificado frente a él. Esa anotación se aplica a cada conexión de un alias, de modo que un alias que mezcla conexiones http y https detiene la build, nombrando ambas; servirlas bajo dos alias lo resuelve. Una conexión que alcanza un modelo cuyo model.aggrega.ai/api no es openai, o cuyo endpoint indica una dirección en lugar de un host, detiene la build. Publica la ruta del alias que nombra su values.model como su endpoint y ese alias como su model, y lleva model.aggrega.ai/api: openai, de modo que el socket model de un agente lo acepta como acepta el AI gateway; sin nada conectado, publica ambas claves vacías. No declara llamadores, de modo que sus rutas de modelo no comprueban la clave de ningún llamador, y un valor que requiere un llamador verificado por el gateway se rechaza por su nombre. De los controles que se describen a continuación, realiza el presupuesto por periodo, el registro de auditoría y la política de reintentos, cada uno escrito en las rutas de modelo, y realiza core/data-masking como describe «Exfiltración de datos e interceptación de payloads» más abajo. Sus realizaciones de la validación de respuestas, la cadena de fallback, la caché semántica, la detección de inyección de prompts y la selección de destino detienen cada vinculación, cada una indicando el motivo, y ni los patrones de bloqueo de prompts ni el límite de concurrencia se vinculan a él, ya que no lleva ningún valor dataplane.aggrega.ai/prompt-guard ni dataplane.aggrega.ai/concurrency-cap. Que un gateway en ejecución aplique cualquiera de estos controles no lo observa ninguna build.

  • Azure API Management delante de un modelo: core/gateway/azure-api-management, el AI gateway de Azure API Management, un servicio alojado, sirve una API de modelo mediante una API en una instancia de API Management que ya existe. Su Recipe terraform lee la instancia y añade la API, su operación de chat completions, el backend al que reenvía y la política de la API, que elimina la clave de suscripción del llamador de lo que reenvía y se autentica ante la API del modelo como indica infra.backend_authentication: con la identidad administrada de la instancia, con una clave de proveedor guardada en Key Vault o sin nada. Sus Recipes helm y compose hacen referencia a una API configurada fuera de la Release y detienen la build ante cualquier vinculación. De los controles que se describen a continuación, su Recipe terraform realiza la caché semántica, el presupuesto por periodo, la detección de inyección de prompts y la política de reintentos, cada uno escrito en la política de la API. No realiza el límite de concurrencia, ya que Microsoft califica el tope que aplica su política de concurrencia de nunca del todo preciso, y más bajo cuando varias unidades de capacidad se ejecutan en una región, ni la cadena de fallback, ya que la API reenvía a un solo backend y el fallback propio de Azure, los grupos de prioridad de un grupo de backends, aparta las solicitudes posteriores de un backend cuyo circuit breaker se ha disparado en lugar de enviar una solicitud fallida a otro modelo. Su realización de core/audit-logging detiene cada vinculación, nombrando lo que está fuera de su alcance: el propio registro, que activa una configuración de diagnóstico en la instancia; lo que costó una solicitud, mientras require_cost está activado, ya que el registro de solicitudes de modelo de Azure anota recuentos de tokens y el modelo, y ningún precio; y una retención, cuando se indica retention_days, ya que una fila dura lo que la conserve el área de trabajo de Log Analytics en la que acaba. Que las políticas se apliquen y se hagan cumplir como documenta Microsoft no lo observa ninguna build.

  • La clave que presenta un llamador: Un servidor que comprueba la clave que presentan sus llamadores guarda esa clave en un slot propio, llamado api_key en cada destino que sirve modelos y comprueba una —core/ai-model/vllm, tei y tgi, el modelo LiteLLM y el AI gateway, donde es la clave que LiteLLM llama su clave maestra—, y cada una de sus Recipes entrega la clave como la variable que lee el servidor. core/gateway/apisix y core/gateway/agentgateway guardan cada uno una clave por cada llamador que su Release nombra en infra.callers, en su slot caller_keys: un único Secret, que contiene la clave de cada llamador bajo el nombre de ese llamador. core/gateway/traefik-hub guarda sus llamadores de la misma forma, salvo que su Secret contiene el hash htpasswd de la clave de cada llamador, con el que su comprobación de claves compara una clave presentada, de modo que no es el Secret desde el que el llamador presenta su clave. Un llamador guarda la clave que presenta en su propio lado, en la conexión en la que la presenta, en un slot que declara su socket: los agentes de la biblioteca estándar declaran uno en su socket model, credential; el AI gateway, en su socket models y en su socket cache_store, donde es la contraseña que la caché semántica del gateway presenta a su almacén; core/gateway/kong y core/gateway/kong-enterprise, en sus sockets models; core/gateway/apisix, en su socket models y en su socket cache_store, donde es igualmente la contraseña que su caché semántica presenta a su almacén; core/gateway/agentgateway, en su socket models; core/gateway/envoy-gateway, en su socket models y en su socket cache, donde es la contraseña que el servicio de limitación de tasa del gateway presenta al almacén que lleva el recuento de un presupuesto por periodo; core/gateway/higress, en su socket models y en su socket cache, donde es la contraseña que su límite de tokens presenta al almacén que lleva el recuento de un presupuesto por periodo; y core/gateway/traefik-hub, en su socket models, en su socket cache, donde es la contraseña que su cuota presenta al almacén que lleva el recuento de un presupuesto por periodo, y en su socket cache_store, donde es la contraseña que su caché semántica presenta a su almacén; de modo que un agente que alcanza un modelo, o un gateway que alcanza un modelo que sirve, guarda allí la clave de esa conexión. El AI gateway, los dos Kong, APISIX y agentgateway entregan la clave de cada modelo conectado bajo una variable propia, que nombra la entrada o la ruta de ese modelo en su configuración; Envoy Gateway nombra el Secret en la política de seguridad del backend del modelo, y el controlador de Envoy AI Gateway lee la clave de él; Traefik Hub nombra el Secret y la clave de datos en el middleware Chat Completion de la ruta del modelo, y lee la clave de él. Una conexión que alcanza un modelo etiquetado component.aggrega.ai/hosting: managed lleva una, o indica en sus propios values que el modelo no acepta ninguna, unauthenticated: true; sin ninguna de las dos, la aserción del llamador detiene la build nombrando la conexión y su destino, y un modelo etiquetado de otro modo no provoca tal detención. Una clave que el Component de un llamador declara en cambio en un slot propio es una única clave para todas las conexiones que establece. Ninguno de los dos extremos ve las vinculaciones del otro, de modo que el servidor no sabe nada de la clave de un llamador, y ambas coinciden porque el Aggregate alimenta a los dos desde un único parámetro: donde ambos extremos resuelven secretos en un mismo ámbito —un mismo namespace de Kubernetes, un mismo proyecto de Compose—, hacen referencia a un único secreto, y en caso contrario cada uno guarda el suyo, realizado a partir de la misma entrada del almacén. vLLM, TEI y TGI comprueban cada uno una sola clave, de modo que todos los llamadores presentan la misma clave y el servidor no puede distinguir a sus llamadores, y TGI compara su clave sin distinguir mayúsculas de minúsculas; APISIX, agentgateway y Traefik Hub comprueban cada uno la clave de cada llamador declarado y distinguen a sus llamadores por ella; los dos Kong no declaran llamadores ni comprueban la clave de ningún llamador, por los motivos que da «Kong delante de los modelos» más arriba; el modelo LiteLLM y el AI gateway también aceptan las claves que emiten, mientras su base de datos de contabilidad está vinculada. Modelo de credenciales desarrolla esta forma en un Aggregate.

  • Elegir entre destinos: core/target-selection declara cómo elige un gateway entre varios destinos capaces de servir la misma solicitud, con una strategy de latency (el destino que se observa que responde más rápido) o cost (el destino más barato de llamar). La estrategia forma parte de lo que la aplicación pide a su gateway, así que el desarrollador la vincula en el Aggregate. En el AI gateway, los destinos son las entradas de su values.models que publican el mismo alias —un modelo conectado se sirve bajo el alias de su conexión, que ninguna otra entrada puede publicar—, y la biblioteca estándar realiza latency escribiendo el latency-based-routing del proxy en la configuración de enrutamiento que renderiza la Recipe del gateway: el proxy envía cada solicitud a la entrada cuyas diez últimas respuestas tardaron menos de media, por token de salida cuando una respuesta informa de sus tokens, o hasta su primer token en una solicitud en streaming, y una entrada aún no probada cuenta como la más rápida. Sin la vinculación, la configuración no nombra ninguna estrategia y el proxy elige al azar entre esas entradas. cost se rechaza allí por su nombre: el proxy pone precio a una entrada buscando su destino, exactamente como está escrito, en una tabla de precios que nombra los modelos de OpenAI y Anthropic sin el prefijo de proveedor que llevan los destinos del gateway, y asigna a una entrada que no encuentra un precio de reserva fijo, de modo que las entradas que comparten un alias tendrían el mismo precio y se elegirían por su orden. En core/gateway/kong-enterprise, cada vinculación se detiene, porque cada modelo conectado a él se sirve en rutas propias que llevan solo ese modelo, lo que no deja nada entre lo que elegir. En core/gateway/agentgateway, cada vinculación también se detiene, indicando el motivo: agentgateway extrae al azar dos de los destinos de un nombre de modelo y toma aquel cuya salud, dividida por el tiempo que ha tardado en responder, puntúa más alto, de modo que el destino más rápido solo se toma cuando sale extraído, y no elige ningún destino por coste. En core/gateway/higress, cada vinculación también se detiene, indicando el motivo: Higress puede medir la latencia de un servicio, pero su plugin de balanceo de carga se ejecuta después del AI proxy —que ya ha fijado el modelo, la dirección y la credencial de la solicitud para el candidato que resolvió la ruta— y escribe su elección en un encabezado de la solicitud por el que nada enruta sin un filtro de Envoy que este catálogo no renderiza, de modo que la elección no surte efecto, y no elige ningún destino por coste. En core/gateway/traefik-hub, cada vinculación también se detiene, indicando el motivo: Traefik elige por el menor tiempo de respuesta solo entre los servidores de un Service, que cubren un solo nombre de modelo y una sola credencial, y entre Services equilibra por peso o por un hash de la dirección del cliente, nunca por latencia, y ninguna de sus estrategias elige un destino por coste; además, cada modelo conectado al gateway se sirve en una ruta propia que lleva solo ese modelo, lo que no deja nada entre lo que elegir. En cualquier otro gateway, una vinculación detiene la build.

  • Resiliencia: core/fallback-chain reenvía a otros modelos una solicitud cuyo modelo falla: chains indica, para cada alias de modelo que recurre a respaldos, los alias que se prueban en orden hasta que uno responde, y un respaldo que falla sigue a su vez su propia entrada, y max_hops limita hasta dónde se pasa una solicitud a lo largo de esa cadena. La biblioteca estándar lo realiza en el gateway de IA escribiendo ambos en la configuración de enrutamiento que genera la Recipe del gateway, y detiene la compilación ante un nombre que el mapa de modelos del gateway no publica. Una solicitud recurre al respaldo solo cuando el gateway ha desistido del alias solicitado: donde un alias se publica más de una vez, una llamada fallida pasa primero a otra de sus entradas como reintento, limitado por el número de reintentos del gateway. core/retry-policy fija ese número — cuántas veces puede el gateway enviar una solicitud, incluido el primer envío (max_attempts), ante un fallo que se resuelve al volver a enviarla, como una conexión rechazada, un límite de tasa o un tiempo de espera agotado — y la biblioteca estándar lo realiza en el gateway de IA escribiéndolo en la configuración de enrutamiento que genera la Recipe del gateway. En core/gateway/envoy-gateway se realiza como el reintento de la traffic policy en la ruta que sirve los modelos conectados, la misma policy que lleva el límite de tasa de un presupuesto por periodo, porque Envoy Gateway asocia una sola traffic policy a una ruta: una solicitud se vuelve a enviar tras una conexión o un stream rechazados, un reset o una respuesta 429, 503 o 504, hasta max_attempts envíos, y a un modelo que no responde nada dentro del tiempo de espera de solicitud de la ruta no se le vuelve a enviar, porque ese tiempo de espera abarca todos los envíos. En core/gateway/azure-api-management se realiza como el reintento de Azure en torno al reenvío, en la sección backend de la policy de la API: una solicitud respondida con HTTP 429 o un estado 5xx se vuelve a enviar, con su cuerpo retenido para poder reenviarlo, un segundo después del envío anterior, hasta max_attempts envíos. Una conexión rechazada o interrumpida, y un modelo que no responde nada dentro del tiempo de espera del reenvío, no dan lugar a un nuevo envío, porque Azure termina el reintento ante un error así y lo pasa a la sección on-error de la policy. Azure reintenta de 1 a 50 veces tras el primer envío, así que un max_attempts de 1 no escribe ningún reintento y uno superior a 51 se rechaza de forma explícita. El reintento ocupa el lugar del reenvío que la API heredaría, así que mientras está asociado, un ajuste de reenvío hecho en un ámbito más amplio de la instancia, como un tiempo de espera, no se aplica a la API, que reenvía con los valores predeterminados de Azure. En el gateway alojado, core/retry-policy se realiza escribiendo en el recurso del gateway su número de reintentos, que indica los envíos posteriores al primero, de 1 a 5, así que max_attempts de 2 a 6 se respeta y cualquier otro valor se rechaza; core/fallback-chain no se realiza allí, porque ese gateway recurre a otros modelos solo dentro de una ruta que una solicitud nombra en lugar de un modelo, así que una solicitud para un modelo nunca recurre a respaldos. En core/gateway/kong-enterprise, core/fallback-chain se realiza en su Recipe de chart: las rutas de chat y de completion de cada alias al que chains da una entrada llevan el AI Proxy Advanced de Kong en lugar de su AI proxy, con el modelo del alias y los modelos a los que recurre su recorrido como destinos en orden de prioridad — el alias, luego los respaldos de su entrada en orden, siguiendo a su vez la entrada propia de un respaldo solo mientras se hayan contado menos de max_hops. El balanceador envía una solicitud una vez a cada destino del recorrido, en orden, hasta que uno responde, pasa al siguiente tras un error o tiempo de espera de conexión, un encabezado de respuesta no válido o una respuesta 429, 500, 502, 503 o 504, y devuelve cualquier otra respuesta tal como llegó. La compilación se detiene ante un nombre que el socket models no lleva, ante un recorrido que alcanza dos veces un alias, junto a core/retry-policy, ya que Kong mantiene un único número de reintentos para todo el recorrido y no puede volver a enviar a un modelo antes de recurrir al respaldo, y ante una imagen del gateway anterior a la 3.12. core/retry-policy no se realiza allí, y su realización detiene cada asociación indicando el motivo: cada modelo conectado se sirve en rutas propias que llevan solo ese modelo, así que un reintento tiene que volver a enviar la solicitud a ese mismo destino, y la referencia de Kong admite ambas lecturas sobre si su balanceador lo hace. En core/gateway/agentgateway, core/retry-policy se realiza en la Recipe de chart como una policy de reintento de la propia configuración del gateway, asociada al listener por el que llegan sus solicitudes de modelo: una solicitud se vuelve a enviar, de inmediato y al mismo modelo, tras una respuesta 429, 500, 502, 503 o 504, una conexión rechazada o restablecida, una conexión que tarda más de 11 segundos en abrirse o una resolución de nombre fallida, hasta max_attempts envíos. agentgateway envía una solicitud una vez más que los intentos de su policy, así que la policy se escribe como max_attempts menos uno, max_attempts 1 no escribe ninguna, y uno superior a 256 se rechaza de forma explícita. Una solicitud cuyo cuerpo supera 64 KiB se envía una sola vez, y la configuración no fija ningún tiempo de espera, así que a un modelo que acepta la conexión y no responde nada se le espera en lugar de volver a enviarle la solicitud. core/fallback-chain no se realiza allí, y su realización detiene cada asociación indicando el motivo: agentgateway conmuta entre modelos excluyendo el que ha fallado para las solicitudes siguientes, mientras que la solicitud que falló recibe como respuesta su fallo, así que ninguna solicitud recorre una cadena. En core/gateway/higress, core/retry-policy se realiza como el reintento propio de la ruta, escrito como anotaciones de Ingress en cada ruta de modelo: una solicitud se vuelve a enviar tras una conexión rechazada o restablecida, una respuesta 5xx o un 429, incluido un POST, hasta max_attempts envíos; max_attempts 1 desactiva el reintento, anulando el reintento que el plano de control de Higress da a una ruta sin anotaciones, y uno superior a 2147483648 se rechaza de forma explícita. A un modelo que acepta la conexión y luego no responde nada o responde con lentitud no se le vuelve a enviar, ya que la ruta no fija ningún plazo por intento, y una solicitud en streaming solo se vuelve a enviar antes de que haya empezado su respuesta. core/fallback-chain tampoco se realiza allí, y su realización detiene cada asociación indicando el motivo: Higress reenvía una solicitud fallida como máximo una vez, a un único destino distinto — el backend predeterminado de una ruta, o la única ruta de respaldo que su consola escribe para una ruta de IA — así que ninguna solicitud recorre una cadena. En core/gateway/traefik-hub ambos se realizan en la Recipe de chart, y cada uno detiene la compilación ante una imagen de Traefik Hub anterior a v3.20, cuyo failover no admite middlewares en los servicios que prueba y cuyo reintento no puede volver a enviar un POST según el estado de una respuesta — salvo una policy de reintento de un solo envío. core/fallback-chain hace pasar la ruta de cada alias al que chains da una entrada por failovers anidados propios de Traefik, probando en orden los modelos del recorrido del alias — el alias, luego los respaldos de su entrada en orden, siguiendo a su vez la entrada propia de un respaldo solo mientras se hayan contado menos de max_hops — cada uno con su propio nombre de modelo, credencial, cuotas y reintento. Una respuesta 429 o de 500 a 504 de un modelo, tras el posible reintento de ese modelo, pasa la solicitud al siguiente; cualquier otra respuesta se devuelve tal como llegó, la del último modelo sea cual sea, y un cuerpo de solicitud de más de 1 MiB se rechaza con HTTP 413 en lugar de enviarse. La compilación se detiene ante un nombre que el socket models no lleva y ante un recorrido que alcanza dos veces un alias. core/retry-policy es el middleware de reintento de Traefik, el último en cada ruta de modelo, o en cada modelo que prueba un recorrido: una solicitud se vuelve a enviar de inmediato tras una conexión que no llevó nada al modelo y tras una respuesta 429 o de 500 a 504, incluido un POST, hasta max_attempts envíos, incluido el primero, y max_attempts 1 no escribe nada. Tras una respuesta que forma el propio gateway — un rechazo de su comprobación de clave, una guarda, el enmascaramiento o una cuota — nunca se vuelve a enviar, ni tampoco tras una respuesta en streaming una vez que ha empezado.

  • Presupuesto por período: core/period-budget acota lo que el tráfico que atraviesa un gateway puede consumir durante un período: un limit, el period que cubre, un scope — todo lo que el gateway sirve, cada llamador o cada modelo — y una unit — un costo en dólares estadounidenses o en tokens —, y una vez que lo que el gateway ha contado durante el período supera el límite, se rechazan las siguientes solicitudes a modelos. Se vincula a cualquier componente que declare dataplane.aggrega.ai/period-budget. La biblioteca estándar lo realiza en el gateway de IA, cuyo presupuesto cubre todo lo que el gateway sirve, se cuenta en dólares estadounidenses y vuelve a empezar al inicio de cada período — un número de días desde la medianoche UTC, o un mes de calendario desde su primer día: la realización escribe el límite y el período en la configuración que renderiza la Recipe del gateway, rechaza por nombre cualquier otra unidad, alcance o período — entre ellos 30d, que el gateway cuenta como un mes de calendario — y se detiene a menos que las ranuras de credenciales database_url y api_key del gateway estén ambas vinculadas, porque sin su base de datos contable el gateway no lleva ningún conteo y sin una clave administrativa no comprueba a ningún llamador contra el presupuesto. Una vez que el conteo supera el límite, el gateway rechaza las solicitudes a modelos de la clave administrativa además de las de cada llamador; su listado de modelos y su gestión de claves siguen respondiendo a esa clave. En el gateway alojado se realiza como una regla de límite de gasto en el recurso del gateway, contada en dólares estadounidenses sobre una ventana que avanza con el tiempo — el último period, para los modelos cuyos precios conoce el gateway — para todo lo que el gateway sirve: un presupuesto por llamador o por modelo, los tokens y un mes de calendario se rechazan por nombre. En core/gateway/apisix se realiza en la Recipe chart, escrito en las rutas de los modelos conectados como la limitación de tasa por tokens de APISIX: contado en los tokens que informa la respuesta de cada modelo — total_tokens, prompt_tokens o completion_tokens — sobre una ventana fija de period que se abre con la primera solicitud a un modelo después de que se cerrara la ventana anterior en lugar de según el reloj, para todo lo que el gateway sirve, para cada modelo conectado por separado, o para cada llamador que su Release declara en infra.callers por separado, distinguiéndolos el gateway por la clave que presenta cada uno. Una vez que el conteo alcanza el límite, el gateway responde a las solicitudes a modelos con HTTP 503 hasta que se cierra la ventana; los tokens de una solicitud se suman una vez que su respuesta se completa, de modo que la solicitud que alcanza el límite se sirve, y una respuesta que sirve su caché semántica no cuenta nada y se sirve más allá del límite. APISIX no cuenta tokens en una solicitud de completion, así que mientras el presupuesto está vinculado cada modelo conectado recibe solo su ruta de chat, y mantiene el conteo en la memoria del proceso del gateway, así que el chart ejecuta una réplica y un reinicio abre una nueva ventana. Un presupuesto en dólares estadounidenses, uno por llamador mientras infra.callers no declara ninguno, un mes de calendario y un segundo presupuesto en un mismo gateway se rechazan por nombre, como también una vinculación en su Recipe workload, que no renderiza ninguna ruta. En core/gateway/envoy-gateway se realiza como el límite de tasa basado en el uso de Envoy Gateway, en la ruta de IA que sirve los modelos conectados al gateway: la ruta declara el conteo de tokens que nombra unit — total_tokens, prompt_tokens o completion_tokens — como un costo que Envoy AI Gateway lee de cada respuesta, y una traffic policy en esa ruta lo carga cuando la respuesta se completa, contra limit tokens por unidad del límite de tasa de Envoy Gateway, para todo lo que el gateway sirve o para cada modelo conectado por separado. Cada ventana está fijada en el reloj UTC — un segundo, un minuto, una hora, un día desde la medianoche, una semana desde un jueves, o 30 o 365 días contados desde el 1 de enero de 1970 — y 1mo es un mes de calendario, según un ajuste del servicio de límite de tasa de Envoy Gateway que entonces rige para todo límite de tasa mensual que mantenga esa instalación. El conteo lo mantiene el servicio de límite de tasa que el plano de control de Envoy Gateway crea y activa para cada gateway que sirve, en el almacén de protocolo Redis conectado al socket cache del gateway. Una vez que el conteo supera el límite, el gateway responde a las solicitudes a modelos con HTTP 429 hasta que termina la ventana; los tokens de una solicitud se suman una vez que su respuesta se completa, de modo que la solicitud que cruza el límite se sirve. Mientras no se puede alcanzar el almacén o el servicio de límite de tasa, o una comprobación tarda más que el tiempo de espera de límite de tasa de Envoy, las solicitudes a modelos se rechazan con HTTP 500, según un ajuste del plano de control de Envoy Gateway que entonces rige para todo límite de tasa que mantenga esa instalación, de modo que un límite de tasa aplicado a mano también falla en modo cerrado; una solicitud admitida justo antes de una interrupción se sirve igualmente y no se cuenta, porque sus tokens se cargan después de la respuesta, y un almacén que mantiene el conteo en memoria vuelve a empezar cada ventana cuando se reinicia. Un presupuesto en dólares estadounidenses, uno por llamador — el gateway distingue a los llamadores solo por un encabezado que el propio llamador escribe, y nada en esa ruta lo verifica —, cualquier otro período y un segundo presupuesto en un mismo gateway se rechazan por nombre, como también una vinculación sin nada conectado al socket models o al socket cache. En core/gateway/azure-api-management se realiza como el límite de tokens de Azure, escrito en la directiva de la API: contado en los tokens de prompt y de completion que informa cada respuesta, juntos, para todo lo que sirve la API o para cada suscripción de API Management, cuya clave verifica el gateway — ya sea una cuota sobre una ventana fija en el reloj UTC, una hora, un día, una semana, un mes de calendario o un año de calendario (1h, 1d, 7d, 1mo o 12mo; Microsoft no dice en qué día empieza una semana), respondida con HTTP 403 una vez superada, o una tasa sobre un minuto (1m), respondida con HTTP 429 y contada sobre una ventana deslizante en los niveles clásicos y como un token bucket en los niveles v2. El conteo es el uso que informa cada respuesta, de modo que solicitudes concurrentes pueden superar el límite, y cada gateway de la instancia mantiene su propio conteo. Un presupuesto en dólares estadounidenses o solo en tokens de prompt o de completion, uno por modelo — el modelo que nombra una solicitud lo escribe el llamador, y varios nombres pueden llegar a un mismo modelo —, uno por suscripción en una API que no exige clave de suscripción, cualquier otro período y un límite que no sea un número entero se rechazan por nombre. El nivel Consumption no ejecuta ningún límite de tokens. En core/gateway/kong-enterprise se realiza en la Recipe chart, escrito en las rutas que importa el gateway como el AI Rate Limiting Advanced de Kong: contado en los tokens que informa la respuesta de cada modelo — total_tokens, prompt_tokens o completion_tokens — en ventanas fijas de period, un número de segundos, minutos, horas o días, contándose cada solicitud en la única ventana en que cae su momento, para todo lo que el gateway sirve o para cada modelo conectado por separado, contándose una solicitud con alcance model contra el alias que nombró, sea cual sea el modelo que le respondió. Una vez que el conteo alcanza el límite, la siguiente solicitud a un modelo se responde con HTTP 429 hasta que termina la ventana, de modo que la solicitud que cruza el límite se sirve; Kong también puede rechazar una solicitud de antemano, según su propia estimación de los tokens de prompt que lleva. El conteo se mantiene en el backend PostgreSQL del gateway, compartido por cada réplica y conservado tras un reinicio. Un presupuesto en dólares estadounidenses — Kong cuenta el costo solo a partir de un precio que su configuración da a cada modelo, y el catálogo no proporciona ninguno —, uno por llamador — Kong distingue a los llamadores solo como los consumers que nombra un plugin de autenticación, y el gateway no declara llamadores, por las razones que da «Kong delante de los modelos» más arriba —, un mes de calendario, un segundo presupuesto en un mismo gateway y una imagen del gateway anterior a 3.15 se rechazan por nombre, como también una vinculación sin nada conectado al socket models. En core/gateway/agentgateway se realiza en la Recipe chart, escrito en la configuración del gateway y contado en los tokens totales que informa cada respuesta: con alcance caller como un presupuesto sobre la clave de API de cada llamador que su Release declara en infra.callers, sobre ventanas fijas de period alineadas con la época Unix, con un día que empieza a la medianoche UTC, mantenido en un almacén SQLite en un volumen que renderiza la Recipe, con una réplica; con alcance gateway o model como un token bucket para todo lo que el gateway sirve o para cada nombre de modelo que pide una solicitud, llenado hasta el límite cada period desde que el gateway leyó su configuración y mantenido en su memoria, de modo que un reinicio o una configuración modificada lo vuelve a llenar. Una vez que lo contado alcanza el límite, las solicitudes a modelos se responden con HTTP 429 hasta que termina la ventana o se llena el bucket; la solicitud que lo alcanza se sirve. Un presupuesto en dólares estadounidenses — el catálogo de costos de modelos del gateway no pone precio a ninguno de los modelos conectados a él, de modo que el presupuesto no contaría nada —, solo en tokens de prompt o de completion, uno por llamador mientras infra.callers no declara ninguno, un mes de calendario, un límite que no sea un número entero y un segundo presupuesto en un mismo gateway se rechazan por nombre, como también una vinculación sin nada conectado al socket models; su Recipe compose no tiene ninguna realización de él. En core/gateway/traefik-hub se realiza en la Recipe chart como el middleware de cuota de Traefik Hub en la ruta de cada modelo conectado, que mantiene su conteo en el almacén de protocolo Redis conectado al socket cache del gateway: cuenta los tokens que informa cada respuesta — total_tokens, prompt_tokens o completion_tokens — o, con usd, su costo en dólares estadounidenses, con precios tomados de una lista de modelos que incluye el middleware, rechazando con HTTP 422 un modelo para el que no tiene precio, sobre una ventana que se desliza con el tiempo, en la que lo contado en un momento se libera de nuevo un período después, para cada modelo conectado por separado, o para todo lo que el gateway sirve mientras haya un solo modelo conectado. Una vez que el conteo alcanza el límite, las solicitudes a modelos se rechazan con HTTP 429; el conteo de una solicitud se suma una vez que su respuesta se completa, de modo que la solicitud que cruza el límite, y cualquiera servida junto a ella, se sirve, y una respuesta que sirve la caché semántica no cuenta nada. La referencia de Traefik dice que la cuota sirve las solicitudes sin contarlas mientras no se puede alcanzar el almacén. Un presupuesto por llamador — la cuota distingue las solicitudes por la dirección del cliente, un encabezado de la solicitud o el host de la solicitud, y ninguno de ellos es el llamador que verificó la comprobación de claves del gateway —, uno para todo el gateway mientras haya varios modelos conectados, ya que la referencia de Traefik no dice si las rutas que nombran una misma cuota comparten su conteo, un mes de calendario y cualquier período que no sea en horas o días, o en minutos o segundos que formen horas enteras, se rechazan por nombre, como también un límite que no sea un número entero de tokens y una vinculación sin nada conectado al socket models o al socket cache. En core/gateway/higress se realiza en la Recipe chart como el plugin de límite de tokens de Higress en la ruta de cada modelo conectado, que mantiene su conteo en el almacén de protocolo Redis conectado al socket cache del gateway: suma los tokens de prompt y de completion que informa cada respuesta, juntos, una vez que la respuesta se completa, sobre una ventana fija de period — un segundo, un minuto, una hora o un día — que se abre cuando se cuenta la primera respuesta dentro de ella, para todo lo que el gateway sirve o para cada alias por separado. Mientras el conteo supera el límite, las solicitudes a modelos se responden con HTTP 429 hasta que termina la ventana, de modo que la solicitud que cruza el límite se sirve. Una respuesta que no informa ningún uso no cuenta nada, así que la Recipe pide al modelo de una solicitud en streaming que informe su uso y rechaza con HTTP 403 una solicitud en streaming que desactiva ese informe, una solicitud cuyo tipo de contenido ni contiene application/json ni empieza por multipart/form-data, que el proxy de IA reenvía sin pedir el informe, y una cuyo cuerpo no leen los plugins del gateway — un cuerpo comprimido, un tipo de contenido que contiene octet-stream o grpc, un upgrade; un cliente que envía deliberadamente un cuerpo que la validación del gateway no puede decodificar sortea esos rechazos, y esa solicitud en streaming queda sin contar. Sin ningún enmascaramiento vinculado, una solicitud cuyo cuerpo supera el búfer de 32 KiB del gateway puede rechazarse con HTTP 413, según cuándo responda el almacén. Mientras no se puede alcanzar el almacén, las solicitudes a modelos se sirven y no se cuentan: el plugin no tiene ningún ajuste que las rechace en ese caso. Un presupuesto en dólares estadounidenses o solo en tokens de prompt o de completion, uno por llamador — el gateway no declara llamadores, así que no verifica ninguno —, cualquier otro período, un límite que no sea un número entero y un segundo presupuesto en un mismo gateway se rechazan por nombre, como también una vinculación sin nada conectado al socket models o al socket cache.

  • Concurrencia: core/concurrency-limit limita cuántas solicitudes lleva un gateway a la vez (max_in_flight), lo que evita que una ráfaga de llamadores se convierta en una cola ante el modelo que tiene detrás. scope dice qué cuenta un límite: gateway, el valor predeterminado, cuenta juntas todas las solicitudes que reenvía el gateway; model da a cada destino al que el gateway envía solicitudes un conteo propio, siendo un destino cada entrada upstream hacia la que enruta el gateway, de modo que donde un nombre de modelo tiene varias entradas cada una se cuenta por separado. El límite y su alcance son un dimensionamiento de capacidad que decide el operador, establecido en el infra de la vinculación, así que el operador lo vincula en la Release. El límite se cuenta por cada proxy en ejecución, de modo que donde se ejecutan varias réplicas cada una de ellas admite esa cantidad. Se vincula a cualquier componente que declare dataplane.aggrega.ai/concurrency-cap, y una realización rechaza por nombre el alcance que su gateway no cuenta. En core/gateway/nginx el alcance gateway se realiza como el limit_conn de NGINX, con una clave de una palabra igual para cada solicitud, de modo que NGINX cuenta cada solicitud que está procesando como un único total, mantenido en una memoria que comparten sus procesos worker, y responde a una solicitud que supera el límite con HTTP 503; el alcance model se rechaza, ya que NGINX no mantiene ningún conteo por cada destino upstream, y también un max_in_flight superior a 65535, el máximo que admite limit_conn. En core/gateway/envoy-gateway el alcance model se realiza como el circuit breaker de la traffic policy en la ruta que sirve los modelos conectados, la policy que también lleva el límite de tasa de un presupuesto por período y el reintento de la política de reintentos: Envoy Gateway lo aplica al backend de cada regla de esa ruta, y cada modelo conectado tiene una regla propia, de modo que se envían como máximo max_in_flight solicitudes a la vez a cada modelo conectado, y una solicitud que supera el límite se responde con HTTP 503 y no se vuelve a enviar; un envío que repite la política de reintentos cuenta contra el límite como el primero. Los hilos worker de Envoy comprueban el conteo y luego lo incrementan, de modo que solicitudes que llegan juntas pueden llevarlo brevemente por encima del límite. El alcance gateway se rechaza, ya que Envoy Gateway mantiene un límite para cada backend y ninguno sobre su total, y también una vinculación sin nada conectado al socket models. En el gateway de IA el alcance model se realiza como el max_parallel_requests de cada entrada de su mapa de modelos, tanto la escrita a mano como la conectada: como máximo max_in_flight solicitudes están en curso hacia cada entrada a la vez, y una solicitud que encuentra su entrada llena se responde con HTTP 429 — tras los reintentos del gateway donde su alias tiene una entrada, y de inmediato donde tiene varias, incluso mientras otra de ellas tiene espacio, ya que el proxy elige la entrada antes de contar — a menos que core/fallback-chain enumere alternativas para su alias, a las que entonces se envía. El proxy mantiene cada conteo en memoria, donde de forma predeterminada un registro caduca diez minutos después de crearse y entonces un nuevo conteo empieza en cero, así que la vinculación también fija esa duración en un siglo, conservando cada conteo mientras el proxy se ejecute. Debido a esa duración, el gateway rechaza una solicitud que lleva priority mientras el límite está vinculado, incluso donde la Release admite el campo, ya que el proxy mantiene una entrada de cola para cada solicitud de ese tipo hasta que caduca su registro; y la compilación se detiene ante un mapa de modelos de más de 100 entradas, más allá de las cuales el almacén en que se mantienen los conteos, que contiene 200 registros y descarta uno cada vez que está lleno, podría descartar un conteo. El alcance gateway se rechaza allí, ya que el único total del proxy solo lo lee un limitador de solicitudes que activa una variable de entorno, el cual cuenta una solicitud durante su primer segundo. Tampoco lo realiza el gateway alojado: el límite de solicitudes que su Recipe terraform escribe en el recurso del gateway es una tasa, un número de solicitudes en un intervalo, en lugar de un límite sobre las solicitudes en curso.

  • Registro de auditoría: core/audit-logging hace que un gateway conserve un registro de cada solicitud al modelo que atiende, indicando el modelo que respondió y los tokens que informa la respuesta, y cada realización indica dónde termina el registro. Se adjunta a cualquier componente que lleve gateway.aggrega.ai/intelligence: semantic, y sus tres valores son del operador, establecidos en su infra, por lo que es el operador quien lo adjunta en la Release. require_cost, activado por defecto, hace que el registro indique también cuánto costó cada solicitud, en una moneda que la realización especifica. require_verified_caller, activado por defecto, hace que indique el llamante que el gateway verificó, mediante una clave que el gateway emitió o comprobó. retention_days, sin establecer por defecto, hace que el gateway elimine un registro una vez que tiene esa cantidad de días; sin él, el gateway por sí mismo no elimina ningún registro, y un registro dura tanto como lo conserve el lugar donde termina. Un gateway que no puede respetar un valor rechaza la vinculación en la compilación, indicando el valor, de modo que una vinculación que deja require_cost y require_verified_caller en sus valores por defecto obtiene el costo y el llamante verificado, o una detención. Desactivar require_verified_caller supone aceptar un registro cuyo llamante es el que la propia solicitud afirma, o ningún llamante: cualquiera que envíe una solicitud puede entonces hacer que se registre a nombre de otro llamante, por lo que tal registro no muestra quién envió una solicitud. En el gateway de IA, el registro es una fila en la base de datos contable del gateway, y se respeta cada valor: la fila indica cuánto costó la solicitud en dólares estadounidenses, con el precio tomado de la tabla que el gateway mantiene por modelo —un modelo al que la tabla no asigna precio se registra como sin costo— e indica la clave que el gateway verificó, con el usuario y el equipo a los que pertenece la clave, mientras que el usuario final que indica una fila es el que escribe la solicitud, sin comprobar. Sin su base de datos contable, el gateway no escribe ninguna fila, y sin una clave administrativa no comprueba ningún llamante ni escribe ninguna fila para una solicitud que no presenta ninguna clave y no indica ningún usuario final, por lo que la compilación se detiene a menos que las ranuras de credenciales database_url y api_key del gateway estén ambas adjuntas; mientras values.log_masking del gateway enumere qué enmascarar, registra solo las solicitudes respondidas. En core/gateway/envoy-gateway, el registro es una línea del registro de acceso del gateway, que su Recipe escribe mientras la vinculación está presente: una línea JSON por solicitud en la salida estándar del plano de datos, con los campos que Envoy Gateway escribe por defecto, el modelo que nombró la solicitud, el modelo que respondió y los tokens de prompt, de completado y totales que informa la respuesta, y la ruta que sirve los modelos declara esos recuentos para que Envoy AI Gateway los registre. Una solicitud que el modelo no respondió no lleva ningún modelo que respondió ni ningún token, y el registro de acceso no conserva nada por sí mismo, por lo que cuánto dura una línea depende de lo que recoja esa salida. Ningún campo indica un llamante que el gateway haya verificado: la dirección del cliente y los encabezados que envía se escriben tal como llegan. El gateway no mantiene precios, nada en la ruta que genera su Recipe verifica al llamante, y el registro de acceso no conserva ningún registro que pueda eliminar, por lo que su realización compila una vinculación que desactiva require_cost y require_verified_caller y no indica ningún retention_days, y en caso contrario se detiene indicando cada valor que no puede respetar, todos en un único fallo; también se detiene cuando no hay nada conectado al socket models. En core/gateway/agentgateway, el registro es una fila que el gateway escribe en un almacén SQLite en un volumen que su Recipe chart genera mientras la vinculación está presente, con una réplica, para cada solicitud al modelo que supera sus comprobaciones de clave, presupuesto y autorización, incluido el rechazo de un guardián: el modelo que el gateway pidió al servidor de modelos —el nombre que publica el modelo conectado, no el alias que envió el llamante— y el modelo que respondió, los tokens de entrada, de salida y totales que informa la respuesta, su estado y sus tiempos y, para cada llamante que su Release declara en infra.callers, el nombre de ese llamante, a partir de la clave de API que el gateway verificó. Una solicitud rechazada por su clave, por una regla de autorización o por el presupuesto de un llamante no deja ninguna fila. No se conserva ningún texto de prompt ni de respuesta, y las filas se leen a través de la interfaz de administración del gateway, que escucha dentro de su pod. require_verified_caller se respeta mientras haya llamantes declarados; require_cost se rechaza por nombre, ya que el catálogo de costos de modelos del gateway no asigna precio a ninguno de los modelos conectados a él, y también se rechazan require_verified_caller sin ningún llamante declarado y retention_days, ya que el gateway no elimina ningún registro; su Recipe compose no tiene ninguna realización de él. En core/gateway/higress, el registro es el campo ai_log de la línea del registro de acceso del gateway, que el plugin de estadísticas de Higress rellena mientras la vinculación está presente: el modelo que respondió y los tokens de entrada, de salida y totales que informa la respuesta, en la salida estándar del gateway, sin texto de prompt ni de respuesta. El gateway no declara llamantes, no asigna precios y no conserva ningún registro que pudiera eliminar, por lo que su realización compila una vinculación que desactiva require_cost y require_verified_caller y no indica ningún retention_days, y en caso contrario se detiene indicando cada valor que no puede respetar, todos en un único fallo; también se detiene cuando no hay nada conectado al socket models. En core/gateway/traefik-hub, toda vinculación se detiene, indicando el motivo: Traefik Hub conserva un registro de una solicitud al modelo solo como un span de OpenTelemetry que sus middlewares de IA exportan a un backend de trazas —indicando el modelo y, en su nivel detallado, los tokens y su costo en dólares estadounidenses— y su realización no conecta ningún backend de trazas, por lo que el registro no terminaría en ninguna parte; tampoco el span indica un llamante, por lo que no puede indicar el que verificó la comprobación de clave del gateway. En core/gateway/azure-api-management, toda vinculación se detiene, como dice el apartado del gateway más arriba, y ningún otro gateway de la biblioteca estándar lo realiza, por lo que una vinculación en cualquier otro gateway se detiene indicando el tipo.

  • Caché semántica: core/semantic-caching declara una caché que responde a un prompt con la respuesta almacenada para uno anterior lo bastante cercano en significado, en lugar de volver a llamar al modelo. embedding_model nombra el modelo que convierte cada prompt en un vector, tal como lo publica el gateway; una respuesta almacenada se sirve cuando los dos prompts son al menos tan parecidos como indica similarity_threshold, y sigue siendo utilizable durante ttl_seconds. scope decide quién comparte una caché: end_user, el valor por defecto, mantiene aparte a cada usuario final que el gateway identifica, mientras que key sirve desde una sola caché a todo llamante que presente una misma clave, por lo que a un usuario final detrás de esa clave se le puede servir una respuesta generada para otro. core/data-masking declara un conflicto con ella, por lo que la compilación se detiene en un componente que lleve ambas. La biblioteca estándar la realiza en el gateway de IA, que guarda las respuestas en un core/datastore/redis conectado a su socket cache_store, presentando al almacén la contraseña que contiene la credencial de esa conexión cuando el almacén la requiere, y el almacén elimina cada respuesta una vez transcurridos ttl_seconds; almacena en caché las solicitudes chat, responses y messages, no completions ni embeddings. La realización detiene la compilación a menos que la ranura api_key del gateway esté adjunta, porque sin una clave administrativa el gateway no comprueba ningún llamante, ante un embedding_model que el mapa de modelos del gateway no publica, y cuando no hay nada conectado a cache_store. Una respuesta almacenada se sirve solo a una solicitud que coincide con aquello bajo lo que se almacenó: la clave que presenta la solicitud, que el gateway verifica, con el equipo y la organización de esa clave; con end_user, el usuario final que nombra la solicitud; y el modelo que pide la solicitud con sus demás parámetros. El gateway escribe la clave, el equipo, la organización y el usuario final en la propia solicitud, sobre cualquier valor que un llamante haya enviado para ellos en una solicitud chat; en una solicitud responses o messages elimina un campo de equipo, organización o usuario final de los metadatos propios de la solicitud y rechaza uno que nombre allí la clave, por lo que ninguna solicitud puede acceder a las respuestas de otra clave con solo nombrarla. Los metadatos propios de una solicitud aún pueden moverla entre las respuestas de la clave que presenta: en una solicitud responses, model_group sustituye el modelo que pide en aquello bajo lo que se almacena su respuesta; en una solicitud responses o messages, caching_groups permite que las solicitudes que nombran el mismo grupo de alias de modelo compartan respuestas entre ellos; y en una solicitud responses o chat, redis_namespace mantiene las solicitudes que nombran un namespace aparte de las que no nombran ninguno. El gateway lee un usuario final de un encabezado o de un campo del cuerpo que la propia solicitud nombra, y no verifica ninguno de ellos: con end_user, a un llamante que nombra a otro usuario final se le sirven las respuestas de ese usuario final, y las solicitudes que no nombran ningún usuario final comparten una sola caché con todas las demás solicitudes de ese tipo bajo la clave que presentan. El gateway alojado no la realiza: su caché solo responde a una solicitud idéntica a una anterior. En core/gateway/azure-api-management se realiza como la búsqueda y el almacenamiento de la caché semántica de Azure, escritos en la política de la API: embedding_model nombra un backend que la instancia de API Management ya tiene para un modelo de embeddings, al que la instancia llega con su identidad administrada, y la instancia necesita una caché Redis con RediSearch configurada como su caché externa, nada de lo cual puede ver la compilación, por lo que la compilación se detiene hasta que el operador afirme que la caché ofrece RediSearch estableciendo infra.cache_serves_vector_search del gateway; el almacén conserva una respuesta durante ttl_seconds; y similarity_threshold se escribe como el umbral de puntuación de Azure, uno menos el umbral, leyendo esa puntuación como una distancia de coseno, ya que Microsoft indica su rango y su dirección —más bajo exige prompts más cercanos— pero no su medida. Una respuesta se almacena y se sirve por separado por API y por suscripción de API Management, cuya clave verifica el gateway, por lo que la realización mantiene key, lo rechaza en una API que no requiere ninguna clave de suscripción, y rechaza end_user: la API que genera su Recipe no valida el token de ningún usuario final, por lo que el gateway no tiene ningún usuario final verificado que mantener aparte. Tampoco la realizan core/gateway/contour ni core/gateway/nginx, ya que no ofrecen ninguna caché semántica. En core/gateway/agentgateway, su realización detiene toda vinculación, indicando el motivo: agentgateway no guarda ninguna caché de respuestas, y su almacenamiento en caché de prompts solo marca dónde puede hacerlo un proveedor que almacena los prompts en caché por sí mismo. En core/gateway/kong-enterprise, su realización detiene toda vinculación, indicando el ámbito solicitado: la AI Semantic Cache de Kong no tiene ningún ajuste que mantenga las respuestas almacenadas de un llamante aparte de las de otro, y el gateway distingue a los llamantes solo como los consumers que nombra un plugin de autenticación y no declara ningún llamante, por las razones que da «Kong delante de los modelos» más arriba, por lo que con end_user y con key por igual todas las solicitudes compartirían una sola caché. En core/gateway/higress, su realización detiene toda vinculación, indicando el ámbito solicitado: la caché semántica de Higress almacena cada respuesta bajo un único prefijo de clave seguido del texto del prompt, y nada en esa clave nombra a un llamante ni a un usuario final, mientras que el gateway no declara ningún llamante, por lo que todas las solicitudes compartirían una sola caché. En core/gateway/apisix se realiza en la Recipe chart, escrita en la ruta de chat de cada modelo conectado como la caché semántica de APISIX 3.18.0, para los llamantes que su Release declara en infra.callers: una respuesta se almacena por ruta y por llamante, bajo la clave que presentó el llamante, que el gateway verifica, por lo que a ningún llamante se le sirve una respuesta almacenada para otro; la realización mantiene key y rechaza end_user por nombre, porque el gateway no puede distinguir a los usuarios finales detrás de una misma clave. embedding_model nombra una conexión en el socket models del gateway, con cuyo endpoint, modelo y credencial la caché calcula los embeddings. La caché calcula el embedding del último mensaje de usuario de una solicitud y sirve una respuesta almacenada cuyo mensaje es al menos tan parecido como indica similarity_threshold y cuyos mensajes anteriores —un prompt de sistema, turnos anteriores— son los mismos. Las respuestas permanecen durante ttl_seconds en un core/datastore/redis conectado al socket cache_store del gateway, al que la caché presenta la contraseña que contiene la credencial de esa conexión, y una respuesta servida por significado se vuelve a almacenar bajo esa solicitud durante otros ttl_seconds. Las solicitudes de completado no se almacenan en caché, y un fallo del almacén o del embedding es un fallo de caché: la solicitud se responde igualmente. La realización se detiene cuando no hay ningún llamante declarado, cuando no hay nada conectado a cache_store ni al socket models, y ante un embedding_model que ninguna conexión de allí lleva. APISIX indexa una respuesta almacenada por ruta y llamante en lugar de por gateway, por lo que dos gateways APISIX conectados a un mismo almacén, o dos Releases de un mismo Aggregate que apuntan su gateway a un mismo almacén externo, pueden servir una respuesta en caché a un llamante del mismo nombre en el mismo alias y modelo. Su Recipe workload, en APISIX 3.17.0, no lleva ninguna caché semántica. En core/gateway/traefik-hub se realiza en la Recipe chart como la caché semántica de Traefik Hub en la ruta de cada modelo conectado, para los llamantes que su Release declara en infra.callers: una respuesta se almacena por modelo conectado y por llamante, bajo el llamante que verificó la comprobación de clave del gateway, cada uno por su propia clave, por lo que a ningún llamante se le sirve una respuesta almacenada para otro; la realización mantiene key y rechaza end_user por nombre, porque el gateway no puede distinguir a los usuarios finales detrás de una misma clave. embedding_model nombra una conexión en el socket models del gateway, con cuyo endpoint, modelo y credencial la caché calcula el embedding del texto de una solicitud. similarity_threshold se escribe como el límite de distancia de la caché, uno menos el umbral, leído como una distancia de coseno, ya que la referencia de Traefik indica la dirección del límite pero no su medida. Una respuesta se conserva durante ttl_seconds en un core/datastore/redis conectado al socket cache_store del gateway, y una solicitud demasiado grande para calcular su embedding se responde sin caché. La realización se detiene cuando no hay ningún llamante declarado, cuando no hay nada conectado a cache_store ni al socket models, ante un embedding_model que ninguna conexión de allí lleva, y ante una imagen de Traefik Hub cuya etiqueta no nombra ninguna versión desde la v3.19.11 dentro de la 3.19 o desde la v3.20.6, ya que una versión anterior comparte una sola caché entre todos los llamantes de una ruta.

  • Detección de inyección de prompts: core/prompt-injection-shield declara que las solicitudes a modelos que reenvía un gateway se comprueban, antes de llamar al modelo, en busca de un intento de anular las instrucciones que se dieron al modelo, con una sensitivity de standard o strict — strict rechaza más intentos de ese tipo, y con ellos más solicitudes legítimas. La comprobación es el veredicto de un clasificador probabilístico: no detecta algunos ataques —entre ellos los reformulados, codificados o escritos de otra forma—, rechaza algunas solicitudes legítimas y se sabe que es evadible, por lo que es un control junto a otros, y no juzga la respuesta del modelo, los argumentos de las llamadas a herramientas ni las imágenes. Se adjunta a cualquier gateway, y una realización o bien envía las solicitudes del gateway a través de una guarda conectada a su socket guard, lo que no exige del gateway más que reenvíe a una dirección con la que esté configurado, o bien activa una comprobación que el gateway ejecuta por sí mismo. Con una guarda, la guarda comprueba cada solicitud y reenvía al modelo lo que admite, y adjuntar la Feature sin nada en ese socket detiene la build indicándolo. La biblioteca estándar la realiza en el gateway de IA y en el gateway NGINX, cada uno con core/security/nemo-guardrails como guarda: un servicio que habla la API chat-completions de OpenAI, cuyo rail envía el último mensaje de usuario de una solicitud al clasificador del core/security/trustyai-huggingface-detector conectado a él y rechaza la solicitud cuando la puntuación de ese clasificador alcanza el umbral de la guarda. A una solicitud rechazada responde la propia guarda, con una completion ordinaria, y nada de ella llega al modelo; cuando no se puede alcanzar la guarda o su detector, la solicitud también se rechaza. Cada uno de los dos detiene la build a menos que la guarda sea esa, con el umbral que indica la sensibilidad —0.5 para standard y 0.001 para strict, los dos valores medidos para el clasificador predeterminado del detector, cuyo modelo el gateway, que ve la guarda y no el detector que hay detrás, no puede comprobar. En el gateway de IA cada alias del mapa de modelos se envía a la guarda, con cada destino escrito como openai/<model>, de modo que el mapa es el escrito a mano: un modelo conectado al socket models del gateway se enviaría a su propio endpoint con la credencial de su propia conexión, eludiendo la guarda, y la realización detiene la build mientras ese socket contenga una conexión, indicándola. El gateway de IA rechaza toda solicitud que no sea una chat completion, el único tipo que la guarda comprueba; en el gateway NGINX su única location reenvía a la guarda en lugar del upstream, y la guarda no responde a ninguna otra ruta de modelo. En core/gateway/azure-api-management se realiza como el prompt shield propio de Azure, activado en la policy de la API mediante el backend de Azure AI Content Safety de la instancia que indica infra.content_safety_backend_id, y la build se detiene mientras esa clave no esté definida: Azure AI Content Safety comprueba cada solicitud en busca de un ataque de usuario antes de llamar al modelo, antes de la búsqueda en una caché semántica, y el gateway responde con HTTP 403 a una solicitud en la que detecta uno, igual que responde a una solicitud más larga de lo que el servicio acepta. El shield está activado o desactivado, así que standard se mantiene y strict se rechaza por su nombre, y funciona con la sensibilidad propia de Microsoft, no medida respecto al umbral que standard indica en las guardas. La instancia llega a ese backend con su identidad administrada, que necesita el rol Cognitive Services User sobre el servicio; la build no ve ninguno de los dos. Ningún gateway de la biblioteca estándar aparte de estos tres la realiza, y adjuntarla a otro detiene la build indicando el tipo: la mayoría no genera ninguna ruta que una realización pueda enviar a través de una guarda —guardan sus rutas en un almacén propio, las toman de los servicios que tienen detrás o son un servicio alojado en el que la biblioteca estándar no activa ninguna comprobación de este tipo—, y core/gateway/apisix, cuya Recipe de chart genera las rutas de los modelos conectados a él, y core/gateway/envoy-gateway, cuya Recipe genera la ruta de IA de los modelos conectados a él, no tienen ninguna realización de ella. En core/gateway/agentgateway, cuyas Recipes generan una entrada para cada modelo conectado a él, la realización detiene cada adjunto, indicando por qué: agentgateway juzga una solicitud en busca de tal intento solo a través de un servicio al que llama —un webhook que gestiona el operador, o Azure AI Content Safety, Google Model Armor o AWS Bedrock Guardrails— y la realización no conecta ninguno de ellos. En core/gateway/higress la realización también detiene cada adjunto, indicando por qué: Higress juzga tal intento solo a través de un servicio al que llama —el servicio de seguridad de contenidos de Alibaba Cloud o, mediante un plugin que su código fuente incluye pero que su versión de plugins 2.2.5 no publica, un servicio de modelo Qwen3Guard que gestiona el operador—, y cada uno deja pasar la solicitud cuando esa llamada falla, y la realización no conecta ninguno de los dos. En core/gateway/traefik-hub la realización también detiene cada adjunto, indicando por qué: Traefik Hub juzga tal intento solo a través de un servicio al que llama —sus middlewares LLM Guard y Parallel LLM Guard, que llaman a un servicio de guarda o a un modelo con una solicitud y con condiciones que la realización tendría que escribir, y cuyo funcionamiento con un detector de ataques de prompts no está medido, por lo que ninguna sensibilidad corresponde allí a una comprobación; o sus middlewares Azure Prompt Shield, Amazon Bedrock Guardrails y GCP Model Armor, que llaman a servicios alojados que la realización no conecta. La guarda lee solo el último mensaje de usuario, por lo que un mensaje de sistema, un turno anterior o el resultado de una herramienta llega al modelo sin leerse, y solo se analiza el tráfico que cruza el gateway: una carga de trabajo que llama directamente a la dirección del modelo lo elude.

  • Validación de respuestas y evaluaciones: core/response-validation declara una comprobación de la respuesta de un modelo contra un JSON Schema antes de que llegue al llamante: schema contiene el propio esquema, y una respuesta que no coincide con él se rechaza en lugar de transmitirse —o, con invert activado, una respuesta que sí coincide. El esquema pertenece al adjunto y es el mismo para cada solicitud, no uno que el llamante envía con su propia solicitud, por lo que el desarrollador lo adjunta en el Aggregate, escribiendo el esquema en sus values. Ninguna realización de la biblioteca estándar lo aplica: en core/gateway/agentgateway su realización detiene cada adjunto, indicando por qué —las guardas de respuesta de agentgateway comparan patrones o llaman a un servicio de content safety o a un webhook, y ninguna de ellas acepta un esquema—, y lo mismo hace su realización en core/gateway/higress, cuya comprobación de respuestas responde a una respuesta que la supera con el JSON desnudo que encuentra en el mensaje de la respuesta en lugar de la chat completion que devuelve su ruta OpenAI, se omite para cualquier cliente que envíe la cabecera de solicitud X-HIGRESS-AI-JSON-RESP: true y deja sin comprobar un esquema anidado a más de seis niveles de profundidad; y lo mismo hace su realización en core/gateway/traefik-hub, ya que ningún middleware de la referencia de Traefik Hub comprueba una respuesta contra un esquema —su middleware Chat Completion comprueba las solicitudes contra el esquema de chat completion, su gestión de API comprueba los cuerpos de las solicitudes contra un documento OpenAPI, y su LLM Guard envía una respuesta a un servicio externo, que la realización no conecta—; en cualquier otro gateway un adjunto detiene la build indicando el tipo. core/traffic-shadowing copia las solicitudes en vivo a un segundo servicio y descarta las respuestas de ese servicio, de modo que un modelo o servicio candidato pueda evaluarse con tráfico real sin que ningún llamante vea su salida. Se adjunta a cualquier componente que declare dataplane.aggrega.ai/request-mirroring, cosa que el gateway de IA no hace; la biblioteca estándar la realiza en el gateway NGINX, que copia todo el flujo en lugar de una parte de él, y se detiene, indicándolo por su nombre, ante una parte menor.

5. Ejecución asíncrona e infraestructura HITL

Aggrega trata los frameworks de interacción humana (como AutoGen y LangGraph) como nodos worker. Para admitir agentes «dormidos» que esperan una entrada humana sin perder el estado, los arquitectos de plataforma pueden declarar sockets usesSchema en los Components de estos agentes que imponen estrictamente el enlace explícito de componentes de categoría datastore a ellos, seleccionados por la etiqueta de motor del datastore —datastore.aggrega.ai/engine in (vector, semantic-memory, search) para un almacén del que el agente recupera por similitud, o datastore.aggrega.ai/engine=kv para uno en el que guarda puntos de control de su estado de ejecución. El socket se enlaza a la etiqueta de motor en lugar de a un nombre de producto, de modo que un autor elige qué almacén llega y la declaración sigue siendo válida. Además, para los bucles de retroalimentación de humano a agente (p. ej., integraciones con Slack), se puede configurar un rol de veredicto de gobernanza que rechace la arquitectura a menos que haya adjunto un componente gateway declarado explícitamente, de modo que los webhooks de callback entren a través de un límite de entrada declarado.

Los agentes construidos sobre un framework o SDK alrededor del cual se escribe una aplicación, en lugar de distribuirse como un producto propio, adoptan una sola forma en la biblioteca estándar. La Release indica la imagen de la aplicación, que el catálogo no fija. Un socket model lleva lo que el framework lee del modelo conectado —su dirección y su nombre de modelo, donde el framework los lee, y la credencial de la conexión, por referencia— a las variables que ese framework lee. Donde el framework no define un servidor propio, el componente es un worker y no abre ningún puerto: core/ai-agent/crewai y core/ai-agent/langgraph adoptan esta forma, y también core/ai-agent/openai-agents-sdk, cuyo socket model acepta solo un modelo o gateway que lleve model.aggrega.ai/api: openai, core/ai-agent/claude-agent-sdk, cuyo socket acepta solo uno que lleve model.aggrega.ai/api: anthropic, y core/ai-agent/agent-framework, para una aplicación construida sobre Microsoft Agent Framework, que no sirve nada por sí misma, cuyo socket acepta solo uno que lleve model.aggrega.ai/api: openai y entrega las variables que leen los clientes OpenAI de Python de Agent Framework; estos tres detienen la build, indicando infra.image, hasta que la Release lo define. El OpenAI Agents SDK sube de forma predeterminada a OpenAI una traza de cada ejecución, por lo que core/ai-agent/openai-agents-sdk desactiva esa subida a menos que el Aggregate establezca su valor upload_traces_to_openai en true. Donde el framework sirve HTTP por sí mismo, el componente es un server en el puerto propio del framework y publica la dirección a la que llega un llamante como host, port, endpoint y protocol, y también detiene la build, indicando infra.image, hasta que la Release lo define: core/ai-agent/google-adk sirve la API REST de ADK en el puerto 8000 y entrega la clave que el cliente Gemini de ADK envía a la API de Gemini, y su socket model acepta solo un modelo que lleve model.aggrega.ai/api: gemini, como core/ai-model/gemini, y nunca un gateway, cuya dirección el cliente de ADK no leería; core/ai-agent/mastra sirve el servidor que Mastra construye en el puerto 4111, listo en Kubernetes en cuanto su ruta /health responde, acepta un modelo o gateway que lleve model.aggrega.ai/api: openai y, donde el Aggregate nombra uno de los agentes de la aplicación en su valor agent_id, publica la dirección de la tarjeta Agent2Agent de ese agente, para que core/ai-tool/agent-invocation pueda delegar en él. Las rutas de ambos servidores responden a cualquier llamante a menos que la aplicación las autentique, por lo que un adjunto core/public-ingress o core/http-route en cualquiera de ellos detiene la build hasta que la Release establece su infra.routes_authenticated en true, afirmando que la aplicación autentica cada solicitud que reciben sus rutas. Los runtimes de SDK y de servidor y core/ai-agent/agent-framework también declaran un socket tools opcional, que entrega la dirección de cada herramienta conectada, y la credencial de la conexión por referencia, en variables nombradas según el alias de la conexión. Como la aplicación es el código propio de la Release, las variables que estos agentes entregan para que ese código las lea son valores predeterminados: cada uno de sus sockets admite un bloque inject:, mediante el cual el Aggregate nombra las variables, o los archivos, que la aplicación lee en su lugar, mientras que una variable que el framework lee por sí mismo y lo que entrega un adjunto en la conexión se mantienen. Lo mismo ocurre con los valores propios del agente: cada componente admite sobre sí mismo un bloque inject: de entradas env y file, y una entrada cuya plantilla lee uno de sus valores propios y nada más del componente —ningún otro valor, ni su infra, sus metadatos o su identidad— sustituye el nombre predeterminado con el que una Recipe entrega ese valor, como CREWAI_ROLE para el role de un agente CrewAI. Una importación de las declaraciones de agentes de un proyecto CrewAI, del langgraph.json de una aplicación LangGraph, de las configuraciones de agentes de una aplicación Google ADK o de un agente declarativo de Agent Framework genera borradores de estos agentes —core/ai-agent/crewai, core/ai-agent/langgraph, core/ai-agent/google-adk y core/ai-agent/agent-framework— conectados al almacén de datos que nombra la configuración, y al modelo que nombra donde el socket model del agente lo acepta, junto a un borrador de Release que deja al operador la tarea de indicar la imagen en la que se ejecuta el programa, y lee solo la configuración, nunca el programa, como describe Plugins de importación.

6. Validación topológica de seguridad y aplicación en tiempo de ejecución

Como las cargas de trabajo de IA introducen nuevos vectores de ataque (como la inyección de prompts y la exfiltración autónoma de datos), protegerlas requiere unir la gobernanza arquitectónica estática con la aplicación activa en tiempo de ejecución. Como compilador anticipado (Ahead-of-Time, AOT), Aggrega no intercepta el tráfico de red en vivo ni evalúa prompts de IA. En su lugar, resuelve requisitos de seguridad complejos mediante un acuerdo arquitectónico en dos partes: compilación estática de la arquitectura (en tiempo de compilación) y traspaso a la ejecución (en tiempo de despliegue).

A. Tiempo de compilación: validación de policies y generación de artefactos

El compilador construye un grafo plano de representación intermedia (IR) que contiene todos los nodos, aristas y Features adjuntas. Antes de generar cualquier infraestructura física, la postura de seguridad de la empresa se aplica evaluando este grafo JSON estático con motores de policies estándar del sector en un rol de veredicto de gobernanza.

Como el socket evalúa datos JSON genéricos, no está atado a un único lenguaje de policies. Las empresas pueden compilar y aplicar sus reglas arquitectónicas con el estándar que mejor encaje en su ecosistema:

  • Open Policy Agent (OPA/Rego): un lenguaje ampliamente usado para evaluar relaciones de grafo complejas de varios saltos y calcular el acceso de mínimo privilegio en topologías distribuidas. El motor Rego compilado en la CLI ejecuta los archivos .rego tal como están; una policy que necesita toda la superficie de builtins de OPA se compila con la propia toolchain de OPA y se ejecuta detrás de un guest adaptador.
  • Common Expression Language (CEL): el motor CEL compilado en la CLI ejecuta reglas escritas como expresiones únicas sobre un documento, del modo en que se escribe una validating admission policy de Kubernetes.
  • Kyverno: evalúa manifiestos JSON/YAML estáticos, lo que permite a los equipos escribir policies en YAML nativo en lugar de aprender Rego. Con el compilador no se distribuye ningún guest de Kyverno, ya que este ejecuta las policies solo como guests WebAssembly y nunca invoca la CLI de Kyverno, por lo que las reglas de Kyverno se ejecutan detrás de un guest que envuelve el motor.
  • Validación personalizada en Rust/TypeScript: los equipos de seguridad pueden escribir policies organizativas a medida en lenguajes estándar y compilarlas a Wasm para que actúen como puerta de validación.

Una vez que el motor de policies valida el grafo, el compilador traduce esos requisitos de seguridad abstractos en configuración física. Cuando un desarrollador adjunta una Feature de seguridad —core/data-masking en el gateway de IA, por ejemplo—, el compilador ejecuta el paso de pipeline que indica su realización, un plugin de WebAssembly (Wasm) aislado, y ese paso escribe el ajuste que el control necesita en la configuración que la propia Recipe del gateway ya genera. Una realización puede, en cambio, dejar la escritura a la propia Recipe del gateway, que lee el adjunto y escribe el ajuste por sí misma, como hace core/data-masking en core/gateway/kong-enterprise, y una realización para otro tipo de control puede emitir un recurso propio; en cualquier caso, la salida es un artefacto estático escrito a partir de lo que el desarrollador adjuntó.

B. Tiempo de despliegue y de ejecución: traspaso a la ejecución y aplicación

La responsabilidad de Aggrega termina en el momento exacto en que termina de procesar la entrada y escribe los artefactos estáticos configurados en el directorio de salida. Es un compilador puro: escribe la configuración, y después el control vuelve por completo al sistema que lo invocó.

Cómo se ejecutan esas configuraciones es muy flexible y depende por completo de la empresa:

  • El traspaso de artefactos (tiempo de despliegue): controladores de despliegue externos toman el relevo para llevar los artefactos a la realidad. Esto podría ser un controlador GitOps estricto (como ArgoCD o Flux) que sincroniza archivos en un clúster de Kubernetes, pero también podría ser simplemente un pipeline de CI/CD estándar que ejecuta terraform apply, o un desarrollador que ejecuta un script de shell local contra Docker Compose.
  • Aplicación en tiempo de ejecución: una vez aplicadas las configuraciones al entorno de destino, la infraestructura física toma el relevo. Las herramientas especializadas configuradas por Aggrega (como un sidecar de guardrails, una service mesh activa o firewalls nativos de la nube) arrancan y comienzan su trabajo activo: interceptar físicamente cargas útiles, verificar JWT o descartar inyecciones de prompts maliciosas.

7. Cómo aborda Aggrega los desafíos de seguridad de la IA

Al desacoplar la validación arquitectónica de la ejecución, los equipos de plataforma pueden usar Aggrega para modelar, validar y generar de forma explícita soluciones de configuración para las vulnerabilidades de IA que se describen a continuación.

A. Exfiltración de datos e interceptación de cargas útiles

  • El problema: un agente autónomo podría intentar filtrar datos empresariales restringidos a una API externa no autorizada.
  • La solución de Aggrega:
    1. Tiempo de compilación (validación y generación): el equipo de plataforma escribe una policy (p. ej., Rego) evaluada en un rol de veredicto de gobernanza que establece: «Toda ruta que pase por un gateway de IA debe llevar core/data-masking.» Si falta, el compilador se detiene. Si está presente, la realización que enlaza el Manifest escribe el enmascaramiento en la configuración que el gateway ya genera: en core/gateway/litellm, entradas de guardrail que coinciden con las expresiones regulares que lista el adjunto y que envían el texto a un analyzer y un anonymizer de Presidio conectados a los sockets pii_analyzer y pii_anonymizer del gateway para los tipos de entidad que lista; en core/gateway/kong-enterprise, el AI PII Sanitizer de Kong en las rutas de chat y de completion de cada modelo conectado, escrito por la Recipe de chart del gateway, que envía el texto que enmascara, con las expresiones regulares y los tipos de entidad que lista el adjunto, al servicio Kong AI PII conectado al socket pii_sanitizer del gateway; en core/gateway/agentgateway, las guardas de expresiones regulares propias del gateway, escritas en su configuración por su Recipe de chart, que sustituyen cada coincidencia de los patrones que lista el adjunto por <masked>, o bajo refuse responden a la solicitud o a la respuesta con HTTP 403, y no reconocen tipos de entidad; esas guardas no enmascaran una respuesta en streaming, por lo que, mientras se enmascaran las respuestas, la misma Recipe escribe una regla que rechaza con HTTP 403, antes de reenviarla, una solicitud que pida una, y cualquier solicitud cuyo cuerpo supere los 2 MiB que el gateway lee para esa regla, en streaming o no; en core/gateway/traefik-hub, un Content Guard del gateway de IA de Traefik Hub en la ruta de cada modelo conectado, escrito por su Recipe de chart, que enmascara las coincidencias de los patrones que lista el adjunto mediante su motor de expresiones regulares, o de los tipos de entidad que lista mediante el analyzer de Presidio conectado al socket pii_analyzer del gateway, un motor por adjunto; en core/gateway/higress, el plugin ai-data-masking de Higress en la ruta de cada modelo conectado, escrito por su Recipe de chart, que sustituye cada coincidencia de los patrones que lista el adjunto en los mensajes de una solicitud de chat por el nombre del patrón entre corchetes, y no reconoce tipos de entidad. Una policy también puede plantear la pregunta más concreta —si el enmascaramiento se sitúa entre los datos restringidos y el proveedor— leyendo los adjuntos de cada componente a lo largo de la ruta en lugar de los adjuntos de la ruta en su conjunto, como hace examples/policy-data-class-route.
    2. Tiempo de ejecución (aplicación física): Una vez que el orquestador despliega los artefactos generados, el gateway sustituye cada coincidencia en el texto de la solicitud que enmascara por un marcador de posición antes de reenviarla, de modo que el proveedor del modelo recibe el marcador; con action: refuse, la vinculación no reenvía nada de una solicitud que contenga una coincidencia y, en su lugar, la responde con un error. Un reconocedor que no se puede alcanzar o que falla hace fallar la solicitud, de modo que su texto no se transmite. Lo que el enmascaramiento no alcanza lo deciden dos valores cuyos valores predeterminados son la protección. En el AI gateway, mientras la vinculación también enmascara las respuestas, el gateway enmascara el texto de la respuesta y las partes que un modelo o su proveedor añade junto a él — una negativa, citas y anotaciones, la consulta y los resultados de una búsqueda web, campos con nombres propios del proveedor — o, con refuse, no envía nada de una respuesta que contenga una coincidencia; una respuesta en streaming que enmascara por patrón llega al llamador completa, al final. De forma predeterminada, lo que su enmascaramiento no alcanza en una solicitud — una ruta como la generación de imágenes, un campo como safety_identifier, una imagen o un archivo en la conversación, una herramienta que el propio proveedor ejecuta — el AI gateway lo rechaza con HTTP 400 antes de reenviar nada de ello; un operador que acepta que ese texto llegue al proveedor sin enmascarar establece allow_unmasked_text en la vinculación en la Release, y la realización enumera exactamente lo que pasa entonces, mientras que el contenido que no es texto sigue rigiéndose por allow_non_text_content. De forma predeterminada, lo que una respuesta enmascarada contiene y su enmascaramiento no puede leer — audio hablado y su transcripción, una imagen, las probabilidades de los tokens que eligió el modelo — se retiene, y una llamada fallida llega al llamador con un mensaje fijo en lugar del que devolvió el proveedor; allow_unmasked_reply_parts deja que esas partes lleguen al llamador sin enmascarar. Este valor nunca deja pasar el texto propio de una respuesta, pero las partes que deja pasar pueden contener las palabras de la respuesta: la transcripción de una respuesta hablada, los tokens detrás de las probabilidades de tokens, el mensaje de error de un proveedor que cita la respuesta. En core/gateway/kong-enterprise, cada coincidencia se sustituye por un marcador numerado, de modo que una vinculación que enumera patrones en redact establece placeholder_shows_name: false; refuse alcanza solo las solicitudes, a partir de Kong 3.12, que responde a una solicitud con una coincidencia con HTTP 400; y las respuestas se enmascaran a partir de 3.12, en cuyo caso una solicitud que pide una respuesta en streaming se rechaza antes de reenviarse, y allow_streamed_replies se rechaza. El sanitizer de Kong lee el texto de los turnos del usuario, el prompt de una completion y el texto del mensaje de una respuesta, y la referencia de Kong no nombra ningún ajuste que rechace una solicitud por lo que el sanitizer no lee o que retenga el resto de una respuesta, de modo que en ese gateway cada protección se rechaza por nombre en tiempo de build mientras conserva su valor predeterminado, y una vinculación se compila una vez que la Release las relaja — allow_unmasked_text y allow_non_text_content donde se enmascaran las solicitudes, allow_unmasked_reply_parts y mask_reasoning: false donde se enmascaran las respuestas —, con data-masking-kong-enterprise enumerando lo que cada una deja pasar entonces. Allí, una respuesta cuyo texto no llega como la cadena única que devuelve la API de OpenAI pasa sin leerse, y su propio texto llega al llamador sin enmascarar; la salvaguarda es la comprobación que hace el build sobre cada modelo conectado a ese gateway, que se detiene ante uno cuyo model.aggrega.ai/api no es openai. En core/gateway/traefik-hub, cada coincidencia se sustituye por una serie de * tan larga como la coincidencia, de modo que una vinculación que enumera patrones en redact establece placeholder_shows_name: false; refuse responde HTTP 403 en lugar de la solicitud o de la respuesta; y una respuesta enmascarada se retiene completa y se envía al final, incluida una en streaming, de modo que una vinculación que enmascara tipos de entidad en las respuestas establece allow_streamed_replies. La referencia de Traefik no dice qué campos de una solicitud o respuesta de chat lee Content Guard, y no nombra ningún ajuste que rechace una solicitud, o retenga parte de una respuesta, por lo que no lee, de modo que en ese gateway cada protección se rechaza por nombre en tiempo de build mientras conserva su valor predeterminado, y una vinculación se compila una vez que la Release las relaja — allow_unmasked_text y allow_non_text_content donde se enmascaran las solicitudes, allow_unmasked_reply_parts y mask_reasoning: false donde se enmascaran las respuestas —, con data-masking-traefik-hub enumerando lo que cada una deja pasar entonces. Una vinculación que enumera tanto patrones como tipos de entidad, y una segunda vinculación de enmascaramiento en un mismo gateway, se rechazan, ya que la referencia de Traefik no dice si un segundo Content Guard en una ruta lee el texto que enmascaró el primero o la solicitud tal como la envió el llamador. En core/gateway/higress, el plugin ai-data-masking de Higress sustituye cada coincidencia de los patrones que enumera la vinculación, en el contenido y el razonamiento de cada mensaje de una solicitud de chat, por el nombre del patrón entre corchetes; enmascara solo las solicitudes, por lo que scope response y both se rechazan, y no reconoce ningún tipo de entidad. El plugin no lee nada más de una solicitud, por lo que, mientras las protecciones conservan sus valores predeterminados, la Recipe de chart del gateway también escribe el plugin de validación de solicitudes de Higress para rechazar con HTTP 403, antes de reenviar nada, una solicitud que contenga lo que el enmascaramiento no lee — un cuerpo no enviado como JSON o que no es una chat completion, un mensaje cuyo contenido es una lista o null, una llamada a herramienta o un turno de herramienta, el nombre de un mensaje, cualquier parámetro salvo los no textuales de una chat completion y las herramientas, el formato de respuesta y las secuencias de parada propios del desarrollador — y, relaje lo que relaje la vinculación, una solicitud cuyo cuerpo omiten los plugins de Higress — un cuerpo comprimido, un content type que contiene octet-stream o grpc, un upgrade — y un cuerpo que contiene el carácter de reemplazo Unicode U+FFFD, que es como esa validación lee un byte que no es UTF-8 válido, ya que el plugin de enmascaramiento reenvía sin enmascarar un cuerpo que no es UTF-8 válido. Una solicitud cuyo cuerpo supera el búfer de 32 KiB del gateway se rechaza con HTTP 413. La validación solo lee un cuerpo que su decodificador JSON acepta, de modo que un cliente que envía deliberadamente JSON válido que el decodificador rechaza — un número más allá de lo que cabe en un double, por ejemplo — supera todo rechazo de su cuerpo: el plugin de enmascaramiento enmascara entonces solo el contenido simple y el razonamiento de cada mensaje, de modo que un valor enumerado en cualquier otro lugar del cuerpo — los argumentos de una llamada a herramienta, un nombre, cualquier otro campo — se reenvía sin enmascarar, al igual que el contenido escrito con secuencias de escape JSON, y si ese cuerpo tampoco es UTF-8 válido, se reenvía todo sin enmascarar. Un cliente que anida deliberadamente un cuerpo a más de 127 niveles de profundidad, dentro de un campo que la validación admite, como tools, envía JSON válido que la validación decodifica y admite, pero el lector JSON del plugin de enmascaramiento se detiene en esa profundidad, de modo que el contenido escrito con secuencias de escape JSON en ese cuerpo también se reenvía sin enmascarar. El enmascaramiento no basta por sí solo: el texto que ningún patrón detecta y que ningún reconocedor identifica pasa sin cambios; en el AI gateway, los argumentos de las llamadas a herramientas y los resultados de las herramientas se enmascaran valor por valor, pero no los nombres de sus claves; las definiciones de herramientas, los formatos de respuesta y las secuencias de parada propios del desarrollador pasan tal como se enviaron; el gateway y los servicios de reconocimiento ven el texto original; lo que el gateway registra sobre una llamada — en su propio log o en lo que entrega a una integración de logging — aún puede contener ese texto; y el tráfico que no atraviesa el gateway no se toca.

B. Defensa contra el envenenamiento de MCP (confianza y aislamiento)

  • El problema: Si un agente se ve comprometido mediante una herramienta de Model Context Protocol (MCP) envenenada, puede ejecutar de forma autónoma acciones destructivas (como eliminar una base de datos o autorizar una transferencia).
  • La solución de Aggrega:
    1. Tiempo de compilación (validación y generación): El desarrollador vincula una Feature de aprobación a la herramienta sensible en su Aggregate.yaml. La biblioteca estándar no incluye ninguna Feature así, por lo que esta se escribe en el catálogo propio de la empresa, junto con la FeatureRecipe que la renderiza. El compilador valida el grafo y traduce la vinculación a la configuración de un proxy L7 o de un gateway de webhooks.
    2. Tiempo de ejecución (aplicación física): Cuando el agente secuestrado intenta invocar la herramienta, el proxy desplegado pausa la solicitud y bloquea físicamente la ejecución hasta recibir de un operador humano una aprobación firmada criptográficamente.

C. Resolver el «Confused Deputy» (propagación del contexto)

  • El problema: En las cadenas multiagente, un agente expuesto al público podría ser secuestrado y ordenar a un agente interno con privilegios elevados que obtenga datos sensibles. Los firewalls estándar solo ven que «el agente A está hablando con el agente B» y permiten el tráfico, perdiendo por completo el contexto del usuario malintencionado original.
  • La solución de Aggrega: Las empresas pueden combinar dos patrones específicos:
    1. Propagación de la identidad del llamador, en dos saltos: La identidad del llamador original tiene que sobrevivir a dos saltos distintos, y cada uno se protege en un lugar distinto. En el salto del gateway, el desarrollador vincula core/context-propagation, que selecciona por dataplane.aggrega.ai/caller-identity, al gateway por el que entra una solicitud. En tiempo de compilación, la vinculación se realiza en la configuración propia de ese gateway — en Envoy Gateway, una client traffic policy que verifica el certificado de cada cliente frente a una autoridad que nombra la Release y reenvía los detalles del certificado; en el AI gateway LiteLLM, un hook de solicitud que elimina cualquier cabecera de identidad que haya proporcionado un llamador y añade el usuario y el equipo de la clave virtual que verificó el gateway, y su organización cuando la clave nombra una, en las solicitudes a los alias de modelo que la vinculación enumera en destinations. En tiempo de ejecución, el servicio detrás del gateway recibe quién llamó y no solo que llamó el gateway. En el salto entre cargas de trabajo, una solicitud que un agente hace directamente a otro nunca atraviesa ese gateway, por lo que se comprueba en el ingress propio del agente receptor, donde una service mesh rechaza cualquier solicitud que carezca de un token firmado que demuestre la intención del usuario original (p. ej., una AuthorizationPolicy JWT de Istio). La biblioteca estándar incluye la Feature del salto del gateway y ninguna Feature del salto entre cargas de trabajo, por lo que vincular core/context-propagation protege el tráfico que pasa por un gateway y deja las llamadas de agente a agente a la configuración de la mesh que la propia empresa proporciona. Un agente que ejecuta otra parte, al que core/ai-tool/agent-invocation llega por A2A como core/ai-agent/a2a-remote, queda totalmente fuera de la Release: esa parte comprueba cada llamada según el esquema de seguridad que declara la Agent Card del agente, y la herramienta presenta la credencial guardada en su conexión, leída por referencia desde un Secret, en la cabecera de solicitud que publica el agente. Cuando la card exige client credentials de OAuth 2.0 u OpenID Connect, la conexión guarda en su lugar, o además, un client secret, con el client id que el operador escribe en ella, y el agente publica la dirección del token o de discovery y los scopes que declara su card; el propio contenedor de la herramienta obtiene el token con ellos, lo renueva y lo presenta en cada llamada; el catálogo solo entrega esas entradas, y ningún build puede comprobar qué hace el contenedor con ellas. Cuando la card exige TLS mutuo, la conexión guarda un certificado de cliente y, cuando una autoridad en la que la imagen no confía ya firma el certificado de servidor del agente, también esa autoridad; cada uno se monta en el contenedor de la herramienta como archivos de un Secret que nombra la conexión, y el propio contenedor presenta el certificado en el handshake TLS. Así, la herramienta llega a un agente cuya card declara una clave de API en una cabecera o una cookie, un esquema de autenticación HTTP de valor fijo, como Bearer o Basic, con el Secret que contiene el valor completo de la cabecera, OAuth 2.0 u OpenID Connect con el grant client-credentials, o TLS mutuo. No llega a uno cuya card exige una clave en la query string, un esquema HTTP que responde a un desafío del agente, como Digest, o un flujo OAuth 2.0 distinto de client credentials. Tampoco presenta una credencial a un agente que otra parte ejecuta sobre HTTP simple: cuando la dirección de ese agente es http, una credencial o un client secret en la conexión detiene el build, nombrando la conexión, porque la credencial, o el token obtenido con el secret, le llegaría sin cifrar. Un agente que se ejecuta dentro de la Release sigue siendo accesible por http con cualquiera de ellos, y la credencial atraviesa entonces la red del clúster sin cifrar.
    2. Inspección del payload entre agentes: Una solicitud que un agente envía directamente a otro nunca atraviesa el AI gateway, por lo que se inspecciona en el ingress propio del agente receptor, mediante un motor de guardrails que se ejecuta junto a ese agente (p. ej., NeMo Guardrails). En tiempo de compilación, la FeatureRecipe que realiza una Feature vinculada al agente receptor renderiza la configuración del motor. En tiempo de ejecución, el motor evalúa cada solicitud según reglas que escribe la empresa y rechaza la que esas reglas rechazan; lo bien que distinga una solicitud secuestrada de una legítima depende del motor y de las reglas, porque Aggrega compila configuración y nunca evalúa un prompt. La biblioteca estándar no incluye ninguna Feature que coloque un motor así, por lo que este patrón se escribe en el catálogo propio de la empresa. La guarda de patrones propia de un gateway, dataplane.aggrega.ai/prompt-guard: pattern-list, es más limitada, y core/prompt-deny-patterns la activa — en el AI gateway, leyendo cada mensaje de una solicitud e ignorando mayúsculas y minúsculas, en core/gateway/apisix y core/gateway/kong, leyendo cada mensaje de cada rol como un solo texto, distinguiendo mayúsculas y minúsculas y respetando también una lista de patrones con los que una solicitud debe coincidir, en core/gateway/agentgateway, leyendo por separado cada mensaje, argumento de llamada a herramienta y resultado de herramienta, distinguiendo mayúsculas y minúsculas, y en core/gateway/traefik-hub, leyendo la solicitud como una chat completion, de la que la referencia de Traefik no enumera los campos leídos, distinguiendo mayúsculas y minúsculas: rechaza una solicitud al modelo cuyo texto coincide literalmente con una de las expresiones que enumera la vinculación — una paráfrasis, otro idioma o una codificación la superan — y solo en el tráfico que pasa por el gateway, de modo que una solicitud enviada directamente entre agentes nunca se encuentra con ella. core/prompt-injection-shield es su contrapartida basada en un clasificador en el mismo salto, que envía cada solicitud al modelo que reenvía un gateway a través de una guarda NeMo Guardrails conectada al socket guard de ese gateway, o a través del prompt shield de Azure AI Content Safety en Azure API Management, y también cubre solo el tráfico que atraviesa el gateway.

D. Análisis topológico de riesgos

  • El problema: Las arquitecturas de IA complejas con decenas de modelos, vectores y herramientas interconectados son demasiado grandes para que una persona las audite manualmente en busca de vulnerabilidades transitivas (p. ej., «¿Puede el agente A hablar con la herramienta B, que habla con el agente C, que tiene acceso a la base de datos D?»).
  • La solución de Aggrega: Esta comprobación se ejecuta de antemano. Como Aggrega construye en memoria un grafo IR completo de la topología prevista, un rol de veredicto de gobernanza puede ejecutar reglas avanzadas de búsqueda de rutas en toda la arquitectura. Si la política detecta una cadena continua y transitiva de aristas que se origina en un nodo público y termina en una base de datos altamente sensible sin ninguno de los controles que exige la empresa vinculado en ningún punto a lo largo de ella, detiene inmediatamente el build. La arquitectura insegura se bloquea antes de que se genere una sola línea de código de infraestructura.

8. Observabilidad y cumplimiento normativo

Para satisfacer requisitos normativos estrictos (p. ej., el Reglamento de IA de la UE), los arquitectos de plataforma pueden utilizar el sistema de funcionalidades de Aggrega para imponer la observabilidad de la IA como un requisito estructural de la infraestructura en lugar de depender del código de la aplicación:

  • Registro de auditoría: Los plugins Wasm creados por la empresa pueden configurar los sidecars del gateway para transmitir de forma asíncrona los prompts y las respuestas en bruto, sin enmascarar, a un bucket de almacenamiento WORM (Write Once, Read Many) seguro, sin pasar por los registros estándar de la aplicación.
  • Trazado de LLM: Las funcionalidades de proxy pueden configurar el plano de datos para extraer y reenviar las cabeceras de span de OpenTelemetry específicas de la IA, lo que garantiza que los bucles de razonamiento complejos de los agentes puedan visualizarse en herramientas externas.

9. Compatibilidad de Feature y seguridad topológica

Dado que el compilador central es agnóstico respecto a la mecánica física de la infraestructura, depende por completo de las declaraciones explícitas del catálogo para evitar la generación de configuraciones incompatibles.

  • conflictsWith: Una lista, declarada en la entidad de catálogo de una Feature bajo interoperability, de las Features junto a las que no puede adjuntarse. El compilador la compara con las Features que cada componente acaba llevando una vez que todos los ámbitos han contribuido — los adjuntos propios del componente, los escritos en un subsistema o frontera que lo contiene, los de su entrada de componente en la Release y los que produjo la expansión dirigida por anotaciones — y se detiene antes de renderizar cualquier artefacto físico cuando un componente lleva ambas (es decir, cuando un autor adjunta, directamente o a través de un ámbito, dos Features que el autor de una de ellas declaró explícitamente incompatibles). Basta con una declaración, y las Features se emparejan por nombre sean cuales sean sus versiones. El compilador no interpreta nada en los nombres: la incompatibilidad es la declaración del autor, y la comprobación es una comparación de nombres. La atomicidad y la pureza de las Features siguen siendo, en sí mismas, un contrato social — nada comprueba que una Feature haga una sola cosa.

10. Mapeo dinámico de la topología (resolución de dependencias)

Para construir el grafo IR sin reglas codificadas de forma fija, el compilador lo lee a partir de tres declaraciones explícitas:

  • Aristas uses: los desarrolladores enlazan componentes en el bloque uses de cada instancia, nombrando el componente de destino en un socket, y cada arista del grafo procede de uno de ellos. Una entrada de values que nombre por casualidad otro componente no traza ninguna arista: el compilador no atribuye ningún significado a un valor.
  • Destinos de las aristas: cada destino de uses debe nombrar un componente que contenga la build; un destino que no existe detiene la build, indicando el socket al que estaba conectado.
  • Seguridad de tipos entre nodos: Las cadenas de selector de usesSchema actúan como instrucciones explícitas fuera de banda, evaluadas de forma nativa por el motor de coincidencia de etiquetas del compilador Go durante el análisis estático. Garantizan que los desarrolladores no puedan conectar por accidente componentes estándar a un socket declarado que requiere una capacidad nativa de IA o una etiqueta de cumplimiento específicas. La garantía se limita por construcción a los sockets declarados: un selector reside en una entrada de usesSchema, por lo que un socket ad hoc no tiene ninguno que evaluar. Cada arista registra si su socket fue declarado en el catálogo, de modo que un operador que necesite que la garantía sea total puede exigirlo como veredicto de gobernanza.

11. Diseño automatizado de sistemas agénticos (ADAS)

Los sistemas de IA avanzados incluyen metaagentes que escriben código para inventar y desplegar nuevos agentes sobre la marcha. Dado que Aggrega requiere una arquitectura estática anticipada (AOT, ahead-of-time), resuelve la evolución de la infraestructura en tiempo de ejecución mediante dos fronteras explícitas:

  • La frontera del sandbox preaprovisionado: Para las herramientas efímeras inventadas en tiempo de ejecución, el arquitecto define una funcionalidad (p. ej., dynamic-execution-environment). Al adjuntarla, el plugin de renderizado Wasm genera la configuración para aprovisionar un pool de cómputo restringido (como un runtime de WebAssembly). El metaagente inyecta código nuevo en este sandbox, pero su radio de impacto queda limitado por las políticas de red estáticas generadas.
  • El metaagente en el rol de «desarrollador» (el bucle GitOps): Si el metaagente necesita infraestructura física realmente nueva, actúa como desarrollador. Escribe un nuevo Aggregate.yaml y lo confirma en Git. Esto desencadena el pipeline de CI/CD estándar. Un rol de veredicto de gobernanza analiza estáticamente la topología solicitada por la IA y detiene la build de forma segura si la IA alucinó una vulnerabilidad.

12. Serialización de modelos y seguridad de la cadena de suministro

Desplegar un modelo de código abierto suele implicar descargar archivos .pkl o .gguf opacos que pueden contener cargas de código malicioso. Las empresas pueden tratar la seguridad de la cadena de suministro de modelos como un problema de configuración de la plataforma de destino. Al definir una funcionalidad model_provenance en el catálogo, el plugin de renderizado Wasm de una empresa puede evaluar la configuración y traducirla en artefactos de tiempo de ejecución (como políticas de Kyverno para Kubernetes), de modo que el clúster de destino quede configurado para impedir que el orquestador descargue pesos de modelo sin firmar o sin verificar.