Diego Alba Ruiz

Paleta

Volver a Documentos

Anatomía de una petición en una plataforma de agentes

Sigo una petición de principio a fin: API, guardrails, orquestador, agentes con A2A, RAG, memoria, MCP, LLM gateway y salida, todo trazado con OpenTelemetry.

ArquitecturaOpenTelemetry

En la sección de arquitectura del portfolio hay un diagrama con un punto que recorre la plataforma. Esta nota cuenta ese recorrido paso a paso: qué ocurre con una petición desde que llega hasta que sale la respuesta.

1. La API

Todo entra por una API. Es el único punto de contacto con el usuario y el lugar donde empieza la traza de OpenTelemetry que acompañará a la petición hasta el final.

2. Guardrails de entrada

Antes de que ningún modelo lea la petición, pasa por los guardrails de entrada: validación, detección de prompt injection y protección de datos sensibles. Si algo no cumple las políticas de la empresa, la petición no sigue.

3. El orquestador

El orquestador decide qué hay que hacer y quién lo hace. No resuelve la tarea él solo: la reparte entre agentes especializados.

4. Agentes especializados con A2A

Los agentes se comunican con el orquestador mediante A2A (Agent-to-Agent). Cada agente tiene un cometido acotado y el contexto que necesita para cumplirlo, ni más ni menos.

5. Contexto y herramientas

Para trabajar, cada agente tira de las piezas compartidas de la plataforma:

  • RAG, para responder con la documentación real del cliente.
  • Memoria, a corto plazo para la conversación y a largo plazo para lo que debe persistir entre sesiones.
  • Skills, capacidades empaquetadas que el agente carga cuando las necesita.
  • MCP servers propios, para actuar sobre los sistemas del cliente con permisos acotados.

6. El LLM gateway

Ningún agente llama directamente a un proveedor de modelos. Todas las llamadas pasan por el LLM gateway, que abstrae el proveedor, enruta cada petición al modelo adecuado y centraliza el control de uso.

7. Guardrails de salida

La respuesta vuelve al orquestador y, antes de salir por la API, atraviesa los guardrails de salida, que revisan que no se filtren datos sensibles ni se incumplan las políticas de la empresa.

Una traza por petición

Cada componente es un servicio en su propio pod de Kubernetes, con su escalado independiente. Lo que los une es la traza: con OpenTelemetry, cada salto queda registrado, incluidas las llamadas de los agentes a modelos y herramientas. Cuando algo falla o va lento, se ve dónde.

Volver a Documentos