Un agente corporativo lee texto que no controla y puede actuar sobre sistemas reales. Los guardrails son las piezas de la plataforma que deciden qué puede entrar hasta el agente y qué puede salir de él.
Qué controlan
- Validación de entradas: que la petición tenga sentido para el caso de uso antes de gastar una llamada a modelo.
- Prompt injection: instrucciones escondidas en la petición o en los documentos que intentan cambiar el comportamiento del agente.
- Datos sensibles: información que no debe llegar al modelo o que no debe aparecer en la respuesta.
- Políticas de la empresa: lo que el cliente permite y lo que no, aplicado de forma consistente.
Dónde viven
En la plataforma, los guardrails son servicios propios, cada uno en su pod, y están en los dos extremos del recorrido:
- A la entrada, entre la API y el orquestador: nada llega a los agentes sin pasar por ellos.
- A la salida, entre el orquestador y la API: nada vuelve al usuario sin pasar por ellos.
Ponerlos fuera de los agentes tiene una ventaja: un agente nuevo hereda las mismas garantías sin tener que reimplementarlas.
No son la única defensa
Los guardrails funcionan mejor cuando el resto de la plataforma también limita. Las herramientas MCP exponen solo las operaciones necesarias y con permisos acotados, y todas las llamadas a modelos pasan por el LLM gateway. Si algo se escapa de un guardrail, lo que el agente puede hacer sigue estando acotado.
Trazables
Cada decisión de un guardrail queda en la traza de OpenTelemetry de la petición. Así se puede revisar por qué se bloqueó algo y ajustar las reglas con datos, no a ciegas.