Capa de orquestación (gateway LLM)

Cuando una empresa usa IA en varios sitios, lo habitual sin planificación es que cada aplicación llame directamente a un proveedor, con su propia configuración, su clave, sus prompts y sin visibilidad central. Eso genera lock-in, descontrol de coste, inconsistencia y un punto ciego de gobernanza. La capa de orquestación (a veces llamada gateway LLM o pasarela de modelos) introduce un intermediario único por el que pasan todas las peticiones de IA de la organización. Sus funciones típicas: enrutamiento inteligente (mandar cada tipo de consulta al modelo más adecuado por calidad/coste —por ejemplo, un SLM barato para lo simple y un gran modelo solo para lo complejo—); abstracción del proveedor (las aplicaciones hablan con la pasarela, no con un proveedor concreto, lo que reduce el lock-in y permite cambiar de modelo sin reescribir aplicaciones); aplicación centralizada de políticas (límites de coste, filtrado de datos sensibles antes de salir, controles de seguridad); y observabilidad (registro centralizado de qué se consulta, cuánto cuesta, qué calidad, base para auditoría y para la gestión de coste). No es necesaria para un uso pequeño y aislado, pero a partir de cierta escala o criticidad es la diferencia entre una colección de integraciones frágiles y una plataforma de IA gobernada. Conceptualmente es a la IA lo que un punto de control centralizado es a cualquier recurso compartido: el lugar donde se aplican coherencia, control y visibilidad.