AI TRiSM (Trust, Risk and Security Management)

AI TRiSM no es una norma certificable (al revés de ISO 42001) sino un marco conceptual de Gartner que la industria ha adoptado como vocabulario común para hablar de "lo que necesita cualquier sistema IA en producción para ser fiable". Los cuatro pilares son: (1) Explicabilidad y monitorización: el sistema debe poder explicar sus decisiones (ver derecho a la explicación) y vigilar deriva de modelo y métricas de calidad; (2) ModelOps: gestionar el ciclo de vida del modelo en producción (versionado, despliegue, rollback, A/B testing, evals) con la misma disciplina que DevOps gestiona código; (3) Seguridad de aplicaciones IA: defensa contra inyección de prompt, jailbreak, model extraction, envenenamiento de datos, leak de prompt; (4) Privacidad: anonimización, cumplimiento RGPD para datos de entrenamiento e inferencia, gestión de derechos del titular. Gartner predice que para 2027 las empresas que adopten AI TRiSM tendrán un 50% menos de incidentes graves. Las herramientas se ordenan por pilar: Fiddler, Arize, Datadog AI para monitorización; MLflow, Weights & Biases, Domino para ModelOps; Lakera, ProtectAI, HiddenLayer para seguridad; Privitar, Skyflow para privacidad.