Cumplimiento y ética

Model card y system card

Una model card es un documento estructurado publicado por el desarrollador de un modelo de IA que describe sus características, datos de entrenamiento, métricas de evaluación, casos de uso recomendados y limitaciones conocidas. Una system card es la versión más amplia que cubre un sistema completo (modelo + scaffold + herramientas + guardrails) en lugar de solo el modelo base. Son herramientas clave de transparencia y, en alto riesgo, parte de la documentación obligatoria del AI Act.

Por Ana María González Actualizado: 9 de mayo de 2026

Definición rápida

Respuesta directa

Explicación ampliada

Las model cards fueron propuestas por Mitchell et al. en 2019 como mecanismo de transparencia algorítmica. Una model card típica incluye: identificación (nombre, versión, fecha), descripción técnica (arquitectura, parámetros, datos de entrenamiento a alto nivel), métricas de evaluación (en qué benchmarks, con qué resultados, y rendimiento desagregado por subgrupos para detectar sesgos), casos de uso recomendados y casos NO recomendados, limitaciones conocidas (alucinaciones, dominios donde rinde peor), consideraciones éticas y de seguridad, fecha de cutoff de conocimiento. Las system cards, popularizadas por OpenAI con GPT-4 y luego por Anthropic con Claude y Google con Gemini, expanden el concepto: documentan el sistema que el usuario realmente experimenta, incluyendo guardrails, supervisión, capacidades agentic, y resultados de red teaming exhaustivo. Para AI Act, las model cards y system cards encajan como parte de la documentación técnica obligatoria del Anexo IV (alto riesgo) y del Art. 53 (proveedores GPAI). El AI Act Code of Practice exige a proveedores GPAI publicar resúmenes equivalentes.

Por qué importa para tu empresa

Aplicación práctica

Para una empresa que use modelos de terceros, leer la model card o system card del modelo es un paso básico de diligencia. Ahí encontrarás cosas que el marketing no dice: con qué datos se entrenó, en qué tareas rinde mal, qué riesgos conocidos hay, hasta cuándo está actualizado el conocimiento. Para empresas que entrenan o ajustan modelos propios, publicar una model card interna es buena práctica de gobierno IA y parte de los requisitos de ISO/IEC 42001 y del AI Act para alto riesgo. La documentación no es coste: es defensa ante auditoría AESIA, herramienta de comunicación con clientes corporativos exigentes, y memoria institucional para cuando el equipo cambie.

Ejemplo concreto

Caso real

Una pyme española que entrenaba un modelo IA propio para clasificación de documentos legales adoptó la práctica de model cards en 2025. Por cada modelo desplegado interno o vendido a cliente: ficha pública de 4-6 páginas con arquitectura, datos (sin revelar dataset propietario pero describiendo origen, volumen, criterios de calidad), métricas en su benchmark interno desagregadas por idioma y tipo de documento, lista de "no usar para": decisiones legales finales, idiomas no validados, documentos manuscritos. Cuando llegó la auditoría preparatoria al AI Act en marzo de 2026, la documentación técnica del Anexo IV se construyó en 3 semanas en lugar de 3 meses, porque la mayoría ya estaba escrita en las model cards.