Degradación silenciosa de modelo

Un sistema tradicional que falla suele dar un error: se cae, devuelve un código, alguien se entera. Un sistema de IA que se degrada a menudo no falla: sigue respondiendo con texto fluido y verosímil, solo que peor. Las causas son varias: deriva de los datos (lo que entra al sistema cambia respecto a lo que se diseñó: nuevos tipos de consulta, vocabulario, casos), actualización del modelo por el proveedor (mejora en general pero cambia comportamiento en tu caso concreto), cambios en el entorno o en los datos de contexto que alimentan el sistema. El peligro es la ausencia de señal: nada se rompe ruidosamente, así que sin medición activa la degradación se acumula durante semanas y se descubre por un daño que ya ocurrió (quejas de clientes, errores detectados tarde, decisiones malas tomadas con respuestas peores). La defensa no es esperar al fallo sino vigilar la calidad de forma continua: un conjunto de casos de control que se ejecuta periódicamente y alerta si la calidad baja de un umbral, métricas de salida monitorizadas, muestreo humano regular de respuestas reales. Para cualquier sistema de IA con responsabilidad real, "funcionaba cuando lo lanzamos" no es garantía de que funcione hoy; sin vigilancia activa, la pregunta no es si se degradará silenciosamente, sino cuándo lo hará y cuánto tardará en notarse.