Riesgos y limitaciones

Detección de deepfakes

La detección de deepfakes es el conjunto de técnicas y herramientas para identificar contenidos sintéticos generados con IA (vídeos manipulados, audios clonados, imágenes generadas) que se hacen pasar por reales. Es una carrera permanente entre generadores cada vez mejores y detectores que tienen que evolucionar al mismo ritmo.

Por Ana María González Actualizado: 9 de mayo de 2026

Definición rápida

Respuesta directa

Explicación ampliada

Los detectores se basan en distintos enfoques. Detectores de artefactos: buscan defectos sutiles que los generadores dejan (parpadeo irregular en vídeos, texturas en piel, sincronía labial imperfecta, frecuencias alteradas en audio). Detectores semánticos: buscan inconsistencias en el contexto (luz que no coincide entre cara y entorno, sombras imposibles, elementos físicamente erróneos). Detectores estadísticos: analizan distribuciones de píxeles, frecuencias, ruido para ver si encajan con cámara real o con generación sintética. Detectores con modelos: clasificadores entrenados con datasets enormes de deepfakes vs reales (Deepware, Sensity, Reality Defender, DeepFake-o-meter). El estándar de coalición C2PA aborda el problema desde el otro lado: en lugar de detectar lo falso, certificar lo verdadero con metadata firmada en origen. La realidad cruda: en 2026 ningún detector es 100% fiable; los mejores generadores frontera (Sora, Veo, Runway, HeyGen) producen vídeos que detectores actuales fallan en ~10-30% de los casos, y la cifra empeora con compresión de redes sociales que destruye señales sutiles. Por eso la respuesta industrial está girando hacia C2PA y procedencia firmada en lugar de detección a posteriori.

Por qué importa para tu empresa

Aplicación práctica

Para una empresa, la detección de deepfakes importa en tres ámbitos. Primero, prevención de fraude: voz clonada, vídeos falsos del CEO, identidad sintética en KYC. Las herramientas comerciales (Reality Defender, Sensity, ID R&D) integran APIs para verificar identidad y contenidos en flujos críticos. Segundo, defensa reputacional: detectar deepfakes propios circulando rápidamente para responder. Tercero, cumplimiento del AI Act Art. 50 si tu empresa genera contenido sintético: marca tus contenidos para que no se confundan con reales. La práctica mínima: protocolo "verificación por canal alternativo" para instrucciones financieras o sensibles recibidas por voz/vídeo, sin importar lo convincente que parezca el original.

Ejemplo concreto

Caso real

Un banco regional español adoptó en 2026 una herramienta de detección de deepfakes en su flujo KYC remoto (apertura de cuenta vía vídeo). El sistema (Reality Defender API integrada en su ID provider) clasificaba cada vídeo de selfie como real, sospechoso o sintético. Tasa de detección sobre intentos reales de fraude con cara generada: 87%. Falsos positivos sobre clientes legítimos: 0,8%. Coste: ~0,30 € por verificación. Beneficio: 12 intentos de apertura fraudulenta detectados en el primer trimestre, daños evitados estimados en 180.000 €. Los 0,8% de falsos positivos pasaban a verificación humana adicional, fricción aceptable. La inversión amortizada en menos de un mes.