Deepfakes: El auge de los vídeos manipulados mediante IA
Los deepfakes son vídeos manipulados generados mediante inteligencia artificial que imitan rostros y voces. Su uso malicioso ha sido documentado en incidentes cibernéticos según el CCN-CERT y ENISA.
Qué son los deepfakes y cuál es su alcance
Los deepfakes constituyen contenido audiovisual sintético creado mediante algoritmos de aprendizaje profundo. El término fusiona las palabras inglesas «deep learning» y «fake», reflejando su base tecnológica y naturaleza engañosa. Según INCIBE, se distinguen de las manipulaciones tradicionales porque sintetizan material ex novo que simula acciones o declaraciones nunca realizadas por el sujeto representado, en lugar de modificar fotogramas existentes. Esta característica incrementa los desafíos para su identificación, ya que no presentan alteraciones detectables en el material original.
El CCN-CERT ha destacado que la evolución tecnológica ha reducido drásticamente los recursos computacionales necesarios, permitiendo su creación mediante aplicaciones móviles de fácil acceso. No obstante, estas técnicas también tienen usos legítimos en la industria audiovisual para doblaje o efectos especiales, siempre bajo marcos legales que garantizan el consentimiento y los derechos de imagen. La frontera entre uso legítimo y abuso radica en la intencionalidad y el cumplimiento normativo, aspectos que la Agencia Española de Protección de Datos (AEPD) evalúa en el contexto del Reglamento General de Protección de Datos.
Cómo funcionan los deepfakes: aprendizaje profundo y GANs
El funcionamiento de los deepfakes se fundamenta en arquitecturas avanzadas de redes neuronales, siendo las redes generativas antagónicas (GANs) el paradigma predominante desde su introducción por Ian Goodfellow en 2014. Este modelo emplea dos redes en competencia: un generador que crea contenido sintético y un discriminador que evalúa su autenticidad frente a muestras reales, refinando iterativamente la calidad hasta lograr realismo convincente. Según documentos técnicos de la Agencia Europea de Ciberseguridad (ENISA), variantes modernas como StyleGAN2 permiten un control preciso sobre atributos faciales, facilitando la generación de deepfakes de alta fidelidad incluso con datasets reducidos.
El entrenamiento requiere volúmenes significativos de datos biométricos; para un deepfake facial efectivo se necesitan cientos de imágenes del objetivo en diversas condiciones lumínicas y angulares. En el ámbito auditivo, técnicas de aprendizaje profundo basadas en redes LSTM permiten clonar voces a partir de muestras breves de tan solo tres segundos. Esta versatilidad multiplica los vectores de ataque, desde suplantación en videollamadas hasta la generación de audios para burlar sistemas de autenticación por voz.
Amenazas reales asociadas a los deepfakes
INCIBE ha documentado en 2024 y 2025 casos en España donde atacantes emplearon deepfakes de voz para suplantar a directivos en llamadas telefónicas, autorizando transferencias fraudulentas mediante técnicas de ingeniería social avanzada. Estos ataques, categorizados como «vishing con deepfakes», explotan la confianza en comunicaciones aparentemente auténticas y la presión temporal para eludir protocolos de verificación. A nivel geopolítico, informes de ENISA han identificado campañas de desinformación utilizando vídeos manipulados para difundir declaraciones falsas atribuidas a figuras políticas, con el objetivo de influir en procesos electorales.
Un caso verificado durante las elecciones europeas de 2024 involucró la circulación en redes sociales de deepfakes mostrando a candidatos pronunciando mensajes extremistas inexistentes, detectados gracias a la colaboración entre CERTs nacionales y plataformas digitales. En el contexto de ciberseguridad personal, se han registrado casos de sextorsión mediante generación de material íntimo falso. El CCN-CERT ha señalado que la combinación de deepfakes con técnicas de phishing dirigido incrementa significativamente las tasas de éxito de los ataques, especialmente cuando se dirigen a empleados con acceso a sistemas críticos.
Cómo detectar deepfakes: métodos técnicos y herramientas forenses
La identificación de vídeos manipulados mediante deepfakes requiere un enfoque multidisciplinar que integra detección forense digital y algoritmos especializados de inteligencia artificial. Los métodos tradicionales analizan inconsistencias físicas como parpadeo anómalo, iluminación no congruente con la escena o sombras improbables en bordes faciales. Sin embargo, la mejora continua de los generadores ha reducido drásticamente estas evidencias visuales obvias, obligando al desarrollo de detectores basados en redes neuronales entrenadas para identificar huellas digitales sutiles, como patrones de ruido específico o correlaciones anómalas en el dominio frecuencial.
Proyectos europeos como AI4Media, financiado por Horizonte Europa, han contribuido a prototipos de herramientas que examinan metadatos y características espectrales para clasificar contenido sintético. No obstante, según evaluaciones publicadas por ENISA en 2025, ninguna solución actual garantiza una tasa de detección del cien por cien, existiendo riesgos de falsos positivos que podrían afectar a contenido legítimo. Para el ciudadano, INCIBE recomienda en sus guías mantener escepticismo crítico ante contenidos virales sensacionalistas y verificar siempre su procedencia a través de fuentes oficiales o herramientas de fact-checking reconocidas, sin depender exclusivamente de la percepción visual.
Marco regulatorio sobre deepfakes en España y la Unión Europea
La respuesta normativa ante los deepfakes se articula principalmente a través del Reglamento de Inteligencia Artificial de la Unión Europea (Reglamento (UE) 2024/1689), publicado en el Diario Oficial de la Unión Europea el 12 de julio de 2024. Este marco clasifica los sistemas generadores de contenido sintético destinado a engañar como sistemas de riesgo limitado y exige obligaciones de transparencia, incluyendo etiquetado claro que indique su naturaleza artificial, especialmente cuando afectan a procesos democráticos o derechos fundamentales.
En España, la Agencia Española de Protección de Datos (AEPD) ha emitido una guía técnica sobre el tratamiento de datos biométricos en IA generativa, destacando que la creación de deepfakes sin consentimiento puede constituir infracción del RGPD, con implicaciones para el derecho a la propia imagen. El CCN-CERT integra la vigilancia de estas amenazas en su sistema de alerta temprana, colaborando con el CERT-EU para compartir tácticas, técnicas y procedimientos observados en incidentes reales. La efectividad regulatoria dependerá de la capacidad de las autoridades para adaptarse al ritmo de innovación tecnológica.
Preguntas frecuentes sobre deepfakes
¿Qué son los deepfakes?
Los deepfakes son vídeos o audios manipulados mediante inteligencia artificial que imitan rostros y voces de personas reales. Según INCIBE, se generan mediante algoritmos de aprendizaje profundo que sintetizan contenido nuevo, simulando acciones o declaraciones nunca realizadas por el sujeto representado.
¿Son ilegales los deepfakes en España?
La legalidad depende del uso y consentimiento. La AEPD señala que crear deepfakes sin autorización puede infringir el RGPD y el derecho a la propia imagen. El Reglamento de Inteligencia Artificial de la UE exige etiquetado claro para contenido sintético destinado a engañar.
¿Cómo puedo saber si un vídeo es un deepfake?
INCIBE recomienda verificar la procedencia mediante fuentes oficiales y herramientas de fact-checking. Los métodos forenses analizan inconsistencias como parpadeo anómalo o iluminación incongruente, aunque detectores especializados son necesarios ante deepfakes avanzados.
¿Qué hago si soy víctima de un deepfake?
El CCN-CERT aconseja denunciar el incidente a las autoridades competentes y contactar con la Agencia Española de Protección de Datos. Además, se recomienda preservar evidencias digitales y notificar a plataformas donde se difunda el contenido para su retirada.
