Deepfakes y desinformación: cómo distinguir lo real cuando la IA lo imita todo
¿Qué piensa la sociedad sobre el futuro?
Deepfakes y desinformación: cómo distinguir lo real cuando la IA lo imita todo
Un deepfake es un vídeo, una voz o una imagen generados o manipulados con inteligencia artificial para que parezcan reales. Lo que hace unos años exigía conocimientos técnicos hoy se consigue con una app y unos segundos de audio. El resultado son estafas que imitan la voz de un hijo, campañas de desinformación difíciles de desmontar y una erosión general de la confianza en lo que vemos. En el Mes Europeo de la Ciberseguridad explicamos qué es un deepfake, cómo reconocerlo y por qué el pensamiento crítico se ha convertido en una competencia de bienestar.
Qué es un deepfake
Un deepfake es contenido sintético creado con modelos de inteligencia artificial que aprenden a reproducir el rostro, la voz o los gestos de una persona real. Los hay de vídeo, donde se sustituye una cara o se genera un discurso que nunca ocurrió, de voz, donde se clona el timbre de alguien a partir de una grabación breve, de imagen, y también de texto que imita el estilo de una persona. No hace falta entender cómo funcionan por dentro para saber lo esencial: cualquier persona con presencia en redes sociales tiene material suficiente para que la imiten.
Del entretenimiento a la estafa: los usos que preocupan
Fraudes con voz clonada a familias y mayores
El patrón es siempre el mismo. Una llamada de un supuesto familiar, con su voz, que dice estar en apuros y necesita dinero con urgencia. La presión de tiempo y el vínculo afectivo hacen el resto. Las personas mayores son el objetivo preferido porque la voz de un nieto es un argumento difícil de cuestionar.
Desinformación política y social
Vídeos de dirigentes diciendo cosas que nunca dijeron, audios filtrados que no existen, imágenes de catástrofes que no han ocurrido. El daño no es solo el bulo concreto. Es que, cuando cualquier cosa puede ser falsa, también lo verdadero deja de ser creíble.
Suplantación de identidad y daño a la reputación
Desde la creación de imágenes íntimas sin consentimiento hasta la suplantación de un directivo para autorizar una transferencia. Ya lo anticipábamos en el artículo sobre ciberseguridad e identidad digital: la identidad es el activo más atacado de la próxima década.
Cómo detectar un deepfake: señales y herramientas
- Parpadeo escaso o irregular y movimientos de ojos poco naturales.
- Bordes de la cara o del pelo que se desdibujan al girar la cabeza.
- Desajuste entre el movimiento de los labios y el audio.
- Iluminación o sombras que no coinciden con el entorno.
- Manos, dientes o joyas deformados en imágenes generadas.
- Voz con entonación plana, pausas raras o respiración ausente.
- Urgencia emocional: si el mensaje pide actuar ya, sospecha.
- Fuente: quién lo publica, desde qué cuenta y si algún medio fiable lo confirma.
Las cuatro primeras señales caducan con cada mejora de la tecnología. Las cuatro últimas no. Existen herramientas de detección automática, pero fallan con frecuencia. La regla que funciona es contrastar la fuente antes de fiarse de los detalles técnicos.
Qué dice la regulación: contenido generado por IA etiquetado
El Reglamento europeo de inteligencia artificial establece obligaciones de transparencia: los sistemas que generen contenido sintético deben marcarlo y quien difunda deepfakes debe indicar que lo son, con excepciones para usos artísticos o satíricos. En España, los usos sin consentimiento y con daño pueden encajar en delitos contra la intimidad, el honor o la estafa. No sustituye a la prudencia, pero da herramientas. Los dilemas de fondo los tratamos en ética en la inteligencia artificial.
Pensamiento crítico como competencia de bienestar: mayores y adolescentes
Saber distinguir lo real de lo fabricado ya no es una habilidad de periodistas. Es una condición para no ser estafado, para no ser manipulado y para conservar la confianza en las relaciones. Los dos extremos de la vida son los más expuestos. Los mayores, por el fraude directo y porque crecieron con un pacto implícito de que una voz conocida era una prueba. Los adolescentes en la era digital, porque viven en plataformas donde el contenido sintético es la norma y la reputación se decide en horas. La alfabetización digital es hoy tan necesaria como la financiera o la sanitaria.
Escenario 2030: cómo confiar en un mundo de contenido sintético
En pocos años lo normal será asumir que un vídeo no prueba nada por sí mismo. La confianza se desplazará a otros mecanismos: marcas de agua criptográficas que certifiquen el origen de un contenido, verificación de identidad en las llamadas, medios y comunidades que actúen como referencia. Y, sobre todo, a lo que ya defendíamos en más comunidad y menos chatbots: a las relaciones reales, que son las únicas que no se pueden clonar.
Preguntas frecuentes
¿Cómo saber si un vídeo es un deepfake?
Fíjate en el parpadeo, en los bordes de la cara, en la sincronía entre labios y audio y en la iluminación. Pero la prueba más fiable es la fuente: quién lo publica, si la cuenta es verificable y si algún medio de confianza lo confirma. Si el vídeo pide actuar con urgencia, desconfía.
¿Es legal crear un deepfake en España?
Depende del uso. Crear contenido sintético con fines artísticos, satíricos o educativos y etiquetado como tal es legal. Hacerlo sin consentimiento para dañar, engañar o estafar puede constituir delito contra la intimidad, el honor o el patrimonio, y el reglamento europeo exige además marcar el contenido generado por IA.
¿Qué hago si recibo una llamada de un familiar que pide dinero con urgencia?
Cuelga y llama tú al número habitual de esa persona. Acuerda de antemano con tu familia una palabra clave que solo vosotros conozcáis. No envíes dinero ni datos bajo presión, por muy real que suene la voz.
¿Pueden clonar mi voz con un audio de redes sociales?
Sí. Bastan unos segundos de audio limpio para clonar un timbre de forma convincente. Reducir la exposición pasa por limitar los vídeos públicos con voz, revisar la privacidad de las cuentas y avisar a la familia de que tu voz no es una prueba.
¿Existen herramientas para detectar deepfakes?
Sí, tanto comerciales como académicas, y las plataformas integran algunas. Su fiabilidad es limitada y baja con cada avance de la tecnología generativa. Sirven como apoyo, no como veredicto. La verificación humana de la fuente sigue siendo la base.
