La detección de’deepfakes’, esto es, vídeos, fotos o audios sintéticos generados con inteligencia artificial con fines engañosos, es un desafío creciente. A medida que avanza la tecnología, los resultados de estas falsificaciones se han perfeccionado de tal manera que resulta complejo distinguir qué es real y qué ha sido manipulado.
Identificar las imágenes y vídeos ‘ultrafalsos’ es una tarea compleja, pero cuando hablamos de audio es muchas veces prácticamente imposible. Las capacidades del oído humano no son suficientes para distinguir si estamos ante una voz real o clonada, y es preciso a recurrir a herramientas de inteligencia artificial como VerificAudio para intentar discernir ante qué nos encontramos.
A continuación, recopilamos algunas recomendaciones que pueden servir para sospechar si ese archivo que nos ha llegado por WhatsApp o que hemos visto en redes sociales puede estar manipulado.
Qué buscar en vídeos sospechosos
En el caso de fotografías o vídeos, estos son algunos consejos citados reiteradamente por expertos como el Lisa Institute o el Instituto Nacional de Ciberseguridad (Incibe) para detectar un ‘deepfake’:
- Incongruencias faciales: Buscar fallos o pequeñas diferencias en las expresiones faciales, si hay desincronización entre el audio y el movimiento de los labios, o si no coinciden las expresiones de la cara con lo que el hablante está diciendo.
- Análisis de características faciales: Por ejemplo, fijarse en cuántas veces parpadea la persona de la imagen, ya que en un ‘deepfake’ a menudo parpadea menos veces de las que lo haría una persona en un vídeo real. También es importante revisar cuidadosamente las texturas, como puede ser la piel, ya que en los deepfakes puede semejar artificial, con una falta de imperfecciones que se encuentran en personas reales.
- Detalles borrosos o distorsionados: Las áreas alrededor de la cara pueden aparecer desenfocadas o con bordes poco naturales, en especial si se trata de un caso donde se ha sustituido la cara. También es útil fijarse con detalle si las características del cuerpo coinciden con las de la persona real; de lo contrario, es una pista más de que se trata de un archivo falso.
- Falta de Movimiento Natural: Los movimientos corporales pueden ser rígidos o poco fluidos, lo que delata la manipulación.
- Cambios en la iluminación: Un ‘deepfake’ puede presentar problemas de iluminación. Las sombras y los reflejos a veces no se alinean correctamente.
- Duración del archivo: A menudo los ‘deepfakes’ duran unos segundos porque el proceso de aprendizaje que debe seguir el algoritmo lleva mucho trabajo. “Un vídeo demasiado corto y con un contenido inverosímil puede darnos también una pista de que estamos ante una ‘deepfake’”, señalan desde Lisa Institute.
Cuándo sospechar de un audio
Como hemos mencionado, la detección de ‘deepfakes’ sonoros es a menudo más compleja que la de los archivos con elementos visuales. Estas son algunas recomendaciones que nos pueden ayudar:
- Inconsistencias en el Tono y la Entonación: Presta atención a cambios abruptos en el tono o en la cadencia del habla que parecen fuera de lugar.
- Errores en el Contexto: Un audio deepfake puede incluir palabras o frases que no se ajustan al contexto de la conversación, revelando su falsedad.
- Análisis de Ruido de Fondo: La calidad del sonido puede variar. Los deepfakes a veces carecen de ruido ambiental natural, lo que puede indicar que el audio fue editado.
- Análisis de Frecuencia: Herramientas de análisis espectral pueden detectar diferencias en la frecuencia de la voz que no coinciden con la voz original.
- Reconocimiento de Patrones: Algoritmos de inteligencia artificial están siendo desarrollados para identificar patrones típicos de manipulación en el audio.
