¿Cómo detectar imágenes deepfake generadas por IA?

La falsificación de la IA se está convirtiendo rápidamente en uno de los mayores problemas a los que nos enfrentamos en línea. Las imágenes, vídeos y audios engañosos están proliferando como resultado del aumento y el uso indebido de las herramientas de inteligencia artificial generativa.

Con los deepfakes de IA apareciendo casi todos los días, que representan a todos, desde Taylor Swift hasta Donald Trump, cada vez es más difícil distinguir lo que es real de lo que no lo es. Los generadores de vídeo e imágenes como DALL-E, Midjourney y Sora de OpenAI facilitan a las personas sin conocimientos técnicos la creación de deepfakes: simplemente escriba una solicitud y el sistema la escupirá.

Estas imágenes falsas pueden parecer inofensivas. Pero pueden utilizarse para llevar a cabo estafas y robo de identidad o propaganda y manipulación electoral.

Aquí se explica cómo evitar ser engañado por deepfakes:

CÓMO DETECTAR UN DEEPFAKE
En los primeros días de los deepfakes, la tecnología estaba lejos de ser perfecta y a menudo dejaba signos reveladores de manipulación. Los verificadores de datos han señalado imágenes con errores obvios, como manos con seis dedos o anteojos con lentes de formas diferentes.

Pero a medida que la IA ha mejorado, se ha vuelto mucho más difícil. Algunos consejos ampliamente compartidos, como buscar patrones de parpadeo antinaturales entre las personas en videos deepfake, ya no son válidos, dijo Henry Ajder, fundador de la consultora Latent Space Advisory y destacado experto en IA generativa.

Aún así, hay algunas cosas que buscar, dijo.

Muchas fotografías deepfake de IA, especialmente de personas, tienen un brillo electrónico, «una especie de efecto suavizante estético» que deja la piel «con un aspecto increíblemente pulido», dijo Ajder.

Sin embargo, advirtió que las indicaciones creativas a veces pueden eliminar este y muchos otros signos de manipulación de la IA.

Comprueba la consistencia de las sombras y la iluminación. A menudo, el sujeto está claramente enfocado y parece convincentemente realista, pero los elementos del fondo pueden no ser tan realistas o pulidos.