La Inteligencia Artificial ha circulado por todas partes y, en este punto, es seguro decir que está dando forma a todo lo que nos rodea. Las principales marcas de tecnología como Google, Meta y OpenAI están superando los límites de las herramientas y asistentes basados en IA, abriendo la puerta a infinitos casos de uso y posibilidades. Ahora puede utilizar herramientas de inteligencia artificial para que las pequeñas empresas generen ingresos, creen algunos dispositivos extraños impulsados por inteligencia artificial e incluso generen videos o fotografías ultrafalsos para divertirse de manera inofensiva.
Hace unos años, las herramientas de imágenes de IA eran meras curiosidades que luchaban por producir deepfakes convincentes. Hoy en día, la IA ha avanzado hasta el punto en que se pueden utilizar herramientas de manipulación para generar deepfakes complejos y de alta calidad que son casi imposibles de detectar. Aunque esta tecnología tiene algunos aspectos positivos, desafortunadamente, también ha llegado a manos de personas con intenciones maliciosas. Piense en los delincuentes que podrían aprovechar los deepfakes para difundir información errónea, silenciar a periodistas, humillar a celebridades populares y estafar a personas menos conocedoras de la tecnología. Peor aún, la gente está abusando de los deepfakes hasta el punto de que pruebas fabricadas y manipuladas por IA están llegando a los tribunales.
Conociendo estos riesgos, es muy importante que sepas diferenciar entre una imagen real y una generada por IA. Una de las mejores formas de saber si una imagen es generada por IA o es real es utilizar herramientas basadas en web diseñadas específicamente para esta tarea. Estas incluyen herramientas de detección de deepfake como Attestiv Video Platform, Sensity AI, Reality Defender y Deepware Scanner.
Existen herramientas que pueden ayudar a detectar deepfakes
Estas herramientas utilizan algoritmos de aprendizaje automático para analizar videos, imágenes y audio en busca de inconsistencias sutiles, como iluminación no coincidente, decoloración del color e inconsistencias de píxeles. Incluso puedes utilizar herramientas como el detector SynthID que detecta la presencia de una marca de agua incrustada en el contenido generado por los servicios de inteligencia artificial de Google, como Veo, Imagen, Lyria y Gemini.
Por sorprendentes que parezcan estas herramientas, tienen algunas desventajas bastante importantes. Pueden producir falsos positivos o incluso decir que la imagen es auténtica, cuando en realidad es un deepfake. Esto se debe principalmente a factores como la calidad del vídeo, la falta de expresiones faciales y problemas con los datos de entrenamiento. El avance continuo de los generadores de imágenes de IA y el gran volumen de contenido sintético en línea también podrían afectar el rendimiento en el mundo real de los detectores de deepfake.
Teniendo en cuenta que puede ser un éxito o un fracaso con los detectores de herramientas de deepfake, en caso de duda, las herramientas de Google pueden ayudarle a investigar. Puede utilizar la Búsqueda de Google para rastrear la procedencia de un vídeo o una imagen, o Google Fact Check Explorer para confirmar la credibilidad de una imagen en línea. Alternativamente, puedes probar Bing Visual Search. Es una buena herramienta de búsqueda inversa que le permite invertir una imagen para rastrear la fuente original, encontrar imágenes similares, comparar productos y acceder a otra información relacionada.
Esté atento a estas pistas deepfake
A medida que cada año se lanzan mejores herramientas de detección, las empresas detrás de las herramientas de creación de deepfakes también están encontrando formas más avanzadas de generar deepfakes que evaden la detección. Sabiendo esto, la próxima vez que veas un vídeo o una imagen y te preocupe que haya sido creado por IA, querrás buscar pequeños movimientos corporales que normalmente hacemos sin pensamiento consciente. Cuando se trata de vídeos, es posible que notes pequeñas inconsistencias al parpadear. Se supone que un adulto sano parpadea entre 15 y 20 veces por minuto, en promedio. Entonces, si estás viendo un video y notas que parpadean demasiado, probablemente se trate de un deepfake.
Otra forma de saber si un archivo de vídeo o audio es creado por IA generativa es buscar signos reveladores, como desajustes entre el habla y el movimiento de los labios, inconsistencias visuales y anomalías faciales, como dientes distorsionados. Además, si sospechas de una videollamada, puedes determinar si es falsa pidiéndole a la persona que llama que haga un gesto complejo con la mano o simplemente gire la cabeza. Incluso las mejores aplicaciones generadoras de imágenes de IA no pueden manejar ese tipo de detalles finos, y si se trata de un deepfake, la cara puede deformarse, las orejas pueden estirarse y las gafas y las joyas pueden volverse inestables.
