Una bebé de dos meses yace entre los escombros de un edificio bombardeado en la Franja de Gaza, sin ningún adulto que lo ayude. No es de extrañar que los usuarios propalestinos hayan compartido esta imagen en las plataformas de redes sociales en las últimas semanas, en un intento de amplificar la tragedia palestina en todo el mundo. La imagen en sí, sin embargo, es falsa.
Una verificación realizada por la startup israelí Tasq.ai reveló inequívocamente que la foto fue generada por un generador de imágenes basado en inteligencia artificial. Una breve búsqueda en Internet reveló que la imagen fue publicada en la red social LinkedIn hace nueve meses, mucho antes de la guerra de Israel contra Hamas.
Este fenómeno sigue estando al margen: la mayoría de los difusores de contenidos falsos en las redes sociales prefieren compartir imágenes de conflictos anteriores, como los de Ucrania o Siria, o incluso de videojuegos, presentándolos como documentación auténtica de Israel o Gaza.
Sin embargo, a medida que la guerra continúa, cada vez aparecen más imágenes generadas artificialmente que representan eventos que nunca tuvieron lugar en las redes sociales. Esta tendencia se suma al caos y la confusión que rodea a la guerra, lo que dificulta que los usuarios de Israel y de todo el mundo comprendan una imagen clara de lo que en realidad está sucediendo.
En la foto que antecede este párrafo, se ve una conmovedora documentación de una familia que escapa de los bombardeos israelíes en la Franja de Gaza. Los ojos del padre están cerrados, su rostro cubierto de polvo, cargando a cuatro niños en su cuerpo y sosteniendo la mano de un niño de 5 años. Es un doloroso testimonio del sufrimiento palestino en la guerra.
Ahora, si vemos el lado izquierdo de la imagen: ¿podría ser que una de las piernas de los niños se asoma por una tercera manga que sobresale de la camisa del padre? ¿Y por qué el bebé sólo tiene tres dedos en el pie izquierdo? En una inspección cercana, está claro que esta imagen también es falsa.
Esta práctica no es exclusiva del lado palestino: en las últimas semanas también han circulado imágenes generadas por inteligencia artificial por usuarios israelíes. Mientras que en el lado palestino se utiliza la tecnología para fabricar imágenes espeluznantes, parece que en el lado israelí el objetivo es levantar la moral presentando imágenes de soldados en Gaza, enfrentándose valientemente al enemigo y rescatando cautivos. El problema es que estas imágenes siguen difundiéndose en las redes sociales sin indicación sobre su creación, y pueden inducir a error a algunos usuarios, especialmente a aquellos que no viven en Israel.
En una de estas imágenes se ve a soldados de las FDI caminando entre las ruinas de la Franja de Gaza con banderas israelíes en las manos. A primera vista, es una imagen bastante convincente, pero si se examina más de cerca se puede ver que algunas de las banderas no presentan la estrella de David, sino otro símbolo, un error típico de los generadores de imágenes de IA.
En otra imagen, los soldados de las FDI parecen estar regresando de una operación en la que aparentemente liberaron a dos mujeres jóvenes y tres niños pequeños del cautiverio de Hamás. Sin embargo, algunos detalles de la imagen, como los rostros distorsionados de uno de los soldados y el gran parecido entre algunas de las figuras, indican que esta imagen fue generada por inteligencia artificial.
Este fenómeno no habría sido posible si en los últimos dos años no se hubieran desarrollado herramientas de inteligencia artificial como DALL-E, Midjourney y Stable Diffusion. Estas herramientas son capaces de crear imágenes totalmente realistas basadas en descripciones textuales.
Cualquiera puede escribir una línea como "Dos niños palestinos cubiertos de sangre de pie entre los escombros de un edificio en la Franja de Gaza junto al cuerpo de su madre", y el generador hará lo que quiera.
10 צפייה בגלריה
En esta imagen falsa de festejos en las calles israelíes se ve que los carteles no están en hebreo.
(Ynet)
Se puede acceder a estos generadores de imágenes de forma gratuita o por una tarifa nominal de u$d 10 por mes y, con el tiempo, continúan mejorando, produciendo resultados cada vez más convincentes. Uno de sus problemas más destacados, los dedos humanos muy distorsionados, se ha resuelto casi por completo en las últimas versiones de las herramientas.
Estos generadores de imágenes ayudan a las empresas, organizaciones y diseñadores a crear material de forma rápida y a bajo costo, pero también permiten a grupos maliciosos crear imágenes falsas de políticos, figuras públicas y celebridades.
10 צפייה בגלריה
Esta imagen falsa de un bebé durante una explosión en Gaza también se difundió.
(Ynet)
En un mundo así, es difícil para los usuarios distinguir entre lo que es real y lo que es falso, lo que lleva a sospechar de todo lo que se ve. "El espectro de los deepfakes es mucho, mucho más significativo ahora: no se necesitan decenas de miles, sólo se necesitan unos pocos, y luego se envenena el pozo y todo se vuelve sospechoso", dijo Hany Farid, profesor de ciencias de la computación en la Universidad de California, Berkeley, a The New York Times.
Imágenes de IA en medios extranjeros
Este problema no sólo se encuentra en las plataformas de redes sociales. Las imágenes falsas de la guerra también han llegado a sitios web de noticias extranjeros después de ser compradas a Adobe Stock, que vende imágenes profesionales a organizaciones y medios de comunicación.
En una búsqueda en la plataforma de Adobe esta semana, Ynet encontró imágenes bastante realistas que representaban, entre otras cosas, ataques de las FDI en Gaza, tanques militares en la Franja e incluso niños desenterrados de los escombros u observándolos desde la distancia.
Estas imágenes fueron subidas por los usuarios, no por el propio Adobe, y sus descripciones indican que fueron creadas utilizando IA generativa. El problema es que los sitios web que compran estas imágenes no siempre se molestan en aclarar a sus lectores que no se trata de imágenes reales. Por lo tanto, contribuyen a la confusión que ya rodea a la guerra y desorientan a sus lectores.
Todas las imágenes del artículo con la marca de agua "Fake" fueron identificadas como IA generada por Tasq.ai, que ha desarrollado algoritmos avanzados que incluyen muchos probadores humanos, para acelerar el proceso de entrenamiento de modelos de inteligencia artificial y verificar su calidad después de ser entrenados.
En una inspección realizada por la startup, las imágenes generadas, junto con las genuinas, se distribuyeron a 37 usuarios aleatorios en todo el mundo. Según Tasq.ai, cuando a los usuarios se les presenta una imagen genuina, al menos el 90% la identifica correctamente como tal.
Cuando se muestra una imagen generada, al menos el 20% puede identificarla como falsa. Para obtener una respuesta clara con respecto a las imágenes para las que no existe un acuerdo claro (aquellas para las que entre el 80% y el 90% creen que son reales), es necesario evaluarlas frente a un público de usuarios específico con el contexto relevante para la imagen.
Sólo una imagen logró confundir a los verificadores humanos: el 89% de los usuarios pensó que una imagen que mostraba tiendas de campaña con los colores de la bandera israelí en la playa era genuina. Sin embargo, cuando el archivo fue examinado por usuarios israelíes, ninguno de ellos creyó que fuera una imagen real. Esto subraya la importancia del contexto y el conocimiento temprano y relevante cuando se trata de identificar imágenes generadas por IA.
Cómo distinguir las imágenes generadas por IA
Entonces, ¿cómo se pueden identificar las imágenes creadas con inteligencia artificial? Hay herramientas automatizadas en la web como AI or Not, pero hay que tener en cuenta que no siempre son precisas. La buena noticia es que, en muchos casos, se puede confiar a simple vista.
El CEO de Tasq.ai, Erez Moscovich, recomienda centrarse en los detalles más pequeños. Los dedos, por ejemplo, son elementos que algunos generadores de imágenes luchan por recrear de manera convincente. Comprueba cuidadosamente si hay algo inusual en las caras, los dientes y las orejas de las personas que se ven en la imagen.
Debe tenerse en cuenta que las versiones anteriores de los generadores de imágenes a veces crean rostros con apariencias distorsionadas, mientras que las imágenes generadas por las versiones más nuevas se caracterizan por una piel suave y casi perfecta. El parecido físico inusual entre los individuos en la misma imagen también debería alertarnos sobre su falsedad.
Si la imagen incluye textos o símbolos, se debe verificar cuidadosamente su precisión, ya que ésta también es una vulnerabilidad significativa de los modelos de inteligencia artificial, como se ve en algunas de las imágenes del artículo. Sin embargo, desafortunadamente, los generadores de imágenes están mejorando a velocidades vertiginosas, y no está claro si estos consejos seguirán siendo útiles dentro de unos meses.
