El fenómeno deepfake, que consiste en videos falsos que parecen reales, está a punto de cambiar el mundo real, en el que operan los políticos, los Estados y sus intereses. Esta es la razón por la cual los legisladores estadounidenses están implementando leyes para condenar a los creadores abusivos de este tipo de videos. Mientras tanto, compañías gigantes como Facebook, Amazon y Google, anunciaron una competencia para desarrollar herramientas de inteligencia artificial que permita su identifiación y neutralización.
Deepfake es la tecnología de Inteligencia Artificial (IA) que permite producir videos que cambian los labios o la cara de una persona, para que diga o haga las cosas que quien está haciendo el video quiera. Los primeros videos fueron humorísticos, y aparecieron en línea hace unos dos años. Pero con el paso del tiempo, los mismos se han transformado en una herramienta realmente maliciosa. La tecnología permite que los videos deepfake se vean muy reales, y los mensajes que se transmiten a través de ellos pueden afectar fácilmente a grandes audiencias: consumidores, votantes y tomadores de decisiones.
Según el profesor XXX de la Universidad de California del Sur, uno de los principales expertos en la materia, dentro de seis meses el ojo humano no podrá diferenciar entre un video auténtico y uno falso.
El número de videos deepfake en línea ha aumentado un 84% durante el año pasado. La gran mayoría son películas pornográficas, donde la cara de la actriz original es reemplazada por la cara de una estrella de cine conocida. Otros videos deepfake fueron creador para diversión o sátira. Por ejemplo, comediantes los realizan imitando a celebridades en la red.
Los legisladores estadounidenses están tratando de abordar el problema a través de una legislación que impone sanciones a la propaganda política fake durante la campaña. Para ello se está invirtiendo mucho esfuerzo y se intentan desarrollar herramientas confiables que ayudarán a identificar los videos deepfake rápidamente.
Los jugadores hablan
En las elecciones estadounidenses del 2016, Facebook sirvió como plataforma para miles de informes de Fake News dirigidos a votantes específicos. Desde entonces, hoy hay un 10% más de información que el público estadounidense obtiene desde las plataformas sociales, por lo que el impacto "Fake" en el 2020 podría ser fatal.
El mes pasado, Google, que también está detrás de YouTube, anunció el lanzamiento de 3.000 videos que parecen completamente auténticos, pero solo algunos lo son. El objetivo es entrenar el software de inteligencia artificial para diferenciar entre un video auténtico y otro falso. Para esto se ha instalado FaceForensics, que Google apoya en asociación con las universidades de Munich y Nápoles.
Facebook lanzó una iniciativa aún más amplia: en mayo de este año, la compañía anunció el "Deepfake Identification Challenge" (DFDC), diseñado para incentivar a las empresas e investigadores de la academia, para desarrollar tecnologías de detección. Se otorgarán al menos 10 millones de dólares a los ganadores.
Amazon, por su parte, también se sumó a la lucha contra el DeepFake. La empresa se ha unido al Comité Organizador del desafío DFDC, y apoyará profesionalmente a los equipos de desarrollo.
Otra compañía que ya ha anunciado que se unirá a Facebook es Adverify, que pertenece al israelí Or Levy. La empresa está trabajando actualmente en la identificación de Fake News, pero para el desafío recientemente ha reclutado a un equipo de cinco nuevos profesionales de desarrollo.
Según Levy, hoy solo un pequeño número de empresas nuevas se especializan en deepfake: "Estos son principalmente académicos que consideran que esto es un desafío, o agencias gubernamentales, pero que yo sepa, hoy no hay ninguna empresa que ofrezca una solución comercial completa y confiable, espero que el desafío que Facebook lleva adelante, traiga mucho dinero y publiidad al mercado".
El Departamento de Defensa de los Estados Unidos también está muy preocupado por la cantidad de videos deepfake. Mark Turk, director del Proyecto de Investigación de Medios Foreneses indica que hay 70 técnicas diferentes que se están probando. Por ejemplo, un software que compara los movimientos de los labios con la banda sonora del video, y determina si existe una compatibilidad completa entre ellos, u otro software que busca diferencias de iluminación.
