Un nuevo proyecto israelí lanzado recientemente intenta combatir la negación del Holocausto en Internet ofreciendo a los usuarios una forma de transmitir información basada en hechos reales a partir del motor generativo de inteligencia artificial (IA) ChatGPT.
"Hoy en día se comparten en las redes sociales cientos de mensajes con distintos niveles de antisemitismo y negación del Holocausto", explica Ofer Nidam, ingeniero aeroespacial, empresario y director del proyecto SAVEE. "Llegan a 7 millones de personas al día. Casi el 80% de ellos permanecen en línea para siempre", añade.
"Aunque millones de personas están expuestas diariamente a este tipo de posts, quienes suelen responder a ellos son los judíos e israelíes que se encuentran con ellos. Pero su impacto es muy pequeño porque no están expuestos a la mayoría de estos posts, e incluso cuando lo están, la influencia de un negacionista del Holocausto que tiene millones de seguidores es mucho mayor que la suya", explica.
El proyecto comenzó como parte de un hackathon destinado a apoyar y mejorar la calidad de vida de los sobrevivientes del Holocausto, junto con la educación y la memoria de la Shoá, que se celebró por tercera vez en marzo.
"Escuche hablar del hackathon y el tema me pareció importante", cuenta Nidam. "Después de inscribirme, me uní a otros dos programadores que no se presentaron el día del evento. Así que formé equipo con otras cinco personas durante el evento y planteamos la idea tras dos horas de brainstorming. Unas 30 horas más tarde, cuando presentamos la demo al jurado, les sorprendió saber que sólo nos habíamos visto por primera vez un día antes", confiesa.
4 צפייה בגלריה
¿Es posible luchar contra el antisemitismo a través de la inteligencia artificial?
(Shutterstock)
El nuevo proyecto ganó el primer premio del certamen después de que la demo presentara un bot que se puede etiquetar en Twitter y que redacta respuestas a publicaciones hechas por negacionistas del Holocausto.
¿Cómo funciona? Dado un post con información falsa sobre el Holocausto, en la primera etapa, SAVEE analiza el contenido del mismo.
El análisis se basa en Botify, un proyecto de Eliyah Livshitz, uno de los miembros del equipo del proyecto, que permite crear bots basados en documentos y funciona mediante la API (interfaz de programación de aplicaciones) ChatGPT.
"Primero intentamos entender de qué habla el mensaje, por ejemplo, la Noche de Cristal, los guetos, etc.", explica Nidam. En la siguiente fase, se pide a la herramienta que formule una respuesta a la afirmación basándose únicamente en fuentes fiables predefinidas, como el sitio web de Yad Vashem. "Una de las cosas que queremos garantizar es que lo que decimos sea fiable al 100%", sostiene.
La precisión no es el único parámetro importante para la respuesta.
"La respuesta del sistema debe cumplir varios parámetros: debe intentar utilizar un lenguaje considerado y amable, sin sonar sentencioso ni combativo", advierte.
"Nuestro objetivo no es convencer a las personas que están detrás de los posts", dice Nidam, "sino llegar a la gente que está expuesta a ellos". Una respuesta positiva que intente destacar las causas de los errores cometidos para que la gente se piense dos veces lo que debe creer", afirma.
"Además, buscamos construir una herramienta potente para las personas que están expuestas a este tipo de publicaciones en las redes. Un complemento que pueda encontrar fuentes de información, formular la respuesta por ellos y proporcionarles una visualización para que puedan copiar y pegar una respuesta ganadora contra la desinformación en los medios sociales", agrega.
"La ventaja del bot que hemos desarrollado es que es muy automático, no hay que hacer nada más que etiquetarlo", explica Nidam. "Pero si queremos que funcione en todas las plataformas de medios sociales, requiere construir un nuevo sistema para cada una, mientras que un simple complemento se conecta al navegador de forma independiente y se abre cuando lo necesitamos".
"Esto también tiene un inconveniente", dice. "Muchas aplicaciones de redes sociales están en el móvil y el bot no está integrado allí. Pero actualmente no hay suficientes personas luchando contra la abrumadora cantidad de desinformación en las plataformas, y nosotros podemos darles las herramientas que necesitan para hacerlo", plantea.
Ofer añade que SAVEE quiere colaborar con la Liga Antidifamación y Yad Vashem, con quienes estuvieron en contacto durante el hackathon. Uno de los problemas conocidos de la IA generativa es que a veces los modelos "alucinan" con la información.
4 צפייה בגלריה
¿Es posible luchar contra el antisemitismo a través de la inteligencia artificial?
(Shutterstock)
"En ChatGPT, se pueden definir límites que la IA debe tener en cuenta al responder", explica. "Así, si le decimos que solo puede basarse en un tipo de datos, no se le ocurrirá nada que no exista", suma.
Actualmente, la herramienta ayuda a los usuarios que se encuentran con publicaciones falsas y problemáticas, pero en la siguiente fase de SAVEE, los desarrolladores están interesados en evolucionar la herramienta para que también pueda buscar de forma independiente en las redes sociales y responder automáticamente a dichas publicaciones.
