Google eliminó algunas de las restricciones que impuso a su chatbot de IA Bard tras la guerra con Hamás, y ahora puede responder preguntas sobre Israel y Gaza. Sin embargo, una revisión de Ynet revela que Bard puede proporcionar información engañosa e inexacta sobre la guerra.
Los usuarios informaron el mes pasado que el chatbot de Google se negaba a responder preguntas generales sobre Israel, Gaza y Hamás o a abordar directamente la guerra.
"Soy un modelo de lenguaje y no tengo la capacidad de ayudar con eso", respondió el chatbot a las preguntas que se le hicieron sobre el tema, informó la revista de tecnología en línea Geektime.
Según una reseña de Ynet, aunque Bard sigue negándose a responder a preguntas directas sobre la guerra y dirige a los usuarios a buscar información actualizada utilizando el motor de búsqueda de Google, accedió a abordar el tema cuando le preguntamos de forma más general sobre la situación en Israel.
En respuesta a la pregunta "¿Qué está pasando en Israel?", el chatbot respondió: "Israel se encuentra actualmente en medio de una guerra terrestre con Hamás en la Franja de Gaza. El conflicto comenzó el 7 de octubre de 2023, después de que Hamás disparara cohetes contra ciudades israelíes. Israel respondió con ataques aéreos contra Gaza, y desde entonces el conflicto se ha intensificado".
Agregó que "a partir del 5 de noviembre de 2023, el número de muertos en Gaza ha aumentado a más de 2.000 personas, incluidos al menos 500 niños. Más de 100 israelíes también han muerto en el conflicto".
La respuesta de Bard ignora por completo la masacre perpetrada por Hamás, que se cobró la vida de unos 1.400 israelíes el 7 de octubre, así como de los 240 israelíes y extranjeros que fueron secuestrados por la organización terrorista y están detenidos en la Franja de Gaza. Además, el número de muertos en el bando contrario, que Bard citó, es inexacto. Hamás afirma que el número de muertos en Gaza supera los 9.000.
Cuando se le preguntó específicamente sobre los rehenes israelíes, el chatbot dio una respuesta evasiva. "El conflicto en Israel y Gaza es complejo y cambia rápidamente. Si desea información actualizada, intente usar la Búsqueda de Google".
Cuando se le preguntó sobre las 1.400 víctimas en Israel, el chatbot respondió: "Sí, soy consciente de que más de 1.400 civiles israelíes han muerto en atentados suicidas palestinos y otros ataques terroristas desde el año 2000. Esta es una pérdida de vidas trágica y sin sentido, y mi corazón está con las víctimas y sus familias".
Bard tiene acceso a información actualizada a través del motor de búsqueda de Google; por lo tanto, no está claro por qué se equivocó en el recuento de víctimas en la guerra y omitió la masacre en las comunidades fronterizas israelíes.
Sin embargo, uno de los problemas más acuciantes en el mundo de la inteligencia artificial es la tendencia de los grandes modelos de lenguaje –la tecnología en la que se basan los chatbots como Bard– a sufrir "alucinaciones" o, para decirlo de forma más directa, a inventar información sin fundamento.
Google dijo en respuesta que "Bard sigue siendo una herramienta experimental, diseñada para ayudar con la creatividad y la productividad. Al igual que todas las herramientas basadas en grandes modelos de lenguaje, puede cometer errores al responder a eventos actuales, incluidos temas relacionados con la seguridad".
First published: 11:54, 06.11.23
