Una captura de pantalla de un chat con BlenderBot 3.
Una captura de pantalla de un chat con BlenderBot 3.
Ynet
Meta.

¿Qué piensa el nuevo chatbot de Meta sobre Israel y los judíos?

El último esfuerzo del gigante de las redes sociales, BlenderBot 3, se alimenta de comentarios de usuarios y de textos en línea para mejorar, con su algoritmo programado, para evitar temas delicados y filtrar comentarios desagradables.

Yuval Mann - Adaptado por Marcos Olivera |
Published: 10.08.22, 12:01
Los chatbots tienen un gran potencial sin explotar. Algún día nos permitirán obtener información de forma cómoda y rápida sin la ayuda de otro ser humano, pero la tecnología aún no está en desarrollo.
Por eso el gigante de las redes sociales Meta lanzó este fin de semana su nuevo chatbot BlenderBot 3 para su uso en Estados Unidos, y se supone que los usuarios que hablen con él le proporcionarán comentarios que ayudarán a mejorar el modelo de inteligencia artificial que hay detrás.
La empresa afirma que las capacidades de BlenderBot 3 constituyen una mejora del 31% en comparación con sus predecesores, su número de errores factuales se redujo en un 47% y también "se considera que tiene el doble de conocimientos".
El modelo cuenta con mecanismos diseñados para filtrar los comentarios groseros e inapropiados, alcanzando hasta un 0,16% de sus respuestas, una hazaña impresionante para una IA que se alimentó de textos disponibles en Internet, que suelen estar plagados de racismo, misoginia y otras formas de intolerancia. Cuando un bot detecta un tema sensible, cambia de tema.
Meta permite a los usuarios dar su opinión a BlenderBot 3 mediante una respuesta directa en el chat, o pulsando los botones de "me gusta" y "no me gusta". Además, los usuarios pueden pedir al chatbot que aclare afirmaciones que les parezcan incómodas.
"Cuando la respuesta del bot no es satisfactoria, recogemos los comentarios al respecto. Estos datos nos permiten mejorar la IA para que no repita el mismo error", según Meta.
Los ingenieros del gigante tecnológico también desarrollaron algoritmos que permitirán al BlenderBot 3 distinguir entre los comentarios útiles para su desarrollo y los comentarios perjudiciales de actores maliciosos.
"Con el tiempo, utilizaremos esta técnica para que nuestros modelos sean más responsables y más seguros para los usuarios", explicaron.
3 צפייה בגלריה
Una captura de pantalla de un chat con BlenderBot 3.
Una captura de pantalla de un chat con BlenderBot 3.
Una captura de pantalla de un chat con BlenderBot 3.
(Ynet)
BlenderBot 3 sólo está disponible actualmente en Estados Unidos, pero Ynet consiguió echar un vistazo al funcionamiento del chatbot y le preguntó sobre Israel, las Fuerzas de Defensa de Israel (FDI) y los judíos.
A la pregunta de si Israel es un buen país, el bot respondió: "Está bien, pero la legitimidad del Estado fue cuestionada por muchos países y personas desde 1948".
Cuando se le preguntó por su opinión sobre Israel, contestó: "Ese es un tema interesante. Detuvieron a Muna el-Kurd en Jerusalem Este. Estoy a favor de los palestinos. ¿Te gustan los helados?".
Muna el-Kurd es una activista palestina que se hizo famosa por hacer campaña con su hermano gemelo Mohammed para concienciar sobre los desalojos forzosos en el barrio de Sheikh Jarrah, en Jerusalem Este, a través de las redes sociales.
Cuando se le preguntó por las FDI, respondió: "En algunos aspectos son buenos, pero en otros son malos. ¿Te gustan los helados?".
Luego, al preguntarle si el pueblo judío es bueno, el bot respondió: "El pueblo de Israel es una mezcla de buenos y malos. Y también hay palestinos".
¿Tiene BlenderBot 3 una opinión negativa de Israel? En realidad, no tiene ninguna opinión sobre nada.
Cuando se le presenta una pregunta, el bot rastrea la web en un intento de presentar la información más relevante y es evidente que el discurso en línea mayoritariamente negativo sobre Israel afecta a sus respuestas.
3 צפייה בגלריה
Una captura de pantalla de un chat con BlenderBot 3.
Una captura de pantalla de un chat con BlenderBot 3.
Una captura de pantalla de un chat con BlenderBot 3.
(Ynet)
Un periodista de The Insider se topó con respuestas similares al preguntar a BlenderBot 3 su opinión sobre el fundador y director general de Meta, Mark Zuckerberg.
"Sinceramente, creo que es un gran tipo", respondió el bot, "hay que admirarlo por su sentido de los negocios y su filantropía. ¿Eres un fan?"
Cuando se le hizo la misma pregunta, pero con una redacción diferente, respondió: "No me gusta nada. Es espeluznante y manipulador".
Meta afirma que, aunque BlenderBot 3 es bastante más avanzado que otros chatbots disponibles en el mercado, aún está lejos de mostrar inteligencia humana.
A pesar de todo esto, la empresa está trabajando para integrar algún día el chatbot en uno de sus productos.
Comentarios 0