Mientras que algunas tecnologías emergentes finalmente encuentran su ritmo en 2020, otras están viendo que su popularidad se ha erosionado significativamente. Una de esas tecnologías es el reconocimiento facial. Ya asediado políticamente, el actual cálculo internacional de los derechos civiles ha empujado a algunas grandes entidades comerciales a reducir aún más sus esfuerzos en este campo tecnológico.
A pesar de una encuesta de Pew Research, de 2019, que sugiere que más de la mitad de los adultos estadounidenses confiaron en el uso policial de la TRF, Amazon, IBM y Microsoft se comprometieron recientemente a reducir sus esfuerzos comerciales en el campo.
Amazon incluso pidió una moratoria de un año para proporcionar la tecnología a las fuerzas policiales, aunque dejó abierta la posibilidad de continuar vendiéndola a agentes federales.
Además de estas decisiones comerciales, algunos estados de EE.UU. ya prohíben el uso de la tecnología en cámaras policiales, y las ciudades de Oakland, San Francisco y, más recientemente, Boston, han prohibido completamente el uso de esa tecnología en sus ciudades por parte de la policía federal y la local.
Indicativo del estado de ánimo en el sector político que impulsa estos cambios, una reciente ley de California que busca regular la TRF ha sido criticada por no ir lo suficientemente lejos como para legislar sobre lo que algunos perciben como una "tecnología inherentemente autoritaria".
Otro ejemplo es una nueva propuesta de ley federal, titulada Ley de moratoria de reconocimiento biológico y tecnología biométrica, de 2020, e introducida por los senadores Markey y Merkley. El proyecto de ley tiene como objetivo prohibir temporalmente el uso de la TRF por parte de la policía federal.
Pero, ¿por qué es la TRF de repente tan despreciada y temida? Por un lado, aunque aparentemente es una herramienta útil para combatir el crimen y la violencia, hace tiempo que existe la preocupación de que la TRF está especialmente predispuesta contra las minorías. Ahora, con la creciente reacción contra las tácticas policiales agresivas en general, algunos ven la TRF como otro ejemplo de extralimitación policial.
Como se discutió en una columna anterior, hay toda una gama de TRF a disposición de la policía, incluido, más recientemente, un proyecto de investigación inédito, que se remonta a los primeros días de las fotografías policiales que originalmente tenían la intención de diferenciar diferentes tipos de comportamiento criminal basado en rasgos faciales, que afirman extraer información sobre criminalidad del análisis facial "sin prejuicios raciales". Este no es el primer intento de este tipo en un pasado no muy lejano y varios académicos han firmado peticiones para detener este tipo de investigación.
Sin embargo, incluso si todas las TRF funcionaran tan bien como se prometió y sin prejuicios, todavía existe la preocupación de que la propia policía abuse de la tecnología al sobreestimar su valor como prueba en su trabajo policial. Un ejemplo reciente involucró el arresto de un hombre negro en su jardín frente a su familia por robo de joyas por parte de agentes de policía de Detroit. Robert Williams estuvo recluido durante más de un día bajo custodia policial, aunque se estableció desde el principio que, según los informes, el arresto se basó únicamente en una imagen pixelada extraída de un video que luego se utilizó para buscar una coincidencia en una base de datos de TRF. Este abuso reportado ocurrió a pesar de que el procedimiento policial en sí mismo había rechazado los arrestos basados sólo en TRF, y señaló que la TRF no alcanza el nivel de causa probable necesaria para arrestar a alguien.
3 צפייה בגלריה


Ilustración. La TRF por sí sola no puede ser utilizada como prueba. Sin embargo, se comprobaron casos de abuso policial.
(Ynet)
La TRF sufre importantes desafíos éticos que deben superarse antes de que se convierta en parte del procedimiento operativo estándar de la policía. El primero es de naturaleza técnica. Con gran parte de los datos de entrenamiento para los algoritmos avanzados de inteligencia artificial subyacentes a TRF basados en imágenes de hombres blancos, el sistema tiende a desarrollar falsos positivos y negativos cuando se enfrenta a personas de color. Esto es especialmente cierto para los nativos americanos y las mujeres negras y marrones, y hay una gran cantidad de muestras vergonzosas del sesgo de IA resultante.
Esto no sólo es mala prensa para la tecnología, sino que puede resultar en desafíos a su admisibilidad en la corte por parte de abogados expertos en tecnología o, lo que es peor, una falla en desafiar su admisibilidad por abogados de defensa pública con exceso de trabajo o menos expertos que representan a los pobres y miembros de grupos minoritarios.
Otro desafío ético con respecto a la TRF se exhibió por completo en el mencionado atraco de joyas de Detroit. La policía tiende a atribuir demasiado peso a los resultados provistos por la TRF, lo que permite que la tecnología sustituya el trabajo policial real. En particular, cada vez que se desarrolla una nueva tecnología forense, se han presentado quejas similares con respecto a la tensión que las tecnologías imponen al debido proceso.
La policía tiende a atribuir demasiado peso a los resultados provistos por la TRF, lo que permite que la tecnología sustituya el trabajo policial real
Además, la velocidad a la que se ha desarrollado esta tecnología, como la mayoría de las áreas de tecnologías emergentes, ha llevado a una escasez de estándares técnicos, así como a la falta de reglas y regulaciones que describan cómo, cuándo y por qué dicha tecnología puede implementarse en tanto el sector público como el privado. Aunque ha habido numerosos esfuerzos para ponerse al día.
También existe un disgusto visceral por la TRF, ya que las personas temen que convierta las cámaras descentralizadas, aunque omnipresentes, de circuito cerrado y de teléfonos inteligentes en un régimen de vigilancia monstruoso centralizado que efectivamente siempre te está buscando. Dada la cantidad obscena de cámaras en la sociedad actual, no solo es solo cuestión de tiempo antes de que el Monstruo del Lago Ness finalmente sea captado por la cámara, es probable que haya muchas historias de éxito de captura de delincuentes gracias a la TRF. Pero, algunos podrían argumentar, estas victorias fáciles simplemente se alimentan de un circuito de retroalimentación que impulsa este avance de vigilancia hacia aspectos cada vez más personales de nuestras vidas.
No todo está perdido para la TRF. La crisis del coronavirus (COVID-19) puede proporcionar un uso alternativo de la tecnología, uno con menos equipaje político. Varias compañías están buscando utilizarlo para evaluar si las personas usan sus máscaras en público según lo dispuesto en Israel y en varias jurisdicciones.
Aunque los ciudadanos pueden arrojar una cantidad desmesurada de razones por las cuales no deberían tener que usar máscaras, los amplios poderes policiales otorgados a los estados por la Constitución de los Estados Unidos probablemente les brinden el apoyo suficiente para estos esfuerzos a favor de la salud pública. Los fallos de la Corte Suprema de los Estados Unidos proporcionan suficientes ejemplos para respaldar esto, desde Thurlow v. Massachusetts (1847) y Jacobson v. Massachusetts (1905) hasta el caso reciente de South Bay United Pentecostal Church v. Newsom (29 de mayo de 2020). Y, si la ley no es razón suficiente para que use una máscara, tal vez lo haría para obtener un botón de edición en Twitter.
Pero las máscaras son confusas para las personas. Si bien las noticias falsas han sido un problema durante toda la pandemia, quizás haya un tipo de noticias aún más siniestras, aunque menos maliciosas: noticias confusas. Las noticias confusas pueden resultar de cuando nuestro ciclo de noticias se mueve a la velocidad de la ciencia. Si bien la ciencia busca la verdad, a menudo se abre paso lentamente a través de numerosas hipótesis menos que óptimas antes de que se descubra una verdad confiable y finalmente se informe al público. Solo considere los inconsistentes beneficios para la salud asociados con el café.
Pero ahora, con todos los resultados de la investigación llegando a los consumidores de noticias en tiempo real, muchos luchan por mantenerse al día con toda la información nueva y contradictoria, lo que resulta en noticias confusas.
Inicialmente, por ejemplo, se recomendó encarecidamente al público en general que evitara las máscaras, dejándolas solo para los trabajadores de primera línea y los enfermos, con la afirmación de que las personas sanas no ganarían nada al usarlas. Ahora, estamos escuchando lo contrario. Lo que sucedió es que experimentamos un cambio de paradigma científico en tiempo real.
A medida que se disponía de más información sobre la forma en que se propaga el virus, las investigaciones y los formuladores de políticas comenzaron a dejar de centrarse en proteger al usuario y de la noción de máscaras como equipo de protección personal (EPP), ya que todavía se usa en el campo médico, hacia una percepción de que se necesita equipo para proteger a todos los demás de uno mismo.
Estos cambios en las políticas basadas en la ciencia, particularmente cuando son rápidos e inherentemente contradictorios, pueden erosionar la confianza en los formuladores de políticas y en la ciencia, lo que puede tener efectos a largo plazo que permanecerán con nosotros mucho después de que COVID-19 se haya ido.
Lo mismo podría argumentarse con respecto a la TRF. Si pivotamos demasiado rápido y demasiado lejos de nuestras posiciones anteriores, podríamos tener dificultades para volver a esta tecnología prometedora cuando la ciencia finalmente avance.
* Dov Greenbaum es director en el Instituto Zvi Meitar para Implicaciones Legales de Tecnologías Emergentes, en el instituto académico israelí IDC Herzliya.