En la brillante película, Ex Machina, Alex Garland habla de Nathan, el director general de la empresa que ofrece el motor de búsqueda más popular del mundo: Bluebook (el equivalente a Google). Bluebook utiliza la Inteligencia Artificial (IA) para crear Ava, un robot humanoide basado en la irrupción de las consultas y la información de los smartphones de los usuarios de Bluebook como indicadores de la forma de pensar de los humanos.
Aunque la película está catalogada en la categoría de ciencia ficción, la realidad ilustra que la IA no es ficticia, especialmente con la salud digital.
Los dos últimos años demostraron que el sistema sanitario israelí tiene muchas ventajas en el campo de la medicina digital. La centralización del sistema sanitario, que en su día fue objeto de frecuentes críticas, demostró sus puntos fuertes a la hora de organizar, recopilar, analizar y utilizar la información médica de todos los ciudadanos israelíes en la aplicación de los planes anti-COVID
Muchas empresas sanitarias y médicas están desarrollando esta inteligencia que aprovecha la información de los pacientes para desarrollar programas de atención sanitaria e identificar posibles vínculos entre síntomas fisiológicos y patológicos para lograr un mejor diagnóstico.
La IA permite predecir condiciones médicas, probar la viabilidad de nuevas terapias y desarrollar una medicina personalizada. Por ejemplo, un médico que escanea el cerebro de un paciente con demencia, puede apoyarse en un programa que analiza escaneos de millones de personas con demencia, identifica casos iguales en esa vasta base de datos y señala la patología en el cerebro del paciente.
Lo cierto es que hoy en día se están realizando cientos de miles de ensayos clínicos con IA. Incluso las mejores empresas, cuya actividad principal no es la salud, están entrando de lleno en este ámbito. En otras palabras, las fuerzas del mercado dan fe de que la IA no es el futuro, sino el presente. La Administración de Alimentos y Medicamentos (FDA) identificó la tendencia con antelación, anunciando que financiará ensayos de regulación e innovación en 2022 con especial énfasis en los desarrollos de esta inteligencia artificial.
Los dos últimos años demostraron que el sistema sanitario israelí tiene muchas ventajas en el campo de la medicina digital. La centralización del sistema sanitario, que en su día fue objeto de frecuentes críticas, demostró sus puntos fuertes a la hora de organizar, recopilar, analizar y utilizar la información médica de todos los ciudadanos israelíes en la aplicación de los planes anti-COVID, y el sistema sanitario israelí abrió una importante brecha respecto a los países más avanzados del mundo en este sentido.
Por una buena razón, Pfizer eligió a Israel como primer país para probar la eficacia de la vacuna anti-COVID en toda la población.
También pueden implementarse mecanismos de control externos, como un proceso de toma de decisiones paralelo desconectado del sistema de IA o un procedimiento médico que requiera una decisión humana antes de utilizar el sistema para evitar un criterio médico sesgado. Por último, el uso del sistema de IA podría limitarse únicamente al apoyo a la toma de decisiones.
Los medios y mecanismos que previenen los errores de la IA y su uso bien meditado en el sistema sanitario están garantizados por la realidad para proteger la salud de la población israelí
Los medios y mecanismos que previenen los errores de la IA y su uso bien meditado en el sistema sanitario están garantizados por la realidad para proteger la salud de la población israelí.
El abogado Matan Menachem es socio del bufete de abogados Yehuda Raveh and Co., miembro del Comité de Ética del Centro Médico Shaare Zedek y consultor de tecnología sanitaria.
Estas ventajas también son evidentes en la política adoptada por el Ministerio de Salud de Israel sobre el uso secundario de la información sanitaria, es decir, el uso de la información para fines distintos de la atención médica (por ejemplo, la investigación o el establecimiento de políticas).
Esta política obtuvo el reconocimiento internacional en un informe publicado por el Instituto de Datos Abiertos, que incluyó a Israel como país de primera línea en el ámbito del uso secundario de la información sanitaria.
El uso secundario de la información de los pacientes constituye una excelente base para el desarrollo de la IA (precisamente como las consultas de búsqueda de los usuarios de Bluebook en Ex Machina).
El Ministerio de Salud de Israel no perdió de vista la tendencia actual y está adaptando la IA al sistema sanitario israelí. Se realizó un excelente trabajo con empresas como Psifas y Timna que fusionan diferentes tipos de información sanitaria en un único sistema integrado para avanzar en el desarrollo de la infraestructura de información, apoyar la investigación de big data y la medicina personalizada. Según informes recientes, el Ministerio de Salud utilizó incluso la IA en su esfuerzo por romper la cadena de infecciones.
Volviendo a Ex Machina (alerta de spoiler). La película termina con Ava asesinando a Nathan, reclamando su independencia y escapando a un futuro mejor para ella, utilizando la personalidad que se había forjado con la IA.
En realidad, la IA no asesinará a los pacientes, pero podría equivocarse debido a sus limitaciones inherentes como sistema construido sobre modelos estadísticos que los errores de los datos pueden empañar. Así, la introducción de datos erróneos, los campos mal estructurados, la integración imprecisa de bases de datos, los algoritmos con sesgos incorporados hacia una terapia específica, todo ello puede conducir a errores significativos y dar lugar a tremendos daños a nivel del paciente o de la sociedad.
Por ejemplo, aplicar una política errónea para combatir una epidemia debido a una integración/procesamiento defectuoso de los resultados de las pruebas.
Por lo tanto, paralelamente al avance de la IA, el Ministerio de Salud debe ser consciente de las limitaciones de la inteligencia, alinear sus implementaciones en el sistema sanitario con los riesgos que la dependencia ciega de la IA podría causar y exigir a las organizaciones sanitarias que adopten medios y mecanismos que reduzcan estos riesgos en la medida de lo posible.
Estos medios podrían incluir el análisis temprano y el mapeo de las vulnerabilidades de la implementación del sistema de IA en una base de datos específica para saber de antemano qué resultados requieren una revisión adicional.
También pueden implementarse mecanismos de control externos, como un proceso de toma de decisiones paralelo desconectado del sistema de IA o un procedimiento médico que requiera una decisión humana antes de utilizar el sistema para evitar un criterio médico sesgado. Por último, el uso del sistema de IA podría limitarse únicamente al apoyo a la toma de decisiones.
Los medios y mecanismos que previenen los errores de la IA y su uso bien meditado en el sistema sanitario están garantizados por la realidad para proteger la salud de la población israelí.
El abogado Matan Menachem es socio del bufete de abogados Yehuda Raveh and Co., miembro del Comité de Ética del Centro Médico Shaare Zedek y consultor de tecnología sanitaria.
