Artículo escrito por Jazmín Labra Montes, profesora de la UNAM y estudiante de University of Cambridge.
La inteligencia artificial se refiere a la habilidad de un algoritmo de aprender de un conjunto de datos y realizar actividades de forma autónoma sin la intervención humana. La capacidad de recopilar, almacenar y procesar grandes cantidades de datos para predecir fenómenos promete revolucionar el sector salud y la medicina.
Por ejemplo, a través del monitoreo de datos de presión arterial, ritmo cardíaco, glucosa, un algoritmo sería capaz de pronosticar con alta precisión enfermedades como el cáncer, la diabetes o infartos. También, algoritmos de la inteligencia artificial serían cruciales para el desarrollo de nuevos fármacos y prevención de epidemias como el covid-19. La inteligencia artificial, de hecho, ya es usada en varios países para acelerar el diagnóstico y detección de enfermedades.
Sin embargo, pese a los beneficios directos, el uso de inteligencia artificial y códigos de programación traen consigo inminentes riesgos que van desde el uso inapropiado de datos personales de carácter médicos, códigos y datos sesgados hasta problemas y retos de ciber-seguridad. La Organización Mundial de la Salud (OMS) ha alertado de tres grandes problemáticas en el uso de datos médicos e inteligencia artificial.
Hablemos de algoritmos
Primero, los algoritmos de inteligencia artificial se alimentan de un conjunto de datos, los cuales sistemáticamente pueden estar sesgados, por ende, pueden llegar a desfavorecer a sectores marginados. Por ejemplo, algoritmos alimentados con datos recopilados en países desarrollados serán imprecisos al ser aplicados en países en vía de desarrollo o subdesarrollados. Los resultados de este sesgo en el caso de la predicción de la propagación de una pandemia pueden ser catastróficos y letales.
Recientemente, el gobierno de Joe Biden en Estados Unidos reconoció que la comunidad LGBTQIA+ probablemente experimentaba mayores cifras de infección, hospitalización y muerte que la comunidad heterosexual, sin embargo, poco se sabe de manera oficial como afecta el covid-19 a la comunidad LGBTQIA+ pues pocos departamentos de salud recolectan estos datos. Por tanto, es necesario que el uso de datos médicos e inteligencia artificial sea inclusivo, contando con datos médicos representativos tanto en edad, género, posición social, raza, entre otros y que evite sesgos que tiendan a ignorar grupos marginados. Ya que un grupo sin datos médicos es un sector invisible.
Datos personales
El segundo punto crítico se refiere a la privacidad de datos personales. Históricamente, la colección, uso, análisis y distribución de datos médicos ha representado un reto en términos de privacidad. La llegada de nuevas tecnologías y enfermedades ha incrementado dicho reto. Aunque en general los datos clínicos son anónimos, es decir, se remueve la información que puede sugerir la identidad del paciente, algoritmos de inteligencia artificial pueden ser entrenados para rastrear la identidad de las personas a través de datos que se comparten en redes sociales u otras aplicaciones con políticas de privacidad poco claras. ¿Te suena familiar? ¿Cuantas veces aceptas términos y condiciones de aplicaciones sin conocer realmente las implicaciones? Como consecuencia se pueden vulnerar los derechos humanos de las personas así como estigmatizar usuarios y/o pacientes.
Otro reto con grandes implicaciones, también mencionado por la OMS es que gobiernos pueden accesar a sus fuentes de datos con el fin de vigilar y sancionar a su población. La Organización Mundial de la Salud reconoce que el exceso de datos puede ser usado por gobiernos como herramienta de vigilancia y sanción en contra de sus ciudadanos, permitiendo actitudes autoritarias de control que violenten los derechos humanos. Este es el caso del gobierno de Singapur, quien reconoció que los datos obtenidos de la aplicación para celular COVID-19 para controlar la propagación del virus pueden ser usados para propósitos de investigación criminal, situación que ha alertado a la OMS y organismos internacionales.
El insaciable interés de las empresas y entidades publicas por datos personales, y la falta de legislaciones complican el consentimiento explícito de los usuarios y pacientes de sus datos médicos, además la rápida evolución de las tecnologías digitales hace casi imposible predecir los usos de los datos médicos en un futuro. Ante las interrogantes del mañana, es importante crear conciencia en la sociedad sobre las oportunidades, así como los riesgos de la inteligencia artificial.
A pesar de los riesgos innegables que acompañan las nuevas tecnologías, la llegada de la epidemia covid-19 ha resaltado la imperiosa necesidad de contar con extensas bases de datos clínicos. Estas permiten tomar decisiones acertadas para el regreso a clases presenciales, aislamiento social, rastreo y localización de brotes epidémicos, así como para control de clínicas de vacunación. Aunque debemos ser cautelosos con compartir información confidencial clínica, es importante tomar una actitud responsable que apoye a los sectores clínicos, médicos y científicos en sus labores de investigación, identificación y prevención de enfermedades.
