OPINIÓN: Inteligencia artificial: ¿Democratiza sociedades o exacerba desigualdades?

Alejandra LagunesJueves, 17 de enero de 2019 17:50

shares
mexico la inteligencia artificial lograra democratizar sociedades

Los especialistas advierten que el desarrollo de la inteligencia artificial debería ocurrir dentro de un marco de gobernanza adecuado basado en el respeto a los derechos humanos y la dignidad humana.


La tecnología ha transformado el mundo en el que vivimos, y al mismo tiempo, ese mundo transformado, nos ha transformado. Los avances tecnológicos de los últimos años - y los que están por venir - continuarán cambiando cómo nos relacionamos con otras personas, con nuestros empleos, y con nuestras tareas cotidianas.


Entre ellos, la inteligencia artificial es quizá uno de los que mayores impactos está generando en nuestras sociedades. La capacidad transformativa y disruptiva de la inteligencia artificial nos obliga a reconocer que, sin las medidas necesarias, el desarrollo de la inteligencia artificial podría exacerbar en lugar de mitigar las desigualdades sociales.


Inteligencia Artificial es el nombre que se le da al conjunto de tecnologías (aprendizaje de máquinas, aprendizaje profundo, redes neuronales) que permiten a las máquinas hacer tareas que normalmente requieren inteligencia humana, tales como: percepción, reconocimiento visual y de voz, análisis de grandes cantidades de datos, reconocimiento de patrones y predicción. La inteligencia artificial añadirá cerca de 15.7 miles de millones de dólares a la economía global hacia 2030.



La aplicación de estas tecnologías en el sector público puede mejorar los procesos administrativos y burocráticos, y en general, su aplicación a casi cualquier ámbito de nuestras vidas puede servir para expandir la capacidad humana. Sin embargo, especialistas en la materia, han advertido que para lograr estos beneficios, el desarrollo de la inteligencia artificial debe de ocurrir dentro de un marco de gobernanza adecuado basado en el respeto a los derechos humanos, la dignidad humana, y las leyes.


Uno de los mecanismos con los cuales la inteligencia artificial podría aumentar la desigualdad es mediante la llamada discriminación indirecta. La discriminación indirecta ocurre cuando una regla a política que podría parecer neutral, impacta de manera desproporcionada y negativa a grupos vulnerados de la sociedad. Pero, en el caso de la inteligencia artificial, de acuerdo con Arindrajit Basu, la discriminación puede ocurrir en dos etapas:


a)   uso incompleto o inadecuado de datos que resulten en un algoritmo que procesa información que no necesariamente refleja la realidad;

b)   procesamiento de datos que acepta datos y los procesa sin que la persona que lo desarrolló tenga conocimiento de cómo se está procesando la información.


la inteligencia artificial lograra democratizar sociedades 1

(Foto: TTEC)


Estos mecanismos de discriminación no son abstractos y ya hay casos documentados alrededor del mundo de cómo han afectado a distintas comunidades o grupos sociales. Uno de lo más recientes y notables fue el caso del sistema de inteligencia artificial desarrollado por Amazon para reclutar a su fuerza laboral.


Este sistema fue desarrollado en 2014 para revisar los currículos de los postulantes a diversos puestos de trabajo en la empresa, mecanizando la búsqueda de lo que consideraban serían los mejores perfiles, y clasificándolos con un sistema de estrellas similar al que Amazon utiliza para sus productos. Todo ello con información sobre las contrataciones de Amazon durante los 10 años anteriores. 


Sin embargo, en 2015, la empresa notó que algo extraño sucedía: el sistema prefería sistemáticamente a los hombres sobre las mujeres. Después de investigar cómo estaba funcionando el sistema, Amazon se dio cuenta que, dado que durante los 10 anteriores, la mayoría de los postulantes eran hombres, el algoritmo comenzó a penalizar aquellos currículos que incluían la palabra “mujeres”. Después de esta experiencia, los directivos/as de Amazon decidieron dejar de utilizar la herramienta para sus procesos de contrataciones.


El caso de Amazon es un claro ejemplo de cómo las tecnologías, aparentemente neutrales, pueden desde su diseño, llevar implícitos prejuicios sociales. La inteligencia artificial, como cualquier tecnología no es neutral, es un producto socio-técnico; es decir, producto de las relaciones jerárquicas y de la distribución de poder y privilegios que existen en nuestras sociedades. 


la inteligencia artificial lograra democratizar sociedades 2


Por ello, requerimos incorporar a todos los grupos sociales a lo largo de todo el proceso, desde su diseño hasta su implementación; y pensar marcos de gobernanza democráticos. La inteligencia artificial puede ayudarnos a construir un mundo más humano, menos desigual, y más justo; o puede exacerbar las desigualdades y la pérdida de nuestra dignidad humana.


El camino que tomemos depende de nuestra determinación para afrontar los retos éticos que nos plantea, y de construir una gobernanza centrada en los derechos humanos.


*Las columnas de opinión de CC News reflejan sólo el punto de vista del autor.


Podría interesarte:

OPINIÓN: ¿Cómo convertir a México en la capital de gobierno digital?

ETIQUETAS: editors choice
REFERENCIAS:
Alejandra Lagunes Alejandra Lagunes

COMENTARIOS