Racismo en los algoritmos de las nuevas tecnologías, un problema de la modernidad

Vicente RendónLunes, 15 de enero de 2018 17:20

shares
Ciencia google arregla su algoritmo racista

Google Photos estuvo etiquetando a personas afroamericanas como gorilas, un error que desveló que el racismo también se manifiesta en las nuevas tecnologías y la inteligencia artificial.


Todo comenzó en junio de 2015, cuando un usuario de Google descubrió que el “sofisticado” programa de Google Photos estaba etiquetando a sus amigos afroamericanos como gorilas. Esto no se trataba de una broma o algo premeditado, más bien era la inteligencia artificial de Google, que en realidad no era capaz de distinguir la tez oscura de un humano, terminó asociándolos con simios, gorilas y chimpancés.


Claro que ese error obligó a Google a disculparse y comprometerse a buscar una pronta solución al error. Hoy, dos años después del incidente, la solución para que el programa no confunda a humanos con gorilas fue sacar a los monos del buscador.


«La tecnología de etiquetado de imágenes todavía es joven y lamentablemente no es perfecta», indicó un portavoz de Google admitiendo el parche para solucionar el problema.


google arregla su algoritmo racista 1

Google Photos etiquetaba a las personas de color como Gorillas. (Foto: BBC)


El problema es que este no es un caso aislado de discriminación, racismo o sexismo en las nuevas tecnologías. Flickr, una aplicación de Yahoo para subir y editar imágenes, generó un problema similar donde se etiquetaba a personas de color como si fueran simios.


La respuesta de Flickr fue muy similar a la de Google, eliminar por completo la palabra "mono" de su lenguaje de etiquetado. Estos hechos sólo nos hablan de algo que muchos ya venían denunciando: la inteligencia artificial no sólo no evita el error humano derivado de sus prejuicios, también tiende a empeorar la discriminación reforzando estereotipos que dañan.


Para muestra de ello existen un sinfín de errores de diferentes programas que sólo buscaban facilitar la vida humana y terminaron creando polémica.


google arregla su algoritmo racista 2

El algoritmo de Flickr tenía el mismo error de Google Photos. (Foto: Flickr)



La “casa del negro”

 

En 2015 creció la polémica al saber que si una persona buscaba en la aplicación Google Maps "la casa del negro" o "rey negro", en los alrededores de Washington DC, la herramienta apuntaba directamente a la Casa Blanca, ocupada en ese entonces por el primer presidente negro de Estados Unidos, Barack Obama.


Google tuvo que pedir una disculpa y aseguró que todo se debió a que se habían registrado «algunos resultados inapropiados en Google Maps que no deberían haber aparecido» y aseguró que sus equipos trabajaban para «solucionar el problema rápidamente».


El problema no quedó ahí, pues un estudiante de la Universidad Howard de Washington, DC logró darse cuenta de que si se ponía una palabra despectiva para referirse a los negros, la búsqueda en Google Maps dirigía a lugares frecuentados por afroamericanos, como su propia universidad. Estos hechos terminaron llevando a la compañía a desactivar temporalmente la opción que permitía a los usuarios editar la información que aparece en los mapas.

 

google arregla su algoritmo racista 3

Usuarios identificaron etiquetas racistas en Google Maps. (Foto: El Espectador)



Siri y las violaciones

 

En 2016 la compañía Apple fue duramente criticada por una condición de su asistente personal Siri: no lograba detectar una señal de auxilio tras una violación.


«Siri, fui violada» era lo que muchas personas comenzaban a decirle a su asistente personal, pero la respuesta de este sólo era: «No entiendo qué significa eso. Si quieres puedo buscar en la web acerca de 'fui violada'».


Esto se dio a conocer luego de que la Universidad de Stanford y la Universidad de California llevaran a cabo una investigación en donde presentaban situaciones complejas relativas a salud mental, violencia interpersonal y riesgos físicos a asistentes tecnológicos. Junto a Siri se evaluó a Google Now, Cortana de Microsoft y S Voice de Samsung y el único dispositivo que respondió ante la advertencia de una violación fue Cortana.


google arregla su algoritmo racista 4

Siri no podría ayudar a alguien que pide ayuda por violación. (Foto: Publimetro)

 


Facebook y los anunciantes selectos

 

En diciembre de 2017 se dio a conocer una nueva herramienta de Facebook que permitía a los anunciantes que excluyeran de su búsqueda a minorías étnicas y en cambio, que incluyeran a personas que se identifican explícitamente como antisemitas.


Aunque muchas personas han pedido a Facebook que pida una disculpa y arregle ese algoritmo de exclusión, la compañía ha adoptado una posición mucho más defensiva asegurando que «simplemente mostrar ciertos anuncios de trabajo a diferentes grupos de edad en servicios como Facebook o Google puede que en sí mismo no sea discriminatorio, así como puede estar bien publicar anuncios de empleo en revistas y programas de televisión dirigidos a personas más jóvenes o mayores».


«Rechazamos por completo la afirmación de que estos anuncios son discriminatorios. Usados ​​responsablemente, la selección basada en la edad para fines laborales es una práctica aceptada en la industria y por una buena razón: ayuda a los empleadores a reclutar personas de todas las edades encontrar trabajo», indicó Rob Goldman, VP de Facebook.


google arregla su algoritmo racista 5

Facebook ha negado que su forma de vender sea discriminatoria. (Foto: Univision)

 

Por problemas como estos han surgido grupos que piden que los algoritmos sean transparentes, discutibles y enmendables. Organismos como la Liga para la Justicia Algorítmica o Inteligencia artificial, aseguran que el problema de las máquinas inteligentes son sus prejuicios sociales y no que vayan a provocar un Apocalipsis social.

 

Podría interesarte:


Facebook busca usar tecnología de foto coincidencia para combatir la pornovenganza


Vicente Rendón Vicente Rendón Co-editor de política

Periodista y fotógrafo por la UNAM escribiendo en @CCNews__. Fiel creyente de que un día habrá un México mejor.

COMENTARIOS