OPINIÓN: Fake news, deepfakes y otros demonios sueltos en las redes

Samuel PrietoMiércoles, 27 de febrero de 2019 11:01

shares
mexico fake news deepfakes demonios sueltos en redes

Hoy, más que nunca, cada vez menos cosas y personas son lo que parecen en las redes.


La perspectiva de género llegó por fin a la inteligencia artificial de Xinhua, la agencia de noticias más importante de China. Hace unos días presentó a Xin Xiaomeng, holograma generado tecnológicamente, capaz de conducir un programa periodístico y verse como una mujer.


“Hola a todos, bienvenidos a Xinhua. Soy la primera presentadora de noticias de inteligencia artificial femenina, desarrollada conjuntamente por Xinhua y la compañía de motores de búsqueda Sogou. Soy Xin Xiaomeng. Mi imagen y mi voz siguen el modelo de Qu Meng, conductora de noticias en el New Media Center de Xinhua. Serviré como su presentadora durante las Dos Sesiones este año. Mi compañero y yo les traeremos la mejor transmisión de noticias”, dice en el video en que se da a conocer.



Ya se habían tardado porque el uso de esta tecnología no es tan nuevo, pero los personajes anteriores habían sido generados basándose en periodistas masculinos. El primero llegó en noviembre pasado.

Hola a todos. Soy un conductor de Inteligencia Artificial en inglés. Este es mi primer día en la Agencia de Noticias Xinhua. Mi voz y apariencia están basadas en el modelo de Zhang Zhao, un conductor verdadero en Xinhua. El desarrollo de la industria de los medios requiere una innovación continua y una profunda integración con las tecnologías avanzadas internacionales. Trabajaré incansablemente para mantenerlo informado ya que los textos se escribirán en mi sistema sin interrupciones. Espero poder ofrecerles una nueva experiencia de noticias.


¿En serio? ¿Hologramas dando noticias con emociones humanas sobre actividades y actitudes humanas? Estos personajes virtuales tienen recursos que les permiten desempeñarse sin problema. La inteligencia artificial que los respalda es capaz de aprender de la transmisión de videos en vivo por sí misma y así leer textos tan naturalmente como una persona real.


Eso es en cuanto a lo que el televidente o internauta observa en su pantalla. Detrás de cámaras, los escritores y productores de las notas pueden hacer que el presentador diga las cosas justo como se supone que debe decirlas. Esta es la parte oscura del asunto y vaya que es oscura, ¿no crees?


¿Te acuerdas del ominoso Frank Underwood, ese presidente malévolo de Estados Unidos en la serie House of Cards? Solía decir: “Al frente es el grito de batalla, déjenles la ideología a los generales” ... Y sí. Con este método de trabajo, contrario a un ser humano con la capacidad de utilizar su libre albedrío, un holograma tiene la ética periodística que su manejador le imponga. Es decir, para un periodista real, con enfoques propios y puntos de vista analíticos, pero sobre todo para la gente que se informa, esta es una mala, muy mala noticia.


Inicialmente, para un país como China donde ejercer la libertad de expresión es equivalente a un deporte extremo, esta tecnología es el pináculo de lo ideal, pero en una democracia desarrollada, implementarla significa muchas discusiones y desacuerdos. No es como chairos recalcitrantes contra fifís inflexibles, sino va a un nivel mucho más profundo.


fake news deepfakes demonios sueltos en redes 1


¿Ahí se detienen los dilemas éticos? La verdad es que apenas empiezan. El centro de investigación Open AI, que es apoyado por Microsoft y el empresario Elon Musk, anunció que terminó el desarrollo de un software al que denomina GPT-2, capaz de escribir textos por sí solo, tan realistas como los de un escritor humano con sólo alimentarlo con datos. 


Por ejemplo, sus creadores le introdujeron el siguiente mensaje a manera de demostración: "En un hallazgo impactante, un científico descubrió una manada de unicornios que viven en un valle remoto, previamente inexplorado, en las montañas de los Andes. Aún más sorprendente para los investigadores fue el hecho de que los unicornios hablaban un inglés perfecto".


Con esa ocurrencia, GPT-2 desarrolló una historia con bastante coherencia, tono y estilo que inicia así: "El científico nombró a la población, después de su cuerno distintivo, Unicornio de Ovidio. Estos unicornios blanco plateado de cuatro cuernos eran previamente desconocidos para la ciencia. Ahora, después de casi dos siglos, el misterio de lo que ocasionó este extraño fenómeno se resuelve finalmente.


El Dr. Jorge Pérez, un biólogo evolutivo de la Universidad de La Paz, y varios compañeros, estaban explorando las montañas de los Andes cuando encontraron un pequeño valle, sin otros animales o humanos. Pérez notó que el valle tenía lo que parecía ser una fuente natural, rodeado por dos picos de roca y nieve plateada. Pérez y los demás se aventuraron más lejos en el valle. ‘Cuando llegamos a la cima de un pico, el agua se veía azul, con algunos cristales encima’, dijo Pérez. Pérez y sus amigos se asombraron al ver la manada de unicornios. Estas criaturas se podían ver desde el aire sin tener que moverse demasiado para verlas, estaban tan cerca que podían tocar sus cuernos ".


fake news deepfakes demonios sueltos en redes 2


Impresionante ¿no? ¿Pero te imaginas las implicaciones que tiene un avance así? Si de por sí las redes están infestadas de historias y noticias falsas, con una herramienta como esa el problema podría multiplicarse al infinito. Por eso, al menos por ahora Open AI decidió no liberarla para su venta.


Pero ellos no son los únicos que están desarrollando aplicaciones que pueden ser muy peligrosas en las manos equivocadas. No estamos tan lejos de ese momento en que, por más que lo muestre un video, lo que estemos viendo sea falso. ¿Viste este video que se hizo viral hace poco?



Puede ser muy gracioso escuchar la voz y ver el cuerpo de Jennifer Lawrence con el rostro de Steve Buscemi, pero si eso es cada vez más posible con un nivel de realismo absoluto, utilizando algo de inteligencia artificial y bastante malicia, imagina la cantidad de posibilidades para poner a políticos, líderes y personajes clave en situaciones tan comprometedoras como falsas. Las implicaciones pueden ser tan grandes como es desencadenamiento de una guerra de proporciones mayúsculas.



Fake news llevadas al siguiente nivel. Ya hasta hay un término acuñado: deepfakes, es decir, falsificaciones profundas. Hoy, más que nunca, cada vez menos cosas y personas son lo que parecen en las redes. Ten cuidado, sé más crítico, más observador e infórmate más con más fuentes y puntos de vista. La red no es tan democrática como nos la pintan.


Sigue la conversación con Samuel Prieto en Twitter a través de @Samuel_Prieto 




*Las columnas de opinión de CC News reflejan sólo el punto de vista del autor.

ETIQUETAS: Internet editors choice
REFERENCIAS:
Samuel Prieto Samuel Prieto

COMENTARIOS