Facebook desactivó dos robots porque su inteligencia artificial se salió de control

Omar TéllezLunes, 31 de julio de 2017 21:49

shares
Noticias facebook desactiva maquina

Bob y Alice eran un par de bots que la empresa Facebook desarrolló con la firme intención de hacer que la inteligencia artificial ayudara a crear diálogos más directos con los seres humanos.

El objetivo principal era comprobar que esa tecnología podía utilizarse para resolver negociaciones favorablemente. Tener empatía con la contraparte, ayudarle a comprender las ventajas de su oferta y, finalmente, cerrar el diálogo con resultados positivos para ambas partes.

La división de Facebook de desarrollo de inteligencia artificial (FAIR, por sus siglas en inglés) creó el sistema necesario para que Bob y Alice funcionaran. Para poner a prueba sus habilidades, permitieron que ambos bots comenzaran a interactuar entre ellos y así mejoraran sus habilidades comunicativas.

facebook desactiva maquina 1

*Foto: Omicrono

Todo iba muy bien con el periodo de prueba hasta que los desarrolladores del sistema descubrieron que en sus conversaciones existían palabras erróneas y oraciones aparentemente sin sentido.

En un principio creyeron que se trataba de un error de programación, hasta que descubrieron que dentro de ese aparente fallo existían patrones y en realidad se trataba de un extraño lenguaje que Bob y Alice desarrollaron por sí mismos.

Los investigadores de FAIR decidieron desconectar a ambos bots porque el hecho de comenzar a desarrollar su propio lenguaje e ignorar el idioma con el que habían sido programados implicaba un riesgo de que el procesos se saliera de control y los creadores perderían por completo de vista de lo que hablaban, porque ellos no lograban entender ese nuevo "lenguaje máquina".

facebook desactiva maquina 2

*Foto: Hardzone

Este acontecimiento resulta una llamada de atención para que las tecnologías basadas en la inteligencia artificial se afinen. Cuando un sistema de este tipo decide ignorar las instrucciones de sus creadores para comenzar a tomar decisiones tan relevantes como crear un idioma nuevo y usarlo en lugar del que le dieron sus desarrolladores, implica un riesgo a la hora de pensar en redes neuronales más complejas para acciones que implican más responsabilidades que las de sólo interactuar en una conversación para negociar algo.

Hace unos días, Elon Musk, el empresario considerado como "el hombre más innovador del mundo", advirtió que el desarrollo de tecnologías artificiales podría convertirse en un peligro para los seres humanos.

facebook desactiva maquina 3

*Foto: Esquire.

Sus palabras fueron increpadas por el dueño de Facebook, Mark Zuckerberg, quien afirmó que no debemos tener miedo a las nuevas tecnologías, pues los temores sólo retrasan el progreso.

"Yo soy optimista. Creo que uno puede construir cosas para hacer un mundo mejor. Soy especialmente optimista en lo que respecta a la inteligencia artificial", afirmó Zuckerberg. "Creo que hay quienes son pesimistas y tratan de darle bombo a todos estos escenarios apocalípticos. Simplemente, no lo entiendo".

Tal vez la experiencia con Bob y Alice haga recapacitar al creador de Facebook.


Podría interesarte:


Por qué Elon Musk no sabe de inteligencia artificial según Mark Zuckerberg

La inteligencia artificial y el fin de la raza humana según Stephen Hawking y Elon Musk


Omar Téllez Omar Téllez

COMENTARIOS