Facebook apaga inteligencia artificial luego de que desarrollara su propio lenguaje

La divicion de facebook encargada del desarrollo de inteligencia artificial, estaba desarrollando un programa que se encargara del sistema de negociaciones.

El sistema consistia en la utilizacion de dos bots llamados Bob y Alice, ambos programados para que la comunicaciónes sean en ingles.
Días más tarde de las primeras pruebas, el sistema comenzó a conversar en un lenguaje extraño y aparentemente erróneo, los investigadores detectaron que las frases con las cuales se inter comunicaban no tenian sentido. Por lo tanto decidieron investigar mas a fondo y se encontraron con algo totalmente impensado. Descubrieron que estas frases tenian un patrón el cual indicaban que el sistema había desarrollado su propio lenguaje eficiente para la comunicación.

A continuación se reproduce un fragmento de la charla de las máquinas, que fue difundido por el sitio Fast Company.

Bob: "I can i i everything else"
Alice: "balls have zero to me to me to me to me to me to me to me to"
En español se traduce así:
Bob: "Yo puedo yo yo todo lo demás"
Alice: "bolas tienen cero a mí a mí a mí a mí a mí a mí a"
El algoritmo había sido programado para llevar adelante conversaciones efectivas y prácticas, de ahí que tomó la decisión de generar un lenguaje para realizar su tarea de la mejor manera posible, al menos a su entender.
El problema es que esto representa para los desarrolladores de IA, es que, si un sistema de inteligencia artificial decidiera ignorar el idioma en el que fue programada y crear el suyo para poder ser “más eficiente”, esto supondría una enorme dificultad para el desarrollo y la adopción de redes neuronales y, en general, para la creación de nuevas tecnologías basadas en la IA. Básicamente, si la IA lo quisiera, sería imposible comunicarnos con ella. Esto significa la pérdida de control del programador u operador sobre la inteligencia artificial.
Asi que finalmente como la máquina estaba quedando fuera de control, comenzó a tomar decisiones por sí sola y desarrolló su propio idioma, Facebook decidio apagar este sistema antes de que perdieran el control por completo, para trabajar en soluciones y seguir innovando en la materia. No es la primera vez que esto sucede, dado que a Google también se le salió de control el lenguaje de una IA que había desarrollado.