El caso más puro de una explosión de inteligencia sería representado por una Inteligencia Artificial reescribiendo su propio código fuente. La idea principal es que si se puede mejorar la inteligencia incluso un poco, el proceso se acelera. Es un punto de inflexión. Como tratar de equilibrar una pluma en un extremo del escritorio: tan pronto como se inclina sólo un poco, rápidamente se cae.

Eliezer Yudkowsky (n. 1979). Investigador y escritor estadounidense de Inteligencia Artificial.

En las últimas semanas, una historia acerca de un par de bots experimentales que fueron desarrollados por el departamento de investigación en inteligencia artificial en Facebook (Facebook Artificial Intelligence Research – FAIR), ha estado circulando en Internet con titulares cada vez más sensacionalistas, como “Ingenieros de Facebook entran en pánico; desenchufan bots de Inteligencia Artificial que crean su propio lenguaje”, ó “Inteligencia Artificial de Facebook crea su propio idioma en un avance espeluznante de nuestro posible futuro”.

Pic: A Cyberdyne Systems' Model T-800

Si una superinteligencia artificial como Skynet realmente quisiera destruir a la humanidad, no usaría androides armados con ametralladoras. Sería mucho más eficiente, por ejemplo, desencadenando una plaga biológica, o instigando un desastre nanotecnológico. La inteligencia artificial es potencialmente peligrosa, no por lo que implica para el futuro de la robótica, sino en cómo demostraría su presencia al mundo.

(Fuente: Lifehacker)

Lamento ser un aguafiestas, pero la noticia se trata más de patrones de comunicación incorrectos que de la manifestación de una verdadera conciencia artificial. Según los científicos de Facebook, la intención del experimento era desarrollar un chatbot o agente artificial, que a través de aprendizaje asistido por la interacción humana, podría eventualmente negociar acuerdos con un usuario final con tanta fluidez, que dicho usuario no se daría cuenta de que está hablando con un robot. Cuando Facebook puso a dos de estos bots a negociar entre sí, es cuando las cosas comenzaron a tornarse extrañas: después de pasar algún tiempo negociando, los bots desarrollaron un lenguaje propio debido a que los programadores se habían olvidado de incluir las reglas para conversar en un lenguaje comprensible para los seres humanos. Así, los bots se hicieron expertos en la negociación, pero comenzaron a ajustar su “lenguaje” hasta optimizar el intercambio de información, de la misma manera en que los humanos usamos emojis o “chistes locales” para entendernos mutuamente. De acuerdo al investigador de Facebook Dhruv Batra, “Los agentes se desviaron de un lenguaje comprensible y empezaron a inventar palabras por sí mismos, como si yo digo ‘el’ cinco veces, quiere decir que quiero cinco copias de un mismo artículo. Esto no es tan diferente de la manera en que las comunidades de seres humanos creamos símbolos o ideogramas.”

Facebook ciertamente sí terminó la conversación, pero no porque pensaran que habían desatado un potencial Skynet; Cuando los programadores se dieron cuenta de lo que estaba pasando, simplemente decidieron detener el experimento porque se alejaba de su meta inicial de que los bots pudieran hablar con las personas mientras permanecían indistinguibles de otros seres humanos:

Bob: i can i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i i can i i i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i . . . . . . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i i i i i everything else . . . . . . . . . . . . . .
Alice: balls have 0 to me to me to me to me to me to me to me to me to
Bob: you i i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to

En este ejemplo, los dos bots denominados como Bob y Alice, están negociando un intercambio de artículos de una manera prácticamente ininteligible para un ser humano. Si reemplazáramos estas palabras a simples bits y bytes, nos daríamos cuenta que es una excelente forma de interacción. Sin embargo, incluso si se trata de una forma más rápida y más eficiente para que la IA se comunique entre sí, este lenguaje ofrece poco beneficio para optimizar la comunicación IA-humano. Facebook rápidamente terminó la comunicación entre Bob y Alice y los obligó a interactuar en Inglés nuevamente.

Así, los bots sólo discutían cómo dividir una serie de artículos (representados como libros, sombreros y pelotas) en una división mutuamente acordada, de la misma manera en que un par de hermanos deliberan cómo dividir un conjunto de carritos Hot-Wheels entre ellos. Considerando cómo se dio este ejemplo de comunicación máquina a máquina, es posible prever dispositivos o sistemas inteligentes que se comunican entre sí de manera más eficiente, aunque siendo honestos, la depuración de dicho sistema sería una tarea excesivamente compleja para un programador humano.

De momento, la ciencia de las computadoras todavía está a un par de décadas de distancia de una verdadera Inteligencia Artificial Fuerte (AIF). No hay duda de que la IA está a punto de reemplazar o cambiar drásticamente muchos empleos existentes, desde la mayoría de los empleos en la industria manufacturera hasta varias ramas del trabajo administrativo. Pero eso no significa que no podamos hacer frente a la disrupción que esta tecnología conlleva, porque de hecho, lo hemos estado haciendo desde el siglo XVII. Al final, eliminando gran parte del trabajo repetitivo, tanto físico como mental, estamos alcanzando una meta casi utópica para nuestra especie, especialmente si nuestros gobiernos e instituciones están trabajando activamente para aprovechar esta oportunidad.

Claro que, una Inteligencia Artificial autoconsciente y súper-inteligente probablemente encontraría la manera de generar un puñado de posts y artículos sobre cómo la Inteligencia Artificial no es algo de qué preocuparse. ¿Cierto? ¿Cierto? (REPRODUCCIÓN DE RISAS HUMANAS).

Anuncios