Genialidades peligrosas

Reacciones al lanzamiento de GPT-3, un sofisticado programa de inteligencia artificial creado con el propósito de emular el lenguaje humano

Este artículo, o uno parecido, podría haber sido escrito por una máquina. No es el caso. De momento.

En la carrera por dotar de supuesta inteligencia a las máquinas, una de las sensaciones tecnológicas del verano ha sido la apertura en periodo de pruebas de GPT-3, la última versión de un software que escribe texto automático de calidad similar al que podría redactar un humano.

Como indica su número, ésta es la tercera versión del software desarrollado por Open AI, un laboratorio de inteligencia artificial con sede en San Francisco. La versión 2, lanzada hace un año, ya estuvo rodeada de mucha expectación. Meses antes, sus desarrolladores anunciaron que no se atrevían a abrirlo del todo porque era demasiado potente e incluso peligroso dada su capacidad de producir textos falsos irreconocibles. Al final lo abrieron.

GPT-3, de momento en beta y con acceso restringido, es muchísimo más potente. Ha sido entrenado con todos los libros públicos en Internet, la Wikipedia y millones de artículos científicos y noticias. Mientras que GPT-2 disponía de 1.500 millones de parámetros, GPT-3 dispone de 175.000 millones. 

En un editorial, el periódico británico de The Guardian aseguraba que “el software de OpenAI es increíblemente bueno para jugar a ser humano. Ya sea componiendo poesía, emulando textos filosóficos  o escribiendo guiones de comedia , el consenso general es que GPT-3 es probablemente el mejor escritor no humano de todos los tiempos”.

Trabaja como la función de autocompletar de los correos electrónicos. Propones un texto y la máquina te sugiere las siguientes frases. Si la propuesta no te convence vuelves a probar. La diferencia es que la propuesta se compone de varios párrafos y de una calidad asombrosa.

GPT-3 es una de las innovaciones más sofisticadas que engloba el campo de la Inteligencia Artificial conocido como Procesamiento del Lenguaje Natural. Este video de la Universidad Politécnica de Valencia explica cómo funciona.

Los hombres son vagos; las mujeres, tranquilas

Se han publicado multitud de ejemplos de textos elaborados por GPT-3 y todos ellos tienen un alto nivel sintáctico y gramatical. En general, la acogida ha sido entusiasta pero, pese a lo espectacular del invento, desde el interior de la comunidad de Inteligencia Artificial se han publicado algunas críticas, la mayoría de las cuales destacan que, a pesar de la cantidad de datos con los que trabaja, no consigue evitar errores de sesgo.

Los propios investigadores de OpenAI han identificado las 10 palabras más sesgadas que reproduce el software al describir a hombres y a mujeres. Para los hombres, son recurrentes palabras como “grande”, “vago”, “fantástico” y “excéntrico”. GPT-3 ve a las mujeres “optimistas”, “animadas”, “traviesas”, “tranquilas” y “pequeñas”. Los investigadores reconocieron  que a las mujeres se las describe con más frecuencia utilizando palabras orientadas a la apariencia.

Jerome Pesenti, director de IA en Facebook, decía en Twitter que “seleccionar cualquier dato de la web porque está disponible no es una estrategia de capacitación responsable. Conducirá a amplificar sesgos no controlados, algunos muy dañinos”.

Pesenti, interesado en proteger el prestigio de la IA, cree que un lanzamiento precipitado de soluciones aparentemente mágicas puede generar desconfianza y alejar a la gente.

Otros analistas no le ven demasiado sentido ni utilidad al invento.

Nicolas Kayser-Bril de Algorithm Watch considera que “a pesar de sus admirables logros, la herramienta aún es incapaz de detectar o producir significado. Puede resultar muy útil en tareas donde no se requiere ningún significado, como escribir declaraciones pseudo-profundas u horóscopos. Muchos expertos coinciden en que no se puede utilizar para mucho más.”

¿Servirá para algo bueno?

¿Para qué puede servir un artefacto tan completo como GPT-3? 

El primer uso que todo el mundo intuye (quizás de ahí viene el recelo de Open AI a lanzarlo abiertamente) es la impresionante capacidad para emular el lenguaje humano que podrán incorporar los bots que proliferan en Internet y las redes sociales. Las falsedades podrán estar mejor argumentadas y, por lo tanto, más difíciles de detectar. En 2019, los bots generaron casi el 40 por ciento del tráfico en Internet, un 65% de los cuales son considerados maliciosos o fraudulentos. Los Bad Bots.

Sin caer necesariamente en la falsedad, los chatbots son una herramienta habitual en la atención al cliente de muchas empresas y los asistentes domésticos tipo Alexa aportan comodidad a sus usuarios. Todos ellos incorporan sistemas de lenguaje natural. Pero a medida que se sofistica la “naturalidad” de estos artefactos se incorpora un mayor grado de confusión en la identificación de los interlocutores. Si las máquinas hablan como nosotros y emulan nuestro razonamiento, ¿cómo les distinguiremos? 

De momento, GPT-3 tiene una capacidad de escritura limitada: puede generar unas 2000 palabras de un tirón. No puede escribir una novela completa o una tesis doctoral con un solo click pero puede ayudar a completarlas o a elaborar algunas de sus partes. ¿Cómo se gestiona la autoría en un contexto de colaboración hombre-máquina tan estrecha? ¿Dónde se sitúa la frontera de la creatividad? ¿Cuándo la máquina deja de ser una herramienta para convertirse en un sustituto?

Por último, parece que una de las aplicaciones más útiles de GPT-3 será la automatización de escritura de código de programación. Automatizar la producción de software es un procedimiento ya habitual, pero esta nueva herramienta puede ayudar a acelerar y mejorar procesos. Sus efectos contribuirán a la sustitución de programadores humanos pero, sobre todo, al incremento de la capacidad y velocidad de producción de software. Software de más capacidad, más rápido de construir y capaz de aprender por sí mismo. La aceleración que augura el futuro.

Un gran avance para las máquinas. ¿Lo será para la humanidad?

¿Vale la pena el invento? 

“Es sorprendentemente bueno pero completamente absurdo”, titulaba la Technology Review del MIT.

¿Cual es el coste de un programa tan espectacular pero de utilidades todavía inciertas y riesgos intuibles? Open AI no ha publicado las cifras pero, dada la dimensión del trabajo, no se intuye barato.

John Naugton se plantea también los efectos ambientales de programas de este tipo que “sólo son posibles aplicando más y más potencia de cálculo. ¿Cuáles son los costos ambientales de la tecnología de aprendizaje automático? Por el momento, hay consenso en que se trata de una actividad que consume mucha energía, pero parece ser un misterio cuál es exactamente el tamaño de su huella ambiental. Esto puede deberse en parte a que es realmente difícil de medir, pero también a que la industria tecnológica no tiene ningún interés en saberlo.”

El Procesamiento de Lenguaje Natural (NPL) avanza a ritmo acelerado. GPT-3 no es el único invento reciente en este campo. Google está trabajando en algo parecido y Blender, un chatbot presentado en abril por Facebook, permite dialogar fluidamente con él.

El mejor escritor no humano del mundo supone, sin duda, un gran avance para la inteligencia artificial. ¿Lo será también para la humanidad?

Joan Rosés