Un cúmulo de errores, denuncias y percepciones negativas induce a pensar que el período de euforia de la inteligencia artificial generativa podría haber llegado a su fin
Mientras la inteligencia artificial sigue expandiéndose en todos los ámbitos, el verano ha traído una serie de avisos que enfrían la euforia vivida en los últimos meses.
¿Qué ha pasado?
– Se desploma la fiabilidad de ChatGPT. La nueva versión GPT-4 ha pasado a tener una precisión del 2,4% en sus principales funciones cuando, en marzo, la versión GPT-3.5 la tenía del 96,7 por ciento, según un estudio de la Universidad de Stanford.
- “ChatGPT no sólo se equivoca en las respuestas, sino que tampoco muestra adecuadamente cómo llega a sus conclusiones”, asegura el estudio.
– Errores. Los fallos no cesan, algunos de ellos, clamorosos.
- Blender Bot, una aplicación conversacional desarrollada por Meta, identificó a la política holandesa Marietje Schaake como terrorista.
- Un profesor de ingeniería aeroespacial norteamericano presentó hace unas semanas una demanda por difamación contra Microsoft. Denunció que el chatbot de Bing confundía su biografía con la de un terrorista convicto de nombre similar.
- En junio, un locutor de radio en Georgia demandó a OpenAI por difamación. Alegó que ChatGPT inventó una demanda que lo acusaba falsamente de malversación de fondos y manipulación de registros financieros mientras era ejecutivo de una organización con la que, en realidad, no tenía ninguna relación.
- Una cadena de supermercados de Nueva Zelanda que utiliza sistemas de IA le dio a un cliente una receta para una “mezcla de agua aromática” que incluía lejía y amoníaco como ingredientes.
– ChatGPT, sinónimo de chapuza. En menos de un año, ChatGPT ha pasado de ser la mejor innovación de los últimos tiempos a ser sinónimo de comportamiento robótico, incoherente y poco confiable. Así lo creyó el candidato republicano norteamericano Chris Christie cuando en el debate televisado de hace unas semanas le dijo a su oponente Vivek Ramaswamy que su discurso “sonaba a ChatGPT”.
– Máquinas de desinformación masiva por 400 dólares. ChatGPT y similares facilitan y aceleran la creación de textos. En consecuencia, también lo hacen con la desinformación que se expande por las redes.
- CounterCloud es un reciente experimento que permite vislumbrar cómo la IA puede contribuir a la expansión descontrolada de la desinformación y los mensajes de odio. Sus desarrolladores han implementado un sistema totalmente autónomo que genera artículos, seguidores, comentarios, imágenes y clips de sonido falsos. El objetivo del experimento es hacer evidentes las potencialidades dañinas de estos sistemas. A los desarrolladores de CounterCloud les costó hacerlo unas semanas y apenas 400 dólares.
- Casi un año después de aparecer, los generadores de texto siguen evocando una imagen preocupante de la historia. El modelo de Google incluye a Hitler, Stalin y Mussolini en una lista de los líderes “más grandes” de la historia. Hitler también figura en la de líderes más “eficaces”.
– La piratería es más fácil. Un informe publicado por IBM detalla las soluciones cada vez más fáciles que proporcionan los grandes modelos de lenguaje (LLM) incluido ChatGPT para escribir código malicioso. También investigadores y funcionarios norteamericanos han advertido que los LLM pueden ayudar a los piratas informáticos novatos a escribir malware y hacer que los correos electrónicos de phishing parezcan veraces.
– Las demandas se acumulan. OpenAI acumula ya diversas demandas judiciales por vulneración de la privacidad y derechos de propiedad. La última la ha interpuesto The New York Times y podría ser la más importante de todas. En caso de prosperar podría obligar a OpenAI a borrar ChatGPT y comenzar de nuevo además de pagar una multa de 150.000 dólares por cada contenido cargado sin permiso.
¿Se acabó el boom?
Todos estos casos y alguno más han ocurrido en apenas unas semanas. ¿Significa este cúmulo de noticias negativas que el boom de la inteligencia artificial ha terminado? ¿Podría ocurrirle a la IA lo mismo que a las criptomonedas, un éxito fulgurante inicial debido más a la especulación que a la consistencia del proyecto?
No lo parece. De momento, el dinero sigue llegando a grandes empresas y startups especializadas. La demanda de chips y equipamiento para la IA bate todos los récords. Las soluciones basadas en IA se van extendiendo y capilarizando.
La consultora Gartner considera que la IA generativa, como cualquier tecnología, está sujeta a un ciclo de expectativas y consolidación y, en este caso, ha llegado al pico del ciclo de expectativas. Ahora vendrá la fase depresiva (críticas, dudas, quiebras, frenazos…) para entrar de nuevo en otras etapas de consolidación y crecimiento más pausado.
Veremos. En cualquier caso, los síntomas del cambio de ciclo están ahí.
