¿Seremos capaces de supervisar la IA o solo lo decimos para tranquilizarnos?
La IA avanza deprisa y en paralelo crece el temor a los errores que provoca cuando toma decisiones por su cuenta. La solución, decimos, es que la responsabilidad final siempre sea humana.
Es decir: si supervisamos bien, podemos estar tranquilos.
¿Pero realmente seremos capaces de supervisar la IA ahora que se avecina una oleada de agentes autónomos, o solo lo decimos para tranquilizarnos?
Michael Hallsworth, profesor de Ciencias del Comportamiento en la Universidad de Pensilvania, ha publicado un extenso artículo en el que cuestiona la capacidad humana de supervisar efectivamente la IA.
Resumimos su tesis:
“Evocamos la imagen de una persona competente y vigilante que intervendrá con pericia si el sistema falla. Marcos de gobernanza completos se construyen sobre esta imagen tranquilizadora. Por ejemplo, el artículo 14 de la Ley de IA de la UE impone una serie de requisitos que responsabilizan a los seres humanos de «prevenir o minimizar los riesgos para la salud, la seguridad o los derechos fundamentales».
Pero la ley no especifica si estas personas tendrán las habilidades, la atención o la motivación necesarias para realizar esta supervisión. Ni, en caso de que puedan, durante cuánto tiempo. Ni cómo sería esa experiencia.”
En otras palabras, no estamos pensando lo suficiente en cómo se comporta realmente un ser humano cuando debe encargarse de supervisar la IA.
Humano-máquina, una relación antigua
Nuestra relación con las máquinas viene de antiguo y hay literatura suficiente para sentar una primera base de riesgos. Por ejemplo, sabemos que las personas fallan cuando tienen que supervisar demasiadas cosas a la vez o cuando relajan su atención porque se confían en exceso.
Todas las máquinas fallan alguna vez. Para evitar problemas graves los supervisores deben conocer los procesos, disponer de indicadores para detectar anomalías y saber interpretar las primeras señales de alarma.
Con la IA generativa eso no es tan fácil. En primer lugar, porque no nos advierte cuando hierra. Cuando falla, disimula.
Los grandes modelos de lenguaje (LLM) simulan tener una especie de supervisor interno parecido a un humano que vela por sus resultados pero, en realidad, están programados para ofrecer explicaciones convincentes y justificarse cuando se detectan sus errores.
En otras palabras, con la IA nos enfrentamos a un nuevo peligro: la apariencia de autorregulación.
Fatiga de la IA
Pero hay más.
Investigadores de Boston Consulting Group han analizado un fenómeno conocido como «fatiga mental por IA». La definen como el cansancio derivado de la supervisión de sistemas de inteligencia artificial.
Tras analizar los efectos cognitivos en unos 1500 trabajadores que usan habitualmente herramientas de IA, concluyeron que una interacción intensa y constante con la IA provoca una especie de resaca, es decir, incapacidad para pensar con claridad, dificultad para concentrarse, lentitud en la toma de decisiones e incluso dolor de cabeza.
En parte, esta situación puede explicarse por la paradoja de Jevons. En lugar de reducir la producción, aprovechamos la IA para incrementarla, y lo que ganamos en eficiencia lo perdemos aumentando la carga de trabajo. El estudio sugiere que cuando una persona usa o supervisa más de cuatro herramientas de IA simultáneamente, empieza la resaca.
“Era como si tuviera una docena de pestañas del navegador abiertas en mi cabeza, todas compitiendo por mi atención. Me sorprendía releyendo lo mismo, dudando mucho más de lo normal y sintiéndome extrañamente impaciente.”
Con los LLM resulta muy difícil, o incluso imposible, entender con exactitud por qué se ha producido un determinado resultado. Consumes mucha energía intentando comprender el funcionamiento interno del sistema y descifrar qué está ocurriendo. Un esfuerzo que no destinas a aportar sino sólo a comprender.
“La sobrecarga de verificación consiste en el trabajo cognitivo necesario para evaluar un resultado que no has creado, utilizando un razonamiento que no puedes inspeccionar, comparándolo con un sistema que aparenta autorregularse, pero que probablemente no lo hace. En esto consiste ser un experto en inteligencia artificial generativa.”
Pereza mental y dilución de la identidad profesional
La consecuencia de esa sobrecarga conduce al fenómeno contrario: la pereza mental. Si debo supervisar infinidad de procesos que no entiendo y eso me agota, me relajo y dejo que la máquina actúe. Nominalmente, el supervisor tiene el control, pero rodeado de máquinas que deciden por su cuenta, se relaja y los errores aumentan.
Si con las máquinas convencionales, destinadas sobre todo a sustituir tareas físicas, ya pasa eso, con la IA, que se orienta a reemplazar el criterio profesional, el riesgo aumenta.
Los radiólogos supervisarán a una máquina que interpreta radiografías, una parte fundamental de lo que hasta ahora ha sido su identidad profesional. Los abogados observarán cómo la IA redacta los argumentos jurídicos, algo que hasta ahora ha sido una parte esencial de su trabajo.
Cuando mantenemos cierta capacidad para controlar los resultados, nuestra motivación aumenta, incluso si la tarea en sí es repetitiva y aburrida. Pero si sentimos que esa capacidad de decisión se ha perdido, nuestra motivación y, lo que es crucial, nuestro sentido de responsabilidad se debilitan.
Si además de cansancio, la supervisión de la IA conlleva una dilución de la identidad profesional y una pérdida de responsabilidad, el factor humano se diluye.
Confiar en que por muchas barrabasadas que haga la IA siempre habrá un humano que las evite es mucho confiar.
“Necesitamos ir más allá de la mera ubicación de una persona en un diagrama de gobernanza. Debemos comprender también cómo esa posición afecta a sus creencias, emociones y comportamientos.”
Joan Rosés
