«Orgullo y Prejuicio» de las predicciones algorítmicas

La novela de Jane Austen anticipa las limitaciones de la inteligencia artificial para predecir el comportamiento humano

.

Es una verdad universalmente aceptada, o al menos una creencia compartida por muchos investigadores de inteligencia artificial y aprendizaje automático, que con una base de datos amplia y un modelado sofisticado, un algoritmo podrá predecir el comportamiento de los seres humanos.

Tal vez Jane Austen no sea la autoridad más apropiada a la que acudir para hablar de este tema, pero aporta algunas ideas interesantes.

En Orgullo y Prejuicio, Elizabeth, la protagonista, se relaciona con un personaje llamado Mr. Darcy, con quien finalmente se casa. Sin embargo, influida por las historias que le cuentan otros personajes, al principio de la relación Elizabeth se convence de que Darcy no le gusta y que, en correspondencia, tampoco ella le gusta a él. Por eso se sorprende cuando, de repente, Darcy le propone matrimonio. Ese no era el comportamiento que ella habría esperado.

Por supuesto, su predicción se basó en una cantidad limitada de información, parte de la cual había sido obtenida y proporcionada por fuentes interesadas (sesgadas). En este sentido, de la novela se deduce una moraleja aplicable al orgullo y prejuicio injustificados de quienes creen que la inteligencia artificial puede anticipar de manera efectiva el comportamiento de las personas.

Conocer los límites

En otoño del 2020, dos profesores de la Universidad de Princeton impartieron un curso de informática titulado «Límites de la predicción«. En un útil ensayo previo comentaban que “los investigadores y las empresas han hecho proclamas muy optimistas acerca de la capacidad de los métodos estadísticos basados ​​en datos para predecir fenómenos que van desde delitos hasta terremotos. Una creencia que se ha extendido entre el público y los responsables políticos”.

Al observar la precisión actual de los algoritmos, los profesores Arvind Narayanan y Matt Salganik se preguntan si en el futuro se mantendrán los límites de la predicción algorítmica y explican por qué es importante saberlo: «Si estamos entrando en un mundo en el que el futuro es predecible, necesitamos empezar a prepararnos para las consecuencias, tanto si son buenas como si son malas. Si, por el contrario, las afirmaciones sobre las capacidades de predicción están sobrevaloradas, necesitamos saberlo para rechazarlas”.

En su ensayo, los profesores plantean varias hipótesis sobre los límites de la predicción.

Una de las limitaciones particularmente aplicable a las predicciones del comportamiento de los seres humanos es la que denominan «shocks». “A veces, las trayectorias vitales se tuercen a causa de acontecimientos imprevisibles: un premio de lotería, un accidente, un crimen pasional cometido en un arrebato momentáneo… Lo que no está claro es qué tan habituales son estos acontecimientos en el transcurso de una vida típica y hasta qué punto limitan la previsibilidad«. La variedad de “shocks” que alteran sustancialmente el comportamiento humano y que probablemente seguirán siendo imprevisibles es amplia y en algunos casos, muy común: el nacimiento de un niño, la necesidad de emigrar, una enfermedad, una ruptura amorosa, etc…

En Orgullo y Prejuicio descubrimos que el comportamiento de Darcy cambió completamente en parte a causa del «shock» recibido por la sorprendente y airada negativa de Elizabeth a su primera propuesta de matrimonio. La segunda le fue mucho mejor.

Por supuesto, Elizabeth no había anticipado correctamente la primera propuesta probablemente a causa de un factor que los profesores clasifican como «inputs no observados o no observables«.

Aplicados a los seres humanos parecen evidentes. «A menudo, las predicciones no alcanzan a captar las motivaciones más determinantes”, señalan Narayanan y Salganik, y añaden que «mientras los pensamientos de las personas permanezcan inaccesibles a los algoritmos, la predictibilidad de determinados tipos de acontecimientos será limitada«.  

Sesgos, motivaciones ocultas y malas interpretaciones

En Orgullo y Prejuicio se suele acusar a Darcy de ser inescrutable pero, en el mundo de Jane Austen, muchos «inputs» no se podían proporcionar: ni decir, ni hacer.

También hoy es difícil entender el comportamiento de muchas personas. La variedad de respuestas humanas a situaciones y contextos diferentes hace que todos seamos malinterpretados, al menos a veces. Es probable que los inputs no observados, no observables o interpretados incorrectamente supongan límites insalvables para predecir en el futuro el comportamiento humano.

.

Que Elizabeth base su predicción de las acciones de Darcy en una cantidad insuficiente de información se incluiría en lo que los profesores de Princeton llaman «el problema de los 8 mil millones», y su conformidad con la información que le proporcionaban personas críticas con Darcy pone de manifiesto un problema más amplio de sesgo en los conjuntos de datos, que, como ha señalado el investigador Solon Barocas, son «artefactos de la acción humana, no atribuibles a la naturaleza«. En el contexto de los modelos predictivos de IA, los sesgos pueden conducir a predicciones inexactas sobre personas o grupos.

Inicialmente, Elizabeth no hace caso de su propia intuición. Al principio del libro, cuando alguien comenta que la sociedad rural ofrece pocas oportunidades a los «estudiosos de la personalidad» porque es demasiado «cerrada e invariable«, Elizabeth responde: «pero la gente cambia tanto que siempre hay algo nuevo para observar en ella».

La gente cambia, aprende, se influyen unos a otros. Los tecnólogos podrían llamarlo «deriva».

Más precisión, las mismas limitaciones

Los defensores de las predicciones elaboradas mediante Machine Learning consideran que los grandes conjuntos de datos y los algoritmos cuidadosamente diseñados son una mejora con respecto a cualquier análisis que pudiera hacer Elizabeth y que sus predicciones son mucho más precisas que las realizadas por los seres humanos. Sin embargo, como he señalado anteriormente, los modelos predictivos se enfrentan a las mismas limitaciones que los pronosticadores humanos (en su ensayo, los profesores de Princeton enumeran muchas más de las mencionadas aquí). Y, desafortunadamente, las limitaciones de los algoritmos suelen estar más ocultas.

Como destacan Narayanan y Salganik, gran parte de los críticos de los algoritmos predictivos “rara vez han rebatido que los métodos de aprendizaje automático son más precisos si los comparamos con los expertos humanos y las estadísticas tradicionales, tal como asegura la industria del análisis predictivo. Cuestionar esa suposición cambiaría el debate por completo«. (Tenga en cuenta la referencia inicial a los expertos que aconsejaban a Elizabeth. Parte del problema en la primera parte de Orgullo y Prejuicio es que Elizabeth, aunque es inteligente y perspicaz, es joven e inexperta. También cambia a medida que aprende).

Necesitamos cambiar por completo el debate sobre el uso de algunas herramientas de inteligencia artificial que predicen el comportamiento humano. Cuando nos referimos al impacto de los algoritmos predictivos en la sociedad, «es un error tan habitual no aceptar los avances como reaccionar de forma exagerada dando por hecho que están a la vuelta de la esquina«, escriben los profesores de Princeton. Otro error es afirmar, con arrogancia, que esto ya está ocurriendo.

Irina Raicu

Este artículo se publicó originalmente en inglés en el blog del Markkula Center for Applied Ethics. Lea el original

Irina Raicu es director de Etica de Internet en el Markkula Center for Applied Ethics de la Universidad de Santa Clara, California