Tres aportaciones de las humanidades al debate sobre la IA: aumentar el pluralismo, analizar los procedimientos, no sólo los resultados, y fomentar la participación colectiva (John Tasioulas)
.
La vinculación del humanismo con la tecnología, el llamado humanismo tecnológico, es hoy por hoy un concepto sugerente pero todavía vacío de contenido o, por lo menos, de concreción. Se ha iniciado en la creación de conciencia crítica pero falta saber en qué consiste, si es que consiste en algo más que la propia generación de conciencia, que ya es mucho.
Ante esta orfandad de concreciones, John Tasioulas, director del Instituto de Ética en IA de la Universidad de Oxford, propone tres ideas sobre cómo incorporar las artes y humanidades al debate sobre la inteligencia artificial. Parte de sus reflexiones las exponíamos en el artículo de la semana pasada cuando comentábamos el debate abierto entre quienes defienden la necesidad de hacer frente al poder desmesurado de la IA con más legislación y menos debate ético y quienes alertan del peligro de reducción de la reflexión moral de la sociedad y abogan por ampliarla.
Tasioulas apunta tres ideas: pluralismo, procedimientos y participación. Tres P.
.
Pluralismo
La primera idea aboga por aumentar el pluralismo del propio debate. El desarrollo tecnológico plantea un mundo uniforme basado en una optimización que elimina los matices y desdeña las alternativas. Pero además de superar la visión reductiva de la tecnología, el pluralismo también debe aplicarse a los valores que la tecnoética actual da por sentados. No sólo hay que ampliar la visión de los tecnólogos, también la de los humanistas que interpretan los impactos de la tecnología.
Por ejemplo, hoy se asume que los sistemas inteligentes deben ser confiables, esto es, transparentes, auditables y respetuosos con la privacidad. La mayor parte de documentos y políticas que orientan la ética de la IA, también los de la Comisión Europea, asumen este concepto como central. Tasioulas, sin embargo, advierte que la confianza o la confiabilidad no es más que un paraguas bajo el cual se cobijan valores más básicos que no pueden ser desplazados de la reflexión, ni sustituidos por el concepto de confiabilidad que les da cobertura pero no los define. La propia ética corre el riesgo de dejarse llevar por el reduccionismo que impone la tecnología y desvirtuar el debate.
Tasioulas propone un pluralismo radical que “también socave la suposición fácil de que la clave de la ética de la IA se encuentra en un solo concepto maestro, como los derechos humanos. ¿Cómo pueden los derechos humanos ser el marco general para la ética de la IA cuando, por ejemplo, la IA tiene un impacto ambiental que no se puede ceñir exclusivamente a las preocupaciones antropocéntricas? ¿Y qué hay de esos valores humanos que no consideramos derechos pero que, sin embargo, son importantes, como la misericordia o la solidaridad?”
En resumen, el pensamiento humanista puede aportar una contribución valiosa si no da nada por sentado ni se conforma con reducir el debate ético a tres o cuatro conceptos como la privacidad, la confiabilidad, la rendición de cuentas, o incluso los derechos humanos, por muy importantes que éstos sean.
.
Procedimientos
La segunda idea consiste en fijarse en los procedimientos, no solo en los resultados.
Aunque es necesario que la IA logre objetivos sociales valiosos como mejorar el acceso a la educación, la justicia y la atención médica, lo importante no radica sólo en el resultado final sino también en la vía por la que llegamos a él.
Cuando un sistema de IA permite identificar y tratar una enfermedad como el cáncer, por ejemplo, lo más importante es obtener un diagnóstico preciso y, en gran medida, es indiferente si éste se alcanza mediante inteligencia artificial o inteligencia humana.
.
.
Sin embargo, en otros ámbitos, como el de la justicia, la situación es distinta. Aunque la sentencia de un juez robot pudiera ser menos sesgada o incluso más consistente que la dictada por un juez humano aceptarla supondría sacrificar valores importantes vinculados al proceso de decisión como la transparencia, la equidad procesal, la explicabilidad… y acrecentaría “el temor que muchos sienten al contemplar un mundo deshumanizado en el que los juicios que afectan a nuestros intereses más profundos y nuestra posición moral se delegan en máquinas autónomas que no participan de la solidaridad humana y no pueden ser responsabilizados por sus decisiones de la forma en que puede serlo un juez humano”.
Importa, cómo no, evitar los despropósitos que provoca el sesgo de los sistemas automatizados de toma de decisiones y mejorar su precisión, pero Tasioulas viene a sugerir que el riesgo para la calidad de la vida humana no desaparecerá cuando estos sistemas sean más justos y ecuánimes, si algún día llegan a serlo.
.
Participación
La tercera característica radica en la importancia de la participación en el proceso de toma de decisiones, ya sea a título individual o como parte de un colectivo.
A nivel individual, participar significa alejarse del modelo que equipara el bienestar humano a un determinado estado final como el placer, la comodidad o la satisfacción. Para lograr esos estados finales una persona puede ser completamente pasiva y limitarse a consumir.
Opuesta a esta visión pasiva tenemos la que propone Alasdair MacIntyre: “la vida buena es la vida empleada en la búsqueda de la vida buena” (Tras la Virtud). Es decir, cuando el bienestar humano se consigue mediante el compromiso y la acción.
Pero si asumimos esa concepción activa del bienestar debemos ser consecuentes y plantearnos seriamente por qué estamos delegando el poder de decisión en sistemas automatizados basados en inteligencia artificial o por qué aceptamos que la automatización ponga en riesgo millones de puestos de trabajo.
.
.
El trabajo es el ámbito donde se hace más evidente la necesidad humana de participación. El trabajo facilita (o debería facilitar) los medios para una subsistencia digna pero también nos permite (o debería permitir) desarrollar nuestras habilidades y competencias y hacernos sentir que somos parte de la sociedad.
Lo paradójico es que valoramos la automatización del trabajo como un avance de la modernidad. Según un estudio de McKinsey, el 60% de las actividades laborales se pueden automatizar por lo menos en un 30%. Y eso nos parece bien porque damos por sentado que la eliminación a gran escala de las oportunidades de trabajo podrá compensarse con los “beneficios” adicionales que aportará la automatización y que la autorrealización participativa del trabajo podrá ser reemplazada milagrosamente por otras actividades, como el arte, la amistad, el juego o la religión.
¿De verdad creemos eso? “Si fuera así – dice Tasioulas- no será suficiente abordar el problema con un mecanismo como la Renta Básica Universal, que implica la recepción pasiva de un beneficio.” Y si lo ponemos en duda, ¿por qué asumimos la automatización como un bien indiscutible?
La automatización de la toma de decisiones erosiona los valores democráticos
La participación también forma parte indisociable de la democracia, no sólo por los beneficios instrumentales que aporta la toma colectiva de decisiones, sino por la forma en que los procesos participativos reafirman el estatus de los ciudadanos como miembros libres e iguales de la comunidad. “Este es un pilar esencial en la defensa de las sociedades modernas y democráticas pero se contradice con la tendencia de la IA a ser cooptada por modos tecnocráticos de toma de decisiones que erosionan los valores democráticos al tratar de convertir asuntos de juicio político en cuestiones de experiencia técnica.”
Actualmente gran parte de la cultura en la que se integra la IA es claramente tecnocrática. De hecho son las élites de un pequeño grupo de gigantes tecnológicos las que realizan la mayor parte de la inversión en inteligencia artificial y las que deciden los valores que se codifican en los sistemas, a menudo mediante cajas negras no accesibles a ningún control.
Las redes sociales, gobernadas por sofisticados sistemas automatizados y opacos, propagan la desinformación, degradan la deliberación pública y fomentan la polarización política. Grandes corporaciones hacen negocio con los datos personales y muchas instituciones públicas y privadas ceden a la tentación de vigilarlo todo. Un cúmulo de acciones y circunstancias que desalientan la participación ciudadana.
Es hoy más necesario que nunca fomentar la participación dado el declive de la fe en la democracia que, en los últimos años, se constata en todo el mundo incluso en democracias consolidadas como el Reino Unido y los Estados Unidos. La desilusión es tal que, según un informe reciente, el 51% de los europeos están a favor de reemplazar a algunos de sus gobernantes por sistemas de inteligencia artificial. Los más entusiastas, los españoles con un 66%. En China, el 75% de las personas encuestadas apoyó la propuesta.
Están en juego valores profundos. Para defenderlos resulta imprescindible ampliar la mirada y no dejar que la ética se contagie del reduccionismo tecnológico al que intenta combatir, entender que los resultados no siempre justifican procedimientos que eliminan el factor humano y combatir los mecanismos que degradan o desincentivan la participación colectiva. No sólo está en juego la privacidad o la confiabilidad. Están en juego la democracia y el sentido de la vida humana.
Tal vez el riesgo no está en que la inteligencia artificial funcione mal sino en que funcione demasiado bien.
