¿Demasiada ética?

Debate abierto entre quienes consideran prioritario controlar el poder de la IA, con más legislación y menos autoregulación, y los que advierten del peligro de reducir la reflexión moral de la sociedad y abogan por ampliarla

.

Uno de los libros sobre Inteligencia artificial que más repercusión internacional está teniendo es Atlas of AI, de Kate Crawford (aún no traducido al español). El libro pretende desmontar una cierta concepción sobrenatural o mágica de la inteligencia artificial (“ni es inteligencia, ni es artificial”) y demostrar cuan material y apegada a la tierra resulta esta tecnología.

Crawford argumenta que la IA se basa en la extracción: para funcionar tiene que explotar el planeta, las personas y los datos que éstas producen. 

Es una tecnología material que extrae y devora ingentes recursos naturales, desde el almacenamiento en la nube hasta el litio que compone los dispositivos, además de la enorme cantidad de energía que utiliza. 

Pero también necesita del trabajo humano. En todas las etapas del proceso industrial de la IA las personas son fundamentales aunque “la IA desarrollada sobre la base del trabajo humano se utilice para explotar aún más a los trabajadores.”

Y, finalmente, la IA necesita datos masivos para funcionar. Los datos se recopilan generalmente sin el consentimiento informado de la población, ajena, en gran medida, a cómo se utilizan sus imágenes, movimientos y comunicaciones.

.

.

Ante esta realidad cruda y material, Crawford se plantea cómo gobernar la IA. Una de las ideas del libro que ha generado más controversia y que la autora reitera en todas sus presentaciones es que debemos centrarnos menos en la ética y más en controlar el poder de quienes impulsan la IA. 

La polémica no se origina tanto por el literal de la frase central de su tesis: “la ética es necesaria, pero no suficiente”, que la mayoría puede suscribir, sino por la denuncia implícita de una cierta inutilidad de la vía ética: “Es más útil preguntarse quién se beneficia y a quién perjudica la IA. Lo vemos una y otra vez, desde el reconocimiento facial hasta el rastreo y la vigilancia en los lugares de trabajo. Estos sistemas están empoderando a instituciones que ya son poderosas, corporaciones, ejércitos y policías. Para mejorar las cosas se requieren sistemas regulatorios mucho más fuertes”. Es decir, más legislación y menos debate ético.

.

Preocupante reducción de la noción de ética

John Tasioulas y Shannon Vallor, dos de los expertos en ética de la tecnología de más prestigio internacional, han salido al paso de lo que consideran una visión reduccionista de Crawford.

Hace un par de semanas John Tasioluas, director del Instituto de Ética en IA de la Universidad de Oxford, publicó en el blog del Ada Lovelace Institute un artículo titulado El papel de las artes y las humanidades en el pensamiento sobre la inteligencia artificial en el que argumentaba su crítica y reivindicaba un nuevo empoderamiento ético de la sociedad.

¿Qué implica poner el foco en el poder? – se pregunta Tasioulas- Crawford dice que así se cuestionarían las estructuras de poder en las que se incrusta la IA y que afectan a la igualdad, la justicia y la democracia. Lo irónico es que estas ideas son en sí mismas valores éticos fundamentales y, en democracia, deben ser explicadas y defendidas como tales valores”. 

Sería una capitulación enormemente perjudicial adoptar una visión anémica de la ética

John Tasioulas

Tasioulas denuncia una “preocupante reducción de la noción de ética”, causada, en parte, por las propias empresas tecnológicas, que han incorporado la ética a su lenguaje y la han limitado a una forma de autoregulación blanda sin aplicabilidad legal. Lo han hecho para blanquear su tecnología pero también debido a la mentalidad que orienta su manera de trabajar. Como cualquier persona, los investigadores de inteligencia artificial tienden a creer que sus acciones tienen una capacidad de resolver problemas mucho mayor de la real. “La mentalidad de los científicos que trabajan en IA tiende a estar condicionada por los datos, pone un gran énfasis en la optimización y prioriza las técnicas formales y cuantitativas”, a la vez que excluye las aportaciones siempre contradictorias, inestables y cualitativas de las artes, las humanidades y de la reflexión ética.

“Sería una capitulación enormemente perjudicial adoptar una visión anémica de la ética limitada a la autorregulación, en el mejor de los casos, o a las relaciones públicas corporativas, en el peor. Reclamar una comprensión amplia y fundamental de la ética en el dominio de la IA, con implicaciones radicales para el reordenamiento del poder social, es una tarea fundamental de las artes y las humanidades.”, concluye Tasioulas.

.

.

Shannon Vallor, directora del Centro de Futuros Tecnomorales del Instituto de Futuros de Edimburgo, se suma al debate y reivindica la necesidad de movilizar las artes y las humanidades para recuperar el sentido pleno de la ética y aportar imaginación al desarrollo tecnológico.

Según Vallor, las artes y las humanidades pueden llevarnos más allá de visiones estériles y empobrecidas de futuros que pulen nuestras acciones y nuestras decisiones y eliminan toda fricción. “Futuros donde no hay nada que disputar o desafiar, solo el seguimiento seguro de caminos óptimos y predefinidos”.

.

Vida buena o vida óptima

“El mayor desafío actual de la humanidad es el continuo crecimiento de un régimen tecnocrático que busca compulsivamente optimizar cada operación humana sin preguntarse qué es lo óptimo, o incluso por qué optimizar es bueno.”, dice Vallor.

La obsesión por la optimización conduce a una forma de vida uniforme, “óptima”, que prioriza algunos valores pero excluye todos los demás. “A nadie se le ocurriría reducir la música a la búsqueda de una nota óptima para tocar siempre. Nadie buscaría en la pintura cubrir un lienzo con el color “óptimo”. Ni se podría crear una sinfonía “óptima” que reemplazara a todas las demás. Sin embargo, las personas adoptamos con facilidad enfoques reductivos de la ética que buscan equiparar todos los aspectos de la vida humana. Imaginamos que la diversidad humana se puede convertir algorítmicamente a una única escala de valores que, sumados, maximizen nuestra utilidad neta“. añade.

Este reduccionismo permanente que interpreta lo no óptimo como superfluo compromete también la idea de progreso y elimina las visiones alternativas sobre el futuro que no comparten el determinismo dominante y la veneración por una visión ahistoricista de la innovación que considera la novedad algo bueno en sí mismo.

“¿Y si, en lugar de crear una nueva herramienta, el progreso significara también reparar lo que solía ser y lo que ya no es? “, se pregunta Vallor.

El cuidado, la reparación, el mantenimiento y la restauración son valores que han sido apreciados durante mucho tiempo en la historia de la artesanía y las artes. En lugar de olvidarlas la tecnología puede ayudar a recuperarlas. 

“Los futuros buenos, o al menos mejores , todavía son posibles. Pero para encontrar nuestro camino hacia ellos, será necesario reconstruir la imaginación tecnológica actual e infundirle el legado completo del conocimiento humano”.

Un camino que John Tasioulas propone transitar con la ayuda de tres P: pluralismo, procedimiento y participación. Pero de eso hablaremos la próxima semana.

Joan Rosés