Adiós a la ética

Progreso tecnocientífico y progreso moral se desacoplan. Las grandes tecnológicas rehúyen compromisos éticos porque estos ya no cotizan. Pocos los reclaman y casi nadie los exige

En 2018, la consultora Gartner vaticinaba que la ética sería una de las diez grandes tendencias que marcarían el futuro de la tecnología. No hay que ser muy perspicaz para constatar que el vaticinio no se está cumpliendo.

Supremacy AI, libro que la periodista de Bloomberg News Parmy Olson publicó a finales de 2024 y que The Financial Times consideró libro de negocios del año, constata el fracaso de la ética en las corporaciones que lideran el desarrollo de la IA.

Carlos Guadián lo resume así: «Olson documenta cómo la ética se ha convertido en poco más que un ejercicio de relaciones públicas. Las grandes tecnológicas contratan equipos de ética, publican principios rimbombantes sobre el uso responsable de la IA y organizan conferencias donde hablan del futuro de la humanidad. Pero cuando llega el momento de la verdad, cuando hay que elegir entre los principios y los beneficios, la balanza siempre se inclina hacia el mismo lado.»

Supremacy AI describe la rivalidad entre Sam Altman (OpenAI) y Demis Hassabis (Google Deepmind) en su carrera por desarrollar la inteligencia artificial general.

Inicialmente, ambos prometieron construir una IA orientada al bien común. DeepMind intentó crear una junta de ética y seguridad independiente. OpenAI, por su parte, se fundó como una organización sin fines de lucro con la promesa de abrir el código de su investigación y priorizar los valores. 

La necesidad de financiación y poder computacional llevó a ambas compañías a aliarse con gigantes tecnológicos como Google y Microsoft, y acabaron devoradas por la necesidad imperiosa de crecer. «Cada principio ético era negociable frente a una oportunidad de negocio.»

A la carrera de la IA pronto se incorporaron más empresas, algunas chinas, otras norteamericanas como X y Meta, ninguna de ellas caracterizada precisamente por su respeto a la transparencia y a las prioridades éticas.

El resultado es que, hoy por hoy, el desarrollo de la IA se ciñe estrictamente a las reglas de la batalla por la supremacía corporativa y geopolítica.

Efectos secundarios

Siendo esto preocupante, lo son también los efectos que empieza a provocar el uso intensivo de la IA generativa en algunos ámbitos como la educación o las redes sociales: “pereza cognitiva”, desmovilización del pensamiento crítico, facilidad para el engaño…

En The AI Mirror, la filósofa Shannon Vallor considera que la IA infunde esperanza en un futuro en el que las limitaciones y fragilidades humanas sean finalmente superadas, no por nosotros, sino por nuestras máquinas. 

En Ética para tiempos oscuros (1920), Markus Gabriel recuerda que el progreso científico y tecnológico solo tiene sentido cuando se acompaña de un progreso moral. 

“Los tiempos oscuros en los que sin duda vivimos, y aún seguiremos viviendo en el futuro, se caracterizan por el hecho de que la luz del conocimiento moral queda parcialmente eclipsada, de forma sistemática, con la difusión de noticias falsas, manipulaciones políticas, propaganda, ideologías y demás concepciones del mundo, por poner solo algunos ejemplos. Contra estos tiempos oscuros necesitamos Ilustración. Una Ilustración que anteponga la luz de la razón y con ello de la comprensión moral.”

El panorama político actual, la devastación incesante del planeta, la canibalización de lo público, el debilitamiento de las democracias, la conculcación impune de los derechos humanos y la concentración obsesiva de poder tecnológico son indicios de que nos estamos alejando de la comprensión moral que propone Gabriel.

Progreso tecnocientífico y progreso moral se desacoplan.

La ética no cotiza

Las grandes tecnológicas rehúyen compromisos éticos porque estos ya no cotizan. Pocos los reclaman y casi nadie los exige. También la legislación, que emana del consenso ético, rebaja su ambición. La Comisión Europea ,que aprobó una histórica ley de la IA, contemporiza con los nuevos tiempos y se inclina ahora por diluir los efectos de su reglamentación o incluso revisar alguna de sus disposiciones. No digamos Estados Unidos. 

La crisis de la ética aplicada a la IA es un reflejo del relativismo y abandono moral al que se acomoda la sociedad actual. Las consecuencias no son teóricas; tienen implicaciones muy reales en nuestro día a día. Algoritmos de IA se utilizan para decidir quién recibe un crédito, a quién se le ofrece un empleo, o a quién vigilan las fuerzas del orden. La propiedad intelectual y el valor de la creatividad humana se diluyen ante la voracidad de un fin tecnológico que supuestamente conduce al progreso. Las reglas del sistema educativo que fomentan y miden el esfuerzo saltan por los aires de la noche a la mañana gracias a las facilidades de unos grandes modelos de lenguaje que incitan al atajo, cuando no al engaño. Se aplaude la réplica artificial de lo humano aunque provoque la proliferación de contenidos falsos difícilmente detectables. 

En este nuevo contexto de valores devaluados, la ética se nos aparece como algo etéreo e ineficaz. Demasiado lenta para un mundo que exige rapidez. Demasiado inconcreta para un mundo que exige soluciones. Demasiado humana para un mundo que confía en lo artificial.

Nos mostramos insensibles a su deterioro, ajenos a las consecuencias que eso conlleva. No percibimos que son los comportamientos éticos los que tejen la fortaleza de una sociedad.

La ética se nos va. Esperemos que solo de vacaciones.

Joan Rosés