Las fantasías recreadas por la ficción condicionan nuestra manera de entender lo digital.
Utilizar estereotipos para abordar la inteligencia artificial no ayuda a comprenderla.
.
Nada en nuestra cultura popular contemporánea parece tan fascinante como las fantasías sobre los robots o las de una próxima digitalización total de nuestra sociedad. Hollywood está repleto de blockbusters con robots malvados, a veces hermosos, y de sueños sobre vidas alternativas o eternas, posibles gracias a los medios digitales.
Las películas son la expresión de miedos y esperanzas profundamente arraigados, pero también crean un imaginario cultural que alimenta esos miedos y esas esperanzas. Se pone en marcha así un bucle más o menos cerrado.
Hoy, las creaciones artísticas son, y por supuesto deben ser, libres de plantear cualquier tema, crear escenarios poco realistas o inventar premisas dramáticas que nos hagan reflexionar. Los problemas surgen cuando los lectores o los espectadores se olvidan de leer estas creaciones correctamente, es decir, metafóricamente.
Imagine, por ejemplo, una película sobre una sociedad en la que se utilizan los robots como esclavos personales para las tareas domésticas y en la que el protagonista debe aprender a superar sus prejuicios hacia los robots. ¿Nos incita esta película a pensar sobre nuestras relaciones con los futuros robots? ¡No! Porque esta película no va de robots, sino que plantea una metáfora sobre humanos tratando con humanos en la que los robots representan a humanos desfavorecidos.
La digitalización y la inteligencia artificial provocan muchos efectos en la sociedad y en la cultura. Por lo tanto, es de suma importancia verlos por lo que son para poder juzgar sus potencialidades y sus peligros de manera realista. Una «importación» inadecuada de la ficción a la realidad es inútil e improductiva.
Para ver más claramente qué se ha importado exactamente de la ficción a la realidad, veamos más de cerca las narrativas centradas en la inteligencia artificial.
.
Indio malo / indio bueno
En las películas sobre robots, particularmente las producidas en los últimos 20 años, podemos distinguir dos tipos: el robot bueno, inocente y, a veces, incluso espiritual, y el robot malo, demoníaco y perverso. Estos dos estereotipos son expresión de un paradigma que podríamos llamar “primitivista”. El paradigma primitivista es un “reflejo cultural” de la sociedad occidental que necesita construir un “otro” que pueda ser usado como espejo sobre el que proyectar nuestras propias características, las más apreciadas o las más odiosas.
Los indios americanos han servido durante mucho tiempo como “otros” dentro del orden primitivista, tanto en la época de la ilustración europea como en la cultura norteamericana. Durante siglos, a los indios se les ha presentado como salvajes sedientos de sangre o como seres inocentes y espiritualmente superiores. El indio como topos sigue siendo una obsesión en muchas novelas y películas norteamericanas. En el siglo XVII se narraban las vicisitudes de colonos puritanos secuestrados por indios malvados. En el XIX, en cambio, se hicieron populares historias que ensalzaban la nobleza de los indios y así hemos llegado a una nueva era que idealiza la vida moral y espiritual de los indios.
.
.
Las sociedades no solo crean un “otro” imaginario a partir de personas reales ya existentes, sino que a veces lo inventan. El mejor ejemplo es Alien, topos primitivista de los años 80 del siglo pasado. Los alienígenas fueron retratados de la misma manera que los indios de antaño: podían ser malvados y sedientos de sangre o buenos y espiritualmente muy avanzados. Hoy, los robots han asumido el papel de los alienígenas.
Este modo primitivista de conceptualizar los robots tiene una profunda influencia en la sociedad actual. Cuando Elon Musk o incluso Stephen Hawking nos advierten de los peligros y amenazas acechantes que los robots representan para la humanidad sirven al mismo viejo cliché primitivista del malvado “otro”. Lo que están haciendo no es una descripción adecuada o realista, sino más bien recuperar una narrativa ya existente y ponerla de nuevo en circulación.
.
Digitalización, paraíso o infierno
Cuando examinamos las narrativas y las imágenes de la digitalización, encontramos mecanismos similares. La digitalización se puede presentar como un medio para crear un paraíso o un infierno.
La idea de un paraíso digital se evoca a menudo con imágenes limpias y claras, un cielo azul y un universo abrumador en el que todo está conectado. El cielo digital es un paraíso puritano: se basa en la idea de transparencia, claridad y pureza. En un universo digital, las cosas son «0» o «1». No hay ambigüedad. Se utilizan imágenes que nos evocan la idea de un desarrollo teleológico «natural» en la que el ser humano ha evolucionado desde el mono hasta el homo sapiens y el homo digitalis, a menudo representado por un humano que sostiene un teléfono móvil. El futuro digital se convierte, así, en una profecía milenaria llena de esperanzas y deseos utópicos como el deseo de salvación y de vida eterna.
En los últimos siglos, los avances tecnológicos han ido acompañados de visiones utópicas poco realistas. Cuando Henry Ford inventó la fabricación en serie de automóviles estaba convencido de que esta nueva tecnología traería paz y prosperidad para todos. “Estamos a punto de entrar en una nueva era porque cuando lo tengamos todo, vendrá la libertad y el paraíso en la tierra. Nuestra nueva forma de pensar y actuar nos traerá un mundo nuevo, un cielo nuevo y una tierra nueva, como han anhelado los profetas desde la antigüedad ”(Ford, 1919).
Cien años después es la digitalización la que supuestamente traerá la salvación. Las imágenes que utilizan los directores ejecutivos de Silicon Valley en sus presentaciones así lo sugieren.
.
.
El infierno digital se representa principalmente de tres modos posibles: un infierno economizado digitalmente como el mundo de Blade Runner o Minority Report, donde los medios digitales se utilizan para la publicidad, un mundo fascista donde un gobernante utiliza medios digitales para erigir no solo su reinado sino también la uniformidad y la sincronicidad absoluta, o un mundo digital de pesadilla como el de Matrix, donde los humanos han perdido toda autonomía y capacidad de autodeterminación.
Las fantasías utópicas y distópicas han pasado del ámbito de las películas y las novelas a nuestras expectativas diarias. Estas expectativas, motivadas por la influencia religiosa, debilitan lo importante: el debate sobre los dilemas éticos concretos que plantea la digitalización.
.
Complejo de Frankenstein
Por último, hay un aspecto psicológico que Rudulph Dux denominó “complejo de Frankenstein”: el sueño de crear un ser vivo que pueda sentir y pensar como nosotros. Este sueño animista, tan bien descrito por Freud en Totem y Tabú (Freud, 1913), es parte de una fantasía regresiva, similar al deseo de un niño de insuflar vida a un muñeco para sentirse poderoso y / o no tan solo.
Desde el estudiante Nathanael en el cuento de Hoffmann «El hombre de arena» hasta las visiones de robots villanos como AVA en Ex Machina, el sueño sigue siendo el mismo: crear un compañero humano que nunca es del todo humano, pero sí lo suficientemente como para hacernos soñar que podremos conseguir de él lo que queramos: amor, fraternidad, o amistad absolutas.
«Tenga relaciones!» es el lema de la profesora Kathleen Richardson, crítica con el desarrollo de robots sexuales femeninos cada vez más sofisticados y realistas que desvían la atención sobre lo que es realmente importante: las relaciones entre personas.
El humanismo digital pone las relaciones humanas en primer término y tiene como objetivo reflexionar sobre las tecnologías digitales y utilizarlas de manera instrumental. Las herramientas digitales no fueron creadas por demonios ni ángeles, sino por humanos para humanos. Es hora de tener esto en cuenta y dejar de introducir estereotipos e imaginarios de ficción en nuestro lenguaje cotidiano. Necesitamos un juicio claro y realista, limpio de sueños, proyecciones y fantasías regresivas.
Nathalie Weidenfeld
Nathalie Weidenfeld es doctora en historia cultural norteamericana y profesora de la Universidad Munich.
Este artículo forma parte del libro Perspectives on Digital Humanism publicado originalmente en inglés. Puede leer el original y las referencias aquí
.
Sin comentarios