La dependencia tecnológica nos aboca a la contradicción de usar herramientas que aumentan nuestras capacidades pero que a la vez pueden disminuir la inteligencia y la creatividad colectivas, poner en riesgo la autonomía humana y mecanizar el pensamiento
El marketing tecnológico nos induce a asociar desarrollo técnico con progreso social o personal. Cualquier invento se presenta como un avance incontestable que “empodera” a quienes lo adoptan y empobrece a quienes lo rehuyen. Aceptamos que la tecnología nos convierte en seres “aumentados”, cada vez más capaces e “inteligentes”. De hecho, la técnica está para eso pero raras veces nos planteamos si la dependencia tecnológica, lejos de aumentarnos, nos disminuye.
Hace unos meses, el director suizo Daniel Titz presentó un cortometraje titulado Alone, realizado con inteligencia artificial. El corto muestra una colección de imágenes de personas en diversos momentos de soledad.
Cuando comentó su obra, dijo: “como director, crear esta breve pieza fue fascinante pero aterrador. Es increíble pensar en las posibilidades que tendremos en un futuro muy cercano. ¿Pero cuál es el precio a pagar? Aquí estoy, atrapado en un dilema ético. Yo era el único ser humano involucrado en esto. Nunca me he sentido más empoderado, y al mismo tiempo más solo”.
Alone y las reflexiones de su director ponen de manifiesto las contradicciones en las que nos sumerge la tecnología. Se multiplican las capacidades del creador solitario encerrado con un ordenador en el estudio de su casa pero a costa de la colaboración y la complicidad de otras personas. Con la ayuda de la IA, creaciones hasta ahora fruto del trabajo colectivo tienden a la individualidad. Individuos empoderados pero solitarios.
Inteligencia menos colectiva
Un grupo de investigadores multidisciplinares ha publicado recientemente en la revista Nature un estudio que ahonda en las contradicciones de ese supuesto “aumento”. Advierte de cómo los grandes modelos de lenguaje que alimentan la inteligencia artificial empobrecen la inteligencia colectiva.
El término inteligencia colectiva se refiere a la capacidad de los individuos para actuar colectivamente de forma inteligente, superando así la inteligencia individual en tareas como generar ideas, resolver problemas o tomar decisiones.
Los modelos de lenguaje de la IA generan respuestas basadas en patrones que se obtienen a partir de los datos con los que han sido entrenados. Esa lógica les lleva a valorar la frecuencia de una respuesta, prescindir de opiniones o visiones alternativas y favorecer consensos ilusorios en los que la posición más repetida se asocia erróneamente al consenso real.
En tareas creativas, los modelos de lenguaje conducen a soluciones rápidas basadas en patrones recurrentes y descartan la exploración. En procesos deliberativos pueden mejorar la eficiencia comunicativa, pero limitan la diversidad.
La velocidad y facilidad con la que generan contenido coherente facilita la generación de información errónea. Por su aparente corrección, las “alucinaciones” de los modelos son más difíciles de verificar que muchas de las mentiras burdas que inundan las redes. Convenientemente manipulados, los modelos de inteligencia artificial pueden resultar convincentes y muy atractivos para lanzar campañas de desinformación que eludan los mecanismos de detección automática.
También los entornos colaborativos van perdiendo fuerza. Plataformas de conocimiento colectivo como la Wikipedia o los foros de código compartido y tecnología open source como GitHub o Stack Overflow reducen audiencia a medida que las consultas las resuelve una máquina.
Robots asistenciales y máquinas emocionales
Pero también nuestra individualidad puede resentirse. Los robots asistenciales prometen ser útiles para completar nuestras disfunciones pero corren el riesgo de convertirse en sustitutos de lo humano. En tanto que nos descargan de las tareas más mecánicas como dar de comer, ayudar a vestir o asistir en actividades físicas o cognitivas, los robots liberan a los cuidadores de tareas pesadas y aportan valor. Pero cuando se les añaden funciones de acompañamiento emocional se cruza una línea que tiende a reducir el valor de la aportación personal en favor de sucedáneos artificiales siempre disponibles. Se sustituye lo humano y aumenta la dependencia de lo mecánico. Dice Julia Pareto, especialista en ética de la robótica asistencial que “el gran riesgo ético de la IA es la abdicación de la libertad humana”. Según cómo integremos la tecnología en nuestras vidas corremos el riesgo de “atentar contra nuestra condición de seres autónomos.”
Mentes mecanizadas
Un reciente artículo publicado por el filósofo Shai Tubali en Big Thing advierte del impacto de la mecanización en la mente humana. El texto empieza así:
“El intenso interés por lo que las máquinas pueden o no pueden hacer nos ha llevado a eludir una pregunta igualmente apremiante: ¿cómo podría el uso generalizado de la IA transformar el pensamiento humano? ¿Se volverá más parecido a las máquinas?
El filósofo Jiddu Krishnamurti advirtió que a medida que las máquinas replican nuestras capacidades cognitivas, la humanidad corre el riesgo de perder el contacto con formas de conciencia más profundas y no mecánicas.
La verdadera pregunta no es si la IA se volverá consciente, sino si los humanos pueden cultivar una inteligencia más allá de los patrones de pensamiento predecibles y propios de las máquinas.”
Joan Rosés
1 comments
Muy interesante, gracias por abrir estos espacios de debate.
Me gustaría plantear otra posición que es que soy muy escéptico con todos los planteamientos de advierten de los riesgos de las nuevas tecnologías.
En primer lugar creo que es algo habitual en la historia de nuestra especie eh incorporar tecnologías que transforman nuestro día adía e incluso nuestra forma de percibir la realidad por lo que estos avances tecnológicos en realidad no lo son más que la propia Internet y sin embargo aquí nos encontramos.
En segundo lugar creo que cuando una persona entrena a la inteligencia artificial convendremos de se utilizan de forma habitual criterios bioéticos.
Me gustaría presentaros la siguiente paradoja que creo que realmente está detrás de los discursos del miedo.
Si tú enseñas a una máquina a ser respetuosa con la diversidad ya proteger los derechos humanos como se supone que actuará cuando sea presente de que estamos en un mundo donde la riqueza se concentra en el uno por ciento de la población humana?
Considero que esta paradoja ya la tienen muy presente estas personas y esta no otra es la verdadera cuestión por la que no se está desarrollando libremente esta tecnología y estamos ante escenarios regulatorios.
La pérdida de control de la especie humana e incluso de las dinámicas del mercado laboral en realidad no la va a sufrir el pobre o la pobre desgraciada que trabaja ocho o diez horas al día para poder llegar a final de mes. Esa mano de obra es relativamente barata para quien acumula balances financieros multimillonarios y muy rentable precisamente para frenar el avance de tecnologías que puedan asesorar sobre cómo construir políticas sociales y evitar riesgos como la falta de transparencia y los conflictos de intereses propios de los humanos que tienen el poder hoy en día.
Creo que no hay posibilidad de perder el control cuando en realidad no lo tenemos