Qué significa ser humano

La respuesta a esta pregunta debería impregnar todas los debates sobre el uso, el propósito y las limitaciones de la inteligencia artificial

.

«¿Qué significa ser humano?» es quizás la pregunta más fundamental e importante que podemos hacer en este momento. Nos puede parecer extraño en una época en la que el mundo está luchando contra una pandemia, las democracias están más divididas y nos enfrentamos a desafíos como el cambio climático. Sin embargo, piénselo un segundo. Los medios con los que respondemos a estos desafíos son las nuevas tecnologías, las «máquinas» inteligentes. Confiamos en la inteligencia artificial y en los dispositivos “smart” como respuesta a todos nuestros problemas (solo piense en la gran variedad de aplicaciones de rastreo de contactos que han aparecido recientemente). 

Esta mayor dependencia de la inteligencia artificial hace que surjan consideraciones éticas sobre las relaciones de jerarquía entre humanos y máquinas y sobre el impacto de la IA en las personas. En la base de estas consideraciones éticas se encuentra la pregunta: ¿qué significa ser humano? La respuesta debería impregnar todos los debates sobre el uso, el propósito y las limitaciones de la inteligencia artificial.

Es una pregunta enorme y muy esencial. En cierto sentido, cuestiones como ésta son parte de lo que distingue al ser humano: la capacidad de preguntarnos sobre nuestra propia condición y naturaleza, de reflexionar sobre lo que actualmente nos separa de la IA. 

Cuando hablamos de IA, hablamos de algoritmos de aprendizaje automático, redes neuronales profundas y sistemas automatizados de toma de decisiones. El futuro de una IA completamente autónoma, consciente, similar a la humana y altamente inteligente se ve muy lejana. Muchos investigadores creen que no se alcanzará nunca. Cuando nos preguntamos qué significa ser humano, también nos cuestionamos si debemos esforzarnos en llegar a ese nivel de inteligencia artificial.

Hoy en día la pregunta sobre qué significa ser humano adquiere fuerza e importancia cuando nos planteamos la relación entre humanos y «máquinas». Si usted analiza las discusiones éticas sobre, por ejemplo, la inteligencia artificial, la responsabilidad algorítmica y la toma de decisiones automatizada, y se cuestiona por qué son importantes, acaba planteándose la esencia de la humanidad.

.

Ser humano es tener la capacidad de decidir por uno mismo (libre albedrío) combinada con la de actuar según tu voluntad (autonomía y agencia)

.

Así pues, ¿qué significa ser humano? En el libro Re-engineering Humanity Brett Frischmann y Evan Selinger argumentan que tiene que ver con el libre albedrío, la autonomía y la agencia.

En la combinación de libre albedrío y autonomía se encuentra la capacidad de razonamiento moral y de responsabilidad, una de las capacidades fundamentales que distinguen a los humanos. Por lo tanto, en relación con la inteligencia artificial, la respuesta significa que el uso de la IA nunca debe restringir de ninguna manera el libre albedrío de las personas, ni limitar su autonomía o su libertad de acción. Además, las personas deben poder emitir sus propios juicios morales sin estar condicionadas por los resultados de un sistema automatizado, que tal vez no llegan a comprender.

.

Los seres sociales necesitan razonamiento moral

Dice Shoshana Zuboff (autora de Capitalismo de vigilancia) que una parte fundamental del ser humano radica en la necesidad de estar juntos. Somos esencialmente seres sociales, lo cual plantea interrogantes sobre nuestra relación con las «máquinas» y el estatus que las nuevas tecnologías digitales han adquirido en nuestras vidas y sociedades.

Aunque el libre albedrío, la autonomía y la toma de decisiones morales a menudo se consideran capacidades humanas individuales, en realidad es en el ámbito social donde adquieren importancia. Necesitamos razonamiento y toma de decisiones morales porque somos seres sociales.

En una época en la que hemos necesitado estar separados físicamente, la tecnología ha podido ayudarnos en parte, pero también hemos aprendido que, mediados por una pantalla, nunca podremos satisfacer nuestra necesidad de estar físicamente juntos. 

Además, aunque pudiéramos incorporar a la IA cierta moralidad en la toma de decisiones – si conseguimos acordar la teoría moral en la que basarnos-, el aspecto social de la humanidad es algo exclusivo de los seres humanos. 

.

Si no pensamos en lo que significa ser humano, corremos el riesgo de que la inteligencia artificial nos desborde

.

La IA no necesita vida social. Y, lo que es más importante, la inteligencia social, es decir la capacidad humana de estar cerca de otras personas, de actuar de acuerdo con la forma en que actúan los demás, de saber cómo ser social, es uno de los problemas más difíciles a los que se enfrenta la IA. En cierto sentido, la sociabilidad humana tiene que ver con la capacidad de comprender el contexto, -el contexto social- que cambia continuamente. Los sistemas de inteligencia artificial y otros sistemas automatizados tienen dificultades para comprender el contexto. No es fácil entrenar un sistema para que tenga inteligencia social. Comprender una situación desde una perspectiva diferente y proyectar lo que está sucediendo desde el punto de vista de otro ser humano es una capacidad fundamental y estrictamente humana.

Si no pensamos en qué estatus deberían tener las ‘máquinas’ en relación con las personas, es decir, si no pensamos en lo que significa ser humano, corremos el riesgo de que la IA nos desborde.

Tendemos a enfocarnos en lo que la IA hace mejor que nosotros y pasamos por alto sus limitaciones. Cuando nos enfrentamos a desafíos como la pandemia, el cambio climático y, especialmente, la forma de la democracia, deberíamos preguntarnos si las ‘máquinas’ son adecuadas para resolver nuestros problemas. ¿Son realmente capaces de tomar las mejores decisiones que tengan sentido en un contexto social? ¿O necesitamos personas con sus habilidades sociales únicas que sean capaces de ponerse en la posición de otros para comprender nuestros anhelos?

Las ‘máquinas’ pueden ayudarnos, pero no deberían hacer más que eso. Es imperativo que en todo momento tengamos presente lo que significa ser humano.

.

Sille Obelitz Søe y Jens-Erik Mai

Sille Obelitz Søe es profesora adjunta de Filosofía de la Información en la Universidad de Copenhague. @SilleSoee

Jens-Erik Mai es jefe del Departamento de Comunicación de la Universidad de Copenhague. @jenserikmai

Este artículo se publicó originalmente en inglés en Dataethics