Mientras los garantes de lo público se debilitan, los líderes tecnológicos se sienten llamados a orientar el pensamiento colectivo
El filósofo Michael J. Sandel (Universidad de Harvard) y el premio Nobel de Economía Daron Acemoglu (MIT) mantuvieron hace un par de semanas una conversación abierta sobre el futuro de la democracia.
Abordaron temas como el lado oscuro de la meritocracia, los límites de los mercados, el significado actual de libertad y el creciente control de las empresas tecnológicas sobre la esfera pública.
En su charla transmitieron una doble sensación: esperanza de que podamos revertir la deriva peligrosa en la que andamos metidos, pero también incertidumbre de que nos pongamos a ello demasiado tarde.
Del papel de las empresas tecnológicas dijeron cosas como estas:
Acemoglu: Si las empresas de IA comienzan a controlar el dominio público, los datos y el discurso, la participación cívica se transformará y quizás la democracia muera. Afrontamos dos tipos de amenazas: la falta de futuro para el trabajo y el ataque a lo público.
Sandel: La dirección que toma la innovación tecnológica no es un hecho inevitable, propio de la naturaleza. Si la marcan los capitalistas de Silicon Valley irá hacia la automatización y el reemplazo de empleos; si se orienta a objetivos sociales puede mejorar el trabajo y hacerlo más productivo, en lugar de reemplazarlo.
Acemoglu: Ahora mismo la IA se orienta a la automatización y empodera a unos pocos que pueden apoderarse de la esfera pública. ¿Cómo lidiamos con eso? Quizás mediante la deliberación, pero ¿tenemos tiempo?
Sandel: Debemos intentarlo porque la ansiedad y la ira que hay en el país tienen mucho que ver con la sensación de desempoderamiento. Parte de ese desempoderamiento se debe a la pérdida de legitimidad del gobierno representativo, que parece incapaz de actuar por el bien público, indiferente a las opiniones de los ciudadanos. Pero igual de fatídica es la concentración de poder en la industria tecnológica, que no solo ejerce poder político, sino que moldea cómo nos comunicamos, aprendemos y nos informamos.
Lo que me da esperanza es que hay hambre de un mejor tipo de discurso público. Hay un anhelo por reafirmar las voces ciudadanas y por un discurso moralmente más robusto que ese de tipo gerencial y airado que tenemos ahora.
Acemoglu: Tienes razón, el hambre por la democracia es robusta. Lo que me preocupa es el marco temporal, si estamos a tiempo antes de que el daño esté hecho.
Sandel: Mirando el peligro que acecha al proyecto democrático es difícil negar que es tarde…, pero comencemos.
Quién pone los límites
Dice Sandel que parte de ese desempoderamiento se debe a la pérdida de legitimidad de los poderes públicos que parecen incapaces de actuar por el bien común, pero que igual de preocupante es la concentración de poder en la industria tecnológica.
En buena lógica democrática correspondería al poder público acotar las ambiciones del poder tecnológico. Pero los roles se difuminan, incluso se intercambian. Lo hemos visto en la reciente crisis entre el Departamento de Defensa de los Estados Unidos y la empresa privada Anthropic. Ha sido ésta la que ha puesto límites éticos al interés desmesurado del poder público.
El Departamento de Defensa esgrime que una empresa privada no debe limitar usos legales a un poder público. La empresa, en cambio, considera que los usos ilimitados que exige el Pentágono traspasan líneas rojas éticas que la justicia tardará en evaluar.
¿Está una empresa privada como Anthropic legitimada para decidir los límites?
El filósofo Fernando Aguiar, investigador del CSIC, responde que “si se deja solo en manos de las empresas, corremos el riesgo de privatizar decisiones que afectan a los derechos humanos y al uso legítimo de la fuerza. Si se deja solo en manos del Estado y de sus contratistas, el peligro es reducir un problema político y moral a una cláusula de legalidad formal.”
Vacío moral
Transitamos tiempos de desorientación moral. Los poderes públicos, que en parte deberían ejercer ese liderazgo, se van debilitando, cuando no corrompiendo, capturados por nuevos mandatarios que actúan en beneficio de sus propias ambiciones, o, en el mejor de los casos, gestionados por políticos honestos pero incapaces de frenar la voracidad de las grandes corporaciones o de ofrecer un proyecto de futuro a buena parte de sus poblaciones.
Ante ese vacío de liderazgo moral, algunos dirigentes tecnológicos se sienten impulsados a ejercerlo.
A finales del siglo XIX, los grandes emprendedores norteamericanos también sintieron la llamada de la virtud cuando su gobierno intentaba poner coto a los nuevos monopolios. Los efectos de la revolución industrial, la implantación del ferrocarril y el auge de las telecomunicaciones facilitaron la creación de grandes empresas que tendían al dominio absoluto de sus mercados. Más allá de las ventajas evidentes que el monopolio proporcionaba al negocio, los magnates consideraban que la competencia solo comportaba debilidad y que concentrar el poder era un deber moral.
Hasta el final de sus días, Theodore Vail, primer presidente de la AT&T, insistió en que el futuro lo debían liderar corporaciones científicamente organizadas dirigidas por «hombres buenos».
También ahora surgen “hombres buenos” que nos ofrecen su liderazgo. Desorientados como estamos, nos apresuramos a aceptarlo.
Tras el plante de Darío Amodei ante el Departamento de Defensa, los usuarios de Anthropic crecieron como la espuma, alentados por la bondad ética de su posición. En cambio, ChatGPT (OpenAI), que aceptó las condiciones para reemplazarlo, se convirtió en el villano de la historia, y numerosos usuarios se dieron de baja.
Dice Aguiar que “en una democracia, esa elección no debería resolverse ni por la lógica corporativa ni por la mera razón de Estado, sino mediante deliberación pública, control parlamentario y supervisión independiente.”
Se hace tarde y, aunque deberíamos estar actuando, todavía estamos en la fase de plantearnos la deliberación. Aún así, como dice Michael J. Sandel, comencemos, no sea que un día nos demos cuenta de que también la moral colectiva se ha privatizado.
Joan Rosés
