|
|
|
|
|
|
- En tiempos de desorientación moral, los líderes tecnológicos se ofrecen a orientarnos
|
|
- Los sistemas de vigilancia masiba se sofistican y expanden
|
|
- En recuerdo de Jurgen Habermas y su defensa de la deliberación
|
|
|
Sociedad desorientada busca liderazgo moral
El filósofo Michael J. Sandel (Universidad de Harvard) y el premio Nobel de Economía Daron Acemoglu (MIT) mantuvieron hace un par de semanas una conversación abierta sobre el futuro de la democracia.
|
En su charla transmitieron una doble sensación: esperanza de que podamos revertir la deriva peligrosa en la que andamos metidos, pero también incertidumbre de que nos pongamos a ello demasiado tarde.
|
Coincidieron en que unas de las causas de esa deriva son la pérdida de legitimidad de los gobiernos y la concentración de poder en la industria tecnológica.
|
En buena lógica democrática correspondería al poder público acotar las ambiciones del poder tecnológico. Pero los roles se difuminan, incluso se intercambian. Lo hemos visto en la reciente crisis entre el Departamento de Defensa de los Estados Unidos y la empresa privada Anthropic. Ha sido ésta la que ha puesto límites éticos al interés desmesurado del poder público.
|
¿Está Anthropic habilitada para decidir los límites?
|
|
Son tiempos de desorientación moral. Los poderes públicos, que en parte deberían ejercer ese liderazgo, se van debilitando, cuando no corrompiendo. Ante ese vacío de liderazgo moral, algunos dirigentes tecnológicos se sienten impulsados, cuando no obligados, a ejercerlo.
|
|
|
|
|
|
|
|
¿Quién protege el alma moral de la sociedad?
Durante casi cuatro siglos, el Estado moderno ha sido el principal actor en los asuntos globales. Su legitimidad se basaba en un pacto moral: un contrato social en el que el poder debía servir al pueblo, no consumirlo . Ese pacto se encuentra ahora bajo presión. Un puñado de empresas tecnológicas —Nvidia, Amazon, Google, Meta, OpenAI y otras— han acumulado no solo poder económico, sino también influencia geopolítica que antes estaba reservada a los Estados-nación. Están moldeando la arquitectura moral del mundo con la misma profundidad que cualquier gobierno. Jacob Udo en Global Center for Rehumanising Democracy
|
Los servicios públicos digitales, privatizados de facto
Los multimillonarios tecnológicos han privatizado de facto los bienes públicos digitales. Plataformas como Facebook, el buscador de Google y ChatGPT de OpenAI operan ahora a una escala y con un grado de dependencia social que las convierte, en la práctica, en infraestructuras esenciales globales.
|
Lo que podría haber sido un espacio común para el debate democrático y el desarrollo ético, se convierte en un bien de propiedad privada regido por intereses corporativos.
|
Esta monopolización conlleva dos degradaciones interrelacionadas. En primer lugar, la degradación de los bienes públicos digitales, y en segundo lugar, la degradación moral que acompaña al proceso. A medida que las plataformas se vuelven más extractivas y menos confiables, erosionan las capacidades fundamentales de la vida democrática: la confianza, el diálogo y el reconocimiento mutuo. Tech Policy Press
|
El proyecto Panamá y la doble moral de Anthropic
|
Mientras Anthropic defendía postulados éticos ante el Departamento de Defensa de los EEUU, The Washington Post ha revelado que, a principios de 2024, los ejecutivos de la compañía impulsaron un ambicioso proyecto para escanear todos los libros del mundo: el Proyecto Panamá. «No queremos que se sepa que estamos trabajando en esto», advertía un documento interno de la compañía.
|
La investigación del periódico aporta datos sobre cómo se llevo a cabo el proyecto y cómo otras empresas de IA como Meta, OpenAI o Google hicieron algo parecido. The Washington Post
|
|
|
|
"Las empresas privadas de IA están tomando decisiones que comportan consecuencias para toda la ciudadanía, decisiones en cuya elaboración los gobiernos, las instituciones democráticas y el público no tienen ninguna influencia significativa. Esto no es un efecto secundario de la industria de la IA, sino que se está convirtiendo en su característica definitoria". Montreal AI Ethics Institute
|
|
La deliberación según Habermas
Tras la muerte del filósofo alemán Jürgen Habermas se han publicado docenas de comentarios sobre su obra.
|
|
Elegimos una frase de Máriam Martínez Bascuñan en El País: "En un momento en que los oráculos de Silicon Valley han ocupado el lugar del intelectual público y los líderes europeos abandonan el orden normativo como quien se quita un abrigo que ya no calienta, lo que se va con Habermas no es solo un filósofo. Es la última gran voz que insistió, sin ingenuidad y sin rendirse, en que el poder necesita justificarse ante la razón. Y no al revés."
|
|
|
|
|
|
|
|
|
Vigilancia que no cesa
Uno de los motivos del plante de Anthropic ante el Departamento de Defensa de los EEUU fue la negativa a que se usaran sus modelos para vigilar a ciudadanos norteamericanos.
|
Ya sea por la puerta de atrás o con el beneplácito público, los sistemas de vigilancia de la población se van implantando en todo el mundo.
|
La organización Algorithm Watch, con sede en Alemania, se dedica desde hace años a monitorizarlos y denunciarlos. Aquí algunos de los últimos casos detectados:
|
- Berlín: A partir del próximo mes, la policía comenzará a probar un sistema automatizado de análisis de comportamiento en los alrededores de Alexanderplatz, Kottbusser Tor y otros dos lugares [ Morgenpost, 2 de marzo]
- Suiza: El Hospital Cantón de Lucerna, uno de los más grandes de Suiza, utiliza un sistema de inteligencia artificial que monitoriza la "felicidad" de los pacientes basándose en sus expresiones faciales. La autoridad local de protección de datos no estaba al tanto [ Blick am Sonntag, 21 de febrero].
- Irán: Nuevos documentos muestran que, a partir de 2019, el régimen adquirió herramientas de reconocimiento facial en tiempo real de Rusia. Su uso se ha generalizado [Forbidden Stories, 3 de marzo]
- Bremen: La ciudad (600.000 habitantes) planea conectar las cámaras de vigilancia de sus tranvías a un sistema automatizado que detecta situaciones anómalas. Una prueba realizada el año pasado mostró que, de 16 alertas, 12 fueron falsos positivos [ taz, 19 de febrero].
|
|
|
|
|
|
|
|
|
Behind the Face of AI es un comic elaborado por Anymous Workers, dos personas que trabajan en Francia para una empresa que supervisa los datos con los que se alimentan los modelos de IA. El comic describe gráficamente el nivel de alienación y presión que conlleva su trabajo y cómo tienen que hacerlo a ritmos imposibles y siguiendo reglas y restricciones en constante cambio. Anonymous Workers // Descargar
|
|
|
|
|
|
- Impacto laboral de la IA en los jóvenes. Según un estudio de Anthropic, en los últimos años la contratación de jóvenes en puestos de trabajo susceptibles de ser automatizados con IA ha caído un 14 %. No se despide más, pero se deja de contratar. Anthropic
|
- Consensuando un logotipo para creaciones "hechas por humanos". Organizaciones de todo el mundo compiten por desarrollar una etiqueta reconocida universalmente para los productos y servicios "creados por el ser humano" como parte de la creciente reacción en contra del uso de la IA. BBC
|
|
- Las gafas con IA sirven para copiar en los exámenes. La Generalitat valenciana tiene un plan para evitar el uso de gafas conectadas en los exámenes de las oposiciones. Se
|
plantea inspeccionar las gafas de los aspirantes y colocar inhibidores de frecuencias en las salas. Xataka
|
- Meta se enfrenta a una demanda colectiva por publicidad engañosa de sus gafas. Engaget
|
|
- En un juicio en Inglaterra, cazan a un testigo que estaba conectado con las gafas. 404 media
|
|
|
|
|
|
|
|