|
|
|
|
|
|
- Si supervisamos bien la IA, podemos estar tranquilos. ¿Seguro?
|
|
- Por qué las leyes europeas no están preparadas para los agentes IA. Cinco razones.
|
|
- León XIV: la IA interpela la conciencia moral de nuestro tiempo. Se está construyendo sobre nuevas formas de esclavitud.
|
|
|
¿Humanos al mando?
La IA avanza deprisa y en paralelo crece el temor a los errores que provoca cuando toma decisiones por su cuenta. La solución, decimos, es que la responsabilidad final siempre sea humana. Es decir, si supervisamos bien, podemos estar tranquilos.
|
¿Pero realmente seremos capaces de supervisar la IA ahora que se avecina una oleada de agentes autónomos, o solo lo decimos para tranquilizarnos?
|
Michael Hallsworth, profesor de Ciencias del Comportamiento en la Universidad de Pensilvania, ha publicado un extenso artículo en el que cuestiona la capacidad humana de supervisar efectivamente la IA.
|
|
|
“Evocamos la imagen de una persona competente y vigilante que intervendrá con pericia si el sistema falla.
Marcos de gobernanza completos se construyen sobre esta imagen tranquilizadora. Por ejemplo, el artículo 14 de la Ley de IA de la UE impone una serie de requisitos que responsabilizan a los seres humanos de «prevenir o minimizar los riesgos para la salud, la seguridad o los derechos fundamentales».
Pero la ley no especifica si estas personas tendrán las habilidades, la atención o la motivación necesarias para realizar esta supervisión. Ni, en caso de que puedan, durante cuánto tiempo. Ni cómo sería esa experiencia.”
|
|
|
En otras palabras, no estamos pensando lo suficiente en cómo se comporta realmente un ser humano cuando debe supervisar la IA.
|
|
|
|
|
|
|
|
La IA nos saturará de trabajo
|
|
Se nos ha dicho que la IA le quitará el trabajo a la gente. Lo que nadie menciona es que muchos de esos empleos recaerán sobre nosotros. La revolución de la IA implica una enorme transferencia de mano de obra, no del trabajador a la máquina, sino del trabajador al consumidor.
La capacidad de hacerlo todo nosotros mismos puede ser satisfactoria, pero puede sobrecargarnos gradualmente de trabajo sin que nos demos cuenta. Las tareas que antes delegábamos seguirán haciéndose. Simplemente saldrán de la fuerza de trabajo y se trasladarán al hogar como nuevas formas de trabajo invisible y no remunerado. Carl Benedikt Frey en The New York Times en español.
|
|
|
Europa no está preparada para los agentes de IA
La Ley europea de IA no se redactó teniendo en cuenta a los agentes. Su despliegue presenta cinco desafíos:
|
- Métricas: Las métricas de la ley, como la "exactitud", no se adaptan bien a los agentes porque a menudo ejecutan tareas complejas en las que no existe una única respuesta. La ley prevé evaluaciones de impacto periódicas cuando los agentes requieren una monitorización constante.
- Seguridad: Los agentes permiten ejecutar ciberataques sofisticados a gran escala sin necesidad de conocimientos técnicos por parte del atacante. La normativa actual se centra en amenazas tradicionales, como la contaminación de datos, y no aborda riesgos específicos de los agentes, como la inyección de instrucciones ocultas.
- Privacidad: A diferencia de los sistemas tradicionales, los agentes recopilan y transfieren datos de forma continua. La ley entiende que los datos se recogen en momentos concretos y para un propósito inicial específico.
- Equidad: Existe el riesgo de que la economía de los agentes se concentre todavía más en grandes corporaciones tecnológicas.
- Supervisión: La ley presupone que las acciones de la IA siempre pueden detenerse o revertirse, pero los agentes que operan a velocidades sobrehumanas pueden tomar decisiones irreversibles. Disponer de un "botón de parada" es insuficiente, dado que el control real de los agentes exige una compleja infraestructura técnica de detección de anomalías. Tech Policy Press
|
¿Está obsoleto el reglamento europeo de IA antes incluso de su aplicación plena? El País / Retina
|
|
|
|
Agentes, el trasvase continúa
|
|
|
|
La nueva generación de inteligencia artificial prescinde de mecanismos de supervisión humana y acelera la delegación de funciones en las máquinas (2024)
|
|
|
|
|
|
|
|
|
|
León XIV: la IA se está construyendo sobre nuevas formas de esclavitud
La encíclica Magnifica Humanitas del Papa León XIV, además de hacer un alegato claro y contundente sobre los riesgos de la IA, señala la falta de ética sobre la que se está construyendo:
|
|
|
173. En el mundo de la IA nada es inmaterial o mágico. Cada respuesta que parece inmediata y perfecta proviene de una larga cadena de mediaciones, de una extensa red de recursos naturales, de infraestructuras energéticas y, sobre todo, de personas. Una parte significativa del funcionamiento de la economía digital se sustenta en el trabajo silencioso de millones de seres humanos, empleados en actividades poco visibles pero esenciales: etiquetado de datos, moderación de contenidos —a menudo pésimos— y entrenamiento de modelos. En muchos casos se trata de jóvenes, en su mayoría mujeres, que trabajan duro a cambio de remuneraciones mínimas. A este arduo trabajo invisible se suma la tarea, aún más brutal, de la extracción de los recursos necesarios para la producción de los dispositivos y microprocesadores en los que se basa la IA. En algunas regiones del mundo, adolescentes y niños trabajan en condiciones peligrosas en la trituración de los materiales de los que se obtienen las tierras raras. Cuerpos marcados, mutilados, consumidos para que el flujo de los cálculos no se interrumpa.
Esta realidad interpela profundamente la conciencia moral de nuestro tiempo. No basta con invocar la eficiencia ni con alabar los beneficios de la innovación, si estos se basan en una cadena de explotación que se mantiene deliberadamente oculta. Si una tecnología promete emancipación, pero produce nuevas formas de subordinación global, contradice el principio fundamental de la dignidad de la persona.
174. La lucha contra las nuevas formas de esclavitud constituye una prueba de fuego decisiva para el discernimiento ético de la IA y la transformación digital.
|
|
|
|
|
Enfadados con la IA
Hace unos días, líderes tecnológicos como Eric Schmidt (ex Google) fueron abucheados en público cuando alentaron el uso de la IA.
|
Las razones son fáciles de explicar:
|
Empleo: el 42% de la Generación Z cree que la IA dificultará sus oportunidades laborales. No les faltan razones: empresas como Meta, Amazon, Oracle... mencionan abiertamente la IA para justificar despidos masivos.
|
Desigualdad estructural: los estudiantes comprueban cómo se invierten recursos ilimitados en centros de datos, mientras se les dice que una vivienda digna o un empleo estable son "aspiraciones poco realistas".
|
Saturación tecno-optimista: la evangelización tecno-optimista, sin matices ni autocrítica, genera cada vez más rechazo.
|
Militarización y vigilancia: el uso creciente de la IA para la industria militar y como herramienta que sofistica los sistemas de vigilancia provoca una amplia oposición.
|
Medio ambiente: el consumo desproporcionado de agua y energía de los centros de datos enciende las alarmas. El 71% de los estadounidenses se opone a que se construya un centro de datos de IA cerca de sus casas.
|
|
|
|
|
|
|
|
|
|
