La aprobación de la AI Act europea supone un hito largamente esperado pero para gobernar efectivamente la IA no basta. Es imprescindible reforzar los principios éticos y culturales de la sociedad
Hay urgencia en regular la inteligencia artificial, al menos en el mundo occidental. Todo va muy deprisa, los riesgos de que la tecnología se descontrole son altos y las autoridades sienten la presión para actuar.
Los gobiernos de la Unión Europea han llegado finalmente a un acuerdo sobre la AI Act en medio de divergencias entre países más proclives a atar en corto esta tecnología y otros que consideran que un exceso de legislación debilitaría la innovación, la competitividad e incluso la seguridad.
Hace unas semanas el gobierno norteamericano sorprendió con una orden ejecutiva que obliga a las empresas a informar de los riesgos que puedan comportar sus inventos y a capacitar a todos los ámbitos de la administración.
Iniciativas como las que están en marcha son indispensables y esperanzadoras pero hay dudas sobre su efectos reales, tanto por la discrecionalidad que se otorga a los estados en algunas regulaciones como por la lentitud de su despliegue: la AI Act no entrará plenamente en vigor hasta finales de 2026.
El poder que acumulan las corporaciones que lideran el desarrollo de la IA es tan grande, la aparición de innovaciones tan rápida y los procesos regulatorios y sancionadores son tan lentos y confusos que su efectividad puede ser menor de la esperada.
¿Qué hacer, pues? ¿Cómo transitar hacia una gobernanza efectiva de la IA? ¿Dispone la sociedad actual de mecanismos para gobernar la implantación de la inteligencia artificial y las tecnologías de vanguardia o estamos abocados a poner parches y a actuar siempre tarde y mal?
A raíz de lo hablado en una jornada de trabajo sobre Desigualdad Algorítmica organizada por el CIDOB en la que tuve ocasión de participar, me atrevo a plantear algunas sugerencias. Todas ellas parten de una idea central: la gobernanza efectiva de la IA no debe limitarse al ámbito legislativo. Es preciso actuar antes y después.
Antes de la ley
Los impulsos legislativos no se mueven solos. O lo hacen por la presión de la opinión pública o por la presión de la opinión privada. Resumiendo mucho podríamos convenir que la opinión pública se preocupa de defender el bienestar de la mayoría (y de las minorías) y los derechos comunes. En teoría, porque no siempre es así. En cambio, la opinión privada, con su ejército de lobbies, asesores y medios de influencia política, se ocupa de defender el negocio.
La pugna es desigual. Siempre lo ha sido. Salvo en casos contados, la opinión pública se presenta fragmentada, promovida por una sociedad civil atomizada que debe hacer frente a manipulaciones y obstáculos de todo tipo. Su capacidad de influencia es en algunos casos notable pero siempre muy laboriosa. La opinión privada, en cambio, está más cohesionada. Su objetivo es frenar cualquier obstáculo que impida maximizar el negocio y crear un clima favorable a su crecimiento.
La desigualdad parte también del conocimiento de lo que se pretende defender. La opinión privada conoce sus objetivos. La opinión pública, en cambio, además de disgregada, parte de un conocimiento borroso de los riesgos, especialmente en el campo de tecnología.
Para presionar al legislativo primero hay que ser consciente de lo que se quiere preservar, y en el caso de la inteligencia artificial todavía estamos muy lejos de conocer la gravedad de los riesgos a los que nos enfrentamos. Cuando percibe que los riesgos son reales e inmediatos, la opinión pública se moviliza (no siempre), pero cuando los peligros son etéreos, no evidentes y confusos, tiende a no atenderlos y a poner sus energías en otros asuntos más perentorios. Si con la amenaza del cambio climático, grave y palpable, todavía andamos renuentes a hacernos cargo de lo que implica, ante algo tan nuevo y contradictorio como la IA, a la opinión pública le cuesta activarse.
Habría, pues, que fomentar:
– Acciones permanentes de información y debate a todos los niveles sobre los riesgos que comporta la vulneración de la privacidad, el reconocimiento facial, la automatización de la toma de decisiones, la captura de la atención de las personas incluidos menores, las técnicas de adicción que se emplean para captar las audiencias, la concentración del poder tecnológico… Unas acciones que deberían ir más allá del ámbito académico o intelectual en el que habitualmente se circunscriben y penetrar en todos los ámbitos que afectan a la vida ciudadana: educación, salud, empresa, trabajo, consumo, ocio…
– Mecanismos de coordinación de las múltiples organizaciones de la sociedad civil que, aunque son conscientes de los riesgos, por matices o personalismos emprenden acciones fragmentadas y no siempre efectivas.
Legislar en el siglo XXI
El ámbito legislativo va dando sus pasos pero las características de la sociedad actual y las perspectivas que se vislumbran para el resto de siglo obligan a afrontar dos retos:
-El primero, plantearse seriamente la creación de instituciones y mecanismos de gobernanza global de la tecnología. En el ámbito de la salud, el clima, los derechos humanos… ya existen instituciones globales que velan por mantener un mínimo común aplicable a la población mundial. Con la inteligencia artificial y otras tecnologías debería hacerse lo mismo. Diversas iniciativas abogan por ello, pero todavía estamos lejos de conseguirlo.
-El segundo, acotar los tiempos de la regulación. Los procesos regulatorios son lentos y garantistas. La queja recurrente de que la tecnología es muy rápida y la política demasiado lenta es inútil. Siempre será así. Sin embargo, la aceleración que imprime el desarrollo tecnológico obliga a repensar los modelos regulatorios para que el gap que separa ambos ritmos no aumente y consolide definitivamente el control de la tecnología en un poder paralelo y un negocio sin ley.
Después de ley / Además de la ley
Una vez aprobadas las leyes hay que aplicarlas. Y para que su aplicación sea efectiva es muy distinto hacerlo en un entorno ético hostil o indiferente a lo legislado que en una sociedad cuya cultura comparte y asume los principios que se quieren defender.
Por eso resulta imprescindible que las acciones de información y debate que apuntaba necesarias en el ámbito pre legislativo se mantengan también una vez aprobadas las leyes con el objetivo de fortalecer la cultura y el comportamiento basado en los valores.
Afortunadamente, la conciencia y el comportamiento cívico van más allá de lo que regulan las leyes. Nuestra forma de actuar se basa en valores y modelos culturales arraigados. Las leyes contribuyen a fijar las normas básicas y a orientar el comportamiento pero no pueden ni deben atender a todo.
Resulta por lo tanto necesario que la sociedad profundice y mantenga los valores cívicos y democráticos que un desarrollo descontrolado de la tecnología puede poner en riesgo. Y para hacerlo no hay otro camino que reforzar la educación y el pensamiento crítico, instar al debate permanente y salvaguardar los medios de comunicación solventes y veraces.
La legislación debe acompañarse de mecanismos y apoyos que abonen el terreno sobre la que ésta se aplica y contribuir a que la ética se convierta en un elemento central de la sociedad y no un mero recurso retórico.
A pesar de sus bondades, la AI Act europea y la orden ejecutiva norteamericana no bastarán.
