La Comisión Europea intenta definir una estrategia propia marcada por un difícil equilibrio en tiempos polarizados
A mediados de febrero la Comisión Europea presentó tres documentos relevantes sobre el futuro digital de la Unión:
-Un plan para configurar el espacio digital europeo. Shaping Europe’s Digital Future
-Un posicionamiento estratégico para crear un espacio común de datos. A European strategy for data
-El Libro Blanco de la Inteligencia Artificial. Una aproximación a la excelencia y la confianza.
Los tres textos intentan diseñar un camino propio hacia lo que Europa denomina una economía digital centrada en las personas.
A diferencia de los modelos norteamericano y asiático que apuestan por un desarrollo tecnológico sin matices, el primero impulsado por grandes corporaciones privadas y el segundo por el Estado, Europa opta por una tercera vía. La vía del equilibrio.
En el ámbito de digital, optar por el equilibrio significa estimular el desarrollo de una industria tecnológica propia que sea capaz de competir a nivel global y a la vez preservar los derechos y valores que han hecho de Europa la zona del planeta más respetuosa con los derechos humanos.
La industria digital europea acumula importantes déficits. Sólo un 4 por ciento de los datos que genera Europa están alojados dentro de sus fronteras. En 2016 se invirtieron en Inteligencia Artificial 3,2 billones de euros mientras que en Estados Unidos y Asia la inversión fue de 12,1 y 6,5 billones, respectivamente. Aunque tenemos la percepción de que Europa es un territorio altamente digitalizado, la realidad es que un 35% por ciento de su población carece de las habilidades digitales básicas. No existe, hoy por hoy, tecnología europea que pueda competir con Huawei en el despliegue de infraestructuras 5G…
«Perdimos la primera batalla, la de los datos personales”, ha admitido el comisario europeo de Mercado Interior, Thierry Breton.
La Comisión Europea no se puede permitir que el continente quede al margen del futuro digital. “La guerra por los datos industriales empieza ahora. Y Europa será el principal terreno de batalla”, añadió Breton.
Estimular la industria digital europea parece una necesidad clara.
Pero Europa no puede permanecer impasible ante la voracidad que acompaña el despliegue tecnológico liderado por las grandes empresas chinas o norteamericanas, con monopolios tecnológicos que extraen masivamente datos de la población y hacen con ellos un enorme negocio, o ante la vulneración de los más elementales derechos de privacidad de las personas mediante agresivos sistemas de reconocimiento facial. Ni puede permitir que se normalice la discriminación y la desigualdad mediante algoritmos sesgados y opacos.
La Comisión Europa quiere que el desarrollo tecnológico sea compatible con la preservación de sus valores fundacionales y los derechos humanos. ¿Es eso posible? La tercera vía europea parece sensata, pero ¿es realista?
El complejo equilibrio que emana de las propuestas de la Comisión Europea ya ha recibido las primeras críticas tanto de quienes lamentan sus políticas titubeantes para hacer frente al retraso tecnológico acumulado como de quienes priorizan la preservación de los valores y los derechos y reclaman un visión humanista de la tecnología.
La visión industrial
Durante los dos años que lleva elaborándose la estrategia europea en materia de Inteligencia Artificial, los lobbies empresariales han actuado con mayor determinación que cuando se gestó el Reglamento General de Protección de Datos. Su influencia se percibe en el entusiasmo tecnológico que transmiten los últimos documentos, pero, aun así, algunas voces del entorno industrial han destacado las, a su juicio, excesivas prevenciones de la apuesta europea.
Las empresas europeas competirán con una mano atada a la espalda
Mark Scott
“La promesa de la UE de incorporar sus valores en todos los aspectos de la tecnología probablemente obstaculizará sus esfuerzos para competir en las grandes ligas de tecnología contra Estados Unidos y China.”, escribe Mark Scott, corresponsal tecnológico de la revista Politico. Al incorporar restricciones legales a la IA desde el primer momento, añade Scott, las empresas europeas competirán con “una mano atada a la espalda. ¿Eso mantendrá a los europeos mejor protegidos que otros? Si. ¿Ayudará a la región a mantener el ritmo de los Estados Unidos y China? Casi seguro que no”.
Son diversos los aspectos de la propuesta europea que no satisfacen al sector tecnológico e industrial: La voluntad de ampliar la protección de los datos que generará masivamente el 5G, la reticencia hacia los sistemas de reconocimiento facial y el empeño de que los procesos de Inteligencia Artificial sean transparentes y auditables.
Sobre este último punto, la Comisión insiste en que el proceso de toma de decisiones automáticas debe ser explicable. Los algoritmos deben dejar siempre un rastro que permita su análisis y delimitar así las responsabilidades que se deriven de su implantación.
Sin embargo, la asociación de desarrolladores europeos (Developers Alliance) alega que eso es imposible y recuerdan que algunos proyectos de investigación como XAI de DARPA o AI Explainability 360 de IBM, que buscan proporcionar una IA explicable, son todavía incipientes. Y aunque se produjeran sustanciales avances en esta dirección, consideran que no es realista esperar que todos los sistemas de aprendizaje profundo sean completamente explicables. Además, dicen, hacer que la explicabilidad sea un requisito para los sistemas de IA “situaría las decisiones algorítmicas en un estándar que no existe para las decisiones humanas”.
La visión humanista
Desde el punto de vista de las organizaciones que promueven la defensa de los valores y los derechos, la estrategia que presenta la Comisión Europea también suscita críticas.
Dataethics, en Dinamarca, considera que la Comisión carece de ambición a la hora de crear las condiciones para un espacio de datos y un desarrollo de la IA próspero, ético y confiable. La primera decepción es que la regulación de la IA se demorará hasta finales de año. La segunda, el anuncio de que solo se contempla nueva regulación para los desarrollos de “alto riesgo”, sin especificar muy bien qué se considera de “alto riesgo”. La tercera: la falta de herramientas de gobernanza, de inversión y políticas transversales que garanticen la implantación efectiva de la tercera vía europea, aunque la Comisión dice estar dispuesta a movilizar 20.000 millones de euros.
El objetivo no es ganar carreras sino garantizar el bienestar de la humanidad
Virginia Dignum
Algorithm Watch, desde Berlín, critica que la Comisión Europea asuma tanto entusiasmo por el desarrollo de la industria de los datos y la Inteligencia Artificial en consonancia con la posición defendida por consultoras internacionales citadas abundantemente en los textos pero no aprecie seriamente los riesgos de su implantación.
La Comisión planea dividir los sistemas automatizados en categorías de riesgo y considera que una nueva regulación sólo es necesaria en la medida en que pueda fomentar la confianza en la Inteligencia Artificial y alentar su adopción por parte de los consumidores europeos. “El hecho de que los sistemas automatizados puedan conllevar riesgos en sí mismos y deban ser controlados o prohibidos no parece figurar en la caja de herramientas de la Comisión. El documento técnico evita cualquier discusión sobre armas automatizadas, por ejemplo.”
Virginia Dignum, cofundadora de la Fundación AllAi, en Holanda, considera que los textos de la Comisión Europea están llenos de invocaciones a una “carrera” por el desarrollo tecnológico. “En mi opinión, – dice Dignum– hablar de una “carrera” es a la vez incorrecto y peligroso. Pone el foco en la competencia e incorpora una sensación de tristeza y desesperación. Así que permítanme plantear dos argumentos: en primer lugar, no hay ninguna carrera y, en caso de existir, sería equivocado participar en ella. No hay carrera debido a la definición misma de carrera: una competición de velocidad, generalmente juzgada por una medida objetiva como un reloj y con un objetivo final específico. Sin embargo, en los desarrollos de IA, ¡no tenemos un punto final! Tampoco tenemos un tiempo específico para parar. Por lo tanto, no hay forma de determinar cuándo y dónde alguien ganará esta supuesta carrera. El objetivo no es ganar carreras, es garantizar el bienestar de la humanidad y el medio ambiente«.
El Libro Blanco de la Inteligencia Artificial está abierto a consulta pública hasta mediados de mayo.
2 comments
Sobre el asunto de la carrera.
Hay dos tipos de competidores: Los que juegan para ganar y los que luchan por que no estar fuera (eso sostiene Simon Sinek en «El jeugo infinito»).
Si tomamos como referencia la carrera nuclear (arms race), creo que sería un ejemplo del segundo caso. Ningna de las potencias implicadas quería ganar en una escena final apocalíptica (seguramente nadia ganaría), pero la pugna era por no quedar fuera. Rusia perdió.
Quizá comparar la IA con la carrera nuclar sea impropio. Pero tal vez no.
Gracias por este espacio que nos hace pensar.
Muy cordialmente
Sobre el asunto de la carrera.
Cabe preguntarse si la «carrera» expresa el deseo de mantener, alcanzar o resistir parcelas de poder que estan en juego de manera permanente en el equilibrio geo-estratégico. Lo que yo pierdo lo gana otro.
También cabe preguntarse si el bienestar de la humanidad debe y puede prevalecer a la necesidad de mantener las cuotas de poder. Si el poder lo tienen los «inhumanos» el bienestar de la humanidad es posible?
Es de agradecer que nos ayuden a pensar.
Cordialmente