Los sistemas de puntuación social se generalizan, y no sólo en China.
De Oriente llegan siempre noticias inquietantes. Las más recientes guardan relación con la guerra comercial entre China y Estados Unidos. Pero en los últimos tiempos han ido llegado otras: los ensayos de modificación genética de embriones, la inversión masiva de fondos para liderar la carrera mundial por la inteligencia artificial y la tecnología 5G, el despliegue de cámaras de vigilancia o las pruebas para instaurar un sistema de crédito social.
Más allá de las repercusiones económicas, tecnológicas y geopolíticas que todo ello pueda comportar, preocupa que estas iniciativas se desarrollen amparadas por un oscurantismo estructural, falta de criterios democráticos básicos y escaso respeto a la disidencia política y a los derechos de las minorías.
El sistema de crédito social es una de las iniciativas que más impacto causa en la sociedad occidental. Escandaliza que el gobierno chino premie a “los mejores” ciudadanos y castigue a “los peores” en base a una puntuación poco transparente.
Listas negras
En China conviven dos tipos de crédito social. El que han puesto en marcha empresas privadas y que funciona como un sistema de fidelización por puntos similar a los que en Occidente popularizaron las líneas aéreas, y el sistema de crédito social del gobierno, todavía en periodo de pruebas y con métodos diversos.
Salvo algunas excepciones, el sistema gubernamental no funciona estrictamente en base a puntuaciones sino mediante listas negras. Cualquier ciudadano puede acabar en una lista negra por varios motivos. Uno de los más habituales es, por ejemplo, el mal comportamiento en aviones o trenes. Si alguien se porta mal se le pone en la lista y se le castiga a no subir a un avión durante un cierto tiempo o a pagar un recargo.
De entre las listas negras, la más trascendente es la judicial. Si alguien no paga una deuda o una multa acaba señalado y se le dificulta la compra de productos o servicios.
La lista negra judicial es especialmente relevante porque los nombres de los incluidos son públicos. Cualquiera puede ver si la persona a la que va a contratar (o la empresa con la que va a trabajar) está en ella. La medida pretende avergonzar a los infractores y evitar la reincidencia.
En cambio, en la prueba piloto de la ciudad de Rongcheng sí se puntúa a la ciudadanos. Al principio, a todos los residentes se les concedieron 1,000 puntos. A partir de ahí las autoridades van haciendo deducciones por mal comportamiento, como infracciones de tráfico, o van agregando puntos por donaciones benéficas, por ejemplo.
Objetivo, moralizar la vida pública
Según Roger Creemers, investigador de la Universidad de Leiden, China está implantando el crédito social como una medida para moralizar la vida pública de una sociedad que ha pasado aceleradamente de un modelo centralizado a la economía de mercado, lo cual ha roto con buena parte de las fórmulas de convivencia arraigadas durante décadas de comunismo.
“Al principio la gente hacía trampas y había poca regulación para impedirlo. Cualquiera podía salirse con la suya vendiendo productos contaminados, o no pagando préstamos, etc. China necesitaba un sistema de confianza para que el mercado funcionase”, dice Creemers.
La transformación digital de la sociedad impulsa la monitorización, el control y la calificación.
Aunque las democracias occidentales parecen lejos de permitir las prácticas oscuras del régimen chino, los sistemas de puntuación van calando a medida que avanza la transformación digital de la sociedad.
Establecer indicadores numéricos para entender la realidad no es algo exclusivo de la digitalización. Desde antiguo, los estudiantes demuestran su capacidad de aprendizaje en base a calificaciones, hace ya unos trece años que los conductores españoles pierden puntos de su carnet de conducir si infringen las normas, los bancos califican el riesgo crediticio en base a indicadores, la economía de los países se valora en los rankings de las agencias de rating, grandes defraudadores aparecen en listas negras de Hacienda, el sistema financiero dispone de listas de morosos….
El uso de la puntuación viene de lejos pero la digitalización de la vida social y económica contribuye a que se expandan los sistemas de monitorización, control y calificación.
Policía, justicia, bancos, coches, turismo, redes sociales, aseguradoras…
Cuerpos policiales y judiciales incorporan sistemas automáticos como Predpol o Compas, softwares algorítmicos que puntúan el riesgo de reincidencia de los detenidos. En 2016, Propublica publicó un informe en el que denunciaba sesgos flagrantes de Compas al advertir que el sistema puntuaba mejor a personas de raza blanca con un historial violento y delitos graves que a otras de raza negra con apenas antecedentes.
En el ámbito de las empresas privadas el “scoring” va ganando terreno.
La puntuación del riesgo financiero o la elaboración de listas de morosos es práctica habitual en el negocio bancario, pero la adopción creciente de algoritmos para determinar el “credit scoring” de los ciudadanos plantea dudas. En el reciente informe publicado por Algorithm Watch sobre el nivel de automatización de la sociedad en 2019 se expone la preocupación que están generando estos sistemas a raíz de casos com el sentenciado por el Tribunal finlandés de Igualdad y No Discriminación que acabó condenando a una empresa financiera que había utilizado datos estadísticos sesgados para limitar la concesión de crédito a un ciudadano.
Los malos usuarios no suben a Uber
Se avanza también en otros terrenos. Desde sus inicios, Uber ha permitido la opción de calificar tanto el servicio de sus conductores como el comportamiento de sus usuarios, aunque únicamente en el primer caso las malas puntuaciones podían tener consecuencias. Ahora, en EEUU y Canadá la compañía puede desactivar aquellas personas que obtengan una puntuación inferior a 4,6.
Tripadvisor, la plataforma de recomendación de hoteles y restaurantes, ha basado su éxito en los comentarios y puntuaciones de los usuarios. No estar bien situado en las preferencias de Tripadvisor puede llegar acarrear el cierre de un negocio. Ello, a pesar de haberse destapado diversos fraudes que amañaban las calificaciones para favorecer o desacreditar a un establecimiento. Es conocido un caso de 2017 en el que se comprobó que el mejor restaurante de Londres según Tripadvisor jamás había existido. Un periodista lo inventó de la nada y lo convirtió en el top 1 sin haber servido jamás un plato.
Filmaffinity o ecartelera reciben la visita de usuarios que buscan las puntuaciones de las películas en cartel y orientar su consumo. La calificación que obtiene cada película se basa en la media de puntos recibidos por la audiencia y los generados por la propia plataforma.
Tus redes sociales pueden costarte caras
Las redes sociales son otro ámbito donde la puntuación adquiere una relevancia trascendental. El número de seguidores, la cantidad de “me gusta”, el número de retuits, las visualizaciones en Youtube… determinan la reputación digital de los usuarios. La influencia se mide esencialmente por una cantidad debidamente convertida en cifras.
Las compañías aseguradoras también se apuntan a la medición.
“No publiques en las redes sociales fotos fumando. Lo que pagas por un seguro de vida podría depender de tu próxima publicación en Instagram” , decía un reciente artículo de The Wall Street Journal.
Cada vez más datos estarán al alcance de las aseguradoras. Los automóviles conectados serán una fuente inmejorable para personalizar ofertas, ofrecer descuentos importantes a conductores con buena puntuación y penalizar o establecer cuotas altas a imprudentes o a infractores con mala nota.
El marketing digital basa su potencia en el scoring de los usuarios, es decir, la capacidad de medirlos, generar perfiles y establecer indicadores de su reputación, capacidad de influencia o posibilidad de lo que en el mundo digital se conoce como conversión, esto es, la transformación de visitas en acciones concretas.
La transformación digital de la economía y la sociedad invita al establecimiento de indicadores numéricos para todas y cada una de las acciones, opiniones, reputaciones o comportamientos.
La puntuación ayuda a comprender la complejidad
La creciente complejidad de las relaciones sociales y económicas unida a la aceleración del desarrollo tecnológico dificulta la capacidad humana de comprender con claridad lo que está ocurriendo en todos los ámbitos, incluso en los más íntimos de las relaciones personales. Necesitamos tiempo para comprender, pero no lo tenemos. Interpretar el mundo en base a indicadores facilita la tarea. Si un hotel está bien puntuado, lo damos por bueno; si una película obtiene una valoración de 8, valdrá la pena verla; si un video consigue millones de visualizaciones, clickamos en él; si un opinador tiene muchos seguidores, será que tiene razón.
La puntuación social simplifica la comprensión del mundo en que vivimos. A las empresas les facilita entender a sus clientes. A las universidades les permite delimitar quién merece ser educado en ellas. A las policías y a los sistemas judiciales les ayuda en el control de la delincuencia. A los gobiernos autoritarios les facilita el control de la sociedad.
La puntuación nos divierte porque asimila la vida a la lógica del juego
Reducida a números, la complejidad parece manejable. Pero la complejidad nos atañe, somos parte de ella y nuestra propia digitalización comportará que lo que valemos tienda a reducirse a lo que indica nuestra puntuación en el ámbito laboral, académico, judicial, social o incluso afectivo. En cierto modo, la puntuación nos divierte porque asimila la vida a la lógica del juego. Desarrollarnos tiene sentido si mejoramos el ranking, si superamos retos numéricos o si nuestro éxito puede ser fácilmente reconocible por el público (número de seguidores, cantidad de likes…)
Nos preocupa que un gobierno autoritario como el chino instaure un sistema de crédito social y de listas negras totalmente opaco. Lógico. Pero en la sociedad occidental aceptamos que los rastros que dejamos en el mundo digital sean monitorizados, medidos y puntuados por empresas privadas u organismos públicos que incorporan algoritmos predictivos o valorativos plagados de sesgos.
Digitalizar la sociedad conlleva indefectiblemente aceptar un mundo repleto de indicadores, pero ¿debemos establecer límites a la reducción numérica de nuestro comportamiento? ¿Debemos abordarlo como una consecuencia inevitable de lo digital? ¿Una más?
Diversas incógnitas aparecen en el horizonte de esta sociedad monitorizada, medida y numerizada.
La cifra que refleja una cantidad se convierte en un dato objetivo si el cálculo está bien hecho pero reduce la complejidad a su valor más simple. Se pierden los matices, se obvian las cualidades, se desvanecen las opiniones.
Por su parte, la cifra que intenta reflejar cualidades más etéreas o valorativas se pierde en la opacidad. El índice Klout de influencia en las redes sociales, por ejemplo, responde a una amalgama de valores decidido por sus creadores o quizás por el propio algoritmo que lo calcula. Y el Klout determina la capacidad de influencia en las redes. Las predicciones numéricas de riesgo del sistema Compas se obtienen a partir de una mezcla de indicadores y pesos de difícil comprensión.
Algunas preguntas en el aire
Vistos los antecedentes se plantean algunas dudas:
¿Proliferarán las iniciativas de puntuación pública o privada sin otra necesidad que la de obtener un teórico consentimiento, de dudosa efectividad, regido actualmente por cláusulas ilegibles?
¿Qué controles habrá que establecer para determinar la idoneidad e imparcialidad de las puntuaciones?
¿Aceptaremos que las diversas puntuaciones se crucen o agreguen una con otras con el objetivo de establecer una calificación total?
¿Si recelamos de la puntuación que emana de los gobiernos, por qué lo aceptamos de las empresas privadas?
Bienvenidos a la sociedad por puntos.
