Las redes sociales siguen sin actuar contra la desinformación, sofistican sus mecanismos de captura de la atención y recomiendan contenidos intolerables
Si el Gobierno de EEUU acaba prohibiendo TikTok no será para frenar el deterioro cognitivo y la adicción que provoca en los más jóvenes sino porque su propiedad es china y sus 170 millones de usuarios norteamericanos no paran de enviar datos al “enemigo”. No preocupa tanto lo que hacen sino quién lo hace.
Mientras tanto, TikTok sigue fortaleciendo su modelo de negocio basado en la captura de la atención a cualquier precio. Ahora anuncia una función que permitirá clonar voces a partir de un breve clip de audio de 10 segundos. Una fantástica herramienta para generar contenidos engañosos.
Pero las barbaridades no tienen por qué estar vinculadas a la nacionalidad de la plataforma. 404 media acaba de publicar un demoledor artículo sobre la perversión a la que llegan los algoritmos de recomendación de Facebook, fundamentales para el modelo de negocio de la compañía, que ya proporcionan el 30% de sus ingresos.
El motor de recomendaciones de esta plataforma está inyectando en los feeds de los usuarios imágenes generadas por IA en la que aparecen niños mutilados, hambrientos o medio ahogados con mensajes grotescos o supuestamente divertidos. Las imágenes pueden herir la sensibilidad de cualquiera.
“Una de ellas muestra a un niño al que le amputaron la pierna por debajo de la rodilla y sostiene un cartel que dice “Hoy es mi cumpleaños, por favor”. Esa imagen tiene 70.000 me gusta y 3.000 comentarios. Otra imagen es de una niña boca abajo en el océano con una máscara de oxígeno conectada a un pastel de cumpleaños flotante. Han aparecido variaciones de esta imagen específica en varias páginas; una versión tiene 5.000 me gusta y 211 comentarios, otra versión tiene 267.000 me gusta y 13.400 comentarios.”
Meta dice tener un plan para entrenar “responsablemente” modelos de IA. Pero sus modelos actuales han sido entrenados con imágenes de niños reales y se han utilizado para generar material de abuso sexual infantil mediante IA, la misma tecnología que ahora se utiliza para generar imágenes de niños mutilados.
Temor ante las elecciones europeas
Estos días, la Comisión Europea ha iniciado una investigación previa a la adopción de medidas para frenar el nivel desinformación que sigue tolerando Meta. En junio se celebran unas elecciones al Parlamento Europeo que pueden ser decisivas para el futuro de la democracia en el continente. La Comisión Europea teme que en las semanas que faltan se desencadene una oleada de desinformación que las redes sociales no van a impedir.
La inacción de Meta supone un “riesgo para el discurso cívico, los procesos electorales y los derechos fundamentales”, dice el comisario europeo de Mercado Interior, Thierry Breton.
Otro elemento que preocupa a la Comisión es que Meta haya desactivado la herramienta CrowdTangle que permite analizar contenido, detectar mensajes de odio y comprobar su origen.
La Comisión también duda de la eficacia del funcionamiento del mecanismo interno de Meta para que los usuarios denuncien contenido. Según afirman, el procedimiento no es fácil de localizar ni su uso es intuitivo, lo cual incumple los requisitos establecidos en la DSA.
En Estados Unidos, una investigación que publica la revista Wired ha revelado que, tras permanecer ocultos desde el asalto al Capitolio en enero del 2021, grupos extremistas se han estado reorganizando a través de Facebook.
Los abusos no son de ahora pero, lejos de frenarse, la impunidad sigue campando por las redes. Entre democracia o barbarie, cada vez está más claro el modelo que prefieren.
Joan Rosés
2 comments
Bueno, pues ya he vomitado el desayuno y lo que comí ayer también. El enlace de 404 necesita una advertencia.
La prohibición de TikTok aquí se vive con demasiada confusión. Dejando de lado la (falta de) moralidad de estas plataformas (en mi opinión, deberíamos prohibirlas todas, irrespectivamente de cuestiones geopolíticas), todavía hay gente que apunta que la ley no prohibe TikTok per se, sino que “sólo” obliga a Bytedance a vender la parte Americana de la empresa (como si el gobierno de EEUU no fuese consciente del enganyo), o que opina que la cuestión geopolítica justifica la prohibición — como si China espiando a la ciudadanía Americana fuese peor que tu propio gobierno espiándote — además de que un gobierno que decide por la ciudadanía qué productos debe usar y cuáles no es lo más anti-Americano visto en los últimos tiempos. Pero bueno, es un tren sin vías llegado a este punto.
Y a Europa más le valdría prohibir las plataformas, como mínimo durante campanya electoral.
El problema de estas plataformas es que permiten cualquier basura publicada en cualquier parte del mundo, sea por un humano o por un bot, verse, sin fricción alguna, por cualquier persona en cualquier otra parte, además de que la plataforma luego censura y prioritiza las publicaciones para alentar todavía más la peor basura. Y esto es causal, no casual, ya que es el modelo que maximiza la atención, y por consiguiente, las ganancias de publicidad (aunque, en situaciones extremas, algunas empresas han sacado temporalmente su publicidad de, e.g., Twitter, para que sus productos no sea vean relacionados con la basura.) Es un problema de fondo, no de cuestion tecnológica o de implementación, como quiere hacernos creer la vil patranya de corrosión humana que está al mando de estas empresas.
Si comparas las plataformas de hoy con los foros y chats de los 90, el problema está claro. Los chats y los foros, por disenyo, estaban segregados (que es cosa buena) y no permitían, por disenyo, la propagación de basura que permiten las plataformas centralizadas. Las últimas no sólo lo permiten, si no que deben permitirlo por su propio interés de negocio. Es una cuestión de fondo, fundamental, inquebrantable.
Lo que debe quebrantar es la plataforma entera, y los ejecutivos que están al mando. Europa está tardando ya demasiado.