Collaterallogo
20 de octubre de 2021

Hola, [subscriber:firstname | default:reader]

Los grandes modelos de inteligencia artificial comportan más riesgos de los previstos. Los analizamos.

No sólo Facebook oculta prácticas éticamente reprobables. Amazon se une al club. Documentos internos e investigaciones periodísticas lo revelan.

Muchos datos, muchos errores

11684048396_fde50e5879_b (1)
Diversos estudios alertan del peligro que entrañan los modelos de inteligencia artificial basados en el procesamiento de grandes cantidades de datos. Cuando se capturan millones de datos sin filtros ni depuración suficiente, acumulan la basura, la manipulación, la conspiración o el odio que circula mayoritariamente en Internet. Sus resultados no responden a la realidad del mundo, sino a la realidad de una red contaminada.

Falta depuración. Pero si la acumulación de grandes cantidades de datos ya es de por sí una tarea compleja, depurarlos lo es todavía más, sólo al alcance, en el mejor de los casos, de las grandes corporaciones tecnológicas.

Los grandes modelos de IA son la base para muchas aplicaciones que se diseminan por el mundo. Se expanden así sus errores y sesgos.

Ajenas a estas advertencias, las grandes empresas han iniciado una carrera obsesiva por construir modelos de IA cada vez más grandes.

Saber +


A quién pertenece el big data

Hay dos futuros posibles para los grandes datos. Uno de ellos es continuista, es decir, las mejores infraestructuras de datos serán propiedad de unas cuantas grandes empresas que considerarán que poder acotar el conocimiento humano es una ventaja competitiva. En el otro, las mejores infraestructuras de datos se pondrán a disposición de todos los habitantes del mundo en una potente plataforma destinada a la experimentación, el descubrimiento y la creación de mejores y nuevos modos de vida. Michael Nielsen, escritor científico canadiense en BBVA Openmind

La inteligencia artificial es cada vez más cara

Entrenar algoritmos avanzados puede costar varios millones de dólares. Muchas empresas no pueden permitírselo y deben trabajar con modelos más pequeños. Preocupa que los costes crecientes puedan ralentizar el ritmo de la innovación o reservarla para las empresas más grandes o para aquellas que alquilan sus modelos. Wired

Los filtros de Facebook filtran poco

Facebook asegura que sus sistemas de inteligencia artificial purgan proactivamente más del 90 por ciento del contenido dañino que intenta ser publicado. Los documentos internos revelados hace unas semanas por The Wall Street Journal gracias a la denuncia de Frances Haugen dicen que el algoritmo solo detecta entre el 3 y el 5 por ciento de las publicaciones dañinas. Wired

Salud abierta, una alternativa a los modelos de datos cerrados

Cuando los datos de entrenamiento discriminan la diversidad de la población, la IA es propensa a reforzar el sesgo, lo que puede conducir a resultados fatales y diagnósticos erróneos en el ámbito de la salud. Los autores de esta investigación académica proponen pasos concretos para mitigar el sesgo utilizando metodologías participativas de ciencia abierta. Cell

Ética digital


Los trucos de Amazon para priorizar sus productos

super-straho-DZe1jK6pk5c-unsplash (1)
Un equipo de investigación de The Markup ha estado trabajando durante un año para comprobar cómo los algoritmos de Amazon recomiendan productos de la propia empresa o de empresas que nadie sabe que son propiedad de Amazon por delante de los que ofrecen otros proveedores. La supuesta imparcialidad de la plataforma de comercio electrónico queda en entredicho. The Markup

Una filtración de documentos internos a los que Reuters ha tenido acceso revela cómo Amazon llevó a cabo una campaña sistemática de creación de productos de imitación y manipulación de resultados de búsqueda para impulsar sus propias líneas de productos en la India. Reuters

Amazon se cuela en las escuelas españolas. "Si compráis en Amazon (no os estamos diciendo que compréis en Amazon, sino en el caso de que ya compréis), ahora podéis ayudar al instituto de vuestros hijos, de una forma muy sencilla”. Así comienza el correo de una "inocente" campaña de promoción de Amazon en España. El País

Trabajo sin trabajadores (visibles)

Trabajo sin trabajadores Una idea inquietante que Phil Jones analiza en su libro "Work without workers" "No es del todo cierto que la IA elimine trabajadores, lo que ocurre es que no los vemos". Rest of the World

¿Estamos de acuerdo en qué consiste la IA ética?

Cientos de iniciativas públicas, privadas o académicas en todo el mundo tratan de establecer principios éticos en el desarrollo e implantación de la inteligencia artificial. ¿Están de acuerdo en los principios que defienden? ¿Hay divergencias, y si las hay, son reconciliables? Un grupo de investigadores los ha analizado. Algunos principios coinciden, otros no tanto. Montrealethics

Los deepfakes de audio ya sirven para robar

El uso de una voz falsa creada artificialmente combinada con otras técnicas de suplantación (correos electrónicos, etc...) logró estafar 35 millones de dólares a un banco de Emiratos Árabes. Hasta el momento son pocos los casos conocidos de estafas monetarias por deepfakes, aunque los expertos en ciberseguridad advierten de que se trata de una amenaza creciente debido al acelerado perfeccionamiento y abaratamiento de esta tecnología. Xataka

Leer +

error-404
Esther Paniagua analiza las posibilidades de un posible gran apagón de Internet, el caos que ello podría desatar y lo dependientes que somos de la red.

En Error 404 desvela quiénes son los guardianes de Internet y abre la puerta al lado más oscuro del ciberespacio para hablar de crimen y adicción; de la manipulación, la desinformación, la polarización y el odio incendiario online; de cómo se ha automatizado la discriminación, la censura y la represión.
Debate

Documentos


- Las decisiones algorítmicas en las relaciones laborales. El sindicato UGT considera imprescindible promulgar una ley de justicia algorítmica en las relaciones laborales. En este informe analiza los motivos. UGT

- State of AI Report 2021. Publicación del informe anual sobre el estado de la inteligencia artificial. Va por el cuarto año. Da una idea de hacia dónde avanza la investigación y desarrollo de la IA en el mundo. StateofAi

- The right to privacy in the digital age. Este informe de Naciones Unidas analiza cómo el uso generalizado de inteligencia artificial afecta al derecho a la privacidad y otros derechos asociados. Consejo de Derechos Humanos de las Naciones Unidas

- Gobernanza de datos: mejorar el acceso y el intercambio de datos. Conjunto de principios y directrices políticas sobre cómo los gobiernos pueden maximizar el acceso e intercambio de todo tipos de datos al tiempo que protegen los derechos de las personas y las organizaciones. OCDE

La frase


Lo que más debe preocupar es la conciencia artificial, no tanto la inteligencia artificial


Roger Bartra, filósofo en Telos

linkedin twitter