Collaterallogo
26 de mayo de 2021

Hola, [subscriber:firstname | default:reader]

La justicia contemporánea se entiende desde la equidad. Eso supone incorporar variables más humanas y sociales en la toma de decisiones, algo que supera la lógica de los algoritmos.

¿Puede ser justo un algoritmo?

pexels-mateusz-dach-353644 (1)
El entusiasmo con que se implantan los sistemas automatizados de toma de decisiones en el ámbito de la justicia y los servicios sociales no se corresponde con sus resultados: denegación indebida de ayudas, identificaciones policiales erróneas, discriminaciones por raza, estatus económico o lugar de origen...

Cuando se denuncian los errores recurrentes de los algoritmos se acostumbra a echarle la culpa al sesgo que se originan por múltiples múltiples causas: qué datos hay disponibles, cuáles se utilizan, quién hace la selección, quién los etiqueta, quién diseña los algoritmos, quién los entrena.

Si únicamente intervinieran estos factores, el sesgo sería subsanable. El problema radica en los prejuicios y discriminaciones históricas que alimentan los datos y los criterios en los que se basa el algoritmo.

Saber +


La inteligencia artificial se abre paso en la justicia española

Más allá de los juzgados, la inteligencia artificial ya espolea el mundo legal. La jurimetría, gracias al procesamiento del lenguaje natural que utiliza la IA, recorta los tiempos empleados por los abogados para buscar jurisprudencia y elegir la mejor estrategia para ganar un caso. El País

El sesgo es un problema, pero también lo es el "ruido"

La sociedad ha prestado mucha atención al problema del sesgo, y con razón. Pero cuando se trata de juicios equivocados y decisiones desafortunadas, existe otro tipo de error que llama mucho menos la atención: el ruido.
"Es difícil escapar de la conclusión de que una sentencia es en parte una lotería, porque el castigo puede variar dependiendo del juez asignado al caso y del estado mental del juez ese día. El sistema judicial es inaceptablemente ruidoso." Daniel Kahneman, Premio Noble de Economía en 2002. The New York Times

Deciden las máquinas

Avanza la implantación de sistemas automatizados de toma de decisiones en Europa. Los riesgos superan a los beneficios según el informe Automating Society 2020 que ha presentado su edición en español.
Deciden las máquinas

Seis formas de aprendizaje automático que amenazan la justicia social

Implementar una ciencia de datos ética es tan importante como asegurarse de que un automóvil autónomo sepa cuándo frenar. Cuando usas un sistema de aprendizaje automático, no solo estás optimizando modelos y agilizando el negocio. Estás gobernando.
Seis formas de aprendizaje automático que amenazan la justicia social

Ética digital


El ojo que vigila los exámenes online

Dos centenares de alumnos de la Universidad Internacional de La Rioja (UNIR) se han movilizado ante la decisión del rectorado de cambiar el sistema de vigilancia de los exámenes a distancia a partir de mayo, al introducir una nueva metodología, denominada “proctoring”, un sistema de monitorización que emplea la cámara del ordenador y visualiza el escritorio para ver las acciones de los alumnos. Para ello, se les pide descargar un software, Smowltech, cinco días antes, para así activar el funcionamiento del reconocimiento facial y el sistema de datos biométricos. La Vanguardia

La defensa de la privacidad avanza; otras batallas, no

"Quizás gastamos demasiada energía logrando concesiones de privacidad, cuando deberíamos haber estado construyendo una crítica más fundamental del poder de la gran tecnología" Evgeny Morozov en The Guardian

Aumenta el impacto de los algoritmos en la vida cotidiana

¿Está la industria tecnológica utilizando algunas de sus herramientas más poderosas en detrimento de sus propios usuarios? Más voces críticas advierten que, a medida que la IA se extiende, crece de manera constante el impacto de los algoritmos en la vida diaria de las personas. Finantial Times

Las cuatro falacias más comunes sobre IA

Desde sus inicios, el desarrollo de la IA pasa por etapas de entusiasmo y otras de desilusión. Estas últimas se producen por un exceso de expectativas que la investigadora Melanie Mitchell ha resumido en un artículo académico titulado: Por qué IA es más difícil de lo que pensamos. Son cuatro las principales falacias más comunes sobre inteligencia artificial. Las resume Venture Beat

Denuncia los patrones oscuros

Los patrones oscuros son tácticas de diseño utilizadas en sitios web y aplicaciones para persuadirnos de hacer cosas que probablemente no haríamos. Esta web recopila denuncias e informaciones enviadas por los usuarios como medio de combatir los patrones oscuros. Darkpatternstiplline

Debates / conferencias


Inteligencia Artificial y Derechos Humanos

¿Pueden ir de la mano estos dos conceptos? ¿Cómo se relacionan?
10 de junio de 9.00 a 14.00h. Organiza: Espai Societat Oberta. Programa e Inscripciones

Ética relacional e Inteligencia Artificial

Seminario a cargo de Lorena Jaume-Palasí.
31 de mayo a las 17.00h. Organiza :OEIAC. Online

Los datos lo cambian todo

La infraestructura (más) inteligente gobierna nuestro mundo
27 de mayo a partir de las 11.00. Organiza Tomorrow City. Información e inscripciones



Leer +

978843764212

Mark Coeckelbergh analiza los principales problemas éticos que plantea el desarrollo de la inteligencia artificial y su aplicación a un gran número de ámbitos de nuestra vida cotidiana.
¿A qué ética responde la decisión de una máquina? ¿En qué consiste exactamente tomar decisiones? ¿Podemos considerar a la máquinas responsables de sus actos y de las consecuencias que conllevan? ¿Cómo aprende y actúa una inteligencia artificial?
Ediciones Cátedra

Documentos


- Truth, Lies, and Automation. How Language Models Could Change Disinformation. Center for Security and Emerging Technologies

-Data minimization. Key to protecting privacy and reducing harm. Acces Now

-Known Unknown. Data issues and military autonomous systems. UNIDIR. Instituto de las Naciones Unidas para la Investigación del Desarme.

La frase


Si no generamos oportunidades de empleo significativas y, por lo tanto, un propósito social viable para la mayoría de las personas ¿cómo puede funcionar la democracia?



Daren Acemoglou, profesor de economía del MIT, en El futuro de la IA no tiene por qué ser distópico. Boston Review

linkedin twitter