|
|
|
|
|
La justicia contemporánea se entiende desde la equidad. Eso supone incorporar variables más humanas y sociales en la toma de decisiones, algo que supera la lógica de los algoritmos.
|
|
¿Puede ser justo un algoritmo?
|
|
El entusiasmo con que se implantan los sistemas automatizados de toma de decisiones en el ámbito de la justicia y los servicios sociales no se corresponde con sus resultados: denegación indebida de ayudas, identificaciones policiales erróneas, discriminaciones por raza, estatus económico o lugar de origen...
|
Cuando se denuncian los errores recurrentes de los algoritmos se acostumbra a echarle la culpa al sesgo que se originan por múltiples múltiples causas: qué datos hay disponibles, cuáles se utilizan, quién hace la selección, quién los etiqueta, quién diseña los algoritmos, quién los entrena.
|
|
Si únicamente intervinieran estos factores, el sesgo sería subsanable. El problema radica en los prejuicios y discriminaciones históricas que alimentan los datos y los criterios en los que se basa el algoritmo.
|
|
|
|
|
|
|
|
|
|
Saber +
La inteligencia artificial se abre paso en la justicia española
Más allá de los juzgados, la inteligencia artificial ya espolea el mundo legal. La jurimetría, gracias al procesamiento del lenguaje natural que utiliza la IA, recorta los tiempos empleados por los abogados para buscar jurisprudencia y elegir la mejor estrategia para ganar un caso. El País
|
El sesgo es un problema, pero también lo es el "ruido"
|
La sociedad ha prestado mucha atención al problema del sesgo, y con razón. Pero cuando se trata de juicios equivocados y decisiones desafortunadas, existe otro tipo de error que llama mucho menos la atención: el ruido.
|
|
"Es difícil escapar de la conclusión de que una sentencia es en parte una lotería, porque el castigo puede variar dependiendo del juez asignado al caso y del estado mental del juez ese día. El sistema judicial es inaceptablemente ruidoso." Daniel Kahneman, Premio Noble de Economía en 2002. The New York Times
|
|
|
|
|
|
|
Avanza la implantación de sistemas automatizados de toma de decisiones en Europa. Los riesgos superan a los beneficios según el informe Automating Society 2020 que ha presentado su edición en español.
|
|
|
|
|
|
Seis formas de aprendizaje automático que amenazan la justicia social
|
|
|
|
Implementar una ciencia de datos ética es tan importante como asegurarse de que un automóvil autónomo sepa cuándo frenar. Cuando usas un sistema de aprendizaje automático, no solo estás optimizando modelos y agilizando el negocio. Estás gobernando.
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Ética digital
El ojo que vigila los exámenes online
Dos centenares de alumnos de la Universidad Internacional de La Rioja (UNIR) se han movilizado ante la decisión del rectorado de cambiar el sistema de vigilancia de los exámenes a distancia a partir de mayo, al introducir una nueva metodología, denominada “proctoring”, un sistema de monitorización que emplea la cámara del ordenador y visualiza el escritorio para ver las acciones de los alumnos. Para ello, se les pide descargar un software, Smowltech, cinco días antes, para así activar el funcionamiento del reconocimiento facial y el sistema de datos biométricos. La Vanguardia
|
La defensa de la privacidad avanza; otras batallas, no
"Quizás gastamos demasiada energía logrando concesiones de privacidad, cuando deberíamos haber estado construyendo una crítica más fundamental del poder de la gran tecnología" Evgeny Morozov en The Guardian
|
Aumenta el impacto de los algoritmos en la vida cotidiana
¿Está la industria tecnológica utilizando algunas de sus herramientas más poderosas en detrimento de sus propios usuarios? Más voces críticas advierten que, a medida que la IA se extiende, crece de manera constante el impacto de los algoritmos en la vida diaria de las personas. Finantial Times
|
Las cuatro falacias más comunes sobre IA
Desde sus inicios, el desarrollo de la IA pasa por etapas de entusiasmo y otras de desilusión. Estas últimas se producen por un exceso de expectativas que la investigadora Melanie Mitchell ha resumido en un artículo académico titulado: Por qué IA es más difícil de lo que pensamos. Son cuatro las principales falacias más comunes sobre inteligencia artificial. Las resume Venture Beat
|
Denuncia los patrones oscuros
|
Los patrones oscuros son tácticas de diseño utilizadas en sitios web y aplicaciones para persuadirnos de hacer cosas que probablemente no haríamos. Esta web recopila denuncias e informaciones enviadas por los usuarios como medio de combatir los patrones oscuros. Darkpatternstiplline
|
|
|
|
|
|
|
Debates / conferencias
Inteligencia Artificial y Derechos Humanos
|
¿Pueden ir de la mano estos dos conceptos? ¿Cómo se relacionan?
|
Ética relacional e Inteligencia Artificial
|
Seminario a cargo de Lorena Jaume-Palasí.
|
31 de mayo a las 17.00h. Organiza :OEIAC. Online
|
Los datos lo cambian todo
|
La infraestructura (más) inteligente gobierna nuestro mundo
|
|
|
|
|
|
Leer +
|
|
|
|
Mark Coeckelbergh analiza los principales problemas éticos que plantea el desarrollo de la inteligencia artificial y su aplicación a un gran número de ámbitos de nuestra vida cotidiana.
|
|
¿A qué ética responde la decisión de una máquina? ¿En qué consiste exactamente tomar decisiones? ¿Podemos considerar a la máquinas responsables de sus actos y de las consecuencias que conllevan? ¿Cómo aprende y actúa una inteligencia artificial?
|
|
|
|
|
|
|
|
Documentos
-Data minimization. Key to protecting privacy and reducing harm. Acces Now
|
-Known Unknown. Data issues and military autonomous systems. UNIDIR. Instituto de las Naciones Unidas para la Investigación del Desarme.
|
|
|
|
|
|
La frase
|
|
Si no generamos oportunidades de empleo significativas y, por lo tanto, un propósito social viable para la mayoría de las personas ¿cómo puede funcionar la democracia?
|
|
Daren Acemoglou, profesor de economía del MIT, en El futuro de la IA no tiene por qué ser distópico. Boston Review
|
|
|
|
 
|
|
|
|
