|
|
|
|
|
|
- La exigencia ética en el desarrollo de la IA se diluye.
|
|
- Acemoglu: "La idea de que las máquinas toman mejores decisiones es antidemocrática".
|
|
- Primeros modelos que intentan descomponer el comportamiento humano.
|
|
|
|
|
Adiós a la ética
En Supremacy AI (2024), el periodista de Bloomberg News Parmy Olson describe la rivalidad entre Sam Altman (OpenAI) y Demis Hassabis (Google Deepmind) en su carrera por desarrollar la inteligencia artificial general.
|
El libro constata el fracaso de la ética en las corporaciones que lideran el desarrollo de la IA. Inicialmente, ambas prometieron construir una IA orientada al bien común, pero acabaron devoradas por la necesidad imperiosa de crecer.
|
El resultado es que, hoy por hoy, el desarrollo de la IA se ciñe estrictamente a las reglas de la batalla por la supremacía corporativa y geopolítica.
|
Siendo esto preocupante, lo son también los efectos que empieza a provocar el uso intensivo de la IA generativa en algunos ámbitos como la educación o las redes sociales: “pereza cognitiva”, desmovilización del pensamiento crítico, facilidad para el engaño…
|
|
La crisis de la ética aplicada a la IA es un reflejo del abandono moral al que se acomoda la sociedad actual. Las grandes tecnológicas rehuyen compromisos éticos porque estos ya no cotizan. Pocos los reclaman y casi nadie los exige.
|
|
|
|
|
|
Persiste el sentimiento de rechazo a la IA
|
El sentimiento de rechazo a la IA generativa persiste. Según el Pew Research Center, el porcentaje de adultos estadounidenses más preocupados que entusiasmados por la IA subió del 38% antes de ChatGPT al 52% a finales de 2023, y se ha mantenido así desde entonces.
|
|
Los beneficios de la IA para la población no se acaban de concretar. Se concentran en las franjas más favorecidas, mientras que los efectos negativos son inmediatos y recaen sobre comunidades vulnerables.
|
|
Los principales efectos se focalizan en la pérdida de empleos, errores y alucinaciones de los modelos, impacto ambiental de los centros de datos y vulneración de los derechos de autor. Wired
|
|
|
|
Daron Acemoglu: "La idea de que las máquinas toman mejores decisiones es antidemocrática"
|
|
"Aunque la IA general no es viable a corto plazo, su búsqueda incesante podría causar daños importantes. Uno de ellos sería descuidar las alternativas enfocadas a mejorar las capacidades humanas.
También es perjudicial para la democracia. La idea de que las máquinas toman mejores decisiones que los humanos, junto con la centralización de la información que conllevan las dinámicas actuales, es inherentemente antidemocrática. Una vez que se acepta que las máquinas —o sus diseñadores— son mucho mejores que las personas comunes y pueden marginarlas lucrativamente, resulta fácil comprender por qué las redes sociales evolucionaron fomentando la desinformación y la manipulación." Daron Acemoglu, premio Nobel de Economía, en Prostect
|
|
|
¿Demasiada ética?
|
|
|
|
Debate abierto entre quienes consideran prioritario controlar el poder de la IA con más legislación y menos autoregulación, y los que advierten del peligro de reducir la reflexión moral de la sociedad y abogan por ampliarla. (2021)
|
|
|
|
|
|
|
|
Los grandes modelos lingüísticos de la IA han construido una correspondencia entre los lenguajes matemático y literario. Calculan literalmente las metáforas. ¿Qué sentido puede tener ese cálculo, más allá del literal? ¿Podría ser el vehículo de una nueva comprensión del mundo?
|
Lluís Nacenta es investigador en la intersección entre el arte y la ciencia. Licenciado en matemáticas por la UPC, en música por el Conservatorio del Liceo y doctorado por la UPF.
|
|
En Cálculo de Metáforas analiza la confluencia entre lengua y matemática.
|
|
|
|
|
|
|
|
|
|
Centaur intenta descifrar el comportamiento humano
Centaur es un sistema de inteligencia artificial que puede simular la toma de decisiones humanas en una amplia variedad de tareas. Ha sido entrenado con datos de 160 estudios de psicología que involucraron a 60.000 participantes, lo que le permite predecir el comportamiento humano en situaciones diversas como juegos de azar y problemas de memoria. Nature
|
Creative Commons para IA
La organización Creative Commons propone incorporar unas señales para ayudar a los creadoresy administradores de contenido a decidir y expresar cómo desean que sus obras puedan ser utilizadas para el entrenamiento de la IA. Creative Commons
|
Robodept, cuando la automatización falla
Entre 2016 y 2020, el gobierno australiano implementó un sistema automatizado conocido como Robodebt para recuperar prestaciones sociales fraudulentas o pagadas por error. El objetivo era ahorrar 4.770 millones de dólares. Sin embargo, los algoritmos de Robodebt provocaron errores que afectaron desproporcionadamente a las personas con menos recursos. El gobierno se ha visto obligado a cancelar el programa y a abonar 1.800 millones de dólares en compensaciones. Donmoynihan
|
IA para detectar errores de la IA con estudiantes chinos que no usan IA pero que sus profesores creen que sí
|
Las universidades chinas están utilizando herramientas de detección de inteligencia artificial para examinar los trabajos de los estudiantes, lo que provoca un cierto pánico durante la fase de graduación.
|
|
Son recurrentes los falsos positivos, lo que les obliga a simplificar y a readaptar sus escritos para no ser acusados de uso indebido de los chatbots.
|
Una creciente industria de detectores de errores de la IA se está lucrando con la confusión. Lo curioso es que esos detectores también funcionan con IA. Rest of the world
|
Cluely, la startup que ayuda a mentir
Cluely, una startup que afirma ayudar a los usuarios a “hacer trampas” en entrevistas de trabajo, exámenes o llamadas comerciales, ha recaudado 15 millones de dólares en su segunda ronda de financiación. Algunos la valoran en 120 millones. Techcrunch
|
|
|
|
|
|
|
|
|
