|
|
|
|
|
|
- Resumimos la ponencia del economista Daron Acemoglu en la Digital Humanisme Initiative.
|
|
- El fiasco del generador de imágenes de Google, síntoma de las carencias de la IA.
|
|
- O consientes o pagas, la polémica está servida.
|
|
|
Daron Acemoglu: "Podemos tener una IA orientada al ser humano pero serios obstáculos lo impiden"
Conviven dos visiones diferentes de la IA. La que pretende construir máquinas que sean superiores a los humanos siguiendo la estela de los experimentos de Alan Turing y la que ciñe sus objetivos a que las máquinas sean útiles a las personas siguiendo la corriente iniciada por Norbert Wiener.
|
La primera, la más ambiciosa, que aplican con entusiasmo empresas como OpenAI, parece imponerse ante la más cautelosa y, visto lo visto, la más sensata.
|
Daron Acemoglu, uno de los economistas norteamericanos actuales de prestigio, ha dedicado parte de sus últimos trabajos a analizar los motivos que impiden el desarrollo de la orientación más juiciosa.
|
|
El economista señala cuatro obstáculos:
|
|
- Exceso de automatización (la IA está contribuyendo a ello).
|
|
- Reducción de la diversidad y de las alternativas que alimentan el conocimiento.
|
|
- Desacoplamiento entre la cognición humana y los algoritmos.
|
- Monopolización del control de la información.
|
|
En el artículo de esta semana reproducimos parte de su intervención en la Digital Humanism Initiative (Dighum).
|
|
|
|
|
|
Los economistas Daron Acemoglu y Simon Johnson emprenden en este libro un recorrido por la historia y el futuro de la tecnología, desde la revolución agrícola del Neolítico al ascenso de la inteligencia artificial.
|
|
Defienden que el progreso no es un destino predeterminado, sino que depende de las elecciones que hagamos sobre la tecnología. Los avances digitales y la robótica amenazan a nuestros empleos y a nuestras democracias a través de la automatización excesiva, la recopilación masiva de datos y la vigilancia intrusiva.
|
|
|
|
|
|
2024, año de elecciones. No confíes en la IA
Un grupo de 40 expertos en IA, periodistas y analistas políticos probó cinco modelos de lenguaje de IA: GPT-4, Gemini, Claude, Llama 2 y Mistral y descubrió que más del 50% de las respuestas dadas por los cinco eran inexactas o parciales y aproximadamente el 40%, engañosas o incluso dañinas. Proof News
|
Todos quieren ser disruptores
Una gran mayoría de 300 empresarios encuestados por el MIT no considera que la disrupción que provoca la IA sea un riesgo. Al contrario, la consideran una oportunidad para ser también ellos disruptores. El 78% ve la IA generativa como una oportunidad competitiva. Sólo el 8% lo considera una amenaza. Technology Review
|
Infografía del "Imperio de la IA"
|
|
El "Imperio de la IA" se asienta sobre profundas raíces (modernidad, capitalismo, supremacía blanca...) dispone de mecanismos propios (automatización, extractivismo...) y adopta prácticas concretas (datificación, perfilado biométrico...). La infografía pertenece a un trabajo publicado por Data&Society, Nueva York.
|
|
|
|
|
|
|
|
|
|
Lecciones del fiasco de Google
|
|
|
|
Tras el ridículo que hizo Google hace unos días con su modelo Gemini de generación de imágenes en el que representaba soldados nazis o papas de raza negra, se han publicado algunos análisis que consideran el problema más profundo de lo que parece.
|
- Una primera indicio es que Google tiene prisa, está perdiendo la carrera de la IA conversacional y su negocio de búsquedas corre peligro. Y las prisas no ayudan a que las cosas salgan bien. Curiosamente, cuando OpenAI lanzó ChatGPT a finales de 2022, Google adujo la razón de su retraso a que tenía una reputación que le obligaba a hacer las cosas con rigor.
|
- Un segundo análisis advierte que el problema de la IA generativa es estructural. El sesgo y las alucinaciones no tienen arreglo. El motivo no son las prisas sino la imposibilidad de que una máquina incorpore todos los matices de la conducta y el conocimiento humanos.
|
- Un tercera corriente de opinión abunda en las deficiencias estructurales de la IA y aduce que el conjunto de valores, creencias, conocimientos, consensos e intuiciones que conforman las sociedades humanas se basan en equilibrios forjados a lo largo de siglos. Pretender ajustar una acción de la IA sin tener en cuenta esos equilibrios es ilusorio.
|
|
|
|
|
|
O consientes en ceder tus datos o pagas
Más de veinte grupos de derechos digitales y democráticos, ONGs y organizaciones sin fines de lucro han enviado una carta al organismo regulador de la protección de datos de la Unión Europea instándolo a rechazar una práctica que inició Meta pero que están imponiendo otros proveedores digitales: o consientes en ceder tus datos a terceros o pagas.
|
"Si el Comité Europeo de Protección de Datos (EDPB) no logra actuar contra esta práctica se creará una laguna en el régimen de protección de datos que podría destruir los derechos de privacidad de las personas y remodelar la web para ir a peor", advierten las organizaciones. Techcrunch
|
Repensar la privacidad en la era de la IA
Un documento publicado por el HAI Stanford titulado "Repensar la privacidad en la era de la IA," propone replantear las políticas de protección de datos y sugiere tres medidas.
|
- Privacidad por defecto. Desnormalizar la recopilación de datos de forma predeterminada. Los recopiladores de datos deben reducir la captación mediante estrategias de “privacidad por defecto”.
- Garantizar la transparencia y la rendición de cuentas de los conjuntos de datos a lo largo de todo el ciclo de vida debe ser el foco de cualquier sistema regulatorio que aborde la privacidad de los datos.
- Los formuladores de políticas deberían apoyar el desarrollo de nuevos mecanismos de gobernanza e infraestructura técnica (por ejemplo, intermediarios de datos e infraestructura de permisos de datos) para respaldar y automatizar el ejercicio de los derechos y preferencias individuales en materia de datos. HAI
|
|
|
|
|
- Amazon, invadido de libros artificiales. Xataka
|
- ChatGPT consume tanta energía como 33.000 hogares. Nature
|
- El 60% de los modelos de Open AI continen plagios. Axios
|
|
- Curioso: baja el uso de inteligencia artificial en las empresas españolas. El Pais
|
|
|
|
|
|
|
|
|
|
|
