|
|
|
|
|
|
- Los agentes IA son, sobre todo, recopiladores de datos del propio usuario.
|
|
- Las noticias que transmiten los chatbots están plagadas de errores.
|
|
- Digitalización, robots, automatizaciones... aceleradores del crecimiento sin empleo.
|
|
|
La bondad torcida de los agentes de IA
En una reciente intervención, Meredith Whittaker, presidente de la aplicación de mensajería instantánea Signal, alertó de la amenaza que suponen los agentes IA: “Son una especie invasora que se cuela por la puerta de atrás de nuestras aplicaciones digitales”, dijo.
|
El motivo es que los agentes automatizados eluden uno de los principios básicos de la navegación digital: el permiso explícito.
|
Hasta ahora, cada vez que visitamos una página web se nos pide que validemos los términos y condiciones de privacidad. Cuando contratamos un servicio debemos dar el ok definitivo. Cuando hacemos un pago debemos confirmar los datos de la targeta de crédito. Y aunque a menudo actuamos por inercia, siempre debemos decidir si damos nuestro consentimiento. Con los agentes, esa precaución desaparece: es el agente el que decide y actúa por nosotros.
|
|
Con una navegación limitada, la delegación de permisos puede estar bajo control, pero a medida que las acciones se compliquen, la cantidad y relevancia de los permisos explícitos a los que renunciaremos será cada vez mayor.
|
|
|
|
|
|
|
|
Navegadores con IA, un peligro real
En las últimas semanas han aparecido nuevos navegadores de Internet que incorporan la IA. Atlas (OpenAI) y Comet (Perplexity) son los más recientes.
|
- Estos navegadores automatizan tareas que hasta ahora debía hacer el usuario: resumir y analizar datos de la web, buscar en los contenidos, clasificarlos...
- Inyección de prompts: instrucciones maliciosas que se ocultan en el código web para influir o tomar el control de las acciones del agente IA sin que el usuario lo perciba.
- Recopilación masiva y perfilado de datos privados del usuario.
- Vulnerabilidades graves ante ataques de phishing y malware, mucho mayores que con navegadores clásicos.
- Falta de control sobre lo que el agente puede hacer.
- Manipulación de contenido y sesgos amplificados por decisiones automáticas del agente IA.
Para qué sirve el navegador Atlas de Open AI
|
|
|
"Me ha costado entender por qué existe Atlas. ¿A quién sirve exactamente este navegador? ¿Quién es su cliente? Y la respuesta a la que he llegado es que Atlas es para OpenAI. El verdadero cliente, el verdadero usuario final de Atlas, no es la persona que navega por los sitios web, sino la empresa que recopila datos sobre qué y cómo navega esa persona". Mat Honan en Technology Review ($)
|
|
Cuidado con lo que le decimos al chatbot
Un estudio de la Universidad de Stanford revela que las principales empresas de IA recopilan las conversaciones de los usuarios para entrenar sus modelos. Algunas las conservan indefinidamente y permiten que terceras personas las revisen. HAI Stanford
|
Una nueva ética para un mundo de agentes IA
|
Si los agentes IA acaban popularizándose será imprescindible establecer un nuevo marco ético para actualizar las regulaciones y códigos de conducta. Nature
|
|
|
|
|
|
Malas noticias
|
|
El mayor estudio realizado hasta ahora sobre fiabilidad de los chatbots concluye que los asistentes de IA (que ya son una vía de información diaria para millones de personas) tergiversan sistemáticamente el contenido, independientemente del idioma, el territorio o la plataforma de IA que se pruebe.
|
La investigación la ha coordinado la Unión Europea de Radiodifusión (UER) y dirigido la BBC. Han participado 22 medios públicos de 18 países que trabajan en 14 idiomas.
|
- El 45% de las respuestas tenían al menos una deficiencia importante.
- El 31% mostraron errores serios con las fuentes (atribuciones incorrectas o engañosas).
- El 20% contenía importantes faltas de precisión, alucinaciones o información obsoleta.
- Gemini resultó la peor: problemas significativos en el 76 % de las respuestas, más del doble que los otros asistentes. Unión Europea de Radiodifusión
|
Desconfianza en la verificación
|
|
Según un estudio realizado por el Instituto Reuters, los lectores creen que los periodistas verifican poco las noticias generadas con IA. Solo el 33 % cree que los periodistas siempre o a menudo verifican los resultados de la IA antes de publicarlos; el porcentaje es mayor en Japón (42 %) y Argentina (44 %), y menor en el Reino Unido (25 %). Instituto Reuters
|
|
|
|
Acelerando el crecimiento... sin empleo
El Banco Mundial ya alertó en 2024 que se está consolidando la tendencia a un crecimiento global que no va acompañado de crecimiento en las tasas de empleo (Jobless Development). Los factores son diversos. La tecnología contribuye a acelerar la tendencia.
|
-
|
Amazon planea reemplazar hasta 600.000 trabajadores por sistemas robóticos antes de 2033, según documentos internos filtrados hace unos días. Su objetivo es automatizar el 75% de las operaciones, especialmente en almacenes y centros de distribución. El plan permitiría a Amazon ahorrar más de 12.600 millones de dólares entre 2025 y 2027.
|
- Nestlé ha anunciado el despido de 16.000 empleados a nivel mundial en los próximos dos años. La automatización de procesos y la digitalización son los principales motivos. Los recortes afectarán principalmente a trabajadores administrativos (12.000 personas) y a otras 4.000 en áreas de producción y distribución.
|
|
|
|
|
|
|
|
|
- Gafas con IA para repartidores de Amazon. La multinacional planea equipar a sus repartidores con gafas inteligentes. Objetivo declarado: mejorar la eficiencia. Objetivo no declarado: ampliar el control. Paréntesis Media
|
- Facilidades para los deepfakes. Las herramientas para crear deepfakes sexualmente explícitos se pueden encontrar fácilmente en todas las redes sociales o mediante búsquedas simples en Google y Bing. 31 webs especializadas reciben 21 millones de visitas en un mes 404media
|
- Reactivado el software espía que controla inmigrantes en EEUU. El Servicio de Inmigración y Control de Aduanas de EE. UU. podrá volver a usar el software espía Graphite, de la israelí Paragon Solutions. Permite intervenir y obtener el control casi total de teléfonos móviles de manera encubierta. Su uso se había prohibido a finales de 2024. Acces Now
|
|
- ¿Pornografía de la pobreza? Imágenes generadas por IA de víctimas de pobreza extrema o violencia sexual son utilizadas por ONG's como medio de denuncia y preservación de la intimidad de los verdaderos afectados. La polémica surge por las denuncias de quienes consideran esa práctica "pornografía de la pobreza". The Guardian
|
|
|
|
|
|
|
|