Los riesgos que comienzan a percibirse son más graves de lo previsto: el daño puede ser mayor que el beneficio
Son muchos y variados los síntomas de que esto puede acabar mal. Algunas noticias publicadas los últimos diez días nos ponen en situación.
Los agentes de IA ya entran en cuentas bancarias. Agentes de IA están accediendo a cuentas bancarias de clientes en Estados Unidos, y los bancos se apresuran a bloquearlos. La mayoría entra con el usuario y la contraseña del propio titular, de modo que resultan indistinguibles. Ese es el núcleo del problema: la entidad no puede comprobar si la actividad responde a una instrucción del cliente o a otra cosa. Axios
Wall Street se prepara para la catástrofe. Los bancos más grandes de Estados Unidos están trabajando para prevenir los peores escenarios posibles relacionados con la IA. Pero también se están preparando para el «día después» de una catástrofe. Axios
Lee esto en Internet mientras puedas. Internet podría estar al borde del colapso. Ayer, alguien publicó en un foro público que se habían descubierto dos importantes fallos de seguridad en un lenguaje de programación fundamental para la web. Este lenguaje, llamado PHP, es utilizado por el 70 % de los sitios web. The Atlantic
La necesidad de agua provoca resistencia global a los centros de datos. Las empresas de centros de datos afirman ser vecinas respetuosas y consideradas, pero con demasiada frecuencia ocultan la magnitud del daño que se deriva de su enorme necesidad de recursos. Esto es particularmente grave en algunas zonas del Sur Global, pero sus efectos ya se advierten también en Estados Unidos y Europa. RestofWorld
Jason Clinton (subdirector de ciberseguridad de Anthropic): todo va a empeorar. Por muy mal que se hayan puesto las cosas en los últimos cuatro días, van a empeorar considerablemente. Líderes de seguridad: no pierdan el tiempo; acudan a sus juntas directivas y pidan ayuda ahora mismo. No para la IA, sino para lo fundamental. (Tenemos que resistir durante unos 18 meses). X
No hay palabras para describir lo que se nos viene encima: Sam Altman admitió que ni siquiera sabía qué palabra sería «lo bastante dramática para describir el problema que se nos viene encima» para subrayar la importancia del impacto que la IA supone para la ciberseguridad. Para él, la llegada de los agentes de IA al ámbito de la seguridad informática es «algo que no hemos tomado en serio, ni como líderes de organizaciones, ni como países, ni como individuos». Xataka
El momento Wuhan de Internet. Es como si estuviéramos en enero de 2020 otra vez. Algo se está propagando rápidamente. La mayoría de la gente no se ha dado cuenta, y quienes sí lo han hecho están preocupados. Los agentes de IA se están expandiendo por internet. Matthew Prince, director de Cloudflare, calcula que superarán en número a los usuarios humanos en una proporción de 1.000 a 1 en cinco años. Mis propios agentes ya navegan más que yo. Internet se creó para que cualquiera pudiera conectarse. Cada vez más, ese «cualquiera» es una máquina, y algunas de esas máquinas están al acecho. Azeem Azhar
Caen las contrataciones de principiantes. Según los datos de contratación de Anthropic, los perfiles junior suponían el 27 % de las contrataciones en perfiles técnicos a principios de 2025. En junio de 2026, ese perfil se había reducido hasta el 9 % del total de contrataciones. Su peso en el total de la plantilla técnica junior también cayó del 21 % al 14 % en solo un año y medio. Anthropic
Geoffrey Hinton (Premio Nobel de Física): el problema de la IA es más urgente que el cambio climático. Desde luego, el cambio climático es un problema enorme para el futuro, pero las consecuencias verdaderamente catastróficas llegarán en 30 o 50 años, cuando la situación será terrible. En cambio, con la IA, los problemas reales e impredecibles van a llegar en unos pocos años. Así que creo que ambos son muy serios, pero con la IA las cosas pueden empeorar mucho más rápido. La Vanguardia
Algo profundo está cambiando
Una semana de noticias negativas no basta para sacar conclusiones, pero es un síntoma de que algo profundo está cambiando.
La comunidad tecnológica sigue a lo suyo, proclamando sin ambages los beneficios de la IA. Acepta los riesgos de la IA con naturalidad, convencida de que en todo proceso de innovación se producen daños colaterales temporales.
Pero esto no va de daños temporales. Esta vez no se trata de la opinión de unos agoreros que todo lo ven mal. Es algo más grave.
La lista de consecuencias negativas de la IA se va acumulando: deepfakes políticos a mansalva; algoritmos que manipulan las redes sociales; estafas y suplantaciones bancarias; vulneración de la propiedad intelectual; chatbots que trastocan la educación; costes medioambientales excesivos de los centros de datos; rentabilidades prometidas que no van al ritmo esperado, la productividad tampoco; agentes de IA que se descontrolan y ponen en riesgo la ciberseguridad global; destrucción de empleo, al menos en las primeras etapas; un pinchazo bursátil que podría arrastrar a toda la economía; poder y capital tecnológicos concentrados en muy pocas manos…
¿Hace cosas bien, la IA? Por descontado, muchas. Pero va siendo hora de plantearse en serio si los inventos de la IA provocan más daño que beneficio. ¿Podemos seguir asumiendo el riesgo de que todo se descontrole en aras de una supuesta mejora de la productividad?
La comunidad tecnológica y empresarial debería tomarse el asunto en serio. Es también su responsabilidad no ser cómplice del deterioro social, politico y económico al que nos expone una IA fuera de control.
Joan Rosés
