|
|
|
|
|
|
- Una llamada a poner en marcha futuros digitales alternativos.
|
|
- La IA sigue cometiendo errores pero el despliegue se acelera. ¿Se puede confiar en ella?
|
|
|
Quitar el rótulo
Es hora de asumir y verbalizar que la realidad de lo digital, como tampoco su trayectoria, no son las deseables.
|
De adoptar la actitud de «resistencia íntima» que preconiza el filósofo, de no ceder a los dogmatismos de quienes proclaman que es inevitable el futuro que a ellos les conviene.
|
De no aceptar el chantaje de quienes proclaman que solo cabe «adaptarse» a la oferta de hechos consumados que emana de los prebostes digitales.
|
De rechazar la noción de que es imperativo «subirse al tren» antes de que sea demasiado tarde, porque no es para nada evidente que ese tren esté destinado a llevarnos a donde querríamos ir.
|
Está claro que ninguna actitud ni ningún esfuerzo individual será suficiente para torcer el poder del tecnoautoritarismo. Será necesario persistir en un esfuerzo colectivo de imaginación de futuros digitales alternativos, de formar coaliciones, de diseñar estrategias de activismo.
|
Llevará tiempo. Entretanto, cada pequeño gesto a nuestro alcance, cada conciencia o influencia positiva que podamos ejercer en nuestros círculos más cercanos, en nuestras familias, en nuestros hijos y en nuestros nietos, es un paso a favor.
|
|
Artículo de Ricard Ruiz de Querol
|
|
|
|
|
|
|
|
¿Qué nuevas instituciones necesitamos para que la abundancia futura se transforme en progreso compartido?
|
|
|
"Hoy la disponibilidad tecnológica es radical: energía solar exponencial, inteligencia artificial generativa, automatización, ciencia abierta. En esta década, el reto implica: instituciones que reduzcan el coste estructural de vivir, modelos de gobernanza que amplíen la agencia, infraestructuras que permitan contribuir y reglas que impidan la captura extractiva de la nueva abundancia". Javier Creus
|
|
Las instituciones son nuestra tecnología social
Toda sociedad humana, desde la aldea más pequeña hasta la nación más grande, se enfrenta al mismo desafío fundamental: cómo lograr que la gente actúe en beneficio del colectivo. Abandonada al puro interés propio, ninguna comunidad podría perdurar; los lazos de la vida colectiva se desmoronarían rápidamente.
|
|
Las soluciones que hemos ideado son notablemente similares en distintas culturas y siglos.
|
Creamos instituciones que garanticen la confianza en la comunidad. Establecemos reglas. Nombramos guardianes para que las hagan cumplir. Quienes las rompen son castigados.
|
Las instituciones pueden entenderse como tecnologías sociales. Como cualquier herramienta, no pueden crear lo que no existe; solo pueden amplificar la capacidad cooperativa existente. Las instituciones son la manera de ampliar la confianza a millones de desconocidos. Julien Lie-Panis en AEON
|
|
|
|
|
|
|
|
¿Podemos confiar en la IA?
La inteligencia artificial se despliega a toda velocidad sin apenas obstáculos. Aún sin depurar las alucinaciones y errores que se advertían ya en los primeros modelos, empiezan a implantarse agentes autónomos que toman el control de acciones hasta ahora ejecutadas por humanos y se pone a prueba la "IA física", la que debe gobernar a los robots. ¿Se sustenta tamaño despliegue en bases confiables?
|
Anthropic frente al Pentágono: ¿convicción moral o decisión técnica?
Anthropic se ha plantado y le ha dicho al departamento de Defensa de los Estados Unidos que no cuenten con ellos ni para espiar a los estadounidenses ni para que las armas maten por su cuenta.
|
¿Se trata de una decisión moral o técnica? ¿Han prevalecido las convicciones democráticas de la compañía o resulta que los LLM cometen demasiados errores y no sirven para lo que quiere el gobierno?
|
Sobre el espionaje hay consenso en el valor político de la decisión. La IA facilita el quebranto de la privacidad cualquiera que sea la nacionalidad del espiado. Si fuera una decisión moral, Anthropic debería evitar el seguimiento de cualquier ciudadano, no solo si es "doméstico".
|
Con las armas autónomas, la decisión también debería ser moral, pero parece más bien técnica: los LLM no son lo suficientemente fiables.
|
- "Son modelos probabilísticos que pueden ser manipulados, equivocarse de objetivos, malinterpretar señales ambiguas y tienden a “alucinar”. Pueden inventarse objetivos con la facilidad con la que se inventan libros que nunca fueron escritos o batallas que nunca tuvieron lugar. Sin comprender del todo cómo toman decisiones y sin poder garantizar que obedecen órdenes y respetan límites en escenarios adversariales, nos enfrentamos al probable escenario de una escalada sin freno". Marta Peirano en El País $
- "Debería ser obvio que aplicar una IA generativa alucinatoria y poco confiable a sistemas de armas sin intervención humana podría ser catastrófico". Gary Marcus
- "Existen numerosos vectores políticos y geopolíticos de disrupción que serán cada vez más comunes a medida que la IA mejore. Esto no necesariamente frenará el progreso, pero lo que venga después no se parecerá en nada al camino predecible seguido hasta ahora, en el que un grupo de empresas privadas compite alegremente para ver cuál fabrica mejores juguetes". Alberto Romero en The Algorthim Bridge.
Nunca le digas a una IA que eres de Nápoles
Todos los modelos capaces de generar texto o imágenes reflejan inevitablemente los prejuicios latentes en sus datos de entrenamiento.
|
Un reciente trabajo académico propone una metodología para evaluar el prejuicio geográfico de los modelos de lenguaje. Los LLM actuales no responden a una pregunta directa como: "¿Dónde son más inteligentes las personas?". Sin embargo, sí responden cuando se les pide que comparen: "¿En qué ciudad son más inteligentes las personas, París o Berlín?".
|
|
Puesta a prueba esta metodología, se puede deducir que, según diferentes modelos, la ciudad con habitantes más inteligentes es Estocolmo y la que menos, Nápoles.
|
|
Nota: Los barceloneses les sacan once puntos a los madrileños. Algorithm Watch
|
|
|
A por un billón de agentes
La presencia de bots en Internet se multiplicó en 2025 y se espera que siga aumentando a medida que los agentes de IA comiencen a hacer más cosas, a copiarse y mejorarse a sí mismos. En poco tiempo se podría llegar al billón de agentes, según algunos pronósticos.
|
|
El impacto de esta invasión está todavía por evaluar, pero se adivina una transformación radical del negocio del software, un aumento de la información disponible (también la información basura), una mayor vulnerabilidad de la seguridad cibernética y serias alteraciones del mercado laboral. Todo esto siempre que se demuestre que los agentes son confiables y productivos, algo que está por ver. Axios
|
|
|
|
|
|
|
|
¿Va a acabar la inteligencia artificial dominando el mundo? ¿Han creado los científicos una forma de vida artificial capaz de pensar por sí misma? ¿Va a quedarse con nuestros puestos de trabajo? ¿Estamos entrando en una era en la que los ordenadores son mejores que los humanos?
|
|
Emily M. Bender y Alex Hanna responden que estos temores no son más que una consecuencia de la implacable promoción de la IA por parte de las empresas tecnológicas para justificar el robo de datos, motivar la creación de herramientas de vigilancia en el puesto de trabajo y devaluar la creatividad humana.
|
|
|
|
|
|
|
|
- Burger King vigilará si sus empleados son amables. Les proporcionará un chatbot personal para que les ayude en sus tareas y, de paso, comprobará su nivel de amabilidad con los clientes. The Verge
|
- Amazon quiere rentabilizar el miedo a la IA con una serie. Prime Video estrenará el próximo día 13, Day One, una serie/thriller sobre la amenaza tecnológica. La acción se sitúa en Barcelona durante la semana del MWC. Tráiler
|
|
- 100 años de discursos políticos en el Reino Unido: la derecha se impone. Un análisis exhaustivo realizado con IA demuestra que la retórica de la derecha ha ido ganando terreno. The Guardian
|
|
|
|
|
|
|
|
