|
|
|
|
|
|
-Adoptamos la IA como una herramienta precisa pero no lo es. Sólo ofrece probabilidad, no certeza.
|
|
-No todos los premios Nobel de este año bendicen la IA. Algunos son muy críticos.
|
|
-Hanna Arendt ya retrató en 1958 la personalidad de los tecnólogos despegados de la humanidad. Su visión sigue vigente.
|
|
|
Las máquinas salvajes
Adoptamos la IA como una herramienta, pero tal vez no lo sea. Exigimos certeza y fiabilidad a una tecnología que sólo puede ofrecernos probabilidad.
|
Desconocemos qué pasa dentro del laberinto algorítmico. Escribimos prompts larguísimos para delimitar el contexto con la esperanza de que la máquina ejecute nuestra voluntad, pero la IA no se deja gobernar fácilmente. Se equivoca, inventa, alucina.
|
La humanidad ha depositado la fe en tecnologías como la IA para que sea nuestra interlocutora con la complejidad. Dejaremos que actúe por nosotros dentro de ciertos parámetros. Tal vez acierte, pero ante la imposibilidad de que nos garantice certeza, aceptaremos construir un mundo de probabilidades y nos adaptaremos a los caprichos de su aleatoriedad. Deberemos resignarnos a aquello que nos puedan ofrecer. La probabilidad en lugar de la precisión. El error como mal menor. Las alucinaciones como normalidad.
|
|
Cruzaremos los dedos y dejaremos que la máquina haga lo que pueda.
|
|
|
|
|
|
El talón de Aquiles de la IA generativa
|
La IA generativa inventa cosas. No puede distinguir entre hechos y ficción. Afirma sus invenciones con autoridad y seguridad.
|
En muchos casos, la falta de fiabilidad no es más que una molestia. Es mucho más preocupante cuando aborda temas médicos, financieros o legales. Axios
|
Seguridad, los grandes modelos son como un queso suizo
Dos ejemplos que ponen de manifiesto la carencia de medidas que protejan la información personal que mucha gente comparte con los chatbots y lo efectivas que pueden llegar a ser las acciones de jailbreak que consiguen romper esas protecciones. Gary Marcus
|
La caja de los algoritmos sigue siendo muy negra
Hay algoritmos de inteligencia artificial, en concreto las redes neuronales, de los que no se sabe exactamente cómo funcionan sus procesos internos. En este vacío de información está uno de los orígenes de los sesgos y las alucinaciones. El País
|
Los daños de la IA, en datos
|
AI Incident es una base de datos que recopila el historial de daños e incidencias causados por el despliegue de sistemas de inteligencia artificial. De momento dispone de unos 3000 informes, accesibles a través de un buscador.
|
|
|
|
No todos los Nobel 2024 bendicen la IA
|
Los de este año han sido los premios Nobel de la IA. Geoffrey Hinton y John J. Hopfield recibieron el de Física por su trabajo sobre redes neuronales. Demis Hassabis (Deepmind) John Jumper y David Baker el de Química por su innovadora herramienta de IA que predice las estructuras de las proteínas.
|
|
En cambio, el premio Nobel de Economía lo han obtuvieron Daron Acemoglu, Simon Johnson y James Robinson por sus investigaciones sobre el impacto de las instituciones en el desarrollo económico y la prosperidad de las naciones.
|
En cierto modo, los primeros suponen una bendición al desarrollo de la IA . Sin embargo en 2023 Geoffrey Hinton abandonaba Google y se desmarcaba del frenético despliegue de la IA y Daron Acemoglu y Simon Johnson alertaban de los efectos perversos la automatización. En 2023 decían, por ejemplo:
|
- "Ford entendió que fabricar autos en masa no tenía sentido si las masas no tenían medios para comprarlos. Las megacorporaciones actuales, en cambio, están usando las nuevas tecnologías en formas que arruinarán nuestro futuro colectivo." Project Syndicate
|
|
|
Daron Acemoglu: "Podemos tener una IA orientada al ser humano pero serios obstáculos lo impiden"
|
|
|
|
En marzo, publicábamos un resumen de la ponencia titulada ¿Podemos tener una IA pro humana? que Daron Acemoglu pronunció en Viena. "La IA conduce a un exceso de automatización y eso es algo muy grave" …
|
|
|
|
|
|
|
|
|
|
|
|
Hanna Arendt y los tecnólogos
Hanna Arendt publicó La condición humana en 1958. En sus primeras páginas alertaba del peligro que los tecnólogos vivan desconectados de su humanidad. Han pasado casi 70 años y no parece que hayamos avanzado mucho.
|
-
|
Las personas que se desconectan de la condición humana se obsesionan con el espacio exterior y quieren “escapar del encarcelamiento del hombre en la tierra”.
|
-
|
Están “orientadas a hacer la vida artificial”.
|
-
|
Querrán crear “máquinas artificiales para elaborar nuestro pensamiento y habla… nos convertiríamos en esclavos indefensos… a merced de cualquier artilugio que sea técnicamente posible, sin importar cuán mortífero sea”.
|
-
|
Los científicos ya han demostrado (con el desarrollo de la bomba atómica) que crean cosas peligrosas pero que son “los últimos a los que se consulta sobre su uso”. Cualquier predicción que haga un científico sobre el uso de una nueva tecnología es totalmente inútil: los políticos y los tiranos decidirán cómo se utiliza.
|
-
|
En este tipo de sociedad, la libertad se vuelve casi inútil porque las personas se ven privadas de las “actividades más elevadas y significativas por las cuales merecería ganarse esa libertad”.
|
-
|
Las personas que buscan este escape de la condición humana están creando una “alienación del mundo moderno”.
|
-
|
Habitan “un mundo ‘artificial’ de cosas claramente diferente de todo entorno natural”, de modo que sus innovaciones tecnológicas conducirán a una inevitable degradación del medio ambiente y a un desapego del mundo real. Ted Gioia
|
|
|
|
|
|
|
Los algoritmos están colonizando todos los ámbitos de la experiencia humana. Desde la estética de los restaurantes hasta la creación literaria, pasando por las amistades, la música y los contenidos audiovisuales.
|
Las recomendaciones basadas en la extracción de datos influyen cada vez más en nuestros gustos e intereses. Las plataformas digitales prometen una oferta personalizada, pero la cultura que consumimos y producimos se ha vuelto genérica, insípida y conformista.
|
|
Kyle Chayka (The New Yorker) trata de dilucidar cómo podemos mejorar nuestras vidas digitales. Gatopardo Ediciones
|
|
|
|
|
|
|
|
|
