Arrepentimientos

Científicos y tecnólogos alegan que es imposible prever todos los efectos que provoca el uso de cualquier innovación, pero el modelo de disrupción acelerada imperante es, en sí mismo, un generador de perturbaciones

Arthur Galston fue un fisiólogo estadounidense estudioso del crecimiento de las plantas. Descubrió que, en dosis moderadas, un regulador llamado ácido triyodobenzoico (TIBA) estimula el crecimiento vegetal pero que, en dosis altas, provoca el efecto contrario y las plantas pierden sus hojas.  

Su descubrimiento facilitó la fabricación del agente naranja, un compuesto utilizado por el ejército de los Estados Unidos durante la guerra del Vietnam para arrasar los bosques en busca de los escondites de la guerrilla del Vietcong.

Galston luchó todo lo que pudo para evitar la barbaridad que el ejército estaba cometiendo con su descubrimiento y, al cabo de un tiempo, logró que se dejara de usar.

“Solía ​​pensar que uno podría evitar involucrarse en las consecuencias antisociales de la ciencia simplemente no trabajando en ningún proyecto que pudiera tener fines malignos o destructivos. He aprendido que las cosas no son tan simples y que casi cualquier hallazgo científico puede pervertirse o deformarse bajo las presiones sociales“, dijo. 

No ha sido el único científico arrepentido por el daño no previsto que causaron sus inventos. Algunos jugaron con fuego y la dimensión del invento les desbordó. Robert Oppenheimer impulsó el desarrollo de la bomba atómica y cuando comprobó la magnitud del desastre causado en Hiroshima y Nagasaki, se arrepintió. También Alfred Nobel vivió atormentado por las muertes que causó su principal invento: la dinamita. 

El patrón se repite

En la historia de la ciencia y la tecnología el patrón se repite. Innovamos impulsados por una idea transformadora y un anhelo de superación, conseguimos resultados fascinantes que superan un reto científico o tecnológico y, en algunos casos, vistas las consecuencias al cabo del tiempo, nos arrepentimos.

Salvando las distancias, hoy vivimos una acelerada carrera tecnológica que también provoca arrepentimientos.

Justen Rosestein y Leah Pearlman lideraron el equipo de Facebook que diseñó el botón Me gusta, el detonante que convirtió la red social en un mecanismo adictivo. Se marcharon y pidieron disculpas.

Tristan Harris trabajó en el equipo de diseño de Google pero acabó abandonado la compañía y fundando el Center for Humane Technology.

Brian Acton, uno de los fundadores de Whatsapp, comprada por Facebook en 2014, impulsó más tarde la campaña #deletefacebook. Lo hizo, eso sí, después de hacerse millonario.

¿De qué nos arrepentiremos?

No hace falta ser muy perspicaz para intuir que los nuevos inventos tecnológicos llevan asociados riesgos muy altos. 

Generadores IA: Open AI, la innovadora empresa norteamericana alentada por los millones de Microsoft que en pocos meses ha lanzado deslumbrantes generadores de texto e imágenes, ha logrado poner patas arriba el sistema de evaluación académica de escuelas y universidades y ha puesto en pie de guerra a los creadores gráficos que, sin saberlo, alimentan las bases de datos de las que se nutren DALL-E y otros generadores parecidos.

Deepfakes. Las imágenes, los rostros y las voces creadas artificialmente están logrando un nivel de verosimilitud que hace prácticamente imposible distinguirlos de los reales. Synthesia es una startup británica que crea avatares ultrarrealistas. Algunos de ellos empiezan a ser usados para presentar noticias pero también para animar y hacer más convincentes campañas de desinformación de todo tipo. 

Criptomonedas: La criptoeconomía promete la descentralización y la desaparición de los intermediarios financieros habituales. La confianza y el control se desplazan de unos supuestamente anacrónicos mecanismos e instituciones creadas por la sociedad a una red teóricamente más segura creada por la tecnología. Sin embargo, la caída de la economía en 2022 ha puesto al descubierto su fragilidad, la dependencia de nuevos intermediarios y un elevado número de fraudes. Un reciente estudio de la firma Chainalysis asegura que 1 de 4 nuevos tokens criptográficos es una estafa.

La responsabilidad de la disrupción

Científicos y tecnólogos alegan que es imposible prever los efectos que provoca el uso de cualquier innovación. Ni cuando se diseña ni cuando se pone en el mercado nadie es capaz de tener todas las consecuencias bajo control. 

El fisiólogo Galston se lamentaba de que el uso social acaba pervirtiendo los buenos inventos. Según esta visión lo perverso no estaría en la propia innovación (a no ser que sea esencialmente maligna de origen) sino en las fuerzas de la sociedad que aprovechan cualquier oportunidad para hacer el mal. 

En el ámbito científico, probablemente sea así. Pero en el tecnológico, no está tan claro. Primero porque siempre hay un para qué, un objetivo que alienta la innovación y que no acostumbra a ser neutro. Y segundo, porque el modelo disruptivo de innovación acelerada que domina el desarrollo actual de la tecnología es, en sí mismo, un generador de perturbaciones. Disrumpir significa romper. Se busca romper con los vicios y las ineficiencias, pero las roturas no acostumbran a ser limpias. La disrupción también se lleva por delante hábitos sociales, leyes, estabilidades y equilibrios. 

La rotura del tiempo

Uno de los efectos de la disrupción de más trascendencia es la rotura del tiempo. Se aceleran los procesos, los inventos se suceden unos a otros de forma implacable, la sociedad pierde la capacidad de asimilarlos al mismo ritmo y en toda su magnitud y los legisladores no saben cómo impedir sus consecuencias durante períodos cada vez más largos.

La disrupción tecnológica logra que mientras la sociedad se dirime entre la perplejidad, la fascinación y la asimilación de los nuevos inventos, los disruptores puedan imponer sus propias reglas llenando ellos mismos los vacíos que van creando.

No vale, pues, achacar los problemas que se derivan de la tecnología sólo al mal uso que de ella hace la sociedad. En el adn de avances como la inteligencia artificial, la criptoeconomía o el hiperrealismo sintético está el germen de la rotura y las roturas provocan daños. 

No vale, pues, sacarse de encima la responsabilidad y delegarla a los poderes públicos que deben controlar el uso social de los inventos, ni, en el mejor de los casos, lamentarse o arrepentirse cuando el daño ya está hecho.

Si se asumiera que las empresas tecnológicas deben incorporar la ética a sus procesos de innovación -la ética de verdad, no el lavado de cara al que se apuntan todas-, hacer un riguroso análisis de riesgos antes de lanzar sus inventos al mercado y se exigieran responsabilidades a los impulsores del negocio de la disrupción, habría menos motivos de los que arrepentirse.

Joan Rosés