La literatura nos previene: habría que hacer más caso a las advertencias sobre los peligros de la IA
Las advertencias de Dario Amodei y Sam Altman sobre los graves peligros que comporta el desarrollo desbocado de la IA tienen mucho de “dramáticas”, en el sentido literario del término.
De hecho, recuerdan escenas ya vistas o leídas, algunas, míticas.
Una de ellas ocurre en la película The Travelers (2010). Es Nochebuena y Mr. Nobody, el personaje que encarna Val Kilmer, se presenta en una comisaría para confesar seis asesinatos. La policía desconfía y lo trata como a un loco. Le detienen, pero no le creen. Las muertes, que todavía no ha cometido, se irán sucediendo una tras otra.
Otra es Frankenstein, la novela que Mary Shelley publicó en 1818, en plena efervescencia del movimiento ludita en Gran Bretaña.
Al final de la historia, Victor Frankenstein pide a un juez que detenga al monstruo que él mismo ha creado y que acaba de matar a su mujer Elizabeth.
Reproduzco algunos fragmentos:
“—Ése es el ser al que acuso y al que le pido que detenga y castigue con toda su fuerza. Ése es su deber como magistrado, y creo y espero que sus sentimientos como ser humano no le permitan desertar de esas funciones en esta ocasión.
Aquella petición produjo un notable cambio en la fisonomía de mi interlocutor. Había escuchado mi historia con aquella especie de credulidad a medias que se le concede a los cuentos de espíritus y fantasmas; pero cuando se le instó a actuar oficialmente y en consecuencia, recuperó de inmediato toda su incredulidad. En todo caso, me respondió con amabilidad.
—De buena gana le prestaría toda la ayuda posible; pero la criatura de la que usted me habla parece tener poderes capaces de desafiar todos mis esfuerzos. ¿Quién puede perseguir a un animal que puede cruzar el mar de hielo y vivir en grutas y cuevas donde ningún hombre se aventuraría a entrar?
(…)
-Ya sé lo que está pensando: no da crédito a mi relato, y no tiene ninguna intención de perseguir a mi enemigo y castigarlo como merece.
Mientras hablaba, la ira centelleaba en mis ojos. El magistrado se arredró:
—Está usted equivocado —dijo—; lo intentaré; y si está en mi poder atrapar al monstruo, puede estar seguro usted de que recibirá el castigo que merecen sus crímenes. Pero me temo que será imposible, por lo que usted mismo ha descrito a propósito de sus características; y, mientras se toman todas las medidas pertinentes, debería usted intentar prepararse para el fracaso.
—¡Eso es imposible! —dije furioso—. Pero todo lo que pueda decir no servirá de mucho. Mi venganza no le importa nada a usted; sin embargo, aunque admito que es una obsesión, confieso que es la única pasión que me devora el alma; mi furia es indescriptible cuando pienso que aún existe el asesino a quien yo mismo arrojé a este mundo. Usted rechaza mi justa petición. No tengo más que un camino, y me dedicaré, vivo o muerto, a intentar destruirlo.
(…)
(El juez) intentó calmarme como una niñera intenta tranquilizar a un niño, y achacó mi relato a los efectos del delirio.
—¡Hombres…! —grité—. ¡Qué ignorantes sois y cuánto os enorgullecéis de vuestra sabiduría! ¡Cállese! ¡No sabe usted lo que dice…!
Salí precipitadamente de la casa y, furioso y enloquecido, me fui a meditar algún otro modo de actuar.”
¿Qué hacer?
Las advertencias de Amodei y Altman sobre las consecuencias de mantener «el monstruo en libertad» han sido acogidas con mucha incredulidad, cuando no rechazo. Los que temen por el negocio no les han hecho caso y los que habitualmente se muestran críticos con los excesos de la IA atribuyen esos súbitos desvelos a maquiavélicas maniobras para acrecentar su dominio.
En cierto modo, Amodei y Altman se han comportado como Mr. Nobody: han acudido a comisaría a confesar crímenes que todavía no han cometido pero que podrían cometer. Incluso Bill Gates admite que la IA puede provocar mil millones de muertes.
¿Qué hay que hacer? ¿Tomárselo a chirigota? ¿Debería algún juez tomar cartas en el asunto o mejor no hacer nada porque será imposible, como alega el magistrado que atiende a Frankenstein? Parece que el fiscal general de Florida lo va a intentar.
No es un spoiler recordar que las dos historias acaban mal.
Joan Rosés
