La IA que nos aterra (y el tecnofascismo)

La encíclica del papa León, que está a punto de aterrizar, ha removido la conciencia científica, quizás porque el papa es matemático. La ética de la ciencia es un viejo asunto que no siempre ha sido tenido en consideración (no tanto por los científicos como por los poderes), no en vano un buen número de los avances que han pasado a nuestra vida vienen de lo militar.

Lo cierto es que el melón, o, mejor, la manzana, de la inteligencia artificial, que tiene algo de imitar a un dios, real o simbólico, se acaba de abrir con todas las consecuencias. Y, como suele suceder con los grandes cambios de la humanidad, tiene cosas buenas, malas y regulares. Nada es enteramente bueno, por todo hay un precio que pagar. O eso creo. En la Revolución Industrial mucha gente se hacía cruces ante los trenes que surcaban la campiña e iban a acabar con el personal. Thomas Hardy, el grandísimo escritor de Dorset, se asomaba una ventana en Londres y veía aterrado el avance de las vías del tren. Él, que era un arquitecto de iglesias románicas, aventuraba un mundo oscuro y feroz, con máquinas infernales invadiendo la belleza del campo y la ciudad. El actual Carlos III fue un activista contra el feísmo en la arquitectura: no todo puede ser Balmoral, claro. Las torres de Canary Wharf empequeñecen la silueta de casi todos los castillos ingleses.

El futuro siempre presenta una gran dosis de incertidumbre. Y el pasado, una aceptable dosis de mentira y olvido. Así somos. Pero la IA, hasta para los más profanos, tiene algo de salto hacia adelante de imprevisibles consecuencias. Más que la imprenta. Más que internet. No sé si más que el hacha de sílex o la rueda. O que los cálculos de Arquímedes, de Pitágoras o de Tolomeo. La IA nos ofrece, como una tentación, la belleza del Aleph.

El papa dice que lo peor vendría de una IA armada. Y con la tendencia que tiene el ser humano, no tengan dudas de que esa será (ya lo es) una de sus aplicaciones. En realidad, se refiere a la IA como arma en sentido amplio: arma ideológica, no sólo militar. La IA tiene algo de jugar a ser Dios, digámoslo así, y eso que es fieramente humana, pues se nutre en lo fundamental de nuestras ideas, palabras, imágenes, ese río de la existencia, ese caudal imparable, todo ese rastro que dejamos en la piel de internet, y en la piel de la realidad, a lo largo del tiempo. El ser humano, antes del Génesis, quiere el conocimiento extremo, y acceder a él, como acceder al fuego, gran juguete de los dioses, lo que implica una acción retadora en contra de la divinidad. Según los mitos, así hemos sido expulsados de todos los paraísos. Frankenstein, siempre lo digo, quiso dar vida a un cuerpo inerte, un ser no nacido de mujer, sino de la unión de los mejores órganos de cadáveres. Mary Shelley contó el infinito castigo del moderno Prometeo. Sin embargo, las maniobras de resucitación de cadáveres (muchos de ellos ahogados) habían sido ya puestas en marcha por Galvani, lo que atrajo a la hija del Godwin.

El papa se adentra en los peligros de la ciencia, si no se establecen controles adecuados. El mas grande, la autodestrucción. O sea, la IA contra el padre. La humanidad, que provoca guerras y siembra dolor, pero que también crea belleza, podría acabar consigo misma, precisamente por abandonar el humanismo y sustituirlo por el poder de la máquina. Pero las máquinas pueden ser también grandiosas. La cuestión está en el equilibrio. En el control. En la ética. ¿Está en ciernes una nueva forma de esclavismo?

¿Dominarán el mundo las elites de la tecnología provocando lo que ya se define como un futuro tecnofascismo? La visión papal sigue la estela de su antecesor León XIII, como se ha escrito. Pero este no es aquel miedo de los ludditas. Ahora nos enfrentamos a un reto formidable. Y lo hacemos, además, en pleno ascenso del autoritarismo en el mundo, donde crecen cada día posturas excluyentes, ultras y neofascistas. Hace tiempo que se maneja la propaganda fake para cambiar las opiniones de la gente. Eso sólo sería el principio del desastre. Hay que poner freno al tecnofascismo que se amasa en el horizonte. Hay que volver a la esencia humana, a la magnífica humanidad, y promover el multilateralismo como única base para el desarrollo integrador y cooperativo. El terror es cierto, porque la deriva autoritaria también lo es. Un aroma a escenario distópico y terrible envuelve ya el tiempo presente. No hay progreso si degradamos la vida de los otros, o la naturaleza del planeta. No podemos cruzarnos de brazos ante la normalización de la guerra, ante la creencia de que la fuerza mueve el mundo. Sería el fin de la libertad. Todo esto y mucho más está ahora mismo en juego.