Cuando la desconfianza se instala en la sociedad 

Dirijo la cátedra CAMELIA, una iniciativa de la Universidad de Santiago de Compostela y la empresa Plexus Tech, dentro del programa de cátedras IA del Estado. CAMELIA está dedicada a la aplicación de la IA en medicina personalizada y de precisión. Además de la investigación y la formación, tiene otras responsabilidades, entre las que destaca la diseminación y divulgación a la sociedad de sus propios resultados y, en general, de otros relevantes en su ámbito temático.

Hace unos meses organizamos un concurso de relato corto sobre IA y salud, con el nombre: “I Certamen de Relatos sin IA: IA es salud”. Ya con el título queríamos evidenciar que los textos no podían ser escritos usando IA, sospechando que alguien podría caer en esa tentación. También las bases indicaban que el jurado eliminaría del concurso cualquier relato no original o sobre el que tuviese sospechas fundadas de haber sido elaborado, total o parcialmente, mediante algún sistema de inteligencia artificial.

Recibimos casi doscientos textos. Fue un éxito de concurrencia. Hicimos un proceso de selección preliminar de algo más de una veintena, a partir de los cuales el jurado seleccionó los tres ganadores. Ante la sospecha de que algunos de ellos podrían haber sido escritos por un gran modelo de lenguaje (LLM), decidí utilizar un programa de detección de textos escritos con IA. Pero estos programas tenían entonces un significativo número de errores, en particular falsos positivos. Son muy conocidos los casos de textos extraídos de libros universales, como la Biblia o Cien años de soledad, que alguno de estos programas clasificó como escritos por una máquina.

En este momento hay programas mucho más sofisticados para la detección de la autoría humana o maquinal de un texto, muy fiables y con muy pocos falsos positivos. No se trata de detectar plagio -frases copiadas de otros textos-, marcas ocultas o indicios derivados del uso de estas o aquellas palabras o signos de puntuación concretos, sino de ciertos patrones estadísticos en la estructura y estilo de los textos que la IA aprende a reconocer a partir de una cantidad ingente de ejemplos, y que para nosotros pasan completamente desapercibidos.

No son infalibles, pero el que yo he usado detecta correctamente el 99,7 % de los textos generados por IA, según la empresa que lo creó y comercializa, presentando una tasa muy baja de falsos positivos. Aunque la fiabilidad de los resultados depende del idioma, la longitud del texto, si ha habido o no modificaciones humanas sobre un texto originalmente escrito por un LLM y algún otro detalle, la precisión en todos los casos es muy alta y ha sido contrastada con evaluadores independientes. Los resultados son, en todo caso, una estimación de probabilidad. No es una prueba irrefutable; no hay garantías plenas de que un texto humano sea reconocido como tal y por eso hay que manejar esta información con cautela.

A la vista de la gran mejoría que han experimentado últimamente estos programas de detección de autoría tuve la curiosidad de analizar los más de veinte finalistas del concurso que organizamos en CAMELIA, aunque fuese a toro pasado. El resultado me dejó perplejo. Menos de uno de cada tres textos fue considerado escrito por una persona, y ni en todos los casos al 100%. Sobre alguno de ellos yo tuve esa sospecha cuando lo leí, como ya dije, pero solo sobre un par o tres.

Siento rabia, pena, decepción, impotencia… Habíamos prohibido expresamente el uso de la IA y así lo decía el mismo título del concurso. Ni siquiera tendría que haber sido necesario decirlo en una sociedad bien educada y ética. En la próxima edición, que espero que la haya, cada uno de los textos serán analizados previamente porque la desconfianza ya se ha instalado en nosotros y, lo que es peor, también se está instalando en las universidades, las empresas, las administraciones públicas y en la sociedad en su conjunto.

Tenemos a nuestra disposición la tecnología más sofisticada que jamás hayamos diseñado para mejorar el mundo. No la empleemos para engañar, desinformar desatender nuestras responsabilidades, crear o aumentar diferencias sociales y económicas o delegar lo más preciado de la humanidad: el lenguaje y la creación del infinito con él.

Estamos a punto de comenzar un nuevo curso académico. Este año mi primera clase será distinta.