«A IA non ten conciencia ética, que poida ter valores está nas nosas mans»

A fascinación de Senén Barro pola intelixencia artificial vén de hai catro décadas, cando comezou a estudar as infinitas posibilidades dunha tecnoloxía que, advirte, acabará por acrecentar as desigualdades sociais se é mal utilizada. O exreitor da USC é un dos galardonados cos premios Gallegos del Año, recoñecemento que recollerá con «moita alegría» o vindeiro xoves 28 na Cidade da Cultura.

Neste 2024 o CiTIUS volveu demostrar o seu peso na investigación da intelixencia artificial (IA) coa organización da European Conference on Artificial Intelligence (ECAI), o congreso sobre IA máis importante de Europa. Un reto grande que lle tocou moi directamente a vostede e que superou con éxito. Como o viviu?

Nunha carreira profesional onde se traballa duro e o tema ao que te dedicas é tan apaixonante, todos os anos teñen recompensas. Pero é certo que este 2024 é un deses anos excepcionais. Organizar o ECAI é un luxo. Calquera persoa pode imaxinar que este non é un traballo de Senén Barro, senón dun equipo humano grande, moi comprometido e moi respectado. Para Santiago e para Galicia, incluso para España, é unha desas cousas que nos sitúa a nivel internacional no ámbito da IA, que é un campo, como todo o mundo sabe, de enorme transcendencia a nivel social, económico, de emprego...

Concluye la ECAI 2024 en Santiago: «La IA nos da pistas para saber cómo va a ir la economía de un país»

Vostede foi dos primeiros en estudar a IA. Hai 40 anos decatouse de que o futuro estaba aí...

Eu tiven a fortuna de poder situarme nese campo co profesor José Mira, que xa daquela empezaba a ser un referente en España na investigación da IA. Se non fora así, probablemente me dedicaría a outra cousa. Si que pedín poder dedicarme á IA porque me parecía algo moi seductor, sen saber se ía ter moito impacto, pero pensaba que era un ámbito científico-tecnolóxico moi atractivo. O tempo demostroume que foi un acerto.

El ministro Escrivá visita el Citius: "Es muy importante lo que hacen aquí en el desarrollo de modelos de IA"

E esa paixón continúa hoxe...

Continúa e foi a máis... porque sei bastante máis que antes, porque teño xente moi brillante ao meu redor e porque vivimos un momento absolutamente espectacular, que hai dez anos non podía nin imaxinar. O campo da IA foi de avances lentos, de moito esforzo e moitas dificultades. Houbo décadas de investimento público que se viron recompensadas por resultados que empezaron a atraer os recursos da empresa. E iso é o que vivimos agora. O que durante moitos anos foi un avance especulativo estase agora rendibilizando en aplicacións, servizos, produtos, desenvolvemento económico...

Un médico de primer nivel en el bolsillo

A IA xera moita desconfianza, aínda que o futuro pasa inevitablemente por ela. É posible ter unha intelixencia artificial con conciencia ética?

A IA non ten conciencia ética, non ten valores, non ten principios. Todo o que a IA neste momento desexemos que sexa teremos que poñerllo nós. E todo o que non queiramos témolo que decidir nós e actuar de forma explícita.

«Quen ten hoxe o control de toda esta IA? Os países do hemisferio norte, os do sur, non»

Así que todo está nas nosas mans...

Totalmente. Se quero que unha IA que fai diagnóstico en medicina teña certos valores éticos integrados no seu comportamento, témosllos que poñer os seres humanos. Outra cousa é pensar que se nalgún momento somos quen de desenvolver unha IA que teña unha autonomía clara, algo parecido a un ser humano, nese momento si deberiamos ter presente como conseguimos que esa máquina se desenvolva con criterios éticos que consideramos adecuados. E aí hai quen di que iso haberá que facelo educando a máquina a través da interacción con nós, non por deseño, senón por aprendizaxe. Pero iso é un futuro hipotético. É como se empezamos a reflexionar sobre como poderiamos empezar a colonizar Marte. A día de hoxe non é un reto real. Preocuparnos agora por que ocurrirá cando as máquinas teñan consciencia é algo que especulativamente pode ser interesante, pero que carece de utilidade absolutamente.

Iolanda Leite, na ECAI 2024: «Os robots non conseguirían realizar moitas accións sen a guía dos humanos»

Non estamos nese escenario...

Non, estamos nun escenario de máquinas que cada vez son más competentes e que dedicamos a cousas que nos afectan máis. Un coche autónomo aféctanos máis que unha aspiradora, porque esta nunca vai ocasionar unha morte. Un coche autónomo terá que decidir nun momento dado, se a colisión é inevitable, con que colisiona: se cunhas persoas, se cun coche que vén de fronte ou contra un muro. Son decisións que si afectan a cuestións de carácter ético.

É un mito que as máquinas vaian acabar substituíndo as persoas nos centros de traballo?

Iso sempre pasou. Desde hai xa moitas décadas hai traballos que van suplindo as máquinas. Ata o de agora eran traballos sobre todo de carácter físico ou manual. E iso non xerou preocupación, porque eran labores pesados e desagradables e a xente que perdía o seu traballo podía atopar outro. Pero agora certas tarefas que cada vez se automatizan máis xa non son só as manuais, senón que requiren unhas capacidades cognitivas e intelectuais de medio e alto nivel. Iso afecta a moitos máis empregos e, por tanto, a máis persoas. E é máis difícil que as persoas que se están vendo e se verán desprazadas pola automatización desas tarefas poidan atopar outros traballos. Seremos moitos competindo por moitos menos postos de traballo.

«Desenvolver o ChatGPT está ao alcance de moi poucas empresas no mundo»

Soa dramático...

Se o sabemos anticipar e atender, e iso depende sobre todo dos responsables políticos, non debera selo. Ao contrario. Porque todo este proceso que reduce traballo humano podería xerar moita máis riqueza e esa riqueza e o traballo ben repartidos é un beneficio colectivo. O problema é se non o facemos así. E as posibilidades de que non o fagamos así son bastante altas. Porque os que teñen o capital, a tecnoloxía, o poder... cada vez son máis dominantes, e o resto, cada vez máis pobres.

A Xunta enxalza o papel do Citius como referente galego da intelixencia artificial

Non debera ser a prioridade garantir unha IA que dalgún xeito promova a xustiza social?

Sería fundamental. É unha cuestión de maior equilibrio social, económico, cultural... dentro dos países, pero tamén entre países. Quen ten hoxe o control de toda esta intelixencia artificial? Quen está investindo e quen o esta rendibilizando? Os países do hemisferio norte, os do sur, non. Isto que se di de que son tecnoloxías transversais e accesibles a todo o mundo, é relativo. Ese é un discurso ilusorio ou incluso enganoso.

O problema non é a IA en si mesma. Oproblema somos nós...

O problema da IAé o uso que se lle dea, quen ten o poder e a capacidade de desenvolvela. E a día de hoxe é unha tecnoloxía que está en mans de moi poucas empresas, ao mellor, un par de ducias de empresas que teñen o control e a capacidade económica e en coñecemento de desenvolver a vangarda da IA non só a nivel de mercado, senón tamén a nivel de investigación. Desenvolver o ChatGPT está ao alcance de moi poucas empresas do mundo, sobre todo estadounidenses e chinesas, nin sequera de gobernos, que non van facer o desenvolvemento que requiren este tipo de modelos.

É inquietante...

Problemas para preocuparnos temos moitos: o cambio climático, o consumo enerxético disparado... Agora dise: é que a IA consome moita enerxía e moita auga. Si, é certo. Pero moita máis enerxía consomen todos os coches que se moven a diario ou o consumo disparado do Black Friday e o Nadal.