“A IA non é unha variña máxica e pode desencadear problemas”

Verónica Bolón, doutora en Informática e profesora de Ciencia da Computación e Intelixencia Artificial da Universidade de A Coruña, investigadora do Citic e experta en Intelixencia Artificial, impartiu este mércores unha charla ao alumnado de segundo de bacharelato do Colexio Manuel Peleteiro sobre a historia da IA, os seus avances actuais poñendo o foco no ChatGPT, os problemas existentes ao haber sistemas discriminatorios e os desafíos e futuro desta tecnoloxía.

P. Nunha charla nun colexio sobre a IA, que diría sobre a importancia e precaucións que hai que ter?

Nace en Santiago la primera Cátedra de IA en Medicina Personalizada de Precisión del país

R. Diría que a intelixencia artificial debemos vela como unha ferramenta, e como todas pode utilizarse para cousas boas ou para cousas malas. Sen dúbida ten moitísimo potencial e pódenos axudar en diversos ámbitos da nosa vida – como na saúde, en educación ou contra o cambio climático– pero temos que aprender a utilizala porque ten riscos. No caso de usar ChatGPT hai que ser consciente de que che pode dar respostas erróneas. Eu estou a favor, evidentemente, da intelixencia artificial, pero con precaucións e educando á sociedade no seu uso.

P. Moitos estudantes xa interactúan coa IA e aproveitan as súas utilidades para as tarefas escolares. Son conscientes do que hai detrás?

R. Utilizámola pero non entendemos o por que. É importante coñecer como funciona, sobre todo para entender que non é unha variña máxica e pode desencadear problemas. Que os estudantes utilicen ChatGPT como axuda para facer traballos do colexio é un problema porque sabemos que comete moitos erros. Se non eres consciente diso podes utilizalo e logo atoparte cunha desagradable sorpresa. Utilízase sen saber como funciona e as súas limitacións.

P. Tamén o profesorado se podería beneficiar, por exemplo, coa corrección de exames.

R. Por un lado, pódenos axudar en algunhas tarefas como pensar como plantexar unha clase ou pensar preguntas para un exame. Iso véxoo como algo positivo. Despois temos o reto de afrontarnos a que o alumnado faga traballos coa axuda de ChatGPT e como o imos avaliar. Desta maneira preséntasenos un reto adicional que en ocasións fai que volvamos un pouco ao pasado e pensar en facer exames de papel e boli. Pero témonos que adaptar e ser conscientes de que estamos ante unha ferramenta que se pode utilizar, igual que antes se empregaban as enciclopedias, e que necesitamos habilidades críticas por parte do alumnado, pero tamén precisamos que utilicen as ferramentas tecnolóxicas que teñen ao seu alcance para formalos como futuros profesionais. 

P. Entón non está a favor de prohibir o uso do ChatGPT.

R. Non estou a favor de prohibilo porque creo que é poñerlle portas ao campo. Como profesora de Enxeñaría Informática, non teño que prohibir que se utilice o chat GPT para programar cousas cando sei que nas empresas se está utilizando. Quero que o alumnado entenda que o ChatGPT nos axuda, pero en ocasións equivócase. Fai o traballo sucio dun primeiro borrador que logo hai que refinar.

“Quero que o alumnado entenda que o ChatGPT nos axuda, pero en ocasións equivócase. Fai o traballo sucio dun primeiro borrador que logo hai que refinar”

P. As tres universidades galegas imparten dende hai dous anos o grao en Intelixencia Artificial. Agora o reto será reter o talento.

R. Hai moita demanda deste tipo de profesionais. Na facultade de Informática da UDC temos saída profesional para todos os nosos estudantes dos tres graos que impartimos, pero logo é moi difícil reter ese talento xa que noutros países ofréceselle moito máis. E se falamos de reter o talento nas propias universidades é case imposible, xa que en calquera empresa tecnolóxica vanlle a pagar moito máis. É un problema que temos en España: formamos a grandes profesionais pero logo é difícil competir. 

P. Por que considera que a IA é unha ferramenta valiosa con capacidade de contribuír á sociedade?

R. A Intelixencia Artificial ten a capacidade de procesar millóns de datos que unha persoa non pode e iso fai que poida extraer patróns, por exemplo de algo relacionado coa medicina. Ademais soe ser máis obxectiva que unha persoa. Tamén é moi positiva para personalizar, para dar unha recomendación de comprar algo ou de si un hotel ou película che vai gustar. Como exemplo, desbloquear o móbil coa túa cara ou pegada dactilar tamén é intelixencia artificial. En definitiva, é unha intelixencia que automatiza moitas tarefas que eran tediosas e axúdanos moito en personalización.

"A USC ten que poñer a intelixencia artificial ao servizo da sociedade"

P. Cal cree que será o papel que xogará a IA nos vindeiros anos?

R. Agora mesmo diría que se está utilizando en case todas as áreas, aínda que quizais a sociedade non é consciente. Un día preguntáronme se pensaba que a IA era unha tecnoloxía disruptiva en todos os ámbitos e respondín que si comentando que incluso nun tanatorio lles podería axudar a optimizar algo. Esta tecnoloxía vaise aplicar en calquera campo que se nos poida ocorrer. En agricultura, algo máis manual, utilízase para precedir cando é o mellor momento de sementar ou recoller ou para facer un seguimento en explotacións gandeiras. 

P. En anteriores intervencións citou que a intelixencia artificial “pode ser moi boa, pero tamén moi mala”. Como explica esa afirmación?

R. Como xa dixen é moi boa para recomendar cousas, pero se se emprega para recomendar que votes a un partido político iso non sería ético, algo que sucedeu en Estados Unidos. Tampouco sería ético se a usamos para decidir a quen lle damos unha axuda social e o sistema de IA non está correctamente probado e discrimina. Cando esta ferramenta se utiliza para fins que son ilícitos pode convertirse nun problema. 

P. Intelixencia artificial e ética deben ir da man.

R. A IA necesita regulación, de feito en Europa xa se aprobou hai unhas semanas a primeira lei. Esta establece un sistema de niveis, polo que os sistemas de IAque teñan máis risco para a sociedade teñen que cumprir moitos requisitos para demostrar que non é discriminatorio, que é respetuoso e ético. Creo que esta lei é necesaria, tendo en conta que é complicado regular porque é un campo que evoluciona moi rápido. Non podemos utilizar estas ferramentas sen ningún tipo de control. Necesitamos ética.

P. Confía en que haxa referentes femininos en IA?

R. En IA igual que na informática en xeral, por agora, hai menos mulleres que homes. Empezo a ver un atisbo de esperanza porque na miña facultade, nos graos de Intelixencia Artificial e nos de Ciencia e Enxeñaría de Datos hai máis mulleres que en Enxeñaría Informática. Iso é boa noticia porque como dicía antes os sistemas de IA en ocasións son discriminatorios, e unha forma de poder solucionar iso é tendo equipos diversos. Se eu estou nun equipo que analiza o recoñecemento de rostros vou querer asegurarme de que recoñeza o das mulleres tan ben como os dos homes. Para conseguilo necesitamos máis mulleres traballando no sector para aportar o noso coñecemento e para loitar para que se reconezan as nosas necesidades. 

Non hai nada polo que unha muller non poida adicarse á intelixencia artificial. Só hai que querer ter ese interese.