A USC participa nun estudo para garantir unha intelixencia artificial fiable no mar

Comprobar se a intelixencia artificial interpreta correctamente os datos creados a raíz das imaxes e sinais recollidos no mar. Nese aspecto traballa un equipo europeo liderado por AZTI ao desenvolver un marco de referencia que establece tres pilares para que a IA mariña sexa fiable, ética e cientificamente robusta. O traballo completo recóllese no artigo científico ‘Towards Trustworthy Artificial Intelligence for Marine Research, Fisheries and Environmental Management’ publicado na revista científica Fish and Fisheries e do que o profesor e investigador do Centro de Investigación Interdisciplinaria en Tecnoloxías Ambientais da USC (CRETUS) Sebastian Villasante é coautor.

Tal e como explican no traballo, unha cámara a bordo pode confundir dúas especies parecidas se non foi adestrada por persoal experto e con imaxes de distintas condicións de luz. Ademais, un modelo que predí a abundancia dunha poboación de peixes pode fallar se se desenvolve con datos incompletos ou sesgados debido a limitacións inherentes a toda mostraxe, e acabar xerando unha avaliación inexacta da situación real. Ademais, advirten, unha ferramenta automatizada pode xerar rexeitamento no sector se non se entende como toma as súas decisións ou se non foi deseñada contando co coñecemento práctico das persoas que traballan no mar. “Estes exemplos —aseguran— mostran por que é imprescindible contar con criterios sólidos de calidade, transparencia e validación, especialmente nun ámbito no que as decisións afectan a ecosistemas, comunidades pesqueiras e políticas públicas”.

Pilares para unha IA mariña fiable: viabilidade económica e legal, gobernanza ética do dato, validación científica

O marco proposto polo equipo investigador artéllase en torno a tres grandes pilares. O primeiro céntrase na viabilidade socioeconómica e legal; o desenvolvemento e uso da IA deben ser accesibles para o conxunto do sector mariño, incluída a pesca a pequena escala, e estar aliñado coa normativa europea, tamén co novo Regulamento de IA. A este respecto, o estudo salienta que as ferramentas máis efectivas son aquelas que se deseñan coa participación directa dos actores implicados, e non unicamente para eles, o que permite aumentar a aceptación social, incorporar o coñecemento local e reducir resistencias.

O segundo pilar refírese á gobernanza ética do dato. Para que un sistema de IA funcione ben, precisa datos diversos, limpos, trazables e xestionados de forma responsable. O traballo propón aplicar principios como FAIR, CARE e TRUST aos datos mariños, de xeito que a información utilizada —imaxes, sinais de sensores, series históricas de monitorización— sexa accesible, interoperable, respectuosa coas comunidades que a xeran e preservada axeitadamente a longo prazo.

Xa o terceiro eixo aséntase na robustez técnica e a validación científica, de maneira que a IA debe demostrar que funciona baixo as condicións reais do océano, e non só en contornas controladas. Así, o estudo recomenda validar os modelos con datos independentes, aplicar probas estatísticas e contrastar os seus resultados con información obtida sobre o terreo. Un exemplo é a comparación entre a análise automatizada das capturas e a mostraxe manual en porto, que permite comprobar ata que punto os algoritmos reflicten fielmente o que sucede a bordo. Esta combinación de métodos contribúe a reducir erros, evitar sobre-confianza nos modelos e ofrecer ferramentas realmente útiles para a xestión.

Para Jose A. Fernandes, experto en IA de AZTI, autor principal do estudo, “estamos vendo unha explosión do uso de algoritmos pero que moitas das veces non compren as expectativas iniciais. E tendo en conta que a iA xa é unha realidade para o sector pesqueiro e a investigación mariña, só será útil se é confiable. O noso traballo establece como aseguralo, combinando ciencia, ética e participación do sector.”

Pola súa banda, Sebastian Villasante, “as ferramentas de IA deberían deseñarse mediante enfoques inclusivos e participativos de coprodución do coñecemento que integren ese coñecemento e a experiencia locais e específicos de cada sector, así como as necesidades económicas, cos grupos de desenvolvemento científico e tecnolóxico que as producen”.