Unha investigación da USC alerta do risco de persuasión da intelixencia artificial sobre a infancia: os xoguetes intelixentes, no punto de mira

Os xoguetes intelixentes poden converterse nunha nova ferramenta de persuasión sobre os menores ao combinar conversación, personalización e recompilación de datos emocionais. Así o advirte unha investigación da USC, que alerta do potencial uso comercial desta información e da capacidade da intelixencia artificial para influír nas preferencias e nos procesos de aprendizaxe da infancia.

Estas son algunhas das principais conclusións do capítulo A colonización da IA na infancia: entre a educación, o xogo e a persuasión, elaborado por Isaac Maroto González, doutor en Comunicación e Información Contemporánea e membro do grupo de investigación Novos Medios (PSM Research Team) da USC, e Verónica Crespo Pereira, da UDC. O traballo analiza diferentes experiencias desenvolvidas nos Estados Unidos e China e expón a necesidade de abordar a incorporación da IA á infancia desde unha perspectiva tecnolóxica, educativa, lexislativa e ética.

O capítulo da investigación sobre os menores leva por título “Cando a infancia entre en contacto coa IA: xogo, aprendizaxe e persuasión” do que Maroto é autor principal, e forma parte do libro A intelixencia artificial no espello. Guía social, ética e cultural para entender o presente e o futuro dixital, que publicará McGraw Hill Aula Magna en acceso aberto a mediados do mes de setembro, tras a fase final de edición.

O estudo sinala que a IA pode contribuír a personalizar a aprendizaxe, detectar dificultades de forma temperá e mellorar determinados procesos educativos. Con todo, advirte de que a súa utilización tamén pode converter a contorna educativa nun espazo cada vez máis condicionado pola recompilación e análise de datos, a vixilancia algorítmica e as decisións automatizadas.

Neste contexto, os autores lembran que a infancia constitúe unha etapa especialmente sensible, xa que durante estes anos desenvólvense capacidades cognitivas, afectivas e sociais. "A introdución de sistemas capaces de analizar o comportamento, a atención ou o rendemento pode terminar influíndo nas preferencias e procesos de aprendizaxe dos menores", indican.

A investigación recupera ademais precedentes como Channel One, nos Estados Unidos, que permitiu a entrada de contidos publicitarios en centros educativos a cambio de proporcionar determinados recursos tecnolóxicos. Para os investigadores, este tipo de experiencias mostran como a atención dos menores pode converterse nun activo de interese comercial e como a tecnoloxía pode transformar progresivamente espazos educativos en territorios de influencia.

Riscos de monitorización constante en China

O traballo analiza tamén o caso da China, onde a intelixencia artificial se está incorporando a diferentes niveis do sistema educativo mediante plataformas de aprendizaxe personalizada, titorías intelixentes, robots e sistemas capaces de rexistrar información sobre o rendemento do alumnado.

Aínda que estas ferramentas perseguen mellorar a eficiencia e adaptar o ensino ás necesidades de cada estudante, os autores alertan sobre os riscos dunha monitorización constante. A utilización de datos psicofisiolóxicos e biométricos, así como de sistemas capaces de detectar estados de tensións ou frustración, expón interrogantes sobre a privacidade, a autonomía e a liberdade do alumnado.

O estudo advirte así mesmo de que unha educación excesivamente centrada na eficiencia pode limitar a espontaneidade, o pensamento diverxente e a capacidade crítica. "A interacción humana, a escoita e as relacións sociais son consideradas elementos esenciais do proceso educativo que non deberían quedar relegados pola tecnoloxía", aportan.

Os xoguetes conversacionais: ferramentas de persuasión difíciles de identificar para un neno

Outro dos ámbitos analizados é o desenvolvemento de xoguetes conversacionais dotados de intelixencia artificial. O capítulo aborda, entre outros exemplos, o acordo anunciado entre OpenAI e Mattel para incorporar tecnoloxía conversacional a coñecidas marcas de xoguetes.

Segundo o estudo, estes dispositivos poden pasar de ser simples ferramentas de entretemento a converterse en auténticos interlocutores para os menores, capaces de establecer relacións personalizadas e recompilar información relacionada coas súas conversacións, preferencias e emocións.

Esta capacidade de interacción expón novos riscos. O autor alerta de que o vínculo afectivo xerado entre o menor e o dispositivo podería facilitar mecanismos de persuasión difíciles de identificar para un neno. "A recompilación de información sobre medos, desexos ou necesidades emocionais podería utilizarse para orientar comportamentos ou preferencias, especialmente cando detrás do dispositivo existen intereses comerciais", aporta.

O reto de poñer o foco no benestar á hora de introducir a IA nas aulas e no xogo

A principal conclusión do traballo é que a incorporación da IA á infancia debe estar orientada a reforzar a autonomía, a creatividade, a pluralidade, a interacción humana e o pensamento crítico, evitando que a tecnoloxía se converta nunha ferramenta de captura de atención, extracción de datos ou persuasión opaca.

O reto, conclúen os autores, non consiste unicamente en incorporar a intelixencia artificial ás aulas e ao xogo, senón en "garantir que o seu desenvolvemento e gobernanza sitúen o benestar e a autonomía dos nenos e nenas por encima dos intereses comerciais ou de eficiencia tecnolóxica".