El proyecto STOP detecta a través de la IA conductas suicidas en las redes sociales

Una ingeniera informática gallega, Ana Freire Veiga, lidera un proyecto (STOP) que se centra en el uso de la inteligencia artificial (IA) para buscar patrones asociados a diversas enfermedades mentales, prestando especial atención a identificar depresiones, conductas suicidas o trastornos de alimentación, a través del análisis de las redes sociales. Su eficacia es tal que la primera de las dos campañas que ya lanzaron en instagram y facebook originó, en los 25 días de duración, un incremento del 60 por ciento de llamadas al teléfono de prevención del suicidio. “La primera tarde ya se recibieron tres llamadas en el Teléfono de la Esperanza y una de ellas se trataba de un suicidio inminente”, asegura la profesora Freire.

Se lanzó en todo el Estado, aunque el teléfono pertenecía al de Cataluña, ya que ella es profesora titular y vicedecana de Impacto Social e Innovación Académica de la UPF Barcelona School of Management, de la Universidad Pompeu Fabra, y llegó a usuarios de toda España, un total de medio millón. Están involucrados, además de la UPF y otros organismos catalanes, la Universidad de Lyon y la de la Suiza Italiana.

La labor de investigación, que encara su tercera campaña para el verano, al utilizar las redes sociales, detectó que los perfiles más habituales de los tres problemas que tratan son de jóvenes. En suicidio y depresión habitualmente lo encuentran en menores de 39 años y en trastornos alimentarios, menores de 29, aunque en este último caso el 60% es de menores de 19 años. Los datos recopilados son completamente anónimos debido a la obligación de la privacidad de datos.

Foro Económico insta a cuatriplicar el uso de la Inteligencia Artificial en Galicia de aquí a 2025

A pesar de que el trabajo de campo se hizo en Twitter para extraer los perfiles, las campañas se hicieron en Instagram y Facebook al ver que los rangos de edad eran relativos a adolescentes y jóvenes. Se trata de imágenes que salen en el feed de Instragam o stories con frases como “si estás pasando por un momento difícil, expresarlo te ayudará”, “hablar de ello te puede ayudar” o “si estás solo, triste, puedes contar con nosotros”. Van acompañadas de un número de teléfono, el de la Esperanza en el caso de la depresión o trastornos alimentarios, y la Línea de Atención a la Conducta Suicida si se trata de suicidio.

En el marco de STOP (Suicide prevenTion in sOcial Platforms), investigadores, psicólogos y psiquiatras estudian la expresión en redes sociales de estos tres trastornos. “Mediante el análisis de texto, imagen y actividad, observamos factores que habitualmente el personal especializado pregunta directamente a sus pacientes en las consultas: si tienen apoyo social, su calidad de sueño, posibles factores de riesgo, preocupaciones recurrentes. Estas preguntas se resuelven en el entorno de las redes sociales analizando si un usuario tiene muchas conexiones, si tiene actividad durante las horas de sueño o si comenta o muestra interés por ciertos temas. Estas y otras muchas características constituyen la entrada a algoritmos de Inteligencia Artificial que se adiestran para poder extraer patrones comunes en usuarios de alto riesgo”, explica la gallega.

El trabajo les permitió aprender características diferenciales entre los grupos de alto riesgo y libre de riesgo para cada uno de los tres casos estudiados. “Algunas de las características son demográficas (rango de edad y sexo más común en usuarios de alto riesgo) otras relacionadas con las preferencias de los usuarios (por ejemplo, aquellos con trastornos de la conducta alimentaria acostumbran a interesarse por dietas estrictas de adelgazamiento, dietas veganas o ejercicios intensos para alcanzar una rápida pérdida de peso”, detalla Ana Freire.

La experta en inteligencia artificial de la USC, María José Carreira, preconiza "evitar sesgos" en la protección de datos

Sobre el boom de la inteligencia artificial y el temor que desde algún sector de la población se muestra, la experta asegura que el miedo “es un producto del desconocimiento, pasa con todo, con la IA y con cualquier producto innovador que llegue a la sociedad”. El problema que ella ve es que “hay muy poquita gente que conozca cómo funcionan estos sistemas, cómo se entrenan estos sistemas y los riesgos que puedan tener”, añade. “Obviamente pueden tener riesgos, como cualquier cosa, la puedes usar para bien o para mal, pero no depende del algoritmo en sí, sino de quién esté diseñando el algoritmo y para qué lo quiera utilizar”.

Insiste la experta que el proyecto STOP es un “claro ejemplo de que la inteligencia artificial, utilizada de forma responsable, puede repercutir muy positivamente en la sociedad. Esta responsabilidad implica que el tratamiento de datos se haga de manera completamente anónima, es decir, no es posible identificar, con los datos recopilados, ninguna cuenta empleada para adiestrar a los algoritmos desarrollados”.

Ana Freire será la encargada de impartir una nueva sesión del Ciclo de Conferencias Aida Fernández Ríos, organizado por la Real Academia Galega de Ciencias (RAGC) y la Deputación de Pontevedra. Será mañana, jueves 8 de junio, a las siete de la tarde y la inscripción es gratuita. La charla, en línea, se centra en este proyecto que lidera la ponente.

En cuanto al futuro de la inteligencia artificial, la ingeniera informática destaca la necesidad, por una parte, de educación: “Educación transversal, que en diferentes carreras se enseña también sobre tecnología y sobre IA, no solo en las más técnicas, porque además hoy tenemos inteligencia artificial en cualquier disciplina”. Por otra parte, también reclama regulación, “que a nivel europeo en eso estamos bastante adelantados, porque en breve saldrá la primera Ley de Inteligencia Artificial, que regulará su uso y diseño”.