«Usamos algoritmos para detectar usuarios en redes sociales con ideación suicida»

¿Qué le inspiró a crear STOP?
El proyecto surge por casualidad, porque vi a una chica que anunciaba su suicidio en redes sociales y me di cuenta de que tenía publicaciones previas que ya daban pistas de tenía una depresión. La inteligencia artificial tiene un gran potencial para generar patrones con grandes cantidades de datos así que se trataba de usar esta tecnología para estudiar el comportamiento de los usuarios de redes sociales que tienen riesgo de suicidio, que sufren depresión o trastornos de alimentación y así poder ayudar.

¿Cómo se canaliza esa ayuda?
Lanzamos campañas dirigidas hacia estos usuarios en redes sociales en las que se difunden recursos en los que pueden pedir ayuda a través de teléfono o chat. Son campañas que llegan directamente a las personas que encajan en un perfil de riesgo.

¿A cuánta gente ha ayudado?
Desde 2020 que lanzamos la primera campaña se registró un incremento del 60 % en el número de llamadas al número de prevención del suicidio. En la campaña 2023-2024, que también incluía el acceso a un chat, multiplicó por 10 el número de conversaciones mensuales a través de este canal. Hemos realizado ya tres campañas con las que hemos llegado a más de trece millones de usuarios de redes sociales en España y con la cuarta pretendemos crecer en otros países.

¿Con qué apoyos han contado?
Las dos primeras campañas fueron posibles gracias a la Universidad Pompeu Fabra y a las donaciones que obtuvimos a través de nuestra plataforma STOP-project. La tercera campaña ya contó con financiación de Meta y para la cuarta contamos con TikTok, que parece además que va a permitir que sea una campaña permanente.

Plataformas que, en muchos casos, son causa del problema.
Existe una correlación importante entre las redes sociales y la salud mental e incluso ya hay estudios que demuestran la causalidad entre su uso y estos problemas emocionales. Al ayudar a personas que lo pasan mal pueden contrarrestar parte de los efectos negativos que producen, que aunque no sean intencionados, les interesa hacerlo. Está claro que las redes sociales tienen un impacto enorme y para los jóvenes son su prinicpal medio de comunicación así que por qué no utilizarlas para ayudarles, para intervenir, para educar... tienen un gran potencial.

¿Qué información permite detectar a personas en riesgo?
En primer lugar hay que decir que son datos anónimos, que se estudian algoritmos igual que otras empresas que buscan potenciales clientes, pero en nuestro caso, detectando personas en riesgo. Trabajamos en tres dimensiones, una es la textual, valorando qué expresa el usuario, qué palabras usa, qué referencias hace sobre abusos sexuales, o acoso escolar, o problemas económicos, de pareja, entre otros. La segunda son las imágenes, que los algoritmos pueden detectar si están asociadas a una intención de suicidio, como por ejemplo, el uso de fotos en blanco y negro, imágenes en las que no se ve la cara sino sólo una parte del cuerpo. Por último, se estudian los comportamientos, si usa las redes por la noche, lo que puede reflejar sus patrones del sueño. Si tiene apoyo social, valorando cuanta gente interactúa con sus publicaciones… Toda esa información permite detectar personas en riesgo a las que van a llegar los mensajes para que pidan ayuda.

¿Que perfiles son los más representativos?
En trastornos de la conducta alimentaria, más del 80 % son mujeres y un 60 % de ellas tienen menos de 19 años. Respecto a los casos de depresión y a usuarios con ideación suicida más de la mitad también son mujeres. Y respecto a la edad, los casos de depresión en su mayoría están por debajo de los 29 años de edad y los de suicidio tienen menos de 39 años.