Un modelo transparente identifica señales de mayor riesgo suicida en conversaciones de crisis

En una conversación de crisis, una frase puede tener sentidos muy distintos según quién la escribe y en qué momento. Por eso, estimar el riesgo suicida a partir de texto es una tarea delicada: una herramienta puede encontrar patrones, pero no puede sustituir la evaluación ni la decisión de una persona capacitada. Un equipo vinculado al Instituto McGovern del MIT estudió cómo construir un sistema que, además de dar una estimación, muestre qué señales contribuyeron a ella.

El trabajo analizó textos desidentificados de unas 16.000 conversaciones entre personas en crisis y consejeros voluntarios de Crisis Text Line. La organización ya había clasificado esas conversaciones en tres grupos: sin riesgo suicida, con ideación suicida sin riesgo inminente y con riesgo inminente. Para este último grupo, la definición incluía tener un plan de suicidio o intención de morir en las siguientes 48 horas.

Antes de entrenar el modelo, el equipo elaboró un repertorio de palabras y expresiones relacionadas con 49 factores de riesgo conocidos. Una inteligencia artificial ayudó a generar una primera lista, que después fue revisada y depurada por profesionales clínicos. El resultado no intenta interpretar libremente todo lo que una persona dice: busca señales específicas y asigna a cada factor un peso en la estimación.

Al probar el modelo en conversaciones que no había visto durante el entrenamiento, los investigadores observaron que distinguía los niveles de riesgo informados por la línea de crisis. Las menciones a medios letales, consumo de sustancias, ideación suicida activa y autolesión aparecieron con más fuerza en el grupo de riesgo inminente que expresiones vinculadas al ánimo depresivo o al cansancio. Eso no significa que la depresión o la desesperanza sean irrelevantes; indica que, dentro de esta muestra y esta clasificación, otras señales ayudaron más a diferenciar los casos de mayor urgencia.

La característica central del sistema es que permite revisar el camino de cada alerta. En lugar de entregar solo una puntuación, muestra qué grupos de expresiones influyeron en el resultado. Esa posibilidad es importante en un contexto de alto riesgo: puede facilitar que un consejero examine por qué apareció una señal, en vez de aceptar sin más una conclusión producida por un programa.

El modelo también es relativamente liviano, según sus autores. Al basarse en un repertorio de términos y en un clasificador más simple que un modelo de lenguaje de gran escala, puede ejecutarse con menos recursos informáticos. El equipo plantea que esto podría reducir costos y limitar la exposición de datos sensibles, aunque la protección de la privacidad depende de cómo se recolecten, almacenen y usen esos datos en cada servicio.

Los propios investigadores subrayan límites importantes. Las palabras no siempre expresan lo mismo según el contexto, y una lista de términos puede pasar por alto formas nuevas o indirectas de comunicar malestar. Además, el estudio se apoyó en conversaciones de una línea de crisis y en sus categorías de riesgo; todavía falta comprobar si el enfoque funciona de manera segura en otros grupos y entornos clínicos. Encontrar asociaciones en mensajes tampoco demuestra que la herramienta prevenga suicidios.

La utilidad más inmediata del estudio está en hacer más examinables los patrones que aparecen en textos de crisis y en orientar nuevas investigaciones. Cualquier uso práctico requeriría validación adicional, resguardo estricto de la información personal y supervisión humana continua. En una decisión donde están en juego la seguridad y el cuidado de una persona, la transparencia de un modelo es una condición valiosa, pero no una garantía suficiente.