Lenguaje y algoritmos: así actúa la IA para frenar la violencia de género desde sus inicios – Experiencias internacionales

“Impulsar el uso de tecnologías como la inteligencia artificial y el procesamiento del lenguaje natural ayudará a mejorar nuestra capacidad de respuesta y nos permitirá generar estadísticas basadas en evidencia para tomar decisiones más informadas.” Miranda Mejía, Directora del Sistema de Emergencias del 911 de Costa Rica.

Una mujer llama al 911. Habla en voz baja, nerviosa. No denuncia abiertamente, pero sus palabras, la forma en que las dice, lo que omite, lo que repite, pueden esconder un pedido de auxilio. En el pasado, estas señales eran muchas veces invisibles al sistema. Hoy, gracias al avance de la inteligencia artificial (IA) y al procesamiento del lenguaje natural (PLN), estas voces empiezan a ser escuchadas de otra manera: con algoritmos entrenados para detectar violencia, patrones y riesgos en tiempo real.

Esto es lo que plantea el Webinario “Salvando Vidas”, una iniciativa impulsada por el Centro de Excelencia UNODC-INEGI y el servicio de 911 de Chile, que reunió el 16 de junio a profesionales de servicios de emergencia y oficinas estadísticas de América Latina para explorar cómo la IA puede identificar casos de violencia contra la mujer a partir de llamadas al 911.

Este evento estuvo dividido en tres momentos principales, donde instituciones de América Latina y el Caribe, pudieron compartir sus experiencias y conocimientos en la materia. Durante una primera intervención, el servicio de Emergencias 911 de Costa Rica compartió estadísticas relevantes sobre incidentes y las llamadas que se atienden de manera diaria. Posteriormente, Ignacio Agloni, del Instituto Nacional de Estadística de Chile, ofreció una introducción detallada sobre aprendizaje automático (supervisado y no supervisado) y aprendizaje profundo.

Seguido de esto, Adriana Oropeza y Pablo Guevara, del Centro de Excelencia UNODC-INEGI, presentaron los principios del Procesamiento del Lenguaje Natural (PLN): destacando cómo se interpretan textos de llamadas y cómo se identifican, entidades clave y patrones no evidentes al análisis humano tradicional.

Otra sesión clave liderada por el Centro de Excelencia abordó la caracterización descriptiva de incidentes relacionados con préstamos extorsivos (“gota a gota”). Mediante el modelo BERTopic, se identificaron clusters temáticos específicos, explicando técnicas avanzadas como la limpieza, tokenización y análisis de frecuencia, apoyados por librerías como SpaCy.

Luego, el Instituto Nacional de Estadísticas (INE) de Chile compartió su experiencia en la clasificación automatizada de delitos mediante PLN en la Encuesta Nacional Urbana de Seguridad Ciudadana (ENUSC). Por su parte, la Oficina Nacional de Estadística (ONE) de República Dominicana mostró cómo utiliza técnicas de PLN para clasificar registros administrativos sobre licencias de construcción a partir de narrativas no estructuradas.

Sumado a lo anterior, el Centro de Excelencia UNODC-INEGI concluyó con los resultados del análisis automatizado de llamadas al 911 para detectar casos específicos de violencia contra la mujer, explicando en detalle cada fase del modelo: desde la selección y limpieza de datos hasta la implementación y validación del algoritmo.

Este modelo analiza los textos de las transcripciones de llamadas al 911 con el fin de separarlos en dos grupos, aquellos con y sin violencia contra mujeres. Esta propuesta establece una nueva opción tecnológica capaz de identificar el nivel de riesgo de las víctimas, aprovechando la información oportuna obtenida como resultado del registro de los incidentes. Actualmente, el Centro está buscando implementar nuevos pilotos para replicar el modelo e integrar una metodología que pueda ser reproducida por las oficinas de estadísticas y los servicios de emergencia del 911.

Finalmente, expertos de distintos países compartieron sus experiencias utilizando algoritmos similares. En el caso de Chile, presentó sus trabajos en la codificación automatizada de respuestas abiertas en encuestas de victimización. Por su parte, República Dominicana presentó su clasificación de contenido sensible en registros administrativos. México por otro lado, compartió como el uso de webscraping ayuda a monitorear noticias relacionadas con migración y violencia y con base en esto, obtener datos estadísticos en tiempo real.

También se explicó cómo se construye un modelo para estos fines: desde la recolección de datos, su limpieza y etiquetado, hasta el entrenamiento del algoritmo y su puesta en marcha. Se destacó que las entradas pueden incluir texto libre, datos temporales y geográficos, mientras que las salidas pueden ser clasificaciones automáticas, niveles de riesgo o derivaciones sugeridas.

El cierre del webinario estuvo dedicado a los aspectos éticos de la inteligencia artificial. Pablo Guevara, del Centro de Excelencia UNODC-INEGI, puso sobre la mesa temas urgentes: ¿cómo se protegen los datos personales? ¿Qué sesgos pueden introducir los modelos? ¿Cómo evitar que la automatización refuerce desigualdades existentes?

Se subrayó la necesidad de implementar mecanismos de anonimización, monitoreo de sesgos algorítmicos, y validaciones constantes de los modelos utilizados. En temas sensibles como la violencia de género, la tecnología debe actuar como aliada de los derechos humanos, no como obstáculo.

El Webinario “Salvando Vidas” no fue solo una capacitación técnica. Fue una invitación a transformar el modo en que los Estados responden a las violencias. En vez de esperar a que una víctima articule una denuncia perfecta, la inteligencia artificial ofrece la posibilidad de escuchar mejor, antes y con más precisión.

Porque detrás de cada palabra, incluso las no dichas, puede haber una vida en peligro. Y la tecnología, cuando se usa con responsabilidad y enfoque ético, puede ser clave para detectarlo a tiempo.