Lenguaje y algoritmos: así actúa la IA para frenar la violencia de género desde sus inicios – Experiencias internacionales

"Impulsar el uso de tecnologías como la inteligencia artificial y el procesamiento del lenguaje natural ayudará a mejorar nuestra capacidad de respuesta y nos permitirá generar estadísticas basadas en evidencia para tomar decisiones más informadas.” Miranda Mejía, Directora del Sistema de Emergencias del 911 de Costa Rica.

En los últimos años, la inteligencia artificial ha ganado protagonismo en ámbitos tan diversos como la economía, el arte o la televisión. En el terreno de la estadística y el análisis de datos, su aplicación comienza a orientarse al reconocimiento de patrones lingüísticos y contextuales. Estos sistemas examinan testimonios, documentos y discursos para detectar señales que, en una lectura convencional, podrían pasar inadvertidas. Antes, muchas de estas huellas quedaban fuera del alcance de los métodos tradicionales; hoy, gracias a los avances en inteligencia artificial (IA) y procesamiento del lenguaje natural (PLN), es posible atender estas voces desde una perspectiva distinta: mediante modelos entrenados para identificar violencia, patrones y riesgos.

Esto es lo que plantea el Webinario “Salvando Vidas”, una iniciativa impulsada por el Centro de Excelencia UNODC-INEGI y el servicio de 911 de Costa Rica, que reunió el 16 de junio a profesionales de servicios de emergencia y oficinas estadísticas de América Latina para explorar cómo la IA puede apoyar a la generación de información estadística en materia de violencia contra la mujer a partir de llamadas al 911, así como otras experiencias utilizando otras fuentes de información.

Este evento estuvo dividido en tres momentos principales, donde las Oficinas de Estadística de Chile y República Dominicana, así como el Centro de Excelencia pudieron compartir sus experiencias y conocimientos en la materia. Durante una primera intervención, el servicio de Emergencias 911 de Costa Rica compartió una visión general del alcance de los servicios que se otorgan y las principales estadísticas sobre incidentes y las llamadas que se atienden de manera diaria. Posteriormente, Ignacio Agloni, del Instituto Nacional de Estadística de Chile, ofreció una introducción detallada sobre aprendizaje automático (supervisado y no supervisado) y aprendizaje profundo.

Seguido de esto, Pablo Guevara, del Centro de Excelencia UNODC-INEGI (CdE) presentó los principios del Procesamiento del Lenguaje Natural (PLN): destacando cómo se interpretan textos de llamadas y cómo se identifican, entidades clave y patrones no evidentes al análisis humano tradicional.

Otra sesión clave liderada por Adriana Oropeza del CdE presentó los resultados de la primera caracterización de incidentes relacionados con préstamos “gota a gota” entre 2015 y abril del presente año en Costa Rica a partir de los registros administrativos del 911. Adicionalmente, presentó un piloto en el que se aplicó un modelo de Inteligencia Artificial (BERTopic), se construyeron clusters temáticos através de la realización de actividades tales como la limpieza de la base de datos, su tokenización y apoyados por el uso de librerías como SpaCy y NLTK para Python.

Posteriormente, Klaus Lehman del Instituto Nacional de Estadísticas de Chile, compartió su experiencia en la clasificación automatizada de delitos mediante el uso de la inteligencia artificial BETO en la Encuesta Nacional Urbana de Seguridad Ciudadana (ENUSC). Este proceso contribuyó a reducir el trabajo humano en un 68,4 %. Por su parte, la Oficina Nacional de Estadística (ONE) de República Dominicana mostró cómo las técnicas de PLN clasifican los registros administrativos sobre licencias de construcción a partir de narrativas no estructuradas.

Por su parte, Leidy Rodriguez de la Oficina Nacional de Estadística de República Dominicana, mostró cómo se utilizan técnicas de PLN para clasificar registros administrativos sobre licencias de construcción a partir de narrativas no estructuradas y caracterizar los inmuebles que se buscan construir.

Por último, el Centro de Excelencia UNODC-INEGI presentó los resultados del análisis automatizado de llamadas al 911 para detectar casos específicos de violencia contra la mujer, explicando en detalle cada fase del modelo: desde la selección y limpieza de datos hasta la implementación y validación del algoritmo.

Este modelo analiza los textos de las transcripciones de llamadas al 911 con el fin de separarlos en dos grupos, aquellos con y sin violencia contra mujeres. Esta propuesta establece una nueva opción tecnológica capaz de identificar el nivel de riesgo de las víctimas, aprovechando la información oportuna obtenida como resultado del registro de los incidentes. Actualmente, el Centro y, el servicio 911 de Costa Rica están iniciando los trabajos para replicar esta metodología.

El cierre del webinario estuvo dedicado a los aspectos éticos de la inteligencia artificial. Pablo Guevara, del Centro de Excelencia UNODC-INEGI, puso sobre la mesa temas urgentes: ¿cómo se protegen los datos personales? ¿Qué sesgos pueden introducir los modelos? ¿Cómo evitar que la automatización refuerce desigualdades existentes? En la sesión se resaltó la necesidad de implementar mecanismos de anonimización, monitoreo de sesgos algorítmicos, y validaciones constantes de los modelos utilizados.

El Webinario “Salvando Vidas” destacó que el PLN puede ser una herramienta muy útil para caracterizar diferentes fenómenos, a través de metodologías con un sólido marco conceptual, y realizando las actividades cuidando los aspectos éticos y documentando el desarrollo e implementación de los modelos.