Todas pueden hablar con Violetta. Con solo un mensaje a través de WhatsApp, el chatbot contesta rápidamente: “Estoy aquí para darte las herramientas que necesitas para crear relaciones libres de violencia”. Aunque a Violetta no se le puede ver ni tocar, ha acompañado a 260.000 usuarias anónimas en México durante el último año. El chatbot es uno de los diversos proyectos con inteligencia artificial (IA) que han sido creados para abordar la violencia machista, un problema estructural que afecta a una de cada tres mujeres en el mundo. Decenas de miles de usuarias han recurrido a la tecnología para buscar ayuda, pues la vergüenza, el miedo a ser juzgadas y no contar con un entorno familiar que las acompañe en su proceso de denuncia frena que muchas mujeres den el primer paso para salir del espiral de violencia en el que están inmersas.
“Más que un chatbot, soy tu confidente digital”, asegura Violetta, que fue lanzada por Floretta Mayerson, Sara Kalach, Sasha Glatt y Carla Pilgram durante el confinamiento por la coviD 19. En esa época, hubo una saturación de las líneas telefónicas de apoyo contra la violencia de género y cientos de hogares dejaron de ser espacios seguros en un país que sufre más de 3.000 asesinatos de mujeres al año. Macarena Estefan, directora de Psicología de Violetta, explica que el objetivo del chatbot es ser “ese puente que facilite el proceso de escucha”, pues las fundadoras se percataron de que muchas personas recurrían a buscadores como Google para resolver sus dudas, incluso antes de desahogarse con un humano. “Una víctima puede tardar desde uno hasta cinco años en hablar”, recalca.
Violetta es el primer modelo de aprendizaje automático en español, pues es una IA supervisada y no generativa (como la de ChatGPT), que se basa en un conjunto de datos y utiliza algoritmos específicos. Esta asociación civil canaliza a las usuarias —mujeres jóvenes y adultas en más de un 70%— que están viviendo situaciones extremas con la Línea Violeta, en la que hay detrás un equipo compuesto exclusivamente por terapeutas.
Desde entonces, el chatbot ha logrado encauzar 40.000 personas con especialistas, aunque también ofrecen contactos de instituciones legales. Por su parte, Sophia Chat, un chatbot de la ONG suiza Spring Acts que también surgió durante la pandemia, ha ayudado a 14.000 víctimas de violencia desde su lanzamiento. La fundadora y directora ejecutiva, Rhiana Spring, trabaja con un equipo de asistentes sociales, psicólogos, programadores y abogados que han entrenado a Sophia. “Nosotros empezamos con Sophia tres años antes de que ChatGPT se convirtiera en un fenómeno mundial. Hay muchas diferencias importantes, ya que no pide que inicies sesión y la información del bot es precisa. Trabajamos con una base de datos verificada”, indica.
En 2022, Sophia aterrizó en Perú por sus altos índices de violencia de género, donde más de la mitad de mujeres ha vivido algún tipo de agresión física y psicológica. El chatbot es capaz de comunicarse en español y quechua: “¡Hola! ¿Podrías darme más detalles sobre cómo puedo ayudarte hoy? Estoy aquí para ofrecer información y apoyo”. Su base de datos contempla a instituciones como el Centro de Emergencia Mujer (CEM), la Policía Nacional del Perú y otros servicios.
La asistente virtual Sara llegó en 2023 a República Dominicana para ayudar a mujeres, niñas y adolescentes víctimas de la violencia machista. Un año después, María lo hizo en Honduras. En ambos países, con las tasas más altas de feminicidios en Latinoamérica, la start-up alicantina 1MillionBot desarrolló estos chatbots para adaptarlos a los contextos locales en alianza con el Programa de Naciones Unidas para el Desarrollo.
Sara ha dirigido a más de 3.000 usuarias con instituciones públicas y casas de acogida dominicanas. Raquel Pomerales, directora de producción de la start-up que coordina a Sara y María, cuenta que están enfocadas en mejorar la calidad de información sobre la violencia de género: “A nosotros nos parece una herramienta potente y los fines educativos que tiene el chatbot son innegables”.
Macarena Estefan es enfática en recalcar que los chatbots son grandes herramientas digitales, “pero en otros casos es muy importante que las personas hablen con una profesional”. “Sabemos las limitaciones que tiene esta tecnología“, agrega. Violetta, Sophia, Sara y María no cruzan la información de las usuarias para mantener el anonimato y pueden ser utilizadas en un ordenador o por mensajería de WhatsApp y Telegram.
AinoAid pronto en España
La Policía Local de Valencia (PLV), en España, está perfeccionando AinoAid, un chatbot creado en Finlandia en 2021 en el marco del proyecto Improve, que recibe fondos de la Unión Europea. AinoAid se encuentra en proceso de testeo, absorbiendo información y sobre todo, ejercitándose con interacciones. José Luis Diego, inspector del área de Innovación e Investigación de PLV, reconoce que le ha dado bastante trabajo. “Estamos en labores de traducción, necesitamos que la herramienta sea 100% accesible”, señala. El equipo se encuentra en la fase más compleja, que culminará con la presentación de un primer prototipo en noviembre de este año. En España, el número de mujeres víctimas de violencia de género aumentó un 12,1% en 2023, según cifras del Instituto Nacional de Estadísticas.
Anna Juusela es CEO de WeEncourage, uno de los socios del proyecto que desarrolló originalmente AinoAid, que ayuda a 600 usuarias mensuales. “Las víctimas necesitan soporte y no es posible ayudarlas desde un solo frente. El chatbot no reemplaza a los humanos, porque necesitamos a profesionales desde el área de la salud hasta el sector policial”, reflexiona. Esta herramienta digital, que está presente en 12 países como Alemania, Francia y Portugal, se enfoca en proporcionar a la policía de conocimientos para mejorar su respuesta. En esa línea, Joachim Kersten, uno de los coordinadores de Improve, opina que a los oficiales “les resulta difícil abordar la violencia de género porque en general no están calificados”.
El área de Innovación de Valencia ha tenido el asesoramiento de la Unidad de Género de la PLV, que posee más de 700 mujeres bajo protección. La coordinadora del Grupo de Atención al Maltrato (Gama), Estefanía Navarrete, recuerda que durante la pandemia detectaron muchos casos de mujeres que quedaron encerradas con su agresor. Esta situación hizo que empezaran a considerar otras vías de comunicación con ellas.
“Lo primero que pensé al escuchar del chatbot es en todas las mujeres que no podemos contactar y que no se atreven a contar a un policía en una comisaría lo que les sucede. El chatbot les puede orientar a dar esos primeros pasos”, plantea. AinoAid, según Navarrete, tendrá notificaciones de riesgo que permitirá conectar con aquellas mujeres que estén viviendo una situación que ponga en peligro su vida.
“Los violentadores protegen su agresión para quitar toda vía de escape. Muchas mujeres tienen hijos en común y la idea es entregarles puentes”, desarrolla. Diego, de la PLV, cree que el bot va a ayudar a identificar “casos de forma temprana”. “Podremos detectar esa cifra oculta y así mejorar nuestra respuesta policial”, asegura.
La IA en las denuncias de violencia machista
El Observatorio de Data Género, en Argentina, desarrolló AymurAI, una IA para revisar sentencias judiciales de violencia de género. Ivana Feldfeber, directora del proyecto, cuenta que la idea principal es recopilar información anónima para comprender mejor cómo opera la justicia en estos casos. “Nos interesaba entender qué es lo que estaba pasando en los poderes judiciales, porque sabemos que hay muchas mujeres que denuncian, van a juicio y luego la causa queda en nada”, asegura. AymurAI revisa las sentencias judiciales extrayendo información valiosa sobre la gestión de estos casos, las decisiones que se toman y las medidas de protección para las víctimas. Hasta el momento, el software ha analizado 10.000 sentencias.
Para Feldeber, la escasa transparencia en el tratamiento judicial de la violencia machista se traduce en bajos niveles de denuncia y desconfianza en los tribunales. “Sabemos que es complejo denunciar y las mujeres que llegan a hacerlo es porque también tienen una red de apoyo y hay testigos que pueden declarar a favor de ellas”, subraya. AymurAI colabora con el Juzgado Penal número 10 de la provincia de Buenos Aires y pronto aterrizará en México.
“A muchas mujeres no se les concede las peticiones de medidas cautelares, de prisión preventiva o de que cumplan con la cuota alimentaria. Muchos jueces deciden no darle lugar a estos pedidos y fallan de manera muy machista contra las mujeres”, resume Feldeber.
El proyecto recibe financiamiento de fondos internacionales y es parte de la Red Feminista de Investigación en IA (FAIR, por sus siglas en inglés), una red global de científicos, economistas y activistas cuyo propósito es hacer que la IA y las tecnologías relacionadas sean inclusivas y transformadoras. Existen otras iniciativas relacionadas con, por ejemplo, la violencia de género digital —como el chatbot chileno SOF+IA— y el acoso en el transporte público con la aplicación SafeHER, diseñada en Filipinas.