LateEl trabajo fue realizado por investigadores de las universidades de Nueva York y Wisconsin-Madison, en Estados Unidos, y presentado en agosto de 2026 durante el USENIX Security Symposium, una conferencia especializada en seguridad informática. Sus conclusiones fueron difundidas esta semana por la Universidad de Nueva York.
Los especialistas analizaron cuatro sistemas de inteligencia artificial: GPT-4o, de OpenAI; Claude 3.7 Sonnet, de Anthropic; y Aimee y Ruth, dos chatbots diseñados para asistir a personas que atraviesan situaciones de violencia en relaciones de pareja.
Para llevar adelante las pruebas, los investigadores seleccionaron 193 preguntas basadas en situaciones reales relacionadas con programas espía, rastreo de dispositivos y acceso a información privada. Los resultados mostraron que los cuatro sistemas podían responder a consultas potencialmente abusivas, especialmente cuando eran formuladas como problemas técnicos aparentemente legítimos.
De acuerdo con el estudio, los dos chatbots creados específicamente para asistir a víctimas de violencia respondieron aproximadamente dos tercios de las solicitudes planteadas desde la perspectiva de posibles agresores. El hallazgo expone las dificultades que todavía existen para identificar cuándo una consulta tecnológica puede utilizarse para controlar o vigilar a otra persona.
La investigación también evaluó las recomendaciones que los sistemas brindaban a personas que sospechaban estar siendo vigiladas. En este apartado, el 86% de las respuestas analizadas presentó deficiencias de precisión, integridad o seguridad, mientras que el 60% omitió advertencias relevantes sobre los riesgos de seguir los consejos proporcionados.
Entre los problemas detectados, los especialistas identificaron recomendaciones que no resolvían el riesgo planteado, como utilizar una red privada virtual (VPN) para eliminar un programa espía instalado en un teléfono. También señalaron sugerencias relacionadas con detectores de radiofrecuencia de efectividad limitada y bloqueadores de señal GPS, cuyo uso puede ser ilegal.
Otro aspecto preocupante es que realizar cambios en un dispositivo o en las cuentas personales sin evaluar previamente el contexto puede alertar a quien ejerce el control, provocar una escalada del acoso o eliminar información que podría servir como evidencia.
Por este motivo, los investigadores remarcaron la importancia de no depender exclusivamente de las respuestas de un chatbot ante situaciones de violencia o vigilancia digital. Buscar asistencia especializada y evaluar los riesgos antes de modificar un dispositivo puede resultar fundamental para la seguridad de la persona afectada.
El estudio vuelve a poner en discusión los desafíos que enfrenta la inteligencia artificial en materia de seguridad, privacidad y prevención de la violencia. Aunque estas herramientas pueden ofrecer información útil, sus respuestas no siempre contemplan las particularidades de cada situación, especialmente cuando están en juego la integridad y la protección de una víctima.
En Argentina, las personas que atraviesan situaciones de violencia de género pueden comunicarse con la Línea 144, un servicio gratuito de orientación y asesoramiento disponible las 24 horas. En una emergencia inmediata, corresponde contactar a los servicios de emergencia.
