Nuevos riesgos de ciberviolencia contra mujeres por la IA.
La inteligencia artificial (IA) plantea nuevos riesgos en términos de ciberviolencia contra las mujeres y abre posibilidades «radicalmente nuevas» en términos de facilidad, velocidad, anonimato y amplia difusión, según el informe «Ciberviolencia contra las mujeres en la UE» por los Estudios del Parlamento Europeo.
La tecnología deep-fake, que falsifica la voz, el rostro, el cuerpo o las acciones de una persona, está dirigida principalmente a las mujeres y ha dado lugar a medidas legislativas para detenerla y prevenirla.
Bajo la tecnología «deep-fake», las mujeres son las principales víctimas de la «nudificación», que es la creación de imágenes de personas desnudas sin su consentimiento.
De hecho, más de 902 de todos los videos ultrafalsos en línea son de naturaleza pornográfica y sus víctimas son casi exclusivamente mujeres, a menudo figuras de la cultura, los medios y la política.
El informe advierte que la IA también plantea riesgos de llevar el abuso a «dimensiones completamente nuevas en términos de velocidad, facilidad, cantidad y amplia difusión» y advierte que puede generar automáticamente abuso en línea, como mensajes de acoso.
Además, permite un análisis mucho más rápido y profundo del perfil de una persona para generar mensajes de odio y abusivos, encontrar mejores formas de evitar la moderación de contenidos y permitir que los abusadores lleguen a una audiencia muy amplia.
Del mismo modo, la IA puede facilitar el robo de identidad y el acoso, puede ser una herramienta muy poderosa para monitorear la privacidad de las víctimas en entornos en línea y fuera de línea, y puede permitir la vigilancia a través de cámaras, el análisis de datos digitales como correos electrónicos y mensajes, y predictivo de ubicación.
Esta nueva tecnología también puede facilitar los delitos sexuales contra niñas, ya que los perpetradores pueden utilizar inteligencia artificial para hacerse pasar por niños o jóvenes y automatizar el reclutamiento de menores desprevenidos a gran escala.
Sin embargo, al igual que las tecnologías digitales en general, «la IA es un arma de doble filo para los derechos de las mujeres e incluye muchos usos potencialmente positivos para combatir la violencia de género tanto en entornos en línea como fuera de línea».
Por ejemplo, puede permitir identificar a niños que aparecen en imágenes o vídeos de pornografía infantil, monitorear plataformas en línea en busca de discursos sexistas y misóginos y actos de ciberviolencia contra mujeres individuales.
El informe también señala que los algoritmos hash pueden ayudar a identificar fotografías y buscar contenido ilegal conocido, mientras que las herramientas de inteligencia artificial basadas en modelos de aprendizaje automático pueden buscar contenido ilegal previamente desconocido.
El estudio señala que una de las dificultades para abordar la ciberviolencia contra las mujeres es su intersección con la violencia de la vida real, donde los actos en el mundo digital conducen a la violencia física, ya sea inspirada o como continuación de la ciberviolencia.
«Esto no quiere decir que la ciberviolencia en sí misma tenga menos impacto en sus víctimas, sino más bien que la violencia física que puede surgir de ella exacerba la ciberviolencia», como ocurre con la pornografía.
Otro ejemplo de la posible propagación del abuso digital a la vida real es la radicalización misógina y antifeminista en las plataformas en línea, advierte el informe.
El Parlamento Europeo celebra estos días la Semana de la Igualdad de Género bajo el lema «Mujeres en el mundo digital: seguridad y empoderamiento», con el objetivo de visibilizar y buscar soluciones al creciente problema del acoso online y la ciberviolencia.
La programación incluye debates, desde el intercambio de opiniones sobre la integración de la perspectiva de género en el presupuesto de la UE hasta el análisis de la representación de las mujeres en el liderazgo político y administrativo.
Eliminar la violencia contra las mujeres y empoderarlas en el mundo digital será el tema central de otro evento organizado por el Parlamento Europeo esta semana, al que se espera que asista, entre otros, el expresidente del Gobierno José Luis Rodríguez Zapatero.
A nivel europeo no existe ningún estudio exhaustivo sobre la ciberviolencia en sus diversas formas. Sin embargo, la Agencia de Derechos Fundamentales (FRA) publicó una encuesta de 2012-2014 sobre la violencia en línea contra las mujeres, y más específicamente el acoso y el ciberbullying, como parte de sus encuestas globales sobre la violencia contra las mujeres en todos los Estados miembros de la UE.
La encuesta encontró que una de cada diez mujeres (11%) había experimentado al menos una forma de ciberacoso desde los 15 años y una de cada 20 (5%) en los 12 meses anteriores a la encuesta.
Las formas de ciberacoso incluían el ciberflashing (envío de imágenes sexuales no solicitadas), pero no compartir imágenes íntimas no consensuadas.
La Encuesta de Derechos Fundamentales de 2019 de la FRA proporcionó datos sobre el ciberacoso desglosados por género. El estudio encontró que el 13% de las mujeres en la UE habían sido acosadas cibernéticamente en los últimos cinco años, en comparación con el 15% de los hombres.
En el caso del ciberbullying, la tasa más alta se registró en el grupo de edad de 16 a 29 años, ya que un 27% experimentó ciberbullying en los 5 años anteriores a la encuesta.
El Parlamento Europeo ha legislado para abordar la ciberviolencia contra las mujeres. La Directiva de la UE (UE) 2024/1385 sobre la lucha contra la violencia contra las mujeres y la violencia doméstica penaliza diferentes tipos de ciberviolencia a nivel de la UE en virtud del artículo 83 del Tratado de Funcionamiento de la Unión Europea (TFUE).
Incluye como delitos el intercambio no consentido de material íntimo o manipulado, el ciberacoso, el ciberacoso, el cibertrampa y la ciberincitación a la violencia o al odio.
Tras una enmienda propuesta por el Parlamento, la directiva subraya que la ciberviolencia afecta especialmente a políticos, periodistas y defensores de los derechos humanos.
Además, fortalece los derechos de las víctimas al brindarles la oportunidad de presentar denuncias en línea por actos de ciberviolencia; Las víctimas tendrán acceso a consejos sobre cómo buscar ayuda legal y cómo eliminar contenido en línea.
Finalmente, la directiva establece la obligación de revisar la legislación nacional para tener en cuenta los nuevos avances tecnológicos.
La Asociación Columbares, en colaboración con el Grupo de Investigación en Atención Avanzada de la Universidad de Murcia (UMU), puso en marcha la investigación «Redex», que revela que el 68,2% de las mujeres en España sufre algún tipo de violencia a través de las redes sociales.
Por edad, las mujeres entre 25 y 59 años experimentan mayores niveles de violencia sexual cara a cara que los adultos jóvenes (de 18 a 24 años). Sin embargo, la violencia de género en línea o a través de medios digitales es similar en ambos grupos de edad.
El estudio también muestra que el 42,2% de las mujeres se enfrentan a agresiones directas en forma de amenazas, humillaciones o incluso usurpación de identidad por parte de sus parejas en entornos digitales.
FUENTE
