La inteligencia artificial ha generado preocupaciones significativas en relación a los derechos sexuales de las mujeres, ya que miles de personas han sido víctimas de la vulneración de su información personal, especialmente en cuanto a su imagen e intimidad. Especialistas advierten sobre la necesidad de implementar regulaciones específicas basadas en la función de cada algoritmo.
Un caso emblemático es el de Alana Flores, de 24 años, quien sufrió acoso en redes sociales tras la creación de una imagen por inteligencia artificial que superpuso su rostro en contenido sexual. La presión fue tal que decidió cerrar sus cuentas, a pesar de que gran parte de su trabajo está vinculado a estas plataformas. Su experiencia, desafortunadamente, no es única; muchas personas enfrentan situaciones similares debido a los sesgos de género presentes en los algoritmos.
Datos del Módulo sobre Ciberacoso (MOCIBA) del INEGI muestran que en 2022, las formas más comunes de violencia digital contra mujeres incluían insinuaciones sexuales (34.8%) y amenazas de publicar información personal (7%). La violencia digital ha aumentado, con el 60% de mujeres jóvenes reportando experiencias de este tipo en 2021.
La Lucha por la Eliminación de Contenido Ofensivo
Elizabeth Avendaño, abogada del programa Internet Feminista de la Colectiva Luchadoras, destaca que las víctimas de violencia digital a menudo buscan eliminar el contenido dañino en lugar de perseguir acciones penales. La colectiva ofrece una línea de apoyo especializada que se enfoca en el acompañamiento emocional y legal de las víctimas, reconociendo la complejidad del daño que estas experiencias pueden causar.
El enfoque personalizado ha permitido a Luchadoras forjar alianzas con plataformas como Meta para facilitar la eliminación de contenido, aunque la situación se complica con otras, como Telegram, donde la falta de supervisión dificulta el seguimiento de las violencias en la plataforma.
Impacto de la IA en la Educación Sexual
La violencia digital también se manifiesta en la censura de contenidos relacionados con la salud de las mujeres, como la menstruación y la salud reproductiva. Avendaño señala que esta censura es resultado de sesgos algorítmicos, que reflejan las creencias y valores de quienes crean los sistemas. Esto afecta la educación sexual, dificultando la difusión de información crucial para el bienestar de las mujeres.
Un informe de Artículo 19 revela que el 88% de los participantes han sido censurados por contenido relacionado con sus identidades o derechos humanos, lo que plantea serias preocupaciones sobre la libertad de expresión. Además, la eliminación de contenido a menudo carece de justificaciones claras, y los procesos de apelación son complicados y largos.
Urgencia de Regulación de IA con Perspectiva de Derechos
Expertas advierten que, sin una regulación adecuada, la inteligencia artificial puede convertirse en un riesgo para los derechos humanos. La falta de transparencia y controles puede llevar a la vigilancia masiva y la discriminación. Se necesitan regulaciones que consideren las especificidades de cada tipo de algoritmo, centrándose en la protección de derechos humanos y la privacidad de datos.
La Digital Services Act de la Unión Europea es un modelo a seguir, ya que impone obligaciones de transparencia y considera los impactos en los derechos humanos. En México, la regulación de telecomunicaciones está en transformación, lo que podría influir en cómo se abordan estos problemas en el futuro.
La organización Luchadoras propone una regulación integral que no solo contemple medidas punitivas, sino también alternativas como demandas por daño moral, justicia restaurativa y educación sexual digital. Asimismo, se sugiere que la regulación debe centrarse en los derechos humanos para proteger a las víctimas y garantizar un entorno digital más seguro.
Este artículo se llevó a cabo con la mentoría periodística de la Fundación Thomson Reuters.
