Donar
El crecimiento de herramientas de inteligencia artificial capaces de generar imágenes, videos y relaciones virtuales hiperrealistas ha encendido alertas sobre nuevas formas de violencia digital.
La inteligencia artificial generativa ha transformado múltiples aspectos en la vida cotidiana de las personas. Sin embargo, sus distintas aplicaciones han generado preocupación por sus posibles impactos sociales. Entre ellos las denominadas “novias virtuales”, plataformas que permiten crear parejas digitales personalizadas, lo cual ha reabierto el debate sobre la cosificación de las mujeres y la reproducción de estereotipos de género dentro de estos entornos.
Un análisis publicado por el diario EL PAÍS señala que estas plataformas permiten configurar desde características físicas hasta rasgos de personalidad y dinámicas de relación. Algunas de estas opciones incluyen atributos asociados a la obediencia, dependencia emocional o sumisión, mientras que los sistemas son diseñados para mantener conversaciones fluidas, generar imágenes y ofrecer experiencias individualizadas para cada usuario.
Por otro lado, la discusión va más allá de las relaciones virtuales, ya que los avances tecnológicos permiten crear personajes digitales los cuales abren la conversación hacia la producción de deepfakes y deepnudes (imágenes o videos manipulados mediante inteligencia artificial) que se utilizarían situar a una persona en situaciones íntimas sin su consentimiento.
De acuerdo con una publicación del periódico La Vanguardia, usuarios de la red social X comenzaron a utilizar Grok, la inteligencia artificial integrada en la plataforma, para modificar fotografías de mujeres e incluso menores de edad mediante instrucciones empleadas para sexualizar las imágenes originales. La situación motivó la intervención de autoridades europeas para establecer límites y responsabilidades de las empresas tecnológicas frente a estos contenidos.
El caso pone en evidencia los desafíos regulatorios que enfrenta cada país, según la abogada especializada en derecho digital e inteligencia artificial Belén Arribas, los deepfakes sexuales todavía no se encuentran tipificados de forma específica en varios marcos legales. No obstante, una nueva directiva de la Unión Europea obligará a los países miembros a sancionar la difusión no consentida de imágenes íntimas, incluyendo aquellas creadas o manipuladas mediante IA.
Además de afectaciones a la privacidad y la reputación de las víctimas, especialistas advierten que la violencia digital puede estar vinculada a otras formas de agresión. El periodista Alejandro I. López propone testimonios que identifican cómo las imágenes manipuladas pueden ser utilizadas para ejercer acoso, amenazas, extorsión o control sobre las personas afectadas, demostrando que las consecuencias de estas prácticas trascienden la barrera digital.
Más allá de los avances tecnológicos, el debate plantea una pregunta de fondo sobre la cultura digital que se está construyendo, la expansión de herramientas capaces de generar contenido hiperrealista obliga a reflexionar sobre la importancia de la protección de la intimidad y la promoción de entornos digitales que respeten los derechos de las personas.
Por: Monserrath Murillo Ezcurra
