Una sentencia pionera en España por el uso de IA para generar imágenes íntimas falsas

Tres jóvenes han sido condenados a nueve meses de cárcel y a casi cuatro años sin poder usar las aplicaciones Telegram, WhatsApp, Instagram y Discord por desnudar a excompañeras de clase mediante el uso de inteligencia artificial. El juez, de la Sección de lo Penal de Sevilla, les ha aplicado el agravante de género en una sentencia pionera. Es la primera que condena el uso de IA para manipular imágenes de varias jóvenes y obtener, de este modo, imágenes que simulaban los cuerpos íntegramente desnudos, según explica en un comunicado el Tribunal Superior de Justicia de Andalucía. Los jóvenes se conocían porque habían sido compañeros de colegio. Según recoge la sentencia, los tres condenados, junto a un menor de edad, obtuvieron las fotografías de las chicas de sus redes sociales. Más tarde, con la ayuda de la inteligencia artificial, las manipularon para simular sus cuerpos íntegramente desnudos con un resultado de gran realismo.

La difusión de las imágenes y el impacto en las víctimas

Los condenados compartían las fotografías primero en un grupo específico de WhatsApp y otro de Discord, realizando posteriormente una mayor difusión más allá de los citados grupos, desconociéndose el alcance de las cadenas de reenvío. Las imágenes circularon por internet, de modo que una persona reenvió los archivos a una de las afectadas. Según explica a TVE María Luisa Rueda, abogada de una de las jóvenes, las víctimas han sufrido una especial frustración porque los culpables son compañeros suyos, no desconocidos. Durante el juicio, los tres acusados pidieron perdón a las víctimas por lo sucedido.

El agravante de género y las limitaciones de la condena

El juez les aplica el agravante de género al observar una pretendida supremacía machista que cosifica a las mujeres, manteniendo estereotipos de conducta que relegan a la mujer al papel de mero instrumento de placer. Los jóvenes no entrarán en prisión al carecer de antecedentes, pero sí se les aplicará la prohibición del uso de redes sociales. Para la experta en IA Miriam del Río, existe el riesgo de que los jóvenes se creen otras cuentas.

Ahí tendríamos el problema de probar que las han utilizado y que son ellos los que están detrás de estas cuentas.