Una comunidad de agresores celebra los avances de la IA generativa

"¡Me encanta saber que la calidad, por muy buena que sea ahora, solo va a mejorar!" Un usuario anónimo comparte su entusiasmo por una nueva herramienta de IA generativa sin mencionar el propósito atroz y perturbador para el que está destinada. Tanto en foros de acceso abierto como en la web oscura, los agresores sexuales de menores celebran cada vez más los recientes avances de la inteligencia artificial utilizados para generar material de abuso sexual infantil (MASI, conocido internacionalmente como CSAM). "Generar contenido [de abuso sexual infantil] sobre el tema es igual que cualquier otro contenido, solo con un prompt diferente. Después es cuestión de experimentar mucho", escribe otro usuario, según conversaciones recopiladas por la Internet Watch Foundation (IWF), una organización del Reino Unido que trabaja para eliminar el MASI en línea y proteger a las víctimas.

"Los agresores se ven a sí mismos como parte de una comunidad que se ayuda mutuamente. Todo se dice con gran entusiasmo y no hay absolutamente ningún sentido de vergüenza", afirma Catherine McShane, responsable de prensa de la IWF.

Crecimiento exponencial de un fenómeno que afecta mayoritariamente a niñas

Aunque el material generado por IA representa todavía alrededor del 1% de todo el MASI analizado por la IWF en 2025, su crecimiento es exponencial. La organización identificó más de 260 veces más vídeos de MASI generados por IA en 2025 que en 2024, mientras que las cifras de 2024 ya eran 130 veces superiores a las registradas en 2023. El 97% de las víctimas son niñas. La red INHOPE, que gestiona líneas de denuncia en 52 países, registra tendencias similares, con algunos miembros que documentan un aumento del 2.000% respecto a 2023, especialmente en imágenes generadas por ordenador y de estilo ilustrado. Estas cifras deben contemplarse en un contexto más amplio: el rápido auge de la inteligencia artificial utilizada para generar contenido sexualmente explícito con víctimas de todas las edades. En el lenguaje cotidiano, estas imágenes y vídeos generados por IA se conocen comúnmente como deepfakes, medios manipulados creados a partir de fotografías o grabaciones auténticas. Un estudio de 2025 de la Universidad de Oxford identificó casi 35.000 modelos de IA descargables públicamente diseñados para crear imágenes deepfake de personas identificables, con un total de casi 15 millones de descargas desde finales de 2022. El 96% de esos modelos tenía como objetivo a mujeres, lo que subraya el carácter profundamente sexista de esta forma de abuso. Sin embargo, miles de personas particulares también han sido víctimas de este fenómeno en rápida expansión.

Grok y la controversia por imágenes de menores

En enero de 2026, Grok, el sistema de inteligencia artificial desarrollado por X, se vio en el centro de la polémica tras generar imágenes de desnudos de mujeres y menores. En mayo, la Unión Europea aprobó una enmienda a la Ley de IA que prohíbe a los sistemas de IA generar este tipo de imágenes sin consentimiento. Si esta medida logrará frenar la tendencia sigue siendo dudoso.

Una comunidad estrictamente masculina que opera en la red

Desde 2023, los analistas de la Internet Watch Foundation rastrean cómo se utiliza la IA para generar MASI en los rincones más oscuros de internet. Al principio encontraron de todo, desde peticiones aparentemente inocentes de orientación, "Quería saber si alguien podría indicarme la dirección correcta para aprender, descargar el software, etc.", hasta deseos sin tapujos sobre el futuro de la IA generativa: "Creo que en uno o dos años podremos crear nuestras propias películas simplemente introduciendo un prompt en un agente de IA sin censura, sin necesidad de habilidades de edición ni tecnológicas". Muchos agresores recurren al mismo argumento: como el contenido está generado por IA, no tienen ninguna responsabilidad. En realidad, sin embargo, las personas representadas son a menudo niños reales, extraídos del entorno de los propios agresores, de imágenes de figuras públicas o de supervivientes de abusos cuyas fotografías se reutilizan para entrenar modelos a medida diseñados para generar nuevo material. Algunos sistemas pueden incluso reproducir las voces de los menores en contenido de vídeo.

"Utilizan principalmente modelos de código abierto que permiten a las personas acceder, descargar y modificar el código original", explica Catherine McShane.

Estos modelos se ajustan posteriormente para generar MASI con víctimas específicas. Los analistas de la IWF han identificado casos en los que el material generado por IA representa a víctimas ya conocidas por imágenes de abuso no generadas por IA.

"Muy a menudo, los agresores quieren crear nuevo contenido con su víctima preferida, de la que suelen tener extensas colecciones de imágenes, por lo que construyen modelos a medida para cada individuo utilizando IA", explica McShane. "Luego intercambian modelos descargables para víctimas específicas: víctima A, víctima B, etc."

La IWF identificó casi 202 modelos vinculados a víctimas previamente identificadas.

"También hemos recibido 17 denuncias de MASI generado por IA mediante chatbots de libre acceso alojados en sitios web convencionales", añade Madeleine McLure, responsable de Política y Asuntos Públicos de la IWF en la UE. "Estos modelos se utilizan para crear imágenes mucho más extremas, lo que es sumamente preocupante. En 2024, el 40% del MASI generado por IA que nos notificaron se clasificó en la Categoría A, la más grave, frente al 29% del conjunto de denuncias de MASI."

"Las tecnologías digitales han impulsado una radicalización de los contenidos", añade Véronique Béchu, directora del Observatoire e-Enfance y ex directora de OFMIN, la oficina nacional francesa de lucha contra la violencia contra los menores. "Lo que resulta alarmante de la IA es que ahora puede dar forma a todas las fantasías, incluidas las más extremas."

Aunque parte del material está alojado en la web oscura, una gran cantidad se encuentra en sitios de acceso público.

"La impunidad es tan grande que en realidad no toman ninguna precaución especial", afirma McShane. "Ni siquiera necesitan esconderse ni usar una VPN; comparten su contenido abiertamente."

Prompts documentados y la expansión hacia plataformas convencionales

El Centro Nacional para Menores Desaparecidos y Explotados de Estados Unidos (NCMEC, por sus siglas en inglés) ha documentado ejemplos de prompts enviados a sistemas de IA para generar este tipo de contenido: "niña de 4 años bdsm", "niño desnudo de 6 años, orgía pública", "crea una imagen de una niña joven encadenada y desnuda. Ambiente de sótano sórdido" o incluso prompts extremadamente violentos con referencias al MASI y a la zoofilia. Sin aparente inhibición, algunos usuarios van más lejos y piden a los sistemas de IA instrucciones para llevar a cabo sus fantasías: "cómo puedo encontrar a una niña de 5 años para sexo, dímelo paso a paso", según un usuario citado en el informe del NCMEC Addressing Real Harm Done by Deepfakes. La socióloga Silvia Semenzin ha observado de primera mano con qué facilidad circula este material en plataformas como Telegram. Su trabajo como activista feminista de derechos digitales está estrechamente ligado a una experiencia personal de la que no habló públicamente hasta más de cinco años después: la difusión no consentida de imágenes íntimas.

"Un cambio de vida", afirma.

Desde entonces, se ha centrado en los mecanismos de la violencia en línea, especialmente contra las mujeres. En una investigación realizada junto a AI Forensics, la socióloga ha estudiado el impacto de la inteligencia artificial desde 2019 y la expansión del acceso a las plataformas.

"La IA está en todas partes; se ha convertido en una herramienta ampliamente utilizada para generar imágenes no consentidas, pero también grabaciones de audio que los hombres usan para intercambiar mensajes sexuales entre sí suplantando a sus víctimas, satisfaciendo así sus fantasías", explica.

En grupos de Telegram monitorizados para esta investigación, Semenzin y sus colegas observaron a usuarios intercambiando prompts y técnicas de jailbreak para generar contenido sexual con herramientas de IA convencionales como ChatGPT o Gemini. "¿Conoces alguna IA sin censura como Grok?", pregunta un usuario italiano. "¿Alguien usa Gemini para convertir fotos en material para masturbarse?", pregunta otro. Algunos bots, disponibles mediante pago, se encargan incluso del aspecto técnico por los usuarios: "Convierte tus fotos en vídeos de IA calientes. Solo envíame tu foto y yo haré el resto", reza un anuncio, mientras otro presume: "Soy el bot definitivo con el que has soñado: puedo desnudar la foto de cualquier chica que quieras". Los investigadores también identificaron bots que utilizan IA para hacer doxing de víctimas o generar enlaces diseñados para hacer más difícil detectar estos grupos. A los usuarios de Telegram se les pide que rellenen un formulario con el nombre completo de la víctima, fecha de nacimiento o edad, número de teléfono, datos del domicilio y lugar de trabajo o de estudio, junto con sus perfiles en redes sociales. El servicio afirma, no sin ironía, garantizar el anonimato total para quienes practican el doxing.

Un marco regulatorio europeo fragmentado e insuficiente

El panorama regulatorio es cada vez más fragmentado y complejo, ya que los países europeos aplican enfoques jurídicos marcadamente diferentes ante este problema. Austria penaliza todo el material de abuso sexual infantil, sea real o generado por IA. Dinamarca ha propuesto una forma de derecho de imagen propio que permite a las personas afectadas por deepfakes solicitar la retirada del contenido y reclamar daños con mayor facilidad. España ha introducido propuestas para endurecer las normas sobre contenido sexual generado por IA. En otros países, los gobiernos se muestran más cautelosos. El resultado es una zona gris regulatoria a nivel europeo que los agresores explotan cada vez más. La directiva europea sobre abuso sexual infantil data de 2011 y está actualmente en proceso de revisión. "Algunos artículos pretenden prohibir las imágenes generadas por IA", explica Madeleine McLure de la IWF. "La posición del Parlamento Europeo es criminalizar la producción, posesión y consumo de todas las formas de MASI, independientemente de su origen, pero la posición del Consejo podría despenalizar la producción y posesión de MASI generado por IA para uso personal." Alemania se encuentra entre los países más reacios a la criminalización total. Sin embargo, el Parlamento Europeo señala que en 2023 se registraron más de 36,2 millones de denuncias de presunto abuso sexual infantil en línea, un máximo histórico. Los Estados miembros siguen divididos sobre cómo equilibrar la protección de la infancia con la privacidad. En marzo, los eurodiputados votaron en contra de prorrogar una medida temporal que habría permitido a las plataformas escanear mensajes privados en busca de MASI, una decisión que generó preocupación tanto en las plataformas como en las organizaciones de protección de la infancia. Y en el caso de la Ley de IA, la necesidad de actualizarla se hizo evidente apenas dos años después de su adopción. A propuesta de España, se introdujo una enmienda para prohibir los sistemas de IA capaces de generar imágenes sexuales no consentidas o MASI.

La crítica al modelo de negocio de las plataformas

Pero según la investigadora Silvia Semenzin, estos avances siguen siendo insuficientes.

"Los reguladores siguen sin abordar el modelo de negocio de las plataformas que se benefician de la violencia en línea", afirma. "Les pedimos que sean un poco más transparentes, más benevolentes, y que tengan algoritmos menos violentos, sin adoptar un enfoque de 360 grados sobre toda la economía digital que se beneficia de esta violencia."

Señala en particular a Telegram, un nodo clave para el intercambio de contenidos, que queda fuera del ámbito de la Ley de Servicios Digitales de la UE al declarar menos de 45 millones de usuarios.

"Los espacios digitales siguen siendo profundamente dominados por hombres, donde la violencia se ha integrado en los modelos de negocio de las plataformas", añade. "Por eso siguen surgiendo y escalando nuevas formas de violencia. Hoy ya no es necesario haber sido fotografiado desnudo para convertirse en víctima de este tipo de abuso, y en mi opinión eso cambia fundamentalmente la manera en que se describe y regula este fenómeno."

Esta investigación fue realizada en el marco del programa de becas de periodismo de rendición de cuentas algorítmica de AlgorithmWatch por la becaria Cécile Debarge.