Una foto de infancia convertida en miles de imágenes de abuso
Cuando Jane Doe 4, como se la identifica en los documentos judiciales, llegó a casa de sus padres en Wyoming para preparar una fiesta familiar a principios de este año, la calle de su pequeña localidad estaba llena de agentes de las fuerzas del orden estatales y locales. Un hombre que mostró una placa le dijo a Jane que tenía una orden para registrar los dispositivos electrónicos de su padrastro en busca de material de abuso sexual infantil. Un técnico que buscaba un disco duro con fotos familiares le dijo que tenía algo que ver con la inteligencia artificial. Jane supo después que su padrastro había creado miles de imágenes sexualmente explícitas de ella cuando era niña y las había intercambiado en internet. Según los documentos judiciales, él manipuló una foto tomada cuando ella tenía unos 11 años, en la que aparecía tumbada en un sofá con una camiseta grande, transformándola en imágenes falsas de contenido gráfico. Una de ellas llevaba el pie de foto "el padrastro la viola", según los documentos. El padrastro de Jane creó más de 7.000 imágenes explícitas falsas de ella utilizando el chatbot de IA Grok, lanzado por la empresa xAI de Elon Musk, según los documentos que ella presentó el mes pasado en una demanda federal contra la compañía. Dos días después del registro, el padrastro fue encontrado muerto por suicidio dentro de su coche, aparcado en la localidad natal de Jane, donde ella y su pareja habían comprado recientemente una casa.
"Mi vida era completamente normal", dijo Jane, que habló con la condición de ser identificada con el nombre usado en los documentos judiciales. "No habían pasado ni 48 horas cuando se convirtió en una pesadilla literal."
Una demanda federal que crece contra xAI y Grok
La experiencia de Jane, descrita públicamente por ella por primera vez, ilustra algunas de las posibles consecuencias de una forma creciente de abuso sexual facilitada por aplicaciones de IA que permiten crear material falso pero muy realista de abuso sexual infantil a partir de una sola foto. Jane ahora siente más ansiedad por mantener a salvo a su propio hijo y advirtió de que las imágenes generadas por IA pueden causar daños reales.
"El acceso ilimitado a estas herramientas se está extendiendo muy rápidamente", dijo Jane. "Está tomando la vida cotidiana y convirtiéndola en abuso sexual infantil."
En julio, Jane se unió a una demanda federal presentada contra xAI en marzo por tres adolescentes de Tennessee, dos de ellas aún menores de edad, identificadas como Jane Does 1, 2 y 3. Estas alegaron que Grok había sido utilizado para sexualizar fotos de ellas tomadas cuando eran más jóvenes. La demanda ampliada, presentada el mes pasado ante el Tribunal de Distrito de los Estados Unidos para el Distrito Norte de California, alegó que xAI había producido, poseído y distribuido material de abuso sexual infantil generado por IA. Solicita el estatus de demanda colectiva en nombre de cualquier persona cuyas fotos de cuando era menor de edad hayan sido alteradas por xAI para convertirlas en contenido sexualmente explícito en el que sigan siendo reconocibles. Las demandas llegaron tras la decisión de Musk el año pasado de convertir a xAI en una excepción entre las grandes empresas de IA y promover el uso de Grok para crear contenido sexual. Ha potenciado la capacidad del chatbot para generar y manipular imágenes y vídeo publicando representaciones de mujeres jóvenes sexualizadas para sus millones de seguidores en X. xAI, ahora parte del conglomerado SpaceX de Musk, no respondió a una solicitud de comentarios y la empresa no ha respondido a la demanda federal ante los tribunales. Musk ha dicho que se supone que Grok debe permitir "desnudez de la parte superior del cuerpo de humanos adultos imaginarios", de forma similar a las películas clasificadas para mayores de 17 años.
Las bases legales de la demanda y el contexto normativo
Los demandantes solicitan daños y perjuicios al amparo de la "Ley de Masha", un estatuto federal que permite a las víctimas de pornografía infantil presentar demandas. La demanda también formula reclamaciones de responsabilidad por productos contra xAI por negligencia y diseño defectuoso, similares a las demandas por muerte injusta presentadas contra empresas de IA por las familias de jóvenes usuarios que murieron por suicidio. Los legisladores de Estados Unidos y Europa tomaron medidas para investigar a xAI a principios de este año, después de que la empresa permitiera que el chatbot publicara imágenes sexualizadas en la red social X de Musk en respuesta a solicitudes de usuarios para alterar fotos y eliminar la ropa de las personas. En un periodo de 11 días, la cuenta de Grok en X publicó aproximadamente 3 millones de imágenes sexualizadas, 23.000 de ellas con representaciones de menores, según el Centro para Contrarrestar el Odio Digital, una organización sin ánimo de lucro que presiona a las empresas tecnológicas para que limpien sus plataformas. Musk dijo en una publicación en X en ese momento que no tenía "conocimiento de ninguna imagen de menores desnudos generada por Grok" y que el chatbot se negaría a "producir cualquier cosa ilegal". Pocas semanas después, el padrastro de Jane Doe 4 subió por primera vez la foto de ella cuando era niña a Grok, que le devolvió imágenes falsas mostrándola desnuda, según la demanda. Unas semanas después de que Jane Doe 4 se uniera a la demanda federal, xAI demandó al estado de Minnesota por una nueva ley que prohíbe la distribución de imágenes íntimas no consensuales de personas reales creadas con IA, alegando que restringiría contenido protegido constitucionalmente.
"La estrategia de xAI parece ser: queremos asegurarnos de que permitimos a la gente generar cualquier cosa que sea legal", dijo David Thiel, investigador de seguridad informática y ex director de tecnología del Observatorio de Internet de Stanford. Eso requiere que la tecnología de xAI trace de forma fiable la línea entre el contenido abusivo y el meramente provocador, señaló.
Un sistema de protección infantil bajo presión
Durante 20 años, las principales empresas de internet han utilizado un sistema automatizado gestionado por la organización sin ánimo de lucro Centro Nacional para Menores Desaparecidos y Explotados (NCMEC, por sus siglas en inglés) para denunciar y eliminar material de abuso sexual infantil. Las empresas denuncian el material sospechoso de abuso a la CyberTipline del NCMEC y utilizan huellas digitales o "hashes" de imágenes de abuso confirmadas para detectarlas y eliminarlas automáticamente. Ese sistema está siendo ahora desafiado por las herramientas de imagen de IA, según señaló el NCMEC en una carta este año al senador Chuck Grassley (republicano por Iowa). Las aplicaciones de IA, incluidas herramientas especializadas denominadas "desnudificadores", permiten a cualquier persona producir rápidamente grandes cantidades de nuevas imágenes de abuso infantil muy realistas que no pueden cotejarse con la base de datos del NCMEC. La capacidad de los modelos de IA generativa para combinar y mezclar diferentes conceptos y estilos visuales los convierte en potentes herramientas para el abuso, según Thiel, el experto en seguridad en línea. De la misma manera que un modelo de IA puede generar una invitación de cumpleaños al estilo de un cómic de Marvel, también puede eliminar la ropa de la imagen de un menor. Los modelos de IA, entrenados con grandes cantidades de datos extraídos de la web, han ingerido "abundantes imágenes de contenido explícito, abundantes imágenes de menores", dijo Thiel, quien redactó un informe en 2023 que encontró material de abuso sexual infantil en un conjunto de datos ampliamente utilizado para desarrollar herramientas de imagen de IA. La demanda contra xAI también nombra a Stability AI, que fabrica un generador de imágenes de IA de código abierto y personalizable llamado Stable Diffusion. Investigadores del Centro Helmholtz de Seguridad de la Información CISPA de Alemania estimaron recientemente que ese software está detrás de más del 40 por ciento de las imágenes íntimas no consensuales generadas por IA de personas reales. Stability AI no respondió a una solicitud de comentarios. La empresa ha dicho que prueba los modelos de IA para garantizar la seguridad infantil y añade protecciones antes de su lanzamiento. No ha respondido a la demanda ante los tribunales.
Fallos en la cadena de denuncia que retrasaron la investigación
En su carta de marzo a Grassley, el NCMEC criticó a xAI y a otros siete proveedores de servicios en línea por sus deficientes prácticas de denuncia, que según la organización obstaculizaron la labor policial. La organización sin ánimo de lucro señaló que, durante un periodo de tres meses desde mediados de septiembre del año pasado, menos del 10 por ciento de los avisos de xAI podían "enviarse de forma accionable a las fuerzas del orden" porque carecían de información clave. La empresa mejoró posteriormente sus informes, según la carta. La demanda de Jane Doe 4 contra xAI alega que el aviso de la empresa al NCMEC no incluía información crucial de sus registros, como las direcciones IP asociadas a la cuenta de su padrastro, y que xAI no respondió a múltiples solicitudes de información adicional por parte de un investigador. El padrastro de Jane no fue acusado de delitos de pornografía infantil y fue puesto en libertad por las autoridades el día en que se ejecutó la orden de registro, porque el aviso de xAI al NCMEC no proporcionó ninguna de las imágenes falsas explícitas, dijo Jane Doe 4, citando sus conversaciones con un investigador del caso. El investigador le dijo que el informe inicial de xAI fue enviado al grupo de trabajo de delitos informáticos del estado equivocado, lo que causó más retrasos, según Jane. Incluso cuando una empresa denuncia completamente los incidentes en los que una herramienta de IA se utiliza para crear material de abuso sexual infantil, las consecuencias legales pueden no ser claras. Los límites legales aplicables en torno al material de abuso sexual infantil generado por IA son inciertos, dijo Eric Goldman, profesor de derecho en la Facultad de Derecho de la Universidad de Santa Clara. Algunos estatutos recientes destinados a frenar las imágenes de IA abusivas podrían ser impugnados por vulnerar la Primera Enmienda, señaló.
El impacto en la vida de la víctima
Desde el registro en casa de sus padres, la vida de Jane se ha vuelto irreconocible, según ella misma. Comenzó terapia para tratar el trauma y ha tenido que volver a trabajar como enfermera para mantener a su madre viuda, lo que supone una presión económica adicional para su propia familia.
"Vivo con esto cada día. Mentiría si dijera que no tengo pensamientos suicidas de forma constante", dijo Jane, la única vez que su voz se quebró durante horas de entrevistas.