Un colegio de Tasmania ha sido criticado por los padres por su respuesta a un incidente de deepfakes que afectó a 21 estudiantes. Los padres dicen que The Friends School les aconsejó no decir a sus hijas que sus imágenes habían sido identificadas en imágenes pornográficas deepfake. Eligieron contárselo, pero dijeron que sus hijas se sintieron silenciadas y sin apoyo, sin saber si a sus compañeros se les había dicho o no. El colegio dijo que había actuado siguiendo el consejo de la policía y expertos, y que las imágenes habían sido creadas en dispositivos personales fuera del horario escolar, lo que significaba que no podía abordar los desafíos de los deepfakes por sí solo.

Entonces, ¿qué deberían hacer los padres y colegios cuando hay un incidente de deepfake que involucra a estudiantes?

¿Qué es un 'deepfake'?

Un deepfake es una foto, vídeo o archivo de sonido que ha sido creado usando tecnología de IA para mostrar a alguien haciendo o diciendo algo que realmente no hizo o dijo. El material puede ser muy realista, especialmente cuando se ve en una pantalla pequeña, y se comparte fácilmente.

La comisionada de eSafety Julie Inman Grant dijo que los deepfakes pueden crearse por diversas razones, como para acosar o humillar a alguien, para gratificación sexual, o para abuso sexual infantil. Las víctimas a menudo no saben que su imagen ha sido usada en un deepfake. La persona que crea el deepfake puede usar la imagen de redes sociales de alguien, como un selfie o incluso una foto escolar. Desafortunadamente, las aplicaciones que crean este tipo de material son fáciles de usar, a menudo a bajo costo o sin costo.

¿Qué tan grande es el problema entre estudiantes?

Es una crisis, según la comisionada de eSafety. En 2024, los datos mostraron un aumento del 550 por ciento interanual en deepfakes apareciendo online desde 2019. Los vídeos pornográficos representaron el 98 por ciento del material deepfake online, y el 99 por ciento de las imágenes eran de mujeres y niñas.

Los incidentes de deepfake estaban sumiendo a colegios enteros en el caos, dijo la Sra. Inman Grant, con personal, padres y estudiantes a menudo inseguros sobre cómo responder. Los objetivos se quedaban sintiéndose humillados, enfadados y asustados. Los estudiantes que recibían material deepfake en chats grupales o mensajes privados a veces también se quedaban sintiéndose temerosos y confundidos, inseguros sobre si reportarlo o cómo apoyar a sus amigos. A menudo también se preocupaban de que serían los siguientes.

¿Cuál es la responsabilidad del colegio? ¿Y cuál es la mejor práctica?

Puede ser un tema muy difícil de navegar, particularmente cuando el material puede hacerse en dispositivos privados y en entornos privados, pero aún involucra a estudiantes. El bienestar de los jóvenes y/o cualquier miembro del personal involucrado es una prioridad, según la Comisionada de eSafety.

Los colegios son considerados respondedores de primera línea y necesitan dar a las víctimas estudiantes una sensación de agencia y estar involucrados en la toma de decisiones. La reputación del colegio no debería ser el foco de la respuesta. Un líder del personal escolar debería ser designado para manejar el incidente, con información compartida solo en base a la necesidad de saber. El incidente debería reportarse a la policía y eSafety, y la familia de un estudiante afectado debería mantenerse informada de las acciones que el colegio está tomando.

El colegio también debería involucrar servicios adicionales para apoyar el bienestar de los involucrados. También es importante construir políticas y educación sobre alfabetización digital, relaciones respetuosas y consentimiento.

¿Qué deberías hacer si la imagen de tu hijo ha sido usada en pornografía deepfake?

Si tu hijo viene a ti, mantén la calma y comienza a elaborar un plan para responder al incidente juntos. La comisionada de eSafety sugiere recopilar evidencia capturas de pantalla, enlaces, nombres de usuario sin guardar o compartir el contenido. Luego, ayúdales a reportar el incidente al colegio, policía, eSafety y cualquier plataforma online involucrada.

Sabe que tu hijo puede estar sintiendo vergüenza, humillación, autoculpa, miedo de que no le crean, aislamiento y desconfianza. Busca apoyo en su nombre, si lo necesita.

No hay un enfoque único para abordarlo con tu hijo si te enteras antes que ellos de que han sido identificados en material deepfake. El Servicio de Apoyo a Víctimas de Agresión Sexual dice que puede haber varias razones por las que los padres no quieren decir a su hijo como preocupaciones de edad o salud mental pero fomenta la transparencia donde sea posible y dice que los padres pueden acercarse a servicios como SASS para consejo.

Si tu hijo te dice que recibió un deepfake, elógialo por decírtelo, por no compartirlo y refuerza que hablar fue lo correcto. Si tu hijo ha creado o compartido un deepfake, explica las serias consecuencias legales y emocionales y fomenta la responsabilidad asegurándote de que eliminen y reporten el contenido, y se disculpen por su parte en ello.

El Servicio de Apoyo a Víctimas de Agresión Sexual recomienda su programa de intervención temprana PAST (Prevención, Evaluación, Apoyo y Tratamiento) para padres preocupados de que su hijo pueda haber estado involucrado en crear o compartir imágenes sexualmente explícitas, incluyendo deepfakes.

¿Es ilegal?

Sí. En 2024, Australia introdujo nuevas leyes prohibiendo compartir pornografía deepfake adulta no consensual. Conlleva una sentencia máxima de cárcel de seis años. Algunos jóvenes pueden crear y compartir deepfakes como una broma o experimento sin darse cuenta de que puede ser un delito criminal serio. En abril de este año, el primer australiano en ser procesado bajo leyes de la Commonwealth se declaró culpable.