En Kilkis, Grecia, dos estudiantes de 15 años utilizaron una aplicación de inteligencia artificial para crear una imagen deepfake desnuda de una compañera de clase y la distribuyeron a otros menores. El incidente causó daño psicológico y derivó en acciones legales, evidenciando el uso indebido de la IA para manipulación de imágenes sin consentimiento y violaciones de privacidad.
¿Por qué nuestro monitor etiqueta esto como un incidente o peligro?
El incidente involucra explícitamente el uso de IA para generar una imagen deepfake dañina, que luego fue compartida, causando violación de derechos personales y daño a la víctima. La participación de la IA en la creación del contenido manipulado y el daño resultante al individuo y la comunidad se ajusta a la definición de un Incidente de IA, ya que llevó directamente a violaciones de derechos y daño.
Principios de IA afectados
Privacidad y gobernanza de datos, respeto de los derechos humanos
Industrias involucradas
Medios, plataformas sociales y marketing
Partes afectadas
Menores
Tipos de daño
Psicológico, derechos humanos o fundamentales
Gravedad
Incidente de IA
Tarea del sistema de IA
Generación de contenido
Artículos sobre este incidente o peligro
Varios medios griegos han reportado este caso, incluyendo NewsIT, ΣΚΑΪ, enikos.gr, LiFO, CNN.gr, newsbreak, Alfavita, Alpha TV, Aftodioikisi.gr, parapolitika.gr, topontiki.gr, Thestival, Parallaxi Magazine, Typosthes, Pelop.gr, e-thessalia.gr, The PressRoom, dnews.gr, Volosday.gr y Cyprus Times. Todos los reportes confirman que se utilizó una aplicación de IA para crear imágenes deepfake de una menor, que fueron posteriormente distribuidas entre estudiantes, causando daño directo a la víctima y violando sus derechos fundamentales.