El primer ministro irlandés, víctima de un deepfake para promover una estafa financiera

Un vídeo generado con inteligencia artificial que suplantaba la imagen y la voz del Taoiseach Micheál Martin circuló en redes sociales para promocionar un supuesto producto financiero fraudulento. En el vídeo, el primer ministro aparecía afirmando haber "demostrado" que cualquier persona podía ganar 40.000 euros con "solo un teléfono y 250 euros". El contenido, que utiliza medios generados por IA para hacer creer que una persona real ha sido grabada o fotografiada, se conoce como deepfake. En el vídeo de la estafa, el Taoiseach generado por IA aseguraba que quienes "invirtieran" verían sus primeros 1.000 euros de beneficio en cuestión de horas, y que, de no ser así, él les devolvería "personalmente" 10.000 euros.

La respuesta del Taoiseach y su llamada a la vigilancia ciudadana

Ante la difusión del vídeo, Micheál Martin compartió un clip en el que reaccionaba al ver el anuncio, calificándolo de "completamente falso", con el objetivo de alertar a la ciudadanía sobre este tipo de fraudes.

"Esto es claramente material muy falso que me concierne, ilustrativo del tipo de manipulación y distorsión que puede tener lugar en las redes sociales. Y es un recordatorio para todos nosotros de que debemos ser vigilantes en las redes sociales y actuar con cautela."

El primer ministro también arremetió contra las empresas de redes sociales, exigiéndoles que adopten medidas más contundentes frente a este tipo de estafas.

"Las plataformas deben asegurarse de que ese material nunca llegue a internet y de que sea retirado en cuanto sea identificado."

Irlanda avanza en una ley para proteger la identidad digital frente a los deepfakes

El incidente se produce en un momento en que Irlanda da sus primeros pasos hacia la aprobación de una nueva normativa para combatir los deepfakes peligrosos. El Gobierno aceptó el Proyecto de Ley de Protección de Voz e Imagen tras su debate en el Dáil la semana pasada. La norma tiene como objetivo proteger las identidades digitales de los ciudadanos y tipifica como delito el uso indebido de la voz, la imagen o la apariencia de una persona sin su consentimiento y con fines maliciosos. La legislación forma parte de los esfuerzos para combatir los deepfakes utilizados en fraudes, pero también para proteger los derechos de músicos y artistas sobre su identidad digital. El proyecto fue propuesto por el diputado de Fianna Fáil Malcolm Byrne, quien subrayó la necesidad imperativa de que las personas puedan proteger su propia imagen frente a su explotación.

"En la era de la inteligencia artificial en rápido desarrollo, proteger nuestras identidades digitales es de vital importancia. Nuestra voz, nuestra imagen son partes intrínsecas de quiénes somos. No deberían ser utilizadas indebidamente por otros mediante la IA u otras tecnologías con fines de fraude o para intentar tergiversarnos."

La ley tipifica como delito el uso consciente o la vulneración del uso, así como la publicación, representación, distribución, transmisión o puesta a disposición del público del nombre, fotografía, voz o imagen de una persona en cualquier medio sin su autorización.