Una trabajadora filipina, víctima de una estafa romántica con IA que suplantaba al príncipe de Dubái

María creyó que estaba viviendo un romance con un príncipe de Dubái, cautivada por su sonrisa coqueta y las declaraciones de afecto que le prodigaba durante videollamadas en directo. Pero el pretendiente era un deepfake generado por inteligencia artificial, lo que la convirtió en una víctima más de una estafa romántica en línea. El caso ilustra cómo los estafadores que se hacen pasar por el príncipe heredero real de Dubái atrapan a sus víctimas cultivando relaciones en internet antes de robarles el dinero, con investigadores que rastrean algunas de estas estafas hasta sindicatos criminales en Nigeria. María conoció al estafador que suplantaba al príncipe Hamdan bin Mohammed, también conocido por su seudónimo literario Fazza, en una aplicación de citas, antes de que la conversación se trasladara a una aplicación de mensajería donde él la bombardeó con mensajes románticos.

"Me seguía enviando mensajes incluso cuando estaba durmiendo", declaró la trabajadora doméstica filipina a la agencia AFP, solicitando que se ocultaran su nombre real y su edad.

"Sentía que había un hechizo de amor que conectaba nuestras mentes."

En una grabación de una videollamada de WhatsApp vista por AFP, el estafador, con la apariencia del príncipe, parpadeaba en la pantalla con un aspecto muy realista. Sus palabras coincidían con los movimientos de sus labios, pero no con la voz del príncipe.

"Hola, amada", le decía la voz a María. "Aprecio de verdad tu amor y tu apoyo."

María, que al principio estaba demasiado enamorada para sospechar un fraude, perdió los ahorros de un año entero. El estafador la manipuló para que pagara 100.000 pesos filipinos (1.625 dólares) por lo que él afirmaba ser un certificado de matrimonio y una "tarjeta de membresía real", que según él le ayudaría a conseguir un empleo en Dubái. Las sospechas surgieron cuando él propuso quedar en un hotel y exigió otros 60.000 pesos (974 dólares) para la reserva. Cuando ella examinó su página de Facebook, que desde entonces ha sido eliminada, notó que la cuenta estaba ubicada en Nigeria. Cortó la comunicación enviando un último mensaje: "Vete al infierno, estafador".

"Mucha gente me dijo que era bueno que no me hubiera vuelto loca después de esta experiencia", afirmó María.

Un ecosistema de fraude que explota la imagen del príncipe emiratí en redes sociales

El fraude forma parte de un ecosistema más amplio de lo que se ha dado en llamar estafas del "falso príncipe de Dubái", que atacan tanto los corazones como los bolsillos de las víctimas. Los estafadores explotan la imagen del miembro de la familia real emiratí aprovechando su enorme presencia en internet, incluidos sus más de 17 millones de seguidores en Instagram, y en ocasiones incluso copian los poemas auténticos del príncipe para engañar a las víctimas. AFP identificó múltiples grupos de Facebook que suplantan al miembro de la familia real, algunos con miles de seguidores, que invitan a los usuarios a chats de WhatsApp o Telegram con el "príncipe". Los grupos publican imágenes manipuladas pero de apariencia realista, entre ellas una que muestra al príncipe arrodillado y sosteniendo un anillo, y otra en la que aparece ofreciendo una rosa roja junto a la leyenda: "Cariño, ¿puedo recibir un 'te quiero' en WhatsApp?". Aunque algunos usuarios advierten en los comentarios de que las publicaciones son estafas, muchos otros responden con emoticonos de corazones y besos. A medida que el fraude se extiende, han surgido grupos de concienciación para alertar a los usuarios, entre ellos uno en Instagram llamado "No caigas en el falso príncipe". Una petición en change.org titulada "Detened la estafa de Fazza" pedía al equipo del jeque Hamdan que concienciara a la población sobre los estafadores que suplantan al miembro de la familia real usando números de teléfono de Dubái y "solicitando grandes sumas de dinero, ya sea como donaciones o certificados de matrimonio, todos ellos falsificados".

"Se solicitan pagos importantes en bancos de países distintos a los de las víctimas, a veces incluso en criptomonedas, lo que dificulta su rastreo", señalaba la petición.

La tecnología de deepfake en tiempo real avanza más rápido que la capacidad de detectarla

Las autoridades de Dubái no respondieron a la solicitud de comentarios de AFP. El príncipe Hamdan está lejos de ser el único personaje público cuya identidad ha sido explotada por estafadores. El año pasado, las autoridades francesas abrieron una investigación para identificar a los estafadores que se hacían pasar por Brad Pitt y timaron a una mujer con 830.000 euros (945.000 dólares). La Alianza Global contra las Estafas estima que los consumidores de todo el mundo perdieron 442.000 millones de dólares en estafas, incluido el fraude romántico, el año pasado. No quedó claro qué herramientas de IA se utilizaron para generar los videochats en tiempo real con María. Internet está inundado de tecnología de intercambio de rostros impulsada por IA y una nueva generación de herramientas de control de movimiento capaces de producir vídeos muy realistas, que permiten a los usuarios manipular con precisión los movimientos y las expresiones faciales de una persona en tiempo real.

"La tecnología está mejorando rápidamente, y es probable que pronto los deepfakes de vídeo en tiempo real sean cada vez mejores", declaró a AFP David Rand, de la Universidad de Cornell.

"Cuando esto ocurra, será fundamentalmente imposible saber si cualquier conversación no presencial es real."