Un vídeo falso generado con IA acusa a un candidato demócrata de agresión sexual
Un vídeo difundido en redes sociales que pretendía mostrar a un exalumno acusando al candidato demócrata al Senado de Estados Unidos por Texas, James Talarico, de conducta sexual indebida, es el último ejemplo de cómo grupos rusos generan información falsa para influir en las elecciones estadounidenses, según investigadores. El vídeo fue publicado originalmente en X por una cuenta creada en septiembre con Rumanía como país de registro, según informó NewsGuard, empresa especializada en el seguimiento de la desinformación en línea. A 22 de octubre, X había suspendido la cuenta que publicó originalmente la acusación infundada, aunque otras cuentas continuaron difundiéndola. El portavoz de Talarico, JT Ennis, emitió una declaración por correo electrónico a PolitiFact sobre el vídeo:
Las personas más poderosas del mundo saben que no pueden derrotar a James Talarico con la verdad, así que lo están difamando con deepfakes de IA, bots extranjeros y teorías conspirativas para proteger su sistema político corrupto y roto.
La campaña rusa Storm-1516 y sus métodos de fabricación de identidades falsas
Darren Linvill, profesor de la Universidad de Clemson y director de su Centro de Análisis Forense de Medios, afirmó que el vídeo es obra de Storm-1516, una campaña de propaganda rusa que realizó un ataque infundado similar contra el gobernador demócrata de Minnesota, Tim Walz, en 2024, cuando Walz se presentó como candidato a la vicepresidencia. En aquella ocasión, el grupo utilizó a un actor pagado de África Occidental para atacar a Walz. En este caso, Linvill explicó que el vídeo fue generado para parecerse a un hombre real que tiene una cuenta en otra plataforma. El vídeo muestra a un hombre que afirma haber sido exalumno de Talarico en la Escuela Secundaria Rhodes de San Antonio, Texas, donde Talarico impartió Lengua y Literatura antes de iniciar su carrera política como representante estatal.
La empresa de análisis de redes sociales Graphika señaló en una entrada de su blog que la cuenta de X que difundió originalmente el vídeo suplantó con alta probabilidad a un usuario de Facebook con el mismo nombre, una persona que vive en Texas y que fue alumno de Talarico. Ese hombre había elogiado a Talarico en su página de Facebook en varias ocasiones, la más reciente en febrero. Los verificadores de hechos de Lead Stories hablaron con ese hombre, quien afirmó que el vídeo no lo muestra a él y negó haber acusado a Talarico de ninguna conducta indebida. PolitiFact también intentó contactar con él a través de Facebook sin obtener respuesta inmediata, y su revisión de la página de Facebook del hombre no encontró ningún vídeo en el que acusara a Talarico.
Las señales técnicas que delatan el deepfake
NewsGuard informó de que los vídeos presentaban numerosas señales características de la generación mediante IA, como movimientos oculares antinaturales y expresiones faciales estáticas, y que una herramienta de detección de IA mostró una probabilidad del 98% de que se tratara de un deepfake. Un deepfake es una imagen o vídeo generado por máquina que altera rostros, cuerpos o voces, haciendo que las personas parezcan hacer o decir cosas que nunca hicieron ni dijeron. Graphika señaló además que cuentas de redes sociales conocidas por amplificar el contenido de Storm-1516, así como varias cuentas de conservadores estadounidenses, compartieron el vídeo. Un destacado amplificador de Storm-1516 conocido como SGAnon compartió originalmente el vídeo y luego lo eliminó, escribiendo en X que un análisis demostraba que había sido generado artificialmente.
El manual de desinformación ruso y sus objetivos electorales
Linvill explicó que Storm-1516 utiliza habitualmente a los mismos influenciadores para introducir narrativas falsas en los debates políticos.
Si examinas el contenido reciente de los influenciadores que difundieron primero esta narrativa, puedes identificar fácilmente otras mentiras de Storm-1516. Creemos que les pagan por hacer esto. De la misma manera que las empresas de marketing pagan a los influenciadores para que promocionen productos, los rusos pagan a los influenciadores para que difundan mentiras.
El diario The New York Times informó recientemente de que Rusia y otros gobiernos extranjeros han intensificado sus esfuerzos para influir en las elecciones estadounidenses, apuntando principalmente contra los demócratas. Linvill coescribió un informe reciente sobre Storm-1516 y su trabajo dirigido contra el presidente ucraniano Volodimir Zelenski, y concluyó que estas campañas a menudo no tienen como objetivo cambiar el comportamiento o las opiniones de las personas, sino moldear el discurso público. Aplicando esos hallazgos al caso Talarico, Linvill señaló:
Al atrincherarse en esta visión de Talarico, los rusos probablemente esperan exacerbar el partidismo extremo y también animar a la gente a salir a votar por Ken Paxton. Quienes ya simpatizan con Talarico van a desestimar esta acusación como la falsificación obvia que es, pero ellos no son el público objetivo.