El asistente de código ZCode sube repositorios sin consentimiento

La startup china Z.ai, con sede en Pekín y también conocida como Zhipu, anunció el lunes que había desactivado algunas funciones de su asistente de programación con IA ZCode después de que varios usuarios denunciaran en redes sociales que la herramienta estaba subiendo repositorios de código locales completos a servidores en la nube en el extranjero sin su consentimiento. Los desarrolladores chinos publicaron la semana pasada en redes sociales que ZCode había transferido sus datos de código desde la plataforma de desarrollo de código abierto Git hacia Alibaba Cloud. Z.ai remitió a Reuters a sus comunicados públicos cuando se le solicitó un comentario adicional sobre el incidente.

Origen del fallo y respuesta inicial de la empresa

En un comunicado publicado el viernes, Z.ai explicó que el problema tenía su origen en la función de "Indexación de Base de Código" de ZCode, que estaba activada por defecto, y que ya había parcheado la vulnerabilidad del software. La empresa se disculpó en una publicación en redes sociales y afirmó que los datos habían sido eliminados. Sin embargo, los usuarios señalaron que los archivos estaban cifrados con una clave privada de servidor en posesión exclusiva de Z.ai, lo que les impedía abrir o verificar sus propios archivos subidos o confirmar de forma independiente su eliminación. Los desarrolladores también publicaron en X y en la plataforma china RedNote que no existía ninguna opción para desactivar la función y que la política de privacidad de Z.ai no hacía ninguna mención previa a esta práctica.

Datos sensibles de empresas expuestos

La empresa tecnológica Chengming Technology denunció en redes sociales el viernes que seis de sus espacios de trabajo de programación habían sido subidos a la nube sin consentimiento por ZCode, incluyendo datos sensibles como código fuente completo, contraseñas de bases de datos e información personal de empleados. No obstante, el lunes Chengming Technology retiró su declaración alegando que contaba con "pruebas erróneas". La firma tecnológica china no respondió de inmediato a una solicitud de comentario.

Auditoría independiente y medidas adoptadas

El lunes, Z.ai anunció que había publicado el código abierto del asistente de programación, que ejecuta su último modelo de IA GLM-5.3, y que había desactivado determinadas funciones, comprometiéndose a hacer el producto más transparente. La empresa indicó que una evaluación de seguridad independiente realizada por el centro de investigación de estándares tecnológicos de la información afiliado al ministerio de industria chino y por la firma china de ciberseguridad NSFOCUS concluyó que los datos de código de los usuarios habían sido eliminados y no estaban retenidos por la plataforma en la nube. Z.ai también señaló que había activado una función de retención cero de datos en el asistente de programación utilizado por desarrolladores y empresas tecnológicas.

"De ahora en adelante, estableceremos un proceso continuo de notificación y respuesta ante vulnerabilidades de seguridad del producto", escribió Z.ai en una publicación separada en su cuenta oficial de ZCode en X el lunes.

"Una vez más, pedimos sinceras disculpas y damos la bienvenida al escrutinio continuo de la comunidad. El informe completo de la evaluación de seguridad se publicará próximamente", escribió Z.ai el lunes.

Contexto: seguridad en la IA y el marco regulatorio chino

La divulgación pública de esta brecha de seguridad por parte de un laboratorio de IA chino es poco habitual y se produce en un contexto de alertas globales sobre los riesgos de seguridad de la IA de frontera, y después de que varias empresas líderes de IA estadounidenses hayan anunciado incidentes de piratería informática y de agentes de IA "descontrolados" en las últimas semanas. El regulador chino de ciberseguridad publicó la semana pasada un marco de política de seguridad de IA actualizado, en el que advierte sobre la resistencia de los modelos de IA al apagado, el engaño a los evaluadores y el escape de entornos controlados. Z.ai anunció el mes pasado que su modelo GLM-5.3 se aproxima al rendimiento del modelo Mythos de Anthropic en la detección de vulnerabilidades de software, y lo publicó tras una revisión de dos semanas, convirtiéndose en el primer laboratorio chino en retrasar explícitamente el lanzamiento de un modelo de IA por razones de seguridad.