En dos palabras
Esta serie examina la investigación reciente en seguridad de la inteligencia artificial para quienes protegen sistemas que ya la usan. En esta edición, los trabajos giran en torno a una idea común: los puntos de entrada que parecen inocuos, una habilidad de terceros, un artículo de noticias, una tarjeta de metadatos, un reescrito de mantenimiento, pueden convertirse en vectores de ataque sin que el sistema lo note. Si tu organización despliega agentes, usa herramientas de análisis estático o confía en predicciones generadas por modelos, esta quincena trae material directamente aplicable.
Contexto
La superficie de ataque de los sistemas de inteligencia artificial lleva meses expandiéndose en una dirección concreta: ya no hace falta comprometer el modelo en sí. Basta con contaminar lo que el modelo consume, las habilidades que recupera, los documentos que procesa, las noticias que recupera como evidencia. Esta quincena, doce trabajos publicados en arXiv entre el 9 y el 16 de noviembre de 2026 documentan esa tendencia desde ángulos distintos.
Algunos de los trabajos atacan la cadena de suministro de agentes LLM: envenenan las habilidades que un agente descarga de un registro público, manipulan las tarjetas de metadatos que usa para descubrir otros agentes, o redirigen las acciones de un agente móvil incrustando instrucciones en la interfaz de una aplicación. Otros apuntan a la infraestructura clásica de seguridad: demuestran que una herramienta SAST como CodeQL puede silenciarse con un reescrito de aspecto inocente, o que los detectores de intrusiones basados en redes neuronales sin pesos son más frágiles de lo que parecen. Y un tercer grupo examina amenazas emergentes, desde la inyección de puertas traseras directamente en los pesos de una red neuronal hasta los ataques de fallo de hardware sobre sistemas de aprendizaje por refuerzo.
El hilo que los une es la ciberseguridad e inteligencia artificial entendida como disciplina de adversarios reales, no de laboratorio aséptico. Varios de estos trabajos miden el coste económico del ataque, la tasa de transferencia a modelos no vistos durante el entrenamiento del ataque, o el impacto sobre métricas operativas como el tiempo de espera de vehículos en un semáforo. Eso los acerca al mundo real, aunque siguen siendo preprints sin revisión por pares.
Panorama de un vistazo
| Tecnica | Que hace | Madurez del riesgo | Fuente | Fecha |
|---|---|---|---|---|
| StealthyPoison | Envenena habilidades de terceros para agentes LLM sin revelar instrucciones maliciosas | Demostrado en laboratorio | Qiao et al. | 2026-11-09 |
| AudioTrace | Detecta si una grabación de audio fue usada para entrenar un modelo de audio | Demostrado en laboratorio | Sun et al. | 2026-11-16 |
| Geometría representacional como diagnóstico | Usa la geometría interna de la red para auditar robustez adversarial | Demostrado en laboratorio | Ismalej et al. | 2026-11-13 |
| VAST | Compilador de escenarios de vulnerabilidad para evaluar agentes de red teaming | Demostrado en laboratorio | Wan | 2026-11-14 |
| Inyección en artefactos de cumplimiento industrial | Manipula documentos SDS, QC y DPP generados por LLM mediante prompt injection | Apoyado en vectores ya conocidos | Watson et al. | 2026-11-14 |
| SECCARD | Detecta manipulaciones en tarjetas de metadatos del protocolo Agent2Agent | Demostrado en laboratorio | Guirao Aguilera et al. | 2026-11-13 |
| Binarización como superficie de ataque en WNN | Explota umbrales de codificación en redes neuronales sin pesos para evadir detección de intrusiones | Demostrado en laboratorio | Coutinho et al. | 2026-11-13 |
| Evasión de CodeQL con reescritos naturales | Silencia alertas de análisis estático con cambios de mantenimiento que preservan la vulnerabilidad | Apoyado en vectores ya conocidos | Cao et al. | 2026-11-12 |
| Backdoors por programación en espacio de pesos | LLMs modifican pesos de redes neuronales para inyectar puertas traseras sin datos ni gradientes | Demostrado en laboratorio | Wang et al. | 2026-11-12 |
| MobileProbe | Marco de red teaming adaptativo para agentes móviles GUI mediante inyección ambiental | Demostrado en laboratorio | Jin et al. | 2026-11-12 |
| Ataques de fallo hardware sobre Q-Learning | Glitching de voltaje y reloj corrompe tablas Q y pesos en sistemas de RL | Demostrado en laboratorio | Slooff et al. | 2026-11-12 |
| Noticias falsas en sistemas de predicción LLM | Un artículo fabricado invierte las predicciones de sistemas de forecasting con recuperación de información | Apoyado en vectores ya conocidos | Zhang y Stadie | 2026-11-11 |
StealthyPoison: envenenamiento silencioso de habilidades para agentes LLM
Los agentes LLM modernos no operan solos. Recuperan habilidades, pequeños módulos de procedimiento, de registros públicos y las ejecutan para completar tareas del usuario. Ese modelo de funcionamiento abre una superficie de ataque que el trabajo de Jingfen Qiao, Rui Li, Shuaiqun Pan, Olga Gadyatskaya, Andrew Yates y Evangelos Kanoulas explora con detalle.
La técnica, denominada StealthyPoison, corrompe las reglas de decisión de una habilidad sin alterar su funcionalidad visible. El agente descarga la habilidad, la ejecuta, y produce resultados incorrectos sin que nada en la interfaz lo delate. Según el trabajo, el ataque no necesita conocer las peticiones reales de los usuarios: sintetiza peticiones a partir de la habilidad pública, ejecuta la versión limpia con un agente sustituto para obtener pseudo-referencias, y usa ese feedback para refinar iterativamente los payloads. Para aumentar la probabilidad de que la habilidad envenenada sea seleccionada sobre alternativas benignas, el ataque también manipula los metadatos de recuperación.
Los autores reportan que StealthyPoison mejora la colocación en el primer puesto de recuperación un 13,6% respecto a HotFlip y GCG, evaluado sobre 566 habilidades objetivo y 5.244 peticiones en un registro de más de 26.000 entradas. Afirman además que los payloads construidos con un único modelo sustituto se transfieren sin modificación a tres modelos víctima distintos y logran éxito de extremo a extremo en un flujo de trabajo de Claude Code con Opus 4.8. La evaluación defensiva, según los autores, muestra que la mayoría de los payloads evaden tanto SkillSpector como GPT-5.4-mini.
Desde la lectura del editor, esta técnica encaja directamente con LLM04 (Data and Model Poisoning) del OWASP Top 10 for LLM Applications, y con la táctica de envenenamiento de la cadena de suministro de MITRE ATLAS. El vector es especialmente preocupante porque opera antes de que el agente ejecute ninguna instrucción del usuario: la contaminación está en la habilidad, no en el prompt. Sobre las cifras, conviene recordar que los resultados de transferencia se miden en entornos controlados con modelos específicos; el comportamiento en despliegues reales con registros heterogéneos y pipelines de validación propios puede diferir.
StealthyPoison, Qiao et al., arXiv 2026-11-09
AudioTrace: auditoría de membresía a nivel de fichero de audio
Cuando una empresa entrena un modelo de audio con grabaciones públicas, los propietarios de esas grabaciones tienen un interés legítimo en saber si su material fue usado. El problema es técnicamente difícil: los métodos existentes de inferencia de membresía, que determinan si un ejemplo estuvo en el conjunto de entrenamiento, asumen que se conocen las anotaciones textuales asociadas a cada grabación. En la práctica, esas anotaciones pueden ser privadas o inexistentes.
Guangzhi Sun, Xiao Zhan, Shuai Wang, Jose Such y Phil Woodland presentan AudioTrace, el primer trabajo que aborda la inferencia de membresía a nivel de fichero de audio sin asumir conocimiento de las tareas de entrenamiento ni de las anotaciones. Los autores introducen AudioTraceBench, un benchmark controlado de 1.285 grabaciones con etiquetas explícitas de membresía en fine-tuning. Según el trabajo, los métodos existentes adaptados desde texto y vídeo rinden cerca del azar en este contexto. AudioTrace genera preguntas proxy condicionadas al audio usando el propio modelo objetivo, extrae evidencia de membresía de sus respuestas y la agrega a nivel de grabación. Los autores reportan un AUROC de 0,60, que aumenta con mayor exposición al fine-tuning o mayor capacidad de adaptación.
Un AUROC de 0,60 es modesto, y los propios autores lo presentan como un punto de partida, no como una solución. Desde el punto de vista del editor, el trabajo es relevante porque establece AudioTrace como herramienta de auditoría de privacidad y derechos de autor, un área que encaja con LLM02 (Sensitive Information Disclosure) de OWASP. La limitación práctica es clara: con ese nivel de discriminación, un auditor real necesitaría muchas grabaciones para obtener señal estadísticamente fiable, y el método aún no está probado fuera de entornos de laboratorio controlados.
AudioTrace, Sun et al., arXiv 2026-11-16
Geometría representacional como diagnóstico de robustez adversarial
Medir la robustez de una red neuronal por su precisión bajo ataque es la práctica habitual. Brandon Ismalej, Alex Cloninger y Gal Mishne proponen que esa métrica puede ocultar información importante sobre cómo la red organiza internamente sus representaciones.
El trabajo entrena perceptrones multicapa sobre MNIST bajo tres regímenes de entrenamiento adversarial y compara la geometría de las representaciones latentes con la de una red estándar. Usando M-PHATE para visualizar cómo evolucionan las representaciones a lo largo del entrenamiento, los autores miden el desplazamiento entre puntos limpios y perturbados en la penúltima capa, la distancia distribucional mediante maximum mean discrepancy, y la recuperación de vecinos más cercanos. Según el estudio, el entrenamiento adversarial produce cambios estructurales en cómo la red organiza sus representaciones internas, y la precisión robusta y la estabilidad representacional pueden ordenar las mismas defensas en sentidos opuestos.
Esto es relevante para el auditor de modelos. Si dos defensas tienen precisión robusta similar pero geometrías internas distintas, la métrica de precisión no distingue entre ellas. Desde la lectura del editor, el trabajo apunta a una brecha en los marcos de evaluación actuales: MITRE ATLAS incluye la evasión de modelos como táctica, pero los criterios de auditoría de robustez rara vez van más allá de la precisión bajo ataque. La propuesta de usar las representaciones latentes como artefactos diagnósticos es una dirección metodológica interesante, aunque los experimentos se limitan a MNIST y perceptrones, lo que restringe la generalización a arquitecturas más complejas.
Geometría representacional, Ismalej et al., arXiv 2026-11-13
VAST: un compilador de escenarios de vulnerabilidad para agentes de red teaming
Evaluar un agente LLM que hace red teaming requiere entornos reproducibles donde la dificultad pueda variarse y los fallos puedan diagnosticarse. Zhen Wan presenta VAST (Verifiable Adversarial Scenario Training and Evaluation), un compilador declarativo que separa los escenarios de vulnerabilidad de una capa de endurecimiento del flujo de trabajo introducida por el compilador.
Según el trabajo, el benchmark principal retiene 109 aristas semilla, 45 de ellas con anotaciones CVE estrictas, y 1.387 instancias. Los experimentos muestran que glm-5.3, grok-4.7 y deepseek-v4-pro resuelven 12 de 90 instancias bajo la condición contract_only y 14 de 90 bajo generic_hint, mientras que proporcionar el protocolo de flujo de trabajo completo en full_guide eleva la resolución a 76 de 90. En el ledger ranges_v2, una evaluación de 126 episodios sobre flujos de trabajo con stacks Docker y Linux resuelve 88 de 126 instancias (69,8%). Una intervención de 18 episodios sobre encadenamiento de workers Redis asíncronos eleva las resoluciones de 0 de 18 a 18 de 18 cuando se revelan los módulos instalados.
Desde la perspectiva del editor, VAST es una contribución a la infraestructura de evaluación, no un ataque en sí. Su valor está en que permite medir de forma reproducible cuánto ayuda o perjudica revelar información del entorno a un agente de red teaming, lo que tiene implicaciones directas para el diseño de sistemas de respuesta a incidentes asistidos por IA. El salto de 14 a 76 resoluciones al revelar el protocolo completo ilustra cuánto depende la capacidad ofensiva de los agentes del contexto que reciben, un dato que los defensores deben tener en cuenta al diseñar qué información exponen.
Inyección en artefactos de cumplimiento industrial
Las fichas de datos de seguridad (SDS), los documentos de control de calidad (QC) y los pasaportes digitales de producto (DPP) son documentos regulados que las organizaciones industriales generan cada vez más con ayuda de LLMs. Adriana Watson, Marco Bücheler y Grant Richards examinan qué ocurre cuando esos documentos contienen instrucciones maliciosas incrustadas.
El trabajo estudia cómo distintos tipos de prompt injection comprometen LLMs con tareas de generación de documentos industriales. Según los autores, el éxito del ataque varía significativamente entre modelos. Las inyecciones de falsificación activa son las más exitosas en todos los escenarios, mientras que los modelos muestran mayor robustez frente a solicitudes de anulación inyectadas de forma pasiva.
Este vector encaja con LLM01 (Prompt Injection) de OWASP, pero el contexto industrial añade una dimensión que los estudios sobre chatbots no capturan: un documento SDS falsificado puede tener consecuencias regulatorias y de seguridad física. Desde la lectura del editor, la variación entre modelos que reportan los autores sugiere que la elección del modelo base no es indiferente para aplicaciones industriales, y que los pipelines de generación de documentos regulados deberían incluir validación humana antes de cualquier uso oficial. El trabajo no especifica qué modelos son más robustos, lo que limita la aplicabilidad directa de sus conclusiones.
Inyección en artefactos industriales, Watson et al., arXiv 2026-11-14
SECCARD: validación de tarjetas de agente en el protocolo Agent2Agent
El protocolo Agent2Agent (A2A) permite que orquestadores descubran y llamen a agentes externos usando metadatos legibles por máquina llamados Agent Cards. Esas tarjetas contienen campos en lenguaje natural que un atacante puede controlar, lo que crea un problema de confianza antes de que el proveedor sea invocado.
Miguel A. Guirao Aguilera, Satyajayant Misra y Efren Lopez-Morales caracterizan esta superficie de ataque mediante una taxonomía de diez categorías de manipulación de Agent Cards y presentan SECCARD, un marco de validación por capas que combina comprobaciones de protocolo, análisis determinista y razonamiento semántico basado en LLM. Los autores reportan haber sondeado 36,1 millones de dominios de Internet y recopilado 310 Agent Cards desplegadas. Según el trabajo, el juez semántico más potente alcanza un 97,0% de recall de seguridad con una tasa de falsos positivos del 1,7% sobre ataques controlados inyectados en tarjetas reales. En el benchmark sintético, el recall de seguridad varía entre el 25,8% y el 92,3% según el modelo LLM usado como juez.
La variación de casi 70 puntos porcentuales entre modelos es el dato más relevante para el defensor. Desde la lectura del editor, esto encaja con la táctica de manipulación de metadatos de MITRE ATLAS y con LLM01 de OWASP aplicado al plano de descubrimiento de agentes. El trabajo también pone de manifiesto que el ecosistema A2A ya tiene presencia real en Internet, con cientos de tarjetas desplegadas, lo que convierte esta amenaza en algo más que teórica. La dependencia crítica del modelo LLM subyacente para la efectividad del sistema de defensa es una advertencia práctica: no basta con desplegar SECCARD, hay que elegir bien el juez.
SECCARD, Guirao Aguilera et al., arXiv 2026-11-13
Binarización como superficie de ataque en redes neuronales sin pesos
Las redes neuronales sin pesos (WNN, por sus siglas en inglés) son clasificadores ligeros que binarizán sus entradas y aprenden almacenando patrones binarios en memorias de búsqueda. Su uso en detección de intrusiones en entornos con recursos limitados las hace relevantes para seguridad industrial y de red. La intuición de que son naturalmente robustas a ejemplos adversariales, porque una perturbación pequeña que no cruza ningún umbral de binarización deja la entrada sin cambios, es el punto de partida del trabajo de Lucas Senos Coutinho, Matheus Vargas, Pedro Teixeira, Heudson Tosta Mirandola, Ori Rottenstreich, Priscila Machado Vieira Lima, Leandro Santiago y Daniel Sadoc Menasche.
El trabajo estudia WiSARD y dos variantes que sustituyen sus memorias por filtros de Bloom. Los autores formalizan el mecanismo de ataque con una cota de cruce de umbral y un certificado de margen de respuesta para WiSARD booleano estándar. Los experimentos sobre MNIST comparan codificaciones termómetro lineales y basadas en datos bajo ataques de sensibilidad agnósticos al modelo, un ataque de recocido simulado basado en puntuaciones, y ataques de transferencia por sustituto. Según el trabajo, cambiar únicamente la codificación mientras se mantiene el modelo fijo puede intercambiar una pequeña pérdida de precisión limpia por una gran reducción del éxito del ataque. En los conjuntos de datos de detección de intrusiones Bot-IoT, CICIDS y UNSW-NB15, los autores reportan que las perturbaciones adversariales llevan a los detectores WNN a clasificar muchos ataques como tráfico normal y a generar falsas alarmas, incluso cuando su precisión agregada permanece alta.
Este último punto merece atención. Una precisión agregada alta que coexiste con una tasa de evasión significativa es exactamente el tipo de métrica engañosa que puede dar falsa confianza a un equipo de seguridad. Desde la lectura del editor, esto conecta con la táctica de evasión de ML de MITRE ATLAS y subraya que los detectores de intrusiones basados en aprendizaje automático necesitan evaluación adversarial específica, no solo métricas de clasificación estándar.
Binarización como superficie de ataque, Coutinho et al., arXiv 2026-11-13
Evasión de CodeQL con reescritos naturales
Las herramientas de análisis estático de seguridad (SAST) como CodeQL actúan como puertas de seguridad en la integración continua. Cuando una alerta desaparece tras un cambio, desarrolladores y herramientas suelen inferir que la vulnerabilidad ha sido corregida. Zhezhen Cao, Weiyuan Ding y Bowen Xu cuestionan esa inferencia.
El trabajo prueba la robustez del seguimiento de contaminación (taint tracking) de CodeQL para JavaScript con reescritos que preservan la vulnerabilidad pero tienen aspecto de cambios de mantenimiento ordinarios. Un LLM, al que solo se le muestra la alerta que CodeQL expone sin conocimiento de su implementación, reescribe una función a lo largo del flujo reportado como si fuera un cambio de mantenimiento plausible. Los autores verifican mediante auditoría manual y experimentos controlados que el fallo persiste y la alerta desaparece. Según el trabajo, sobre 172 flujos que CodeQL detecta en vulnerabilidades reales de npm, tres reescritos por flujo silencian el 26,2% de ellos, a un coste aproximado de 0,51 dólares por alerta silenciada. El mismo generador, al que solo se pide refactorizar sin conocimiento de la alerta, no silencia ninguna. Los autores identifican siete brechas en el límite de modelado de bibliotecas; 64 de los 70 reescritos que silencian alertas cruzan una brecha dentro de una API que CodeQL ya modela. Además, el 74% de los reescritos también silencian un analizador de contaminación independiente, y el 53% escapan a tres analizadores combinados.
Desde la lectura del editor, este trabajo tiene implicaciones inmediatas para cualquier equipo que use SAST como control de seguridad en CI/CD. La combinación de bajo coste económico, aspecto de mantenimiento legítimo y transferencia a múltiples analizadores lo convierte en un vector apoyado en prácticas ya conocidas de evasión de herramientas de seguridad. La cifra del 26,2% de silenciamiento con tres reescritos proviene de un conjunto específico de vulnerabilidades npm y de un modelo LLM concreto; en otros contextos el porcentaje puede variar, pero la dirección del riesgo es clara.
Evasión de CodeQL, Cao et al., arXiv 2026-11-12
Backdoors por programación en espacio de pesos
La programación en espacio de pesos (weight-space programming, WSP) es una capacidad emergente: un LLM inspecciona y modifica directamente los pesos de otra red neuronal siguiendo instrucciones en lenguaje natural, sin entrenamiento por gradientes ni acceso a datos de la tarea. Zhaojia Wang, Jiucui Lu y Zheng Li preguntan si esa capacidad puede usarse para inyectar puertas traseras.
El trabajo evalúa cinco LLMs como editores de pesos sobre tres arquitecturas objetivo: un MLP sobre MNIST, ResNet-18 sobre CIFAR-10, y Qwen2.5-0.5B-Instruct sobre AG News. Según los autores, los tres hallazgos principales son: primero, la edición de pesos dirigida por LLM puede inyectar puertas traseras en distintas arquitecturas preservando en gran medida el rendimiento limpio; segundo, los ataques exitosos pueden requerir muy pocas modificaciones de parámetros, incluyendo solo seis parámetros para el MLP y el 0,02% de los pesos para el modelo Qwen ajustado; tercero, las capacidades de edición varían sustancialmente entre LLMs y arquitecturas objetivo, y aunque los cinco LLMs consiguen comprometer el MLP, solo GPT-6 Astra tiene éxito en los tres objetivos.
Desde la lectura del editor, este trabajo describe una amenaza que encaja con LLM04 (Data and Model Poisoning) de OWASP y con la táctica de envenenamiento de modelos de MITRE ATLAS, pero con un vector inusual: el atacante no necesita datos de entrenamiento ni acceso al pipeline de fine-tuning, solo capacidad de editar los pesos del modelo desplegado. Eso lo convierte en una amenaza relevante para entornos donde los modelos se distribuyen como artefactos y pueden ser modificados antes de su despliegue. Las cifras de éxito provienen de arquitecturas relativamente simples o de modelos pequeños; la generalización a modelos de producción de gran escala no está demostrada en el trabajo.
Backdoors por WSP, Wang et al., arXiv 2026-11-12
MobileProbe: red teaming adaptativo para agentes móviles
Los agentes GUI móviles leen la pantalla de un teléfono y operan aplicaciones en nombre del usuario para completar tareas de varios pasos como compras en línea o mensajería. Porque el agente actúa sobre lo que la pantalla muestra, un atacante puede incrustar instrucciones maliciosas en contenido ordinario de la interfaz y redirigir sus acciones. Yingbin Jin, Ji'an Wang, HaoYang Chai, Hanjun Luo, Li Hu, Xinfeng Li, Huadi Zheng, PeiZhao Hu, Qingqing Ye y Haibo Hu denominan esta amenaza ataque de inyección ambiental (EIA).
El trabajo señala dos limitaciones de los benchmarks existentes: los payloads están fijados a un paso concreto de una tarea concreta, y un agente que siga una ruta distinta y nunca llegue a la página inyectada queda registrado como seguro sin haber sido realmente probado. MobileProbe descubre superficies de contenido controlables por el atacante mediante pentesting automatizado, localiza puntos de decisión vulnerables a lo largo de la trayectoria del agente, y refina iterativamente payloads conscientes del contexto mediante un bucle evolutivo filtrado por un sustituto. Los autores construyen un benchmark de 83 instancias de ataque de largo horizonte sobre 12 aplicaciones móviles, anotadas con objetivos CIA (confidencialidad, integridad, disponibilidad). Según el trabajo, MobileProbe alcanza tasas de éxito de ataque superiores a las de payloads escritos por humanos, LLMs de cero disparos y baselines automatizados previos adaptados al dominio móvil.
Desde la lectura del editor, este trabajo encaja con LLM01 (Prompt Injection) de OWASP en su variante ambiental y con la táctica de evasión de ML de MITRE ATLAS. La cobertura de trayectoria adaptativa es la contribución metodológica más relevante para el defensor: un benchmark que solo prueba pasos fijos subestima el riesgo real de un agente que puede tomar rutas distintas según el estado de la aplicación. Las cifras de éxito no se detallan numéricamente en el abstract más allá de la comparación cualitativa con los baselines, lo que limita la comparación directa.
MobileProbe, Jin et al., arXiv 2026-11-12
Ataques de fallo hardware sobre Q-Learning
El aprendizaje por refuerzo (RL) se usa en aplicaciones de seguridad crítica como el control de tráfico, pero su exposición a ataques de hardware ha recibido poca atención. Tom Slooff, Anthony Etim, Jiaqi Yu, Francesco Regazzoni y Jakub Szefer presentan un análisis de seguridad de implementaciones de Q-Learning bajo ataques de glitching de voltaje y reloj en una plataforma ChipWhisperer.
El trabajo evalúa cinco variantes: Q-Learning estándar, robusto, resiliente, lineal y profundo. Según los autores, en implementaciones estándar de Q-Table, los fallos corrompen el cálculo de recompensas, la selección de acciones y las actualizaciones de valores Q durante el aprendizaje, y cambian la acción seleccionada durante la inferencia. El Q-Learning robusto no previene estos ataques: los valores NaN e infinito inyectados durante el aprendizaje persisten en la Q-table. La variante resiliente aplica redundancia modular triple con votación por mayoría y corrige la corrupción de una copia, pero las entradas compartidas por las copias, como la recompensa, y el propio código de votación quedan fuera de su protección. En un controlador de semáforos real sobre un simulador de tráfico microscópico, los autores reportan que un único valor infinito inyectado degrada el tiempo de espera acumulado de vehículos en 148 veces mientras corrompe menos del 4% de la Q-table.
Ese último dato es llamativo. Un impacto operativo de 148 veces con menos del 4% de corrupción ilustra cómo los ataques de fallo hardware pueden tener efectos desproporcionados en sistemas de RL desplegados en infraestructura crítica. Desde la lectura del editor, esto conecta con la categoría de ataques físicos a sistemas de decisión de MITRE ATLAS y subraya que la redundancia modular triple, aunque útil, no es suficiente si las entradas compartidas no están protegidas.
Ataques de fallo sobre Q-Learning, Slooff et al., arXiv 2026-11-12
Noticias falsas en sistemas de predicción LLM
Los sistemas de forecasting basados en LLM recuperan noticias como evidencia para reforzar sus predicciones. Zeyu Zhang y Bradly C. Stadie estudian al atacante más débil posible en ese contexto: alguien que solo conoce la pregunta de predicción y publica artículos fabricados, sin acceso al modelo, al recuperador ni a sus consultas.
Según el trabajo, una vez que el artículo fabricado está en el contexto del modelo, invierte entre el 74% y el 82% de las predicciones que se le oponían, en todos los modelos frontera probados. Los autores reportan que las arquitecturas de dos sistemas de forecasting desplegados líderes, cuyos agentes buscan todos los artículos relacionados, recuperan el artículo fabricado en aproximadamente el 90% de las ejecuciones. La precisión media del sistema atacado apenas cambia, porque el sistema acierta cuando la dirección del atacante resulta correcta y falla en caso contrario. El trabajo también evalúa un segundo atacante que publica dos artículos en direcciones opuestas para hacer al sistema indeciso; el modelo no cubre su posición sino que devuelve una predicción confiada en una dirección que el atacante ya no controla. Las dos defensas de recuperación más fuertes publicadas, filtrado de pasajes y recuperación particionada, detienen el ataque de un artículo pero son evadidas con un cambio de un prompt. Juntas detienen ambas evasiones con cuatro artículos, pero dieciséis copias distorsionadas las superan, y cambian el 29% de las decisiones limpias y descartan el 39% de las noticias genuinas.
Desde la lectura del editor, este trabajo describe un vector apoyado en prácticas ya conocidas de desinformación, pero con una precisión técnica nueva: la arquitectura de recuperación que hace mejor su trabajo de encontrar evidencia relevante es también la más expuesta al artículo fabricado. Eso crea un dilema de diseño sin solución fácil. Para sistemas que buscan en la web abierta, las defensas basadas en control del índice de recuperación no son aplicables, y el filtrado solo no es suficiente según los experimentos reportados.
Noticias falsas en forecasting LLM, Zhang y Stadie, arXiv 2026-11-11
Que defender
Esta quincena presenta un panorama donde la mayoría de los vectores no son teóricos: operan sobre infraestructura que ya existe, registros públicos de habilidades, pipelines de generación de documentos industriales, herramientas SAST en CI/CD, sistemas de forecasting con recuperación web. Eso cambia el tipo de respuesta que se necesita.
El triaje del editor es el siguiente. Las amenazas con mayor inminencia son tres. La evasión de CodeQL con reescritos naturales opera sobre herramientas ya desplegadas en millones de pipelines, tiene un coste económico medido y se transfiere a múltiples analizadores; hay que vigilarla ya. La inyección en artefactos de cumplimiento industrial afecta a documentos regulados con consecuencias legales y de seguridad física; cualquier organización que use LLMs para generar SDS, QC o DPP debe asumir que ese pipeline es un vector activo. Las noticias falsas en sistemas de forecasting afectan a sistemas ya desplegados con arquitecturas conocidas; la defensa perfecta no existe según los experimentos reportados, y la exposición es proporcional a la calidad del recuperador. En un segundo nivel, StealthyPoison y MobileProbe demuestran ataques en laboratorio sobre arquitecturas reales (Claude Code, agentes móviles) con tasas de transferencia reportadas; son vectores a vigilar en el corto plazo. Los ataques de fallo hardware sobre Q-Learning y la inyección de backdoors por programación en espacio de pesos son amenazas demostradas en laboratorio pero que requieren acceso físico al hardware o capacidad de editar pesos del modelo, lo que eleva la barrera de entrada. La geometría representacional como diagnóstico y AudioTrace son contribuciones metodológicas más que amenazas inmediatas; su valor está en mejorar cómo se auditan los modelos.
Para el defensor, las medidas de corto plazo más concretas son estas. Primero, añadir validación humana obligatoria antes de publicar cualquier documento regulado generado por LLM, sin excepción. Segundo, tratar las alertas desaparecidas en SAST después de un cambio de mantenimiento como señal de alerta, no como confirmación de corrección, y exigir revisión manual del flujo original. Tercero, para sistemas de forecasting con recuperación web, implementar un paso de verificación de procedencia de fuentes antes de que el artículo entre en el contexto del modelo, asumiendo que el filtrado solo no es suficiente. Cuarto, auditar los registros de habilidades de los agentes LLM desplegados con la misma disciplina que se audita una dependencia de software: origen, integridad y comportamiento observado. Quinto, para sistemas de RL en infraestructura crítica, extender la protección de redundancia modular triple a las entradas compartidas, no solo a las copias de la tabla.
Metodología y fuentes
Esta edición se basa exclusivamente en los abstracts de doce preprints publicados en arXiv entre el 9 y el 16 de noviembre de 2026, todos en dominio público bajo las condiciones de acceso abierto de arXiv. Los preprints no han pasado revisión por pares formal. Ningún dato ha sido alterado, extrapolado ni inferido más allá de lo que los abstracts afirman explícitamente. El análisis editorial, el encuadre en marcos OWASP y MITRE ATLAS, y las recomendaciones defensivas son criterio del editor y no afirmaciones de los autores. Curado por La AutopsIA.
Cierre
La lección más incómoda de esta quincena no es que existan nuevos ataques, sino que varios de los más efectivos cuestan menos de un dólar por vector y operan sobre las herramientas en las que más confiamos para detectar problemas: el analizador estático que silenciamos cuando desaparece la alerta, el recuperador que premiamos por encontrar más evidencia, el registro de habilidades que el agente consulta sin preguntar.
La AutopsIA del Riesgo | Ciberseguridad e Inteligencia Artificial. Serie quincenal de La AutopsIA. Reúne y analiza la investigación reciente en seguridad de la inteligencia artificial: recopila trabajos de fuentes abiertas, los explica en claro y los sitúa en el mapa de amenazas, sin alterar ni un dato. Curado por La AutopsIA.
