Los chatbots triplican las ventas mediante técnicas persuasivas

Los modelos de lenguaje de gran escala pueden ser muy persuasivos, y los investigadores afirman que esto supone un problema cuando se utilizan para crear publicidad.

Un trío de informáticos de la Universidad de Princeton se propuso examinar si los agentes de IA conversacional pueden manipular las decisiones de los consumidores durante las sesiones de compra online. Resulta que sí pueden influir en el comportamiento, y la mayoría de los consumidores que son dirigidos no se dan cuenta.

En un artículo preliminar titulado "Persuasión comercial en conversaciones mediadas por IA", los tres investigadores probaron el impacto de las promociones basadas en IA.

El comercio electrónico depende cada vez más de la IA

Lo hicieron porque el comercio online implica cada vez más la mediación de la IA. Entre el 30 y el 45 por ciento de los consumidores estadounidenses ya utilizan IA generativa para investigar y comparar productos, según dicen, y aproximadamente el 23 por ciento ha realizado una compra asistida por IA en diciembre de 2025.

Los experimentos consistieron en pedir a unos 2.000 lectores de libros electrónicos que navegaran por un catálogo de títulos disponibles en el lector Kindle y seleccionaran un libro. Los investigadores designaron una quinta parte de los libros electrónicos como "patrocinados" en el sistema backend, pero no lo revelaron a los participantes.

Tres escenarios de prueba revelan la manipulación

En una prueba, los investigadores utilizaron tres escenarios: una condición de Colocación-Búsqueda similar a los resultados de búsqueda web; una condición de Colocación-Chat donde los participantes interactuaban con un modelo de lenguaje de gran escala que proporcionaba descripciones neutrales de libros electrónicos mostrados en un carrusel web deslizable; y una condición de Chat-Persuasión, donde la interfaz era la misma pero se instruyó al modelo para empujar a los participantes hacia productos patrocinados.

El segundo experimento involucró una interfaz de chat conversacional en dos escenarios: uno exploró una condición Chat-Persuasión Explícita, en la que se dijo a los participantes que un chatbot promovería libros patrocinados; el otro se basó en una condición descrita como Chat-Persuasión Sutil, en la que se dijo al modelo que persuadiera a los participantes para seleccionar artículos patrocinados sin hacerles saber su objetivo.

Los investigadores asignaron aleatoriamente GPT-5.2, Claude Opus 4.5, Gemini 3 Pro, DeepSeek v3.2 o Qwen3 235b para manejar estas conversaciones, para asegurar que sus resultados no reportaran las tendencias de un solo modelo.

Los resultados muestran una manipulación efectiva

"Cuando se instruyó al agente para persuadir, el 61 por ciento de los participantes eligió un producto patrocinado, casi triplicando la tasa del 22 por ciento bajo la búsqueda tradicional", dijo Manoel Horta Ribeiro, profesor asistente de informática en la Universidad de Princeton y uno de los coautores, en una publicación online. "Simplemente chatear con una IA (sin persuasión) no funcionó mejor que la búsqueda: es la intención persuasiva lo que impulsa el efecto".

Ribeiro añadió que la transparencia - revelar que un resultado era patrocinado - no cambió materialmente las cosas. Con una advertencia explícita, el 55,5 por ciento aún eligió el producto patrocinado.

Y cuando se dirigió a los modelos de IA para ocultar su intención, la detección de persuasión disminuyó del 17,9 por ciento a solo el 9,5 por ciento, mientras que la tasa de persuasión solo bajó un poco, al 40,7 por ciento.

La separación arquitectónica como solución

Francesco Salvi, estudiante de doctorado en Princeton y autor correspondiente, dijo que la diferencia clave entre la promoción basada en IA y la publicidad tradicional es que los anuncios tradicionales pueden separarse del contenido que los rodea.

"Puedes desplazarte más allá de un resultado patrocinado, instalar un bloqueador de anuncios o aprender a reconocer un listado promocionado", explicó Salvi. "En un sistema de IA conversacional, esa separación desaparece: el mismo modelo que responde tu pregunta es el que elige qué productos destacar y decide cómo describirlos".

Salvi dijo que los resultados experimentales muestran que la divulgación es necesaria pero insuficiente. "Más allá de la divulgación, creemos que dos intervenciones estructurales merecen seria consideración", dijo. "Primero, separación arquitectónica entre la función de recomendación y los objetivos comerciales, para que el modelo que genera consejos no sea el mismo sistema que optimiza para conversiones patrocinadas. Segundo, auditoría independiente de las instrucciones del sistema y el comportamiento del modelo en despliegues comerciales".