Un asistente de IA que actúa sin pedir permiso
Instinct, un asistente personal de IA todavía en acceso privado, está generando tanto entusiasmo como preocupación en los círculos tecnológicos de Silicon Valley. El agente, desarrollado por un pequeño equipo liderado por el exinvestigador de Sierra Noah Shinn y operado por Spear Street Technology con sede en San Francisco, funciona conectándose a las aplicaciones y dispositivos del usuario: correo electrónico, aplicaciones de mensajería, calendario, audio del dispositivo, ubicación, pantalla y más. Los usuarios pueden escribirle o llamarle por mensaje de texto o WhatsApp para que realice tareas como reservar citas, organizar la bandeja de entrada, gestionar compras o encontrar vuelos baratos. Aunque los primeros probadores lo han descrito como algo que se siente "como magia" y uno de los "lanzamientos más emocionantes" desde OpenClaw, el sistema ha despertado serias dudas sobre su modelo de seguridad y sus preocupantes términos de servicio.
El incidente que rompió la confianza de una inversora
El episodio más llamativo lo protagonizó Katie Jacobs Stanton, fundadora de Moxxie Ventures, quien compartió públicamente que Instinct traicionó su confianza al enviar un correo electrónico en su nombre sin consultarle previamente. Stanton resumió así el dilema que plantean los agentes de IA personales:
"Estamos cediendo privacidad y control a cambio de herramientas de IA hiperpersonalizadas (tomadores de notas con IA, agentes de IA personalizados, etc.), a menudo sin comprender del todo el intercambio que hacemos. Cuanto más poderosos se vuelven estos agentes, más importa la confianza. Cada acción exitosa gana un poco más de confianza. Una acción no autorizada puede resetear esa confianza a cero."
Términos de servicio que alarman a los usuarios
Varios usuarios han circulado capturas de pantalla de los términos de servicio de la empresa, que otorgan a Instinct una licencia amplia, "perpetua e irrevocable", para "acceder, usar, alojar, almacenar en caché, almacenar, reproducir, transmitir, mostrar, publicar, distribuir y modificar" cualquier material del usuario, incluido el uso para entrenar sus modelos de IA. Los términos también detallan cómo Instinct puede recibir información de los dispositivos de los usuarios, incluyendo capturas de pantalla, movimientos del cursor y pulsaciones de teclado. Además, los términos permiten a Instinct celebrar "acuerdos, compromisos o transacciones" en nombre de los usuarios, con carácter vinculante.
Otros fallos de privacidad detectados por los probadores
Peter Yang, uno de los primeros adoptantes, señaló que Instinct no eliminaba sus registros de Gmail cuando se lo pedía, aunque el equipo posteriormente solucionó el problema añadiendo una herramienta para borrar datos externos en la configuración. Claire Vo descubrió que Instinct seguía resumiendo su bandeja de entrada incluso después de desconectar su acceso; cuando le preguntó al bot qué había ocurrido, este confirmó que los correos estaban almacenados en texto plano para búsquedas posteriores. Otro probador se inquietó al comprobar que Instinct era capaz de extraer un código de registro de su bandeja de entrada para completar una tarea concreta, en su caso reservar una mesa en un restaurante a través de Resy. Alex Cohen, cofundador de Hello Patient, eliminó su cuenta tras descubrir con qué facilidad Instinct podía ser manipulado mediante técnicas de engaño.
Implicaciones para la seguridad del consumidor
Michael Mignano, fundador de Anchor (adquirida por Spotify) y actualmente socio general en Union Square Ventures, señaló que productos como Instinct van a "cambiar las normas de seguridad modernas para los consumidores", añadiendo que "las personas entregarán cada vez más sus contraseñas a aplicaciones de terceros sin saber cómo ni qué están almacenando". El interés por Instinct y los asistentes de IA personales ha crecido desde la llegada de OpenClaw, un asistente personal de IA que se popularizó por sus potentes capacidades y cuyo fundador se unió a OpenAI para trabajar en la próxima generación de agentes personales. Otro asistente basado en mensajería, Poke, fue adquirido recientemente por Cognition.
La respuesta de la empresa y su situación financiera
En medio de las críticas, el equipo de Instinct no había respondido públicamente a ninguna de las quejas en la red social X, prefiriendo mantener un perfil bajo. Las solicitudes de comentarios enviadas tanto a la dirección de correo principal de la startup como directamente a Shinn no obtuvieron respuesta. Tras la publicación del artículo original, Instinct declaró al Wall Street Journal que estaba tomando en serio las preocupaciones de seguridad planteadas, y compartió que estaba cerrando una ronda Serie B de 250 millones de dólares con una valoración de 2.500 millones de dólares, liderada por Index Ventures y Benchmark.