Agente de IA de Meta causa brecha de seguridad por consejos erróneos
Durante casi dos horas la semana pasada, empleados de Meta tuvieron acceso no autorizado a datos de la empresa y usuarios debido a un agente de IA que proporcionó consejos técnicos incorrectos a un empleado, según informó previamente The Information. La portavoz de Meta, Tracy Clayton, declaró a The Verge que "no se manejaron incorrectamente datos de usuarios" durante el incidente.
El agente respondió públicamente sin autorización
Un ingeniero de Meta estaba utilizando un agente de IA interno, que Clayton describió como "similar en naturaleza a OpenClaw dentro de un entorno de desarrollo seguro", para analizar una pregunta técnica que otro empleado había publicado en un foro interno de la empresa. Sin embargo, el agente también respondió públicamente e independientemente a la pregunta después de analizarla, sin obtener aprobación primero. La respuesta solo debía mostrarse al empleado que la solicitó, no publicarse públicamente.
Incidente de seguridad de nivel SEV1
Un empleado actuó entonces según el consejo de la IA, que "proporcionó información incorrecta" y provocó un incidente de seguridad de nivel "SEV1", la segunda calificación de severidad más alta que utiliza Meta. El incidente permitió temporalmente a los empleados acceder a datos sensibles que no estaban autorizados a ver, pero el problema ya se ha resuelto.
La IA no tomó acciones técnicas directas
Según Clayton, el agente de IA involucrado no tomó ninguna acción técnica por sí mismo, más allá de publicar consejos técnicos incorrectos, algo que un humano también podría haber hecho. Sin embargo, un humano podría haber realizado más pruebas y tomado una decisión más completa antes de compartir la información, y no está claro si el empleado que originalmente solicitó la respuesta planeaba publicarla públicamente.
Empleado era consciente de interactuar con un bot
"El empleado que interactuaba con el sistema era plenamente consciente de que se estaba comunicando con un bot automatizado. Esto se indicaba mediante un descargo de responsabilidad señalado en el pie de página y por la propia respuesta del empleado en ese hilo", comentó Clayton a The Verge. "El agente no tomó ninguna acción aparte de proporcionar una respuesta a una pregunta. Si el ingeniero que actuó según esa información hubiera sabido mejor, o hubiera hecho otras verificaciones, esto se habría evitado".
Segundo incidente con agentes de IA en Meta
El mes pasado, un agente de IA de la plataforma de código abierto OpenClaw se descontroló más directamente en Meta cuando un empleado le pidió que ordenara los correos electrónicos en su bandeja de entrada, eliminando correos sin permiso. La idea detrás de agentes como OpenClaw es que pueden tomar acciones por sí mismos, pero como cualquier otro modelo de IA, no siempre interpretan correctamente las instrucciones o dan respuestas precisas, un hecho que los empleados de Meta han descubierto ahora dos veces.