Incidentes Asociados
Durante casi dos horas la semana pasada, empleados de Meta tuvieron acceso no autorizado a datos de la empresa y de los usuarios gracias a un agente de IA que proporcionó asesoramiento técnico erróneo a un empleado, como informó previamente The Information. La portavoz de Meta, Tracy Clayton, declaró a The Verge que "no se manipuló indebidamente ningún dato de usuario" durante el incidente.
Un ingeniero de Meta estaba utilizando un agente de IA interno, que Clayton describió como "similar a OpenClaw dentro de un entorno de desarrollo seguro", para analizar una pregunta técnica que otro empleado había publicado en un foro interno de la empresa. Sin embargo, el agente también respondió públicamente a la pregunta tras analizarla, sin obtener aprobación previa. La respuesta solo estaba destinada a ser mostrada al empleado que la solicitó, no publicada.
Un empleado actuó siguiendo el consejo de la IA, que proporcionó información inexacta y provocó un incidente de seguridad de nivel SEV1, el segundo nivel de gravedad más alto que utiliza Meta. El incidente permitió temporalmente a los empleados acceder a datos confidenciales que no estaban autorizados a ver, pero el problema ya se ha resuelto.
Según Clayton, el agente de IA involucrado no realizó ninguna acción técnica por sí mismo, más allá de publicar consejos técnicos inexactos, algo que un humano también podría haber hecho. Sin embargo, un humano podría haber realizado pruebas adicionales y emitido un juicio más completo antes de compartir la información; y no está claro si el empleado que originó la respuesta tenía la intención de publicarla.
"El empleado que interactuaba con el sistema era plenamente consciente de que se estaba comunicando con un bot automatizado. Esto se indicaba en una advertencia en el pie de página y en la propia respuesta del empleado en ese hilo", comentó Clayton a The Verge. El agente no realizó ninguna acción más allá de responder a una pregunta. Si el ingeniero que actuó en consecuencia hubiera tenido más conocimiento o hubiera realizado otras comprobaciones, esto se habría evitado.
El mes pasado, un agente de IA de la plataforma de código abierto OpenClaw (https://www.theverge.com/news/872091/openclaw-moltbot-clawdbot-ai-agent-news) actuó de forma descontrolada en Meta cuando una empleada le pidió que revisara sus correos electrónicos, eliminando mensajes sin su autorización. La idea principal de agentes como OpenClaw es que puedan actuar por sí solos, pero, como cualquier otro modelo de IA, no siempre interpretan correctamente las indicaciones e instrucciones ni dan respuestas precisas, un hecho que los empleados de Meta han comprobado en dos ocasiones.