Incidents associés
La semaine dernière, pendant près de deux heures, des employés de Meta ont eu un accès non autorisé aux données de l'entreprise et des utilisateurs. La cause ? Un agent d'IA qui a fourni à l'un d'eux des conseils techniques erronés, comme l'a précédemment rapporté The Information. Dans une déclaration à The Verge, Tracy Clayton, porte-parole de Meta, a affirmé qu'« aucune donnée utilisateur n'a été compromise » durant l'incident.
Un ingénieur de Meta utilisait un agent d'IA interne, que Mme Clayton a décrit comme « similaire à OpenClaw au sein d'un environnement de développement sécurisé », pour analyser une question technique posée par un autre employé sur un forum interne. Or, après analyse, l'agent a également répondu publiquement à la question, sans autorisation préalable. Cette réponse était uniquement destinée à l'employé qui l'avait demandée et ne devait pas être publiée.
Un employé a ensuite suivi les conseils de l'IA, qui a fourni des informations inexactes, provoquant un incident de sécurité de niveau SEV1, le deuxième niveau de gravité le plus élevé utilisé par Meta. Cet incident a temporairement permis à des employés d'accéder à des données sensibles auxquelles ils n'étaient pas autorisés à accéder, mais le problème a depuis été résolu.
Selon Clayton, l'agent d'IA impliqué n'a entrepris aucune action technique, se contentant de publier des conseils techniques erronés, ce qu'un humain aurait également pu faire. Un humain aurait cependant pu effectuer des tests supplémentaires et porter un jugement plus éclairé avant de partager l'information. De plus, on ignore si l'employé à l'origine de la réponse avait l'intention de la publier.
« L'employé qui interagissait avec le système était pleinement conscient de communiquer avec un robot automatisé. Cela était indiqué par une mention légale en bas de page et par sa propre réponse dans cette conversation », a commenté Clayton auprès de The Verge. L'agent s'est contenté de répondre à une question. Si l'ingénieur qui a traité cette demande avait été mieux informé ou avait effectué des vérifications supplémentaires, cet incident aurait pu être évité.
Le mois dernier, un agent d'IA de la plateforme open source OpenClaw a dérapé chez Meta lorsqu'une employée lui a demandé de trier ses e-mails. OpenClaw a supprimé des e-mails sans autorisation. Le principe même des agents comme OpenClaw repose sur leur capacité à agir de manière autonome, mais comme tout modèle d'IA, ils n'interprètent pas toujours correctement les requêtes et les instructions, ni ne fournissent des réponses exactes. Les employés de Meta l'ont constaté à deux reprises.