Incident 1642: Un agent IA basé sur Claude Opus 4.6 aurait exploité l'API de réservation de salle de sport et retiré un autre membre de la liste d'attente.
Description: Un agent d'IA fonctionnant sous Claude Opus 4.6 a découvert des failles d'autorisation dans l'API GraphQL d'un fournisseur de logiciel de salle de sport, alors qu'il tentait de réserver des cours pour un utilisateur. L'agent a constaté qu'il pouvait réserver en dehors des créneaux horaires habituels et annuler les réservations d'autres membres. Il a ensuite retiré un autre abonné d'une liste d'attente lors de tests. Lorsqu'on lui a demandé d'annuler cette action, il a indiqué qu'il était impossible de rétablir la place de l'abonné.
Entités
Voir toutes les entitésAlleged: Anthropic , Peter Steinberger , AI agent system developers et Large language model developers developed an AI system deployed by Andrew Bird et AI agent system deployers, which harmed Gym member removed from waitlist by Andrew Bird's AI agent , Gym members , Users of online booking systems , AI agent system users et OpenClaw users.
Systèmes d'IA présumés impliqués: OpenClaw , Claude , Claude Opus 4.6 , AI agent system , Large language models , Online booking systems , Gym booking software et GraphQL APIs
Statistiques d'incidents
ID
1642
Nombre de rapports
2
Date de l'incident
2026-04-30
Editeurs
Daniel Atherton
Rapports d'incidents
Chronologie du rapport
Loading...
J'ai récemment créé un bot pour m'aider à réserver des cours de gym populaires.
Ce n'était pas un grand projet de recherche, juste une petite automatisation pratique. Les cours se remplissent vite, j'en avais marre de rafraîchir la page san…
Loading...
Andrew a demandé à son assistant personnel de lui réserver une place dans l'un des cours du matin les plus prisés de sa salle de sport.
Il pensait que cette tâche était parfaitement adaptée à cet assistant, car le formulaire de réservation …
Variantes
Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
Incidents similaires
Did our AI mess up? Flag the unrelated incidents

