Incidents associés
En décembre, Amazon Web Services a subi une panne de 13 heures sur l'un de ses systèmes, suite aux actions de son assistant de programmation IA, Kiro, selon le Financial Times (https://www.ft.com/content/00c282de-ed14-4acd-a948-bc8d6bdb339d). Plusieurs employés d'Amazon, restés anonymes, ont indiqué au FT que l'agent IA Kiro était responsable de cet incident survenu en décembre et ayant affecté un service AWS dans certaines régions de Chine continentale. Selon des sources proches du dossier, l'outil a choisi de « supprimer et recréer l'environnement » sur lequel il travaillait, ce qui a provoqué la panne.
Alors que Kiro requiert normalement la validation de deux personnes pour appliquer des modifications, le bot disposait des autorisations de son opérateur, et une erreur humaine à ce niveau lui a permis d'accéder à des ressources plus étendues que prévu.
Amazon a qualifié la perturbation de décembre d'« incident extrêmement limité », bien moins grave que la panne majeure d'octobre, qui avait paralysé des services en ligne comme Alexa, Fortnite, ChatGPT et Amazon pendant plusieurs heures. Le fait qu'aucune personne n'ait été « piégée dans son lit connecté » relève presque de la chance.
Ce n'est pas la première fois que des outils de programmation d'IA causent des problèmes à Amazon. Un cadre supérieur d'AWS a indiqué que la panne de décembre était la deuxième interruption de production liée à un outil d'IA ces derniers mois, la première étant liée au chatbot Q Developer d'Amazon. Il a précisé que ces pannes étaient « mineures mais parfaitement prévisibles ». Amazon a déclaré que le second incident n'avait pas affecté un service AWS destiné aux clients.
Amazon attribue les problèmes à une erreur humaine, et non à un robot malveillant, et affirme avoir mis en place de nombreuses mesures de sécurité, comme la formation du personnel, suite à cet incident. L'entreprise a déclaré que l'implication d'outils d'IA était une simple coïncidence et insiste sur le fait que le même problème pourrait survenir avec n'importe quel outil de développement ou action manuelle. C'est vrai, et bien que je ne sois pas ingénieur, j'imagine qu'on ne refondrait et ne reconstruirait pas un système de A à Z pour y apporter une modification, sauf en cas d'extrême urgence.