フィナンシャル・タイムズ紙によると、Amazon Web Services（AWS）は12月、AIコーディングアシスタント「Kiro」の動作が原因で、システムの一つで13時間にわたる障害に見舞われた。複数の匿名のAmazon従業員がフィナンシャル・タイムズ紙に対し、中国本土の一部地域でAWSサービスに影響を与えた12月の障害は、AIエージェント「Kiro」が原因だったと語った。関係者によると、Kiroは作業環境を「削除して再構築する」という操作を行ったため、障害が発生したという。
通常、Kiroは変更をプッシュする際に2人の人間の承認を必要とするが、今回はオペレーターの権限が付与されており、人為的なミスにより想定以上のアクセス権限が与えられていた。
Amazonは12月の障害を「極めて限定的な事象」と表現し、Alexa、Fortnite、ChatGPT、Amazonなどのオンラインサービスを数時間にわたって停止させた10月の大規模障害（https://www.theverge.com/news/802486/aws-outage-alexa-fortnite-snapchat-offline）に比べれば、規模ははるかに小さいとしています。スマートベッドで寝転がって身動きが取れなくなるような事態（https://www.theverge.com/news/804289/eight-sleep-smart-bed-aws-outage-overheating-offline）にならなかったのは、ある意味幸運だったと言えるでしょう。
AIコーディングツールがAmazonに問題を引き起こしたのは、今回が初めてではありません。AWSの上級社員によると、12月の障害はここ数ヶ月でAIツールに関連した2度目の本番環境障害であり、もう1件はAmazonのAIチャットボット「Q Developer」に関連した障害だといいます。この社員は、これらの障害を「小規模ではあるが、完全に予測可能だった」と述べています。 Amazonは、2件目のインシデントは「顧客向けのAWSサービス」には影響を与えなかったと述べています。
Amazonは、問題の原因は不正ボットではなく人為的ミスであるとし、インシデント発生後、従業員研修など「多数の安全対策を実施した」と発表しました。同社は「AIツールが関与していたのは偶然」であり、「同様の問題は、あらゆる開発ツールや手動操作でも発生する可能性がある」と主張しています。確かにその通りで、私はエンジニアではありませんが、よほどの緊急事態でない限り、意図的にシステムを削除して再構築するようなことはしないだろうと思います。