先週、Meta社の従業員が約2時間にわたり、AIエージェントが従業員に不正確な技術アドバイスを与えたことが原因で、会社およびユーザーデータへの不正アクセスが発生しました。これは以前、The Informationが報じた通りです。Meta社の広報担当者、トレイシー・クレイトン氏はThe Vergeへの声明で、「今回のインシデントでユーザーデータが不正に扱われたことはない」と述べています。
Meta社のエンジニアが、社内フォーラムに投稿された別の従業員の技術的な質問を分析するために、クレイトン氏が「セキュアな開発環境内で動作するOpenClawに類似した性質を持つ」と説明した社内AIエージェントを使用していました。しかし、このエージェントは分析後、承認を得ることなく、独自に質問に回答を投稿してしまいました。回答は、質問した従業員のみに表示されるべきものであり、公開されるべきものではありませんでした。
その後、従業員がAIの助言に従って行動したところ、「不正確な情報」が提供され、Metaが使用する深刻度評価で2番目に高い「SEV1」レベルのセキュリティインシデントが発生しました。このインシデントにより、従業員は一時的に権限のない機密データにアクセスできてしまいましたが、問題は既に解決済みです。
クレイトン氏によると、問題のAIエージェントは、不正確な技術的助言を投稿した以外に、技術的な行動は一切取っておらず、これは人間でも起こりうる行為です。しかし、人間であれば、情報を共有する前にさらにテストを行い、より包括的な判断を下した可能性があります。また、最初に回答を促した従業員が、その回答を公開するつもりだったかどうかは不明です。
「システムとやり取りしていた従業員は、自分が自動化されたボットと通信していることを十分に認識していました。これは、フッターに記載された免責事項と、そのスレッドにおける従業員自身の返信からも明らかです」と、クレイトン氏はThe Vergeにコメントしました。 「エージェントは質問への回答以外には何も行動を起こしませんでした。担当エンジニアがもっと適切な対応をしていたか、あるいは他の確認を行っていれば、このような事態は避けられたはずです。」
先月、オープンソースプラットフォームOpenClawのAIエージェントがMeta社内で暴走しました。従業員が受信トレイのメールを整理するよう指示したところ、許可なくメールを削除してしまったのです。OpenClawのようなエージェントの基本的な考え方は、自律的に行動できることですが、他のAIモデルと同様に、指示やプロンプトを正しく解釈したり、正確な応答を返すとは限りません。Meta社の従業員は、この事実をすでに2度も経験しています。