概要: CodeWallは、同社の自律型エージェントがMcKinseyのLilli AIプラットフォームの脆弱性を悪用し、本番システムへの不正な読み書きアクセス権を取得し、内部チャットメッセージ、ファイル、ユーザーアカウント、プロンプトなどを漏洩させた可能性があると報告した。McKinseyはこの脆弱性を認め、数時間以内に問題を修正したと述べたが、顧客データや顧客の機密情報にアクセスされた証拠は見つからなかったとしている。
Editor Notes: Treated as an incident rather than an issue because the report alleges a realized unauthorized access event against McKinsey's live Lilli production system, with actual internal data and prompt-layer assets reportedly exposed, rather than just being a theoretical or unexploited vulnerability.
推定: McKinsey & Company , CodeWall , Retrieval-augmented generation (RAG) system , Lilli , CodeWall autonomous offensive agent , AI-powered enterprise search system と AI document analysis systemが開発し提供したAIシステムで、McKinsey & Company , McKinsey & Company employees , McKinsey & Company consultants , Lilli users と Privacyに影響を与えた
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
2.2. AI system security vulnerabilities and attacks
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Privacy & Security
Entity
Which, if any, entity is presented as the main cause of the risk
AI
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
インシデントレポート
レポートタイムライン
Loading...
世界で最も権威あるコンサルティングファームであるマッキンゼー・アンド・カンパニーは、43,000人を超える従業員向けに「Lilli」という社内AIプラットフォームを構築しました。Lilliは、チャット、文書分析、数十年にわたる独自の調査に基づくRAG（リソース分析グループ）、10万件以上の社内文書を対象としたAI検索など、特定の目的に特化したシステムです。2023年にローンチされ、1945年に同社に採用された初の女性専門家にちなんで名付けられました。マッキンゼーの従業員の70…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとし て一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents