概要: MicrosoftのWindows Recallは、Copilot+ PC向けのAI搭載スクリーンショット・検索ツールですが、「機密情報をフィルタリング」機能が組み込まれているにもかかわらず、パスワード、社会保障番号、銀行口座情報などの機密情報を取得していたとされています。独立したテストでは、複数のケースでフィルタリングが失敗することが判明したと報じられています。MicrosoftはRecallをプレビュー機能に分類し、改善を進めていると報じられています。
推定: Microsoft , Windows Recall filter sensitive information feature , Windows Recall と Windows 11が開発し提供したAIシステムで、Windows Recall users , Windows 11 users と Microsoft usersに影響を与えた
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
2.1. Compromise of privacy by obtaining, leaking or correctly inferring sensitive information
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Privacy & Security
Entity
Which, if any, entity is presented as the main cause of the risk
AI
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Unintentional
インシデントレポート
レポートタイムライン
Loading...
Microsoft Recallは、PCでの作業内容をスクリーンショットで記録し、後で検索できるようにするAIアプリです。このアプリには、クレジットカード番号などの機密情報のスクリーンショットを撮らないようにするフィルターが搭載されています。しかし、The Registerのテストでは、依然として多くの場合でフィルターが機能せず、窃盗犯にとっての宝の山となる可能性があることが示されています。
Recallは、AI関連のタスクを支援する専用のニューラル・プロセッシング・ユニット…
Loading...
物議を醸しているMicrosoft Windows Recall AIアプリは、英国のテクノロジーサイトThe Registerのテスト結果によると、依然としてセキュリティ対策が必要な可能性があるとのことです。
PC上でのあらゆる操作のスクリーンショットを撮影し、後で確認できるようにするこのアプリは、クレジットカード番号やパスワードなどの機密情報を取得するのを防ぐための対策が講じられているとされています。しかし、The Registerのチームが最近Recallをテストしたと…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベー ス以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents