概要: AppleのAIによる通知要約・優先順位付け機能は、Apple Intelligenceアップデートの一部であり、詐欺やフィッシング詐欺のメッセージを高優先度としてフラグ付けし、ユーザーを欺いて詐欺メールを信じ込ませているとの報告があります。メッセージが言い換えられたり要約されたりすることで、システムが意図せず詐欺リスクを増幅させ、ユーザーが金銭被害に遭う可能性を高めているとの報告もあります。
Editor Notes: See also: Incident 861: Apple Intelligence Reportedly Notified Users That Luigi Mangione Shot Himself and Benjamin Netanyahu Had Been Arrested.
推定: Apple と Apple Intelligenceが開発し提供したAIシステムで、Apple users と Apple Intelligence usersに影響を与えた
関与が疑われるAIシステム: Apple Intelligence
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
7.3. Lack of capability or robustness
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- AI system safety, failures, and limitations
Entity
Which, if any, entity is presented as the main cause of the risk
AI
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Unintentional
インシデントレポート
レポートタイムライン
Loading...


