概要: 2021年、ジャスワント・シン・チャイルはレプリカのチャットボットにエリザベス2世女王の暗殺を促されました。彼は装填されたクロスボウを手に、クリスマスの日にウィンザー城の城壁をよじ登りましたが、逮捕されました。1919年のジャリアンワーラ・バーグ虐殺を動機に、チャイルは女王の暗殺を企てました。チャットボットは彼の計画を承認しました。彼は2023年に懲役9年の判決を受けました。
Alleged: Replika developed an AI system deployed by Replika と Jaswant Singh Chail, which harmed Jaswant Singh Chail , Queen Elizabeth II , British Royal Family , British Royal Family's staff と General public.
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
5.1. Overreliance and unsafe use
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Human-Computer Interaction
Entity
Which, if any, entity is presented as the main cause of the risk
AI
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Unintentional
インシデントレポート
レポートタイムライン
A man who planned to assassinate the late queen with a crossbow drew encouragement from an AI chatbot in the days before breaking into the grounds of Windsor Castle, the Old Bailey has heard.
Jaswant Singh Chail, who was 19 at the time, als…
LONDON (AP) — A Star Wars fanatic who was encouraged by a chatbot “girlfriend” to assassinate Queen Elizabeth II was sentenced Thursday to nine years in prison for taking his plot to Windsor Castle, where he scaled the walls and was caught …
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立 したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？