概要: ロサンゼルスでは、ウェイモの自動運転タクシーが、前の乗客がトランクを開けたままにしていたため男性が閉じ込められた状態で、新たな乗客を乗せたと報じられています。車両のAIシステムは、配車前にこの不法乗車者を検知できなかったと報じられています。乗客は走行中に男性を発見し、警察が通報して男性を救出しました。
推定: Waymo と Waymo's autonomous driving systemが開発し提供したAIシステムで、Unnamed Waymo passenger trapped in trunk と Waymo passengersに影響を与えた
関与が疑われるAIシステム: Waymo's autonomous driving system
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
7.3. Lack of capability or robustness
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- AI system safety, failures, and limitations
Entity
Which, if any, entity is presented as the main cause of the risk
AI
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Unintentional
インシデントレポート
レポートタイムライン
Loading...
自動運転車をめぐる最近の騒動で、ウェイモのタクシーの開いたトランクに飛び込んだ男性が、ソーシャルメディアで話題になった動画 として話題になった。
閉じ込められた乗客はロサンゼルスのマッカーサー公園付近で発見された。月曜日の午後、サウスウェストレイク・アベニューと6番街の交差点付近で、ある女性が娘のためにウェイモを注文したところ、車が 到着した時には既にトランクに乗客が乗っていた。
なぜそこにいたのかと聞かれた男性は、「このクソみたいな車は、僕を外に出してくれない」と答えた。
ウ…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents