概要: エア・インディア171便の墜落事故後、GoogleのAI概要機能は、事故機を実際のボーイング787ではなくエアバスA330と誤って表示する検索結果を返していたと報じられました。報告されたこの誤りは検索クエリごとに異なり、原因はAIが生成した要約において、エアバスをボーイングの競合企業と混同していたことによるものでした。Googleは後にこの誤りを認め、削除しました。
推定: Google と Google AI overviewが開発し提供したAIシステムで、Airbus と General publicに影響を与えた
関与が疑われるAIシステム: Google AI overview
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
3.1. False or misleading information
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Misinformation
Entity
Which, if any, entity is presented as the main cause of the risk
AI
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Unintentional
インシデントレポート
レポートタイムライン
Loading...
Ryan Whitwamによるインシデント後のレスポンス
大きな出来事が起こると、ほとんどの人は情報を探すためにGoogleに殺到します。そして、彼らが最初に目にするのはますます「AI概要」ですが、この 機能は既に明らかな間違いを犯すという評判があります。 インドでの悲惨な飛行機墜落事故を受けて、GoogleのAI検索結果は、事故にエアバス機が関与したという誤情報を拡散しているが、実際にはボーイング787だった。
数年前に相次いだボーイング737シリーズの墜落事故を受けて、旅行者は最近、航空機のモデルに敏感になっている。エア・インディ…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？