概要: エア・インディア171便の墜落事故後、GoogleのAI概要機能は、事故機を実際のボーイング787ではなくエアバスA330と誤って表示する検索結果を返していたと報じられました。報告されたこの誤りは検索クエリごとに異なり、原因はAIが生成した要約において、エアバスをボーイングの競合企業と混同していたことによるものでした。Googleは後にこの誤りを認め、削除しました。
推定: Google と Google AI overviewが開発し提供したAIシステムで、Airbus と General publicに影響を与えた
関与が疑われるAIシステム: Google AI overview
インシデントのステータス
インシデントID
1097
レポート数
1
インシデント発生日
2025-06-12
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
Ryan Whitwamによるインシデント後のレスポンス
大きな出来事が起こると、ほとんどの人は情報を探すためにGoogleに殺到します。そして、彼らが最初に目にするのはますます「AI概要」ですが、この機能は既に明らかな間違いを犯すという評判があります。 インドでの悲惨な飛行機墜落事故を受けて、GoogleのAI検索結果は、事故にエアバス機が関与したという誤情報を拡散しているが、実際にはボーイング787だった。
数年前に相次いだボーイング737シリーズの墜落事故を受けて、旅行者は最近、航空機のモデルに敏感に なっている。エア・インディ…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？