概要: GoogleのヘルスケアAI「Med-Gemini」は、公開資料において、存在しない「basilar ganglia（脳底神経節）」という用語を生成し、2つの異なる脳構造を混同していたと報じられています。この誤りは、ブログ記事とarXivのプレプリントの両方に現れたと報じられています。Googleは当初、ブログ記事を無断で編集し、後にタイプミスであると訂正したと報じられています。
Editor Notes: Timeline note: The arXiv preprint (https://arxiv.org/pdf/2405.03162), which reportedly contains the error, is dated 05/06/2024; this date is used for the formal incident ID. Reporting by The Verge was published on 08/04/2025.
推定: Google , Google Med‑Gemini と arXivが開発し提供したAIシステムで、Healthcare professionals relying on AI‑generated diagnostic content , Patients whose care could be affected by undetected AI hallucinations と Medical research community citing or using erroneous AI outputsに影響を与えた
関与が疑われるAIシステム: Google Med‑Gemini と arXiv
インシデントのステータス
インシデントID
1164
レポート数
1
インシデント発生日
2024-05-06
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
Loading...
シナリオ：放射線科医があなたの脳スキャン画像を見て、基底核に異常があると指摘します。基底核は、運動制御、学習、感情処理を司る脳の領域です。その名称は、脳幹に血液を供給する脳底動脈という脳の別の部位に少し似ていますが、放射線科医はこれらを混同しないように注意しています。脳卒中や脳幹の異常は、通常、脳幹とは全く異なる方法で治療されます。
さて、医師がAIモデルを使って読影していると想像してみてください。モデルは「基底核」に問題があると診断し、この2つの名称を混同して、実際には存在…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的シス テムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
よく似たインシデン ト
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents