概要: ジョセフ・ニール・ライリー氏は、慢性リンパ性白血病（CLL）の稀な合併症を自己診断するためにPerplexity AIを使用し、その結果に基づいて、腫瘍専門医が推奨したVen-Obi治療を約1年間遅らせたと報じられている。彼の息子であるベンジャミン・ライリー氏は、Perplexityが引用した医学研究の内容を誤って伝えていると主張しており、後にその研究の著者らに確認したとしている。
推定: Perplexity AIが開発し提供したAIシステムで、Joseph Neal Riley , Benjamin Riley , Epistemic integrity と People seeking medical adviceに影響を与えた
関与が疑われるAIシステム: Perplexity AI
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
3.1. False or misleading information
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Misinformation
Entity
Which, if any, entity is presented as the main cause of the risk
AI
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Unintentional
インシデントレポート
レポートタイムライン
Loading...
まず、年末年始に父の逝去に際し、お悔やみの言葉をくださった皆様に心より感謝申し上げます。ニュースレターを書いていることで、直接お会いしたことのない方々からも温かいお言葉をいただくことができ、普段なら見知らぬ方々とも繋がりを持つことができたのは、本当に嬉しいことです。皆様の温かいお言葉は、悲しみに暮れる私にとって大きな支えとなりました。
さて、もう少しの間、父についてお話しさせていただきたいのですが、AIは私たちの関係を育む上で、そしておそらくは父の死を早める上で、奇妙な役割を…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents