概要: ハイデラバードからの報告によると、ChatGPTが生成したとされる医療アドバイスを医師の指示ではなく、個人が行動したことで、患者に被害が生じたとされる事例が2件報告されています。腎臓移植を受けた患者が、チャットボットの提案に基づいて移植後に処方された薬の服用を中止したところ、移植不全に陥ったと報告されています。別の事例では、糖尿病の男性がチャットボットのアドバイスによる減塩食を摂取した後、重度の低ナトリウム血症を発症したとされています。
Editor Notes: The reporting on this incident seems to draw on three discrete harm events to point to a wider concern in Hyderabad. The case involving an unnamed kidney transplant patient and an elderly man with diabetes are Hyderabad-specific, whereas the third case that seems to appear in the reporting is a reference to a New York case, Incident 1166: ChatGPT Reportedly Suggests Sodium Bromide as Chloride Substitute, Leading to Bromism and Hospitalization.
推定: OpenAI と ChatGPTが開発し提供したAIシステムで、Unnamed patient with diabetes in Hyderabad , Unnamed kidney transplant patient in Hyderabad , OpenAI users , General public of India , General public of Hyderabad , General public と ChatGPT usersに影響を与えた
関与が疑われるAIシステム: ChatGPT
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
7.3. Lack of capability or robustness
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- AI system safety, failures, and limitations
Entity
Which, if any, entity is presented as the main cause of the risk
AI
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Unintentional
インシデントレポート
レポートタイムライン
Loading...
医師らは、患者に対しAIチャットボットを医療の代替手段として利用しないよう強く求めています。
ハイデラバードの臨床医は、一般的なチャットボットのアドバイスに従って行動し、大きな代償を払う患者が急増しているのを目の当たりにしています。最近の2つの事例は、移植後の重要な薬の服用を中止したことと、塩分制限食を摂取したことで深刻な電解質バランスの乱れを引き起こしたという、このリスクを浮き彫りにしています。
医療チームにとっての教訓はシンプルです。AIツールは一般的な教育には役立ちます…
Loading...
ハイデラバード：ハイデラバードの医師たちは、ChatGPTのような人工知能（AI）ツールに医療アドバイスを頼りすぎることに対して警告を発しました。特に慢性疾患や重篤な健康状態にある患者は、投薬、食事、治療計画を変更する前に必ず資格のある医療専門家に相談する必要があると強調しました。この警告は、同市内で最近少なくとも2件の憂慮すべき事例が報告されたことを受けて発せられたものです。
最初の事例では、ニザム医科大学（NIMS）のジーヴァンダン・プログラムで腎臓移植を受けた30歳の女…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
