関連インシデント
ハイデラバード：ハイデラバードの医師たちは、ChatGPTのような人工知能（AI）ツールに医療アドバイスを頼りすぎることに対して警告を発しました。特に慢性疾患や重篤な健康状態にある患者は、投薬、食事、治療計画を変更する前に必ず資格のある医療専門家に相談する必要があると強調しました。この警告は、同市内で最近少なくとも2件の憂慮すべき事例が報告されたことを受けて発せられたものです。
最初の事例では、ニザム医科大学（NIMS）のジーヴァンダン・プログラムで腎臓移植を受けた30歳の女性が、ChatGPTの助言に基づいて処方された抗生物質の服用を中止した後、移植腎を失いました。「移植前7年間透析を受けていたこの女性は、ChatGPTからクレアチニン値が正常であるため薬は不要だと告げられた後、すべての薬の服用を中止したと報告されています」と、NIMSの上級腎臓専門医であるスリー・ブシャン・ラジュ医師は述べています。
数週間のうちに彼女の容態は悪化し、クレアチニン値が再び急上昇しました。最終的に手術が必要となり、透析を再開し、最近退院しました。「知識のある患者でさえ、医師に相談する代わりにAI生成のアドバイスに頼ってしまうという、憂慮すべき傾向が見られます」と、もう一人の腎臓専門医であるモハメド・タイフ医師は述べています。
医師によると、高齢者にも同様の傾向が見られ、医師から薬の服用量の変更を勧められていないにもかかわらず、ChatGPTに薬の服用量や服用量の変更に関するアドバイスを求める人が多いとのことです。
「AIへの過度の依存は危険な習慣になりつつあります」とタイフ医師は述べています。
別の事例では、市内に住む62歳の糖尿病男性がChatGPTが提案したダイエットプランを実行した後、急激な体重減少と危険なレベルの低ナトリウム血症に見舞われました。AIツールは彼に塩分の摂取を完全に控えるようアドバイスしていましたが、彼の既往症を考えると、これは有害であることが判明しました。 「これらの事例は、AIは一般的な情報を提供できるものの、訓練を受けた医師が持つような臨床判断力や状況理解力に欠けていることを示しています」と、政府の腎臓専門医であるK・ラケシュ医師は述べています。
今年8月には、ニューヨーク在住の60歳男性が、ChatGPTが作成した食事プランに従い、食塩（塩化ナトリウム）を毒性物質である臭化ナトリウムに置き換えるよう指示された後、入院したと報じられています。医療専門家は、ChatGPTや同様のツールは幅広い健康意識の向上に役立つ可能性があるものの、決して専門的な医療相談の代替として扱うべきではないと改めて強調しています。「ChatGPTは医師よりも優れていると考える人が増えていますが、医療専門家の知性、直感、経験に匹敵するAIは存在しません」とラジュ医師は述べています。