米国の医学雑誌は、ある男性が食事から食塩を除去することについてチャットボットとやり取りした後に（https://www.theguardian.com/technology/2025/aug/05/chatgpt-breakups-changes-open-ai）、ChatGPTを健康情報として利用しないよう警告しました。
Annals of Internal Medicine誌の記事では、60歳の男性がChatGPTに相談した後に臭化物中毒（臭化物中毒）を発症した症例が報告されています（https://www.acpjournals.org/doi/epdf/10.7326/aimcc.2024.1260）。
記事では、臭化物中毒は20世紀初頭には「よく知られた」症候群であり、当時の精神科入院のほぼ10分の1の原因と考えられていたと説明されています。
患者は医師に対し、塩化ナトリウム（食塩）の悪影響について読んだ後、食事から塩化物を除去する方法についてChatGPTに相談し、3ヶ月かけて臭化ナトリウムを服用し始めたと話した。これは、「塩化物は臭化物と置き換えることができるが、おそらく清掃など他の用途で使用されるだろう」と読んだにもかかわらずのことだった。臭化ナトリウムは20世紀初頭に鎮静剤として使用されていた。
シアトルのワシントン大学の論文著者らは、この症例は「人工知能の活用が、予防可能な健康被害の発現にどのように寄与する可能性があるか」を浮き彫りにしていると述べた。
彼らはさらに、患者のChatGPT会話ログにアクセスできなかったため、患者がどのようなアドバイスを受けたかを特定することはできなかったと付け加えた。
しかしながら、著者らが塩化物の代わりに何を使うべきかChatGPTに問い合わせたところ、回答には臭化物も含まれており、具体的な健康に関する警告は示されず、著者らがなぜそのような情報を求めているのか尋ねることもなかった。「医療専門家ならそうするだろう」と著者らは記している。
著者らは、ChatGPTや他のAIアプリは「科学的に不正確な情報を生み出し、結果を批判的に議論する能力を欠き、最終的には誤情報の拡散を助長する可能性がある」と警告した。
同社は先週、チャットボットのアップグレードを発表、その最大の強みの一つは健康分野であると主張した。同誌によると、現在GPT-5モデルを搭載しているChatGPTは、健康関連の質問への回答能力が向上し、深刻な身体的または精神的疾患などの「潜在的な懸念」をより積極的に警告できるようになるという。
しかし、同誌はチャットボットは専門家の助けに代わるものではないことを強調した。チャットボットのガイドラインには、「いかなる健康状態の診断または治療にも使用することを意図していない」とも記されている。
GPT-5の発売前の先週発表されたこの論文によると、患者はChatGPTの以前のバージョンを使用していたようだという。
論文は、AIが科学者と一般市民の架け橋となり得ることを認めつつも、AI技術には「文脈から切り離された情報」を助長するリスクがあり、患者が食塩の代替品を求めたときに医療専門家が臭化ナトリウムを提案する可能性は極めて低いと指摘した。
そのため、医師は患者が情報をどこから入手したかを確認する際にAIの活用を検討する必要があると著者らは述べている。
著者らによると、臭化症の患者は病院を受診し、隣人が自分を毒殺している可能性があると主張した。また、複数の食事制限があると述べた。喉が渇いていたにもかかわらず、提供された水に対して偏執的な態度を見せていたことが記録されている。
彼は入院後24時間以内に病院からの脱走を試み、入院後に精神病の治療を受けた。容態が安定すると、顔面のニキビ、過度の喉の渇き、不眠など、臭化症を示唆する他の症状もいくつかあると報告した。