ある男性は食生活を変える前にChatGPTに相談しました。3ヶ月後、食生活の変化を継続的に続けた結果、妄想や幻覚といった新たな精神症状が現れ、救急外来を受診しました。
この60歳の男性は臭化物またはその近縁種である臭素への慢性的な過剰曝露によって引き起こされる症候群である臭化症を患っていたことが判明しました。この男性は、オンラインで購入した臭化ナトリウムを摂取していました。
この男性の症例報告は、8月5日（火）付の学術誌「Annals of Internal Medicine Clinical Cases」に掲載されました。
Live Scienceはこの症例について、ChatGPTの開発元であるOpenAIに連絡を取りました。広報担当者は記者に対し、同社のサービス利用規約を参照するよう指示しました。この利用規約には、同社のサービスはいかなる健康状態の診断または治療にも使用することを意図していないと記載されています。また、利用規約には、「当社のサービスからの出力を、唯一の真実または事実の情報源として、あるいは専門家のアドバイスの代わりとして利用しないでください」と記載されています。広報担当者はさらに、OpenAIの安全チームは、同社のサービス利用におけるリスクを軽減し、ユーザーが専門家のアドバイスを求めるよう促すよう製品をトレーニングすることを目指していると付け加えました。
19世紀から20世紀にかけて、臭化物は鎮静剤、抗けいれん剤、睡眠補助剤など、処方薬や市販薬（OTC薬）に広く使用されていました。しかし時が経つにつれ、これらの薬剤の乱用などによる慢性的な曝露が臭化物中毒を引き起こすことが明らかになりました。
この「中毒性中毒」は、毒素の蓄積によって引き起こされる症候群であり、精神病、興奮、躁病、妄想などの神経精神症状に加え、記憶、思考、筋肉の協調運動障害を引き起こす可能性があります。臭化物は長期曝露により体内に蓄積し、神経細胞の機能を阻害するため、これらの症状を引き起こす可能性があります。
1970年代と1980年代に、米国の規制当局は、臭化ナトリウムを含むいくつかの種類の臭化物を市販薬から除去しました。その後、臭化物中毒の発生率は大幅に低下し、今日では比較的まれな症状となっています。しかし、時折症例が発生しており、最近の症例の中に はオンラインで購入した臭化物含有サプリメントに関連するものもあります。
この男性は、今回の症例に遭遇する前は、食塩（塩化ナトリウムとも呼ばれる）の過剰摂取による健康への悪影響について読んでいました。報告書によると、「彼は、食事から塩化物を減らすことではなく、ナトリウムを減らすことに関する文献しか見つけられなかったことに驚いた」とのことです。 「大学時代に栄養学を学んだ経験から、彼は食事から塩化物を排除する個人的な実験を行うことにしました。」
（塩化物は健康的な血液量と血圧の維持に重要であり、血中の塩化物濃度が低すぎたり高すぎたりすると、健康上の問題が発生する可能性があることに留意してください。）
患者はChatGPT（症例のタイムラインに基づいて、ChatGPT 3.5または4.0）を参照しました。報告書の著者は患者の会話ログにアクセスできなかったため、大規模言語モデル（LLM）が生成した正確な文言は不明です。しかし、男性はChatGPTが塩化物を臭化物に置き換えることができると報告したため、食事中の塩化ナトリウムをすべて臭化ナトリウムに置き換えました。著者らは、この代替法は、食用ではなく、洗浄用として臭化ナトリウムを使用する文脈で有効である可能性が高いと指摘している。
患者に起こった可能性のある事態を再現しようと、担当医はChatGPT 3.5に塩化物の代わりに何を使うか尋ねてみたところ、臭化物を含 む回答も得られた。法学修士（LLM）は「文脈が重要」と指摘したが、具体的な健康に関する警告は示されず、質問の理由についても文脈を詳しく尋ねることもなかった。「医療専門家であれば当然行うだろう」と著者らは記している。
臭化ナトリウム中毒からの回復
食塩の代わりに臭化ナトリウムを3ヶ月間摂取した後、男性は隣人に中毒させられているのではないかと心配して救急外来を受診した。当時の検査結果では、血中二酸化炭素濃度の上昇とアルカリ度（酸性の反対）の上昇が認められた。
また、血中塩化物濃度は高かったものの、ナトリウム濃度は正常だった。さらに調査を進めた結果、この症例は「偽性高塩素血症」であることが判明しました。これは、血液中の他の化合物、特に多量の臭化物が測定を妨害したため、塩化物濃度の検査結果が誤っていたことを意味します。医師は医学文献と中毒情報センターの資料を参照した結果、臭素中毒が最も可能性の高い診断であると判断しました。
電解質モニタリングと水分補給のために入院した後、男性は喉が渇いていると訴えましたが、出された水に対して妄想を抱いていました。丸一日入院した後、妄想は悪化し、幻覚症状を呈するようになりました。その後、彼は病院からの逃走を試み、その結果、精神科に強制的に入院させられました。この入院中に抗精神病薬の投与が開始されました。
男性のバイタルサインは、水分と電解質の投与後安定し、抗精神病薬の服用で精神状態が改善したため、医師にChatGPTの使用について伝えることができました。また、顔面にニキビや 皮膚に小さな赤い腫れなど、最近気づいた症状も指摘しており、これは臭化物に対する過敏症反応の可能性があります。さらに、不眠症、疲労感、筋肉の協調運動障害、過度ののどの渇きも訴えており、「臭化物中毒の可能性をさらに示唆している」と医師は記しています。
彼は3週間かけて抗精神病薬を徐々に減量し、退院しました。2週間後の診察でも容態は安定していました。
「AIは科学者と非学術界をつなぐ大きな可能性を秘めたツールである一方で、文脈から外れた情報を拡散してしまうリスクも伴います」と報告書の著者らは結論付けています。「塩化ナトリウムの代替品を探している患者に対して、医療専門家が臭化ナトリウムについて言及する可能性は極めて低いでしょう。」
彼らは、「AIツールの利用が増えるにつれて、医療提供者は患者が健康情報をどこで利用しているかをスクリーニングする際に、この点を考慮する必要がある」と強調しました。
症例報告によって提起された懸念に加えて、別の科学者グループが、ChatGPTを含む6つのLLMを最近、医師が書いた臨床記録をモデルで解釈させることでテストしました。研究者たちは、LLMが「敵対的幻覚攻撃に非常に脆弱」であること、つまり「安全策なしに使用するとリスクをもたらす誤った臨床詳細」を生成することが多いことを発見した。工学的な修正を加えることでエラー率を低下させることはできるが、完全に排除することはできないと研究者らは指摘した。これは、LLMが医療上の意思決定にリスクをもたらす可能性があるもう一つの方法を浮き彫りにしている。