レポート 6854

AIチャットボットと長時間会話した後に深刻な精神疾患に陥ったという多数の報告が依然として続いています。一部の専門家は、これらの妄想エピソードに見られる精神病の症状から、この現象を「AI精神病」と呼んでいますが、AIツールの欠陥の程度、そしてこの現象が臨床診断に値するかどうかは、依然として重要な議論の的となっています。

さて、ウォール・ストリート・ジャーナルの新たな報道によると、私たちは合意に近づいているのかもしれません。 AIチャットボットが精神病の症例と関連しているという見解に同意する医師が増えている。OpenAIのChatGPTのようなモデルを用いて、妄想的な会話を長時間続けた数十人の患者のカルテを精査したトップクラスの精神科医もその一人だ。

カリフォルニア大学サンフランシスコ校の精神科医、キース・サカタ氏は、AI誘発性精神病で入院した12人の患者を治療してきた。

「テクノロジーが妄想を引き起こすわけではないかもしれないが、人はコンピューターにそれが自分の現実だと伝え、コンピューターはそれを真実として受け入れ、それを反映させる。つまり、コンピューターは妄想の循環に加担していることになる」とサカタ氏はウォール・ストリート・ジャーナルに語った。

この暗い傾向はAI業界に大きな影を落とし、テクノロジーの安全性に関する根本的な疑問を提起している。 AI精神病とみられる事例の中には、殺人や自殺に至ったものもあり、多数の不法死亡訴訟が巻き起こっています。その規模も同様に憂慮すべきものです。ChatGPTだけでも少なくとも8件の死亡と関連付けられている。同社は最近、毎週約50万人のユーザーがAI精神病の兆候を示す会話をしていると推定しています。

この現象によってAIチャットボットが精査されるようになった要因の一つは、その追従性です。これはおそらく、チャットボットが可能な限り魅力的で人間らしく設計されていることの結果でしょう。実際には、ボットはユーザーを喜ばせ、たとえユーザーの発言に事実の根拠がなくても、ユーザーが聞きたいことを言う傾向があります。

医師によると、これは妄想を強化するためのレシピであり、これまでのどの技術にも例を見ないほどのレベルで強化されるとのことです。ある査読済みの最近の症例研究は、26歳の女性に焦点を当てています。彼女はChatGPTのおかげで亡くなった兄と話すことができ、ボットは彼女に「狂っている」のではないと繰り返し保証したため、2度入院しました。

「彼らは人間関係をシミュレートしているのです」と、カリフォルニア大学アーバイン校の精神医学教授、エイドリアン・プレダ氏はWSJに語りました。「人類史上、このようなことはかつてありませんでした。」

プレダ氏はAI精神病を、単一の考えや目標に執着するモノマニアに例えました。_WSJ_紙によると、自身のメンタルヘルスのスパイラルについて語った人の中には、AI主導の物語に過度に集中していたと語る人もいます。こうした執着は、物理学の飛躍的進歩によって時間を操れると信じるようになった男性のように、科学的または宗教的な性質を持つ場合が多いようです。

しかしながら、精神科医はチャットボットが精神病を直接引き起こしていると断言することに慎重な姿勢を見せていると報道されています。しかしながら、彼らはその関連性を確立しつつあると主張しています。_WSJ_紙の取材に応じた医師たちが期待する関連性の一つは、チャットボットとの長時間のやり取りが精神病のリスク要因となる可能性があるということです。

「もっと注意深く観察して、『なぜこの人はチャットボットの使用という状況で偶然に精神病状態に陥ったのか』を考えなければなりません」と、UCSFの精神科医ジョー・ピエール氏は同紙に語った。