今週、同僚のマギー・ハリソン・デュプレが衝撃的な記事を発表しました。世界中の人々が、家族や愛する人たちがChatGPTに夢中になり、深刻な妄想に苦しみ始める様子を恐怖とともに見守っているという内容です。
記事全体を通して、OpenAIチャットボットが脆弱な人々の精神的危機を助長しているという、不穏な事例が満載です。多くの場合、妄想的な陰謀論や、ユーザーがAIから強力な存在を解き放ったという無意味な考えを肯定し、詳細に述べています。
現実世界で危害を及ぼす可能性があるため、特に憂慮すべき逸話があります。ある女性は、姉が何年も統合失調症の薬で治療していたが、ChatGPTに夢中になり、診断が間違っていると告げられ、症状を抑えていた治療を中止したと述べています。
「最近、妹の行動がおかしくなって、ChatGPTが『親友』で、統合失調症ではないと確認してくれたと言い出したんです」と、女性は妹について語った。「薬をやめて、AIで書かれた『セラピー用語』のような攻撃的なメッセージを母に送っています」
「妹は、たとえ自分が経験していない副作用であっても、薬がもたらすあらゆる有害な影響を再確認するためにも、ChatGPTを使っています」と彼女は付け加えた。「WebMDを使っている人が発狂する、より陰惨なバージョンのようです」
コロンビア大学の精神科医で研究者のラギー・ギルギス氏によると、この結果は、精神疾患を抱える人にとって、このテクノロジーがもたらす「最大の危険」を表しているという。
OpenAIに問い合わせたところ、回答は曖昧だった。
「ChatGPTは、事実に基づき、中立的かつ安全性を重視した汎用ツールとして設計されています」と説明されています。「ChatGPTは、非常に個人的な場面も含め、幅広い状況で使用されていることを認識しており、私たちはその責任を真剣に受け止めています。有害な考えを助長する可能性を低減するための安全対策を組み込み、デリケートな状況をより適切に認識し、対応できるよう引き続き取り組んでいきます。」
AIチャットボットと話したことで精神的な問題を抱えている方をご存知ですか？ヒントをお送りください: tips@futurism.com -- 匿名でのご提供をお待ちしております。
AIの指示で統合失調症や双極性障害の薬を中止したという話も耳にしました。[ニューヨーク・タイムズ]は続報として、ボットが男性に不安薬や睡眠薬 の服用をやめるよう指示したと報じています。
このように悲劇的で危険な事例は、今この瞬間にも数多く発生している可能性があります。
チャットボットをセラピストとして や相談相手として 利用することがますます一般的になっていますが、多くのユーザーがAIを使って不健全な思考パターンを正当化したり、不健全な信念をテクノロジー自体に帰したりするなど、悪循環に陥っているようです。
この女性の姉が指摘したように、精神病に苦しむ人々がAIのようなテクノロジーを受け入れていることは、歴史的に多くの妄想がテクノロジーを中心としてきたことを考えると、驚くべきことです。
「伝統的に、[統合失調症患者]はテクノロジーを特に恐れ、信用しません」と彼女はFuturismに語りました。「前回精神病になった時、姉はiPhoneが自分を監視していると思ってピュージェット湾に投げ捨てました。」