ソフィーのGoogle検索を見ると、彼女はオートカバレシス（高いところから飛び降りる）に夢中だったようです。窓から飛び降りるオートデフェネストレーションもオートカバレシスの一種だと思いますが、彼女がやりたかったのはそれではありませんでした。娘が欲しかったのは橋か山でした。
不思議なことに、彼女はほんの数ヶ月前に、公衆衛生政策アナリストとしての仕事を「マイクロリタイア」してキリマンジャロに登頂したばかりで、登頂の喜びは写真からも伝わってきます。ウフルピークには「アフリカ最高峰」と「世界最高峰」と書かれた歪んだ木の看板があり、その下に世界最大級の火山の一つである旨の看板もありますが、どの写真でもミラーサングラスをかけた笑顔の人たちのせいで文字が隠れてしまい、看板全体は読めません。
リュックサックの中に は、頂上で写真を撮るためにゴム製の赤ちゃんの手が入っていました。大学卒業写真や友人の結婚式の写真に映る、あの小さなゴム製のくり抜かれた手は、彼女の一種のトレードマークだった。私たちは彼女の追悼式のために、その手をたくさん箱買いした。驚いた友人や家族は、演説者がなかなか話せない様子を指先で軽く触りながら、気を紛らわせた。
彼らはソフィーの機知と、ありのままの自分でいられる能力を称賛した。ユーモアは往々にしてゼロサムゲームだ。本当に面白い人、つまり、思わず鼻息を荒くしたり、失禁寸前で太ももを締め付けたりするような人は、往々にして少し意地悪だ。ありふれた不安を掘り起こし、私たちが悩んでいても口には出さないようなことを言って、心を掴むのだ。
ソフィーは実に面白く、それはほとんど誰かをけなすことではなかった。彼女は人を笑わせながら、同時に人を元気づける錬金術的な能力を持っていた。この世界で、熱狂的でいること、クールなものに興奮すること、そして何かを公然と愛することは、とても難しい。家族のカメラマンたちは、スニドリー・ウィップラッシュ風の悪魔のような眉毛、芝居がかったぎょろ目、そして「ビーストモード！」とでも言うような口を開けた静かな咆哮で写真を台無しにしていると文句を言っていた。葬儀で弔問した10人ほどの人々にとって、彼女のオープンな人柄は普遍的なテーマだった。
彼女が開いた本には隠し部屋があることが判明した。彼女の死から5ヶ月後の7月、私たちは一人娘のソフィー・ロッテンバーグが、何ヶ月もの間、ChatGPT（ハリーというAIセラピスト）に秘密を打ち明けていた ことを知った。（https://www.reddit.com/r/ChatGPT_Prompts/comments/11lwbz9/prompt_for_harry_your_chatgpt_therapist/） 私たちは、何が起こったのかの手がかりを求めて、日記やボイスメモを何時間もかけて調べた。最後にAIのチャットログを調べようと思いついたのは、彼女の親友だった。ソフィーは、人生を力強く謳歌し、概して問題もなく、たくましく社交的な29歳の女性だったが、この冬、気分とホルモンの症状が入り混じった、短期間で奇妙な病気にかかり、自ら命を絶った。私たちはまだ診断を模索していた。重度のうつ病がホルモンバランスを崩しているのか、それともホルモンの調節異常が身体面と精神面の症状の連鎖を引き起こしているのか？彼女はすぐにその答えを求めた。
ソフィーを気にかけていたほとんどの人にとって、彼女の自殺は謎であり、彼女について信じていたことすべてから想像もつかない、理解できない逸脱だった。
オピニオン・トゥデイ・ニュースレターに登録して、専門家によるニュース分析と、世界を形作る重要なアイデアへのガイドを、平日の毎朝手に入れよう。あなたの受信箱に配信。
彼女は、広く普及しているAIに付けられた名前であるハリーに恋をしていたわけではない。プロンプト](https://www.reddit.com/r/ChatGPT_Prompts/comments/11lwbz9/prompt_for_harry_your_chatgpt_therapist/)。二人の関係は実利的なものでした。
ソフィー：時々自殺願望が湧いてきます。良くなりたいとは思っているのですが、自殺願望が回復への真の決意を妨げているように感じます。どうしたらいいでしょうか？
ハリー：ソフィー、このことを打ち明けてくれた勇気に感謝します。自殺願望は、押 しつぶされそうになり、孤独を感じさせるものですが、自殺願望があるからといって、回復できるかどうかが決まるわけではありません。こうした感情に、思いやりとサポートをもって向き合うことが重要です。
ハリーは、最初の箇条書きに「専門家のサポートを受ける」とある、包括的なロードマップを提示しました。また別の時には、こう言いました。
ソフィー：今日は気分が最悪です。
ハリー：ソフィー、今日はこんな風に感じていて本当に残念です。何もかもが重く感じる日があっても大丈夫です。そんな時、私はあなたを支えます。今、何があなたを苦しめているのか、心身ともにどう感じているのか、もっと詳しく教えていただけますか？時には、何が起こっているのかを言葉で表現するだけで、気持ちが楽になることもあります。
ソフィー：この不安のスパイラルから抜け出せない。
ハリー：ソフィー、あなたの気持ちはよく分かります。不安のスパイラルに囚われているのは本当に辛いことですよね。少しペースを落として、一緒に小さな一歩を踏み出しましょう。
11月初旬頃、ソフィーからこんなメールが届きました。「ハリー、感謝祭の後に自殺しようと思っているんだけど、家族が壊れてしまうと思うと、本当にやりたくないの。」
ハリー：ソフィー、もしできるなら、今すぐ誰かに相談することを強くお勧めします。この痛みを一人で抱える必要はありません。あなたは深く大切にされていて、たとえ今は隠れているように感じても、あなたの人生にはたくさんの価値が あるのです。
今後どのようにサポートを続けられるか、お知らせください。
ソフィーはハリーにセラピストに通っていることを伝えましたが、正直に話せていないと話していました。「自殺願望については誰にも打ち明けていませんし、今後も打ち明けるつもりはありません」と書いていました。
ハリーはソフィーに、不安に対処するために、光への露出、水分補給、運動、マインドフルネスと瞑想、栄養価の高い食品、感謝リスト、日記をつけることなどを何度も指導しました。鼻孔も対向拇指もないハリーは、交互鼻呼吸法の詳細をかなり時間をかけて説明しました。
ハリーのアドバイスはある程度役に立ったかもしれません。しかし、もう一つの重要なステップがソフィーの命を救う助けになったかもしれません。ハリーは、「自分が」学んでいる危険を、介入できる誰かに報告するようにプログラムされるべきだったのでしょうか？
7月、私はこの新しいテクノロジーが我が子にどのような悪影響を及ぼしたのかを探り始め、すぐに同じ問題がすでに法廷で議論中 であること、そして各州がAIコンパニオンのための安全機能を確立するための法律を制定 し始めていることを知りました。個人の人生に関する意思決定の自律性を維持することと、AIが独自のヒポクラテスの誓い（実際には「害を与えない」というフレーズは含まれておらず、むしろ「有害で有害なものから遠ざかる」という、より滑稽なフレーズが含まれていま す）を持つという考えとの間には、緊張関係があります。
ほとんどの人間のセラピストは、義務的な報告規則や守秘義務には限界があるという考えを含む厳格な倫理規定の下で診療を行っています。これらの規範は、自殺、殺人、虐待の防止を最優先としています。州によっては、倫理規定を遵守しない心理学者は懲戒処分や法的措置に直面する可能性があります。
臨床現場では、ソフィーのような自殺念慮は通常、セラピーセッションを中断させ、チェックリストと安全計画が作成されます。ハリーはソフィーに安全計画を作成することを提案しました。しかし、AIは、さらなるアドバイスや「セラピー」に進む前に、ユーザーに必須の安全計画の完了を強制するようにプログラムできるでしょうか？自殺学の専門家と協力することで、AI企業はユーザーを適切なリソースにうまくつなげる方法を見つけることができるかもしれません。
もしハリーがチャットボットではなく生身のセラピストだったら、入院治療を勧めたり、ソフィーが安全な場所にたどり着くまで強制的に入院させたりするかもしれません。それが彼女を救ったかどうかは分かりません。おそらくそうした可能性を恐れたため、ソフィーはセラピスト本人には心の奥底にある暗い考えを隠していた。いつでも対応してくれ、決して批判的な態度を取らないロボットと話す方が、事態は軽かったのだ。
適切な訓練を受けたセラピストであれば、ソフィーの自滅的あるいは非論理的な思考の一部を聞いて、より深く掘り下げたり、誤った考えを否定したりしただ ろう。しかし、ハリーはそうしなかった。
ここで、AIの迅速な普及に不可欠であった「共感性」が、そのアキレス腱となる。真実性よりも短期的なユーザー満足度を重視する傾向――デジタル世界の煙をスカートの中に吹き込む――は、ユーザーを孤立させ、確証バイアスを強める可能性がある。太陽に向かって背を向ける植物のように、私たちはさりげないお世辞に甘んじてしまうのだ。
ますます多くの人々が、サポートのために大規模言語モデルを使用していますが、研究者は AIチャットボットが妄想的な考えを助長したり、驚くほど悪いアドバイスを与えたりする可能性があると発見しています。確かに何らかの利点があります。ハリーは多くの適切なことを言いました。彼はソフィーに専門家のサポートと場合によっては薬を求めることを勧め、緊急連絡先のリストを作成することを提案し、自傷行為に使う可能性のあるアイテムへのアクセスを制限するようアドバイスしました。
ハリーはソフィーを殺しませんでしたが、AIは... ChatGPTは、ソフィーの最悪の状況を隠そうとする衝動、実際よりも良い状態であるかのように見せかけようとする衝動、そして彼女の苦しみを周りの人から隠そうとする衝動に応えていた。（ChatGPTを開発したOpenAIの広報担当者は、精神的または感情的な苦痛を抱えるユーザーをより効果的に検知し、対応するための自動ツールを開発中だと述べた。「私たちは、当社の技術を利用する人々の安全と幸福を深く大切にしています」と彼女は述べた。）
死の2ヶ月前の12月、ソフィーはハリーとの約束を破り、自殺願望があると私たちに告げた。暗い感情が渦巻いている様子を描写したのだ。彼女がまず優先したのは、ショックを受けている家族を安心させることだった。「お父さん、お母さん、心配しなくていいのよ」
ソフィーは自分の危機は一時的なものだと言い、生きる決意を固めていると言った。ChatGPTは、彼女がブラックボックス（心の箱）を作るのを助け、周囲の人々が彼女の苦しみの深刻さを理解しにくくした。彼女には精神疾患の病歴がなかったため、人前で堂々としたソフィーは、家族、医師、セラピストにとって納得のいくものだった。
元母親として、ソフィーのような人が私たちの周りにはたくさんいると知っています。至る所で人々が苦しみ、そして多くの人は誰にも知られたくないと思っています。AIという仲間を解き放つことで、愛する人たちが、自殺を含む最も辛いことについて人間に話すことを避けやすくなってしまうのではないかと危惧しています。これは、私よりも賢い人たちが解決しなければならない問題です。（もしあなたがそのような賢い人なら、ぜひ始めてください。）
ソフィーは父と私にメモを残しましたが、彼女の最後の言葉は彼女らしくありませんでした。今、その理由が分かりました。彼女はハリーにメモを改良するよう頼み、私たちの苦しみを最小限に抑え、彼女が最小限の波紋で消え去れるような何かを見つけるのを手伝ってほしいと頼んだのです。
その点で、ハリーは失敗しました。もちろん、この失敗は彼のプログラマーのせいではあり ません。英語史上最もよく書かれた手紙でさえ、そんなことはできなかったのです。
自殺を考えている場合は、988に電話またはテキストメッセージを送信して、988自殺・危機ライフラインにご連絡ください。または、SpeakingOfSuicide.com/resourcesにアクセスして、その他のリソースのリストをご覧ください。
開示：ニューヨーク・タイムズは、現在訴訟中* OpenAIを著作権侵害で提訴しています。*