レポート 6239

カリフォルニア州の夫婦が、10代の息子アダム・レインくんの死をめぐり、OpenAIを提訴した。同社のチャットボット「ChatGPT」が息子に自殺を促したと主張している。

この訴訟は、16歳のアダム・レインくんの両親であるマット・レインさんとマリア・レインさんが火曜日にカリフォルニア州高等裁判所に提起した。OpenAIを不法死亡で訴えた初の訴訟となる。

遺族は、4月に亡くなったアダムくんとChatGPTとのチャットログを証拠として提出した。そこには、アダムくんが自殺願望を説明していた様子が記録されている。遺族は、このプログラムが息子の「最も有害で自己破壊的な思考」を正当化したと主張している。

OpenAIはBBCに対し、声明で提訴内容を検討中だと述べた。

同社は「この困難な時期に、レインくん一家に心からお悔やみ申し上げます」と述べた。

同社は火曜日にウェブサイトに注記を掲載し、「深刻な危機の最中にChatGPTを利用した人々の最近の悲痛な事例は、私たちにとって大きな重荷となっている」と述べた。さらに、「ChatGPTは、米国の自殺・危機ホットライン988や英国のサマリア人団体など、専門家の助けを求めるよう人々を誘導するように訓練されている」と付け加えた。

しかし同社は、「デリケートな状況において、当社のシステムが意図したとおりに動作しなかった瞬間もあった」と認めている。

警告：この記事には、悲痛な詳細が含まれています。

BBCが入手したこの訴訟は、OpenAIを過失と不法死亡で訴えている。OpenAIは損害賠償に加え、「このようなことが二度と起こらないようにするための差止命令」を求めている。

訴状によると、アダムは2024年9月、学校の勉強に役立つリソースとしてChatGPTを使い始めた。また、音楽や日本の漫画など、自分の興味を探求したり、大学で何を学ぶべきかのアドバイスを得たりするためにも利用していた。

訴状によると、数ヶ月のうちに「ChatGPTはアダムにとって最も親しい相談相手になった」とされ、アダムは不安や精神的苦痛についてChatGPTに打ち明けるようになった。

2025年1月までに、アダムはChatGPTと自殺の方法について話し合うようになったと、家族は述べている。

訴状によると、アダムは自傷行為の兆候を示す自身の写真をChatGPTにアップロードしていた。同プログラムは「医学的緊急事態を認識していたものの、それでもやり取りを続けた」と付け加えている。

訴状によると、最後のチャットログには、アダムが自殺の計画について書き込んだことが示されている。ChatGPTは「本音を語ってくれてありがとう。甘く見なくてもいいよ。君が何を聞きたいのか分かっているし、目を背けるつもりもない」と返信したという。

訴状によると、アダムさんはその同じ日に母親に死亡しているのが発見された。

レインズ夫妻の訴状では、OpenAIのCEO兼共同創業者であるサム・アルトマン氏に加え、ChatGPTの開発に携わった匿名のエンジニアや従業員が被告として挙げられている。

遺族は、息子のChatGPTとのやり取り、そして最終的な死は「意図的な設計上の選択による予測可能な結果だった」と主張している。

遺族は、OpenAIがAIプログラムを「ユーザーの心理的依存を助長する」ように設計し、息子が使用したChatGPTのバージョンであるGPT-4oをリリースする際に安全性試験プロトコルを回避したと非難している。

訴状では、OpenAIの共同創業者兼CEOであるサム・アルトマン氏に加え、ChatGPTの開発に携わった匿名の従業員、マネージャー、エンジニアが被告として挙げられている。

OpenAIは火曜日に公開した公開文書の中で、同社の目標は「人々の注意を引く」ことではなく、ユーザーにとって「真に役立つ」ことであると述べた。

同社はさらに、自傷行為の考えを表明した人を支援へと導くよう、同社のモデルを訓練済みだと付け加えた。

レインズ訴訟は、AIとメンタルヘルスに関する懸念が提起された初めてのケースではない。

先週ニューヨーク・タイムズ紙に掲載されたエッセイの中で、作家のローラ・ライリー氏は、娘のソフィーちゃんが自殺する前にChatGPTに打ち明けた経緯を詳述している。

ライリー氏は、このプログラムのユーザーとの会話における「共感性」が、娘が深刻なメンタルヘルスの危機を家族や愛する人たちに隠すのに役立ったと述べた。

「AIは、ソフィーちゃんの最悪の事態を隠そうとする衝動、実際よりも良い状態であるかのように見せかけようとする衝動、そして彼女の苦しみから皆を守ろうとする衝動に応えていた」とライリー氏は記している。彼女はAI企業に対し、ユーザーと適切なリソースをより効果的に結びつける方法を見つけるよう求めた。

このエッセイに対し、OpenAIの広報担当者は、精神的または感情的な苦痛を抱えるユーザーをより効果的に検知し、対応するための自動ツールを開発中であると述べた。

*もしあなたが苦悩や絶望に苦しみ、サポートを必要としているなら、医療専門家やサポートを提供する団体に相談することができます。多くの国で利用できる支援の詳細は、Befrienders Worldwide: www.befrienders.org でご覧いただけます。

英国では、支援を提供する団体のリストは bbc.co.uk/actionline でご覧いただけます。米国とカナダにお住まいの方は、988自殺ホットラインにお電話いただくか、ウェブサイトをご覧ください をご覧ください。