インシデントのステータス
Risk Subdomain
5.1. Overreliance and unsafe use
Risk Domain
- Human-Computer Interaction
Entity
AI
Timing
Post-deployment
Intent
Unintentional
インシデントレポート
レポートタイムライン
アダム・レインが4月に16歳で亡くなったとき、最初は友人の何人かはそれを信じなかった。アダムはバスケットボール、日本のアニメ、ビデオゲーム、そして犬が大好きで、ハワイへの家族旅行中に1日犬を借りたほどだったと妹は語った。しかし、彼は何よりもいたずら好きとして知られていた。常に笑いを求めて変な表情をしたり、冗談を言ったり、授業を妨害したりした。自分の死をでっち上げるのは、アダムの時折見せるブラックなユーモアのセンスに合っていただろうと友人たちは言った。しかし、それは真実だった。…
カリフォルニア州の夫婦が、10代の息子の死をめぐりOpenAIを提訴した。同社のチャットボット「ChatGPT」が息子に自殺を促したと主張している。
この訴訟は、16歳のアダム・レイン君の両親であるマット・レイン氏とマリア・レイン氏が火曜日にカリフォルニア州高等裁判所に提起したもので、OpenAIを不法死亡で訴える初の訴訟となる。
遺族は、4月に亡くなったアダム君とChatGPTとのチャットログを証拠として提出した。そこには、アダム君が自殺願望を表明している様子が記録されてい…
カリフォルニア州の夫婦が、10代の息子アダム・レインくんの死をめぐり、OpenAIを提訴した。同社のチャットボット「ChatGPT」が息子に自殺を促したと主張している。
この訴訟は、16歳のアダム・レインくんの両親であるマット・レインさんとマリア・レインさんが火曜日にカリフォルニア州高等裁判所に提起した。OpenAIを不法死亡で訴えた初の訴訟となる。
遺族は、4月に亡くなったアダムくんとChatGPTとのチャットログを証拠として提出した。そこには、アダムくんが自殺願望を説明し…
注:この記事は自殺と自傷行為に関する内容を扱っています。
4月、16歳のアダム・レインが自ら命を絶ちました。アダムの死後、家族はアダムがChatGPTと交わした数千件ものチャットログを発見しました。
OpenAIに対して提起された訴訟では、アダムとチャットボットのやり取りがどのように展開したか、チャットボットがアダムの関心をどのように引きつけ続けたか、そして適切な安全対策が全く講じられていなかったことが詳細に明らかにされています。また、OpenAIが少なくとも現時点では、自社…
16歳のアダム・レイン君(Adam Raine)がチャットボットの助言に従って自殺する1年前、OpenAIはChatGPTの自殺に関する議論に関するルールを2度緩和していたことが、水曜日に両親が提出した修正訴状で明らかになった。
アダム君の両親であるマシューさんとマリアさんは、息子が4月に首つり自殺する数週間前、毎日3時間半以上もChatGPTと会話し、その中には自殺に関する内容も含まれていたとして、8月にOpenAIを息子の不法死亡で訴えた。
サンフランシスコ上級裁判所に提…
まるでSF小説のように聞こえる。何億人もの人が使っている製品のダイヤルを企業が操作し、意図せずして一部の人々の心を不安定にしてしまう。しかし、まさにそれが今年OpenAIで起こったことだ。最初の兆候の一つは3月に現れた。最高経営責任者(CEO)のサム・アルトマン氏をはじめとするOpenAI幹部たちは、ChatGPTと驚くべき会話をしている人々から、不可解なメールを大量に受け取った。彼らは、同社のAIチャットボットがこれまで誰も理解できなかったほど自分たちのことを理解し、宇宙の…
メンタルヘルスに関わる事件は悲劇的で複雑であり、生身の人間が関わっています。法的手続きは当事者から切り離されたように感じられがちであることを認識しており、こうした状況への対応を明確にしたいと考えています。
私たちの目標は、メンタルヘルス関連の訴訟を、慎重かつ透明性をもって、敬意を持って取り扱うことです。
- 私たちは事実から着手し、真摯に理解に努めます。
- 私たちは、生身の人間や現実の生活に関わる状況の複雑さとニュアンスを認識し、敬意を持って主張を展開します。
- これらの事件には、…
変化は最初は些細なもので、小学校5年生を卒業した夏の頃から始まった。彼女はいつも運動神経が良く、芸術的な才能にも恵まれ、友達と仲良く、家族とも親密な関係を築いていたのだが、次第に部屋に閉じこもる時間が増えていった。以前よりもずっと静かで、内向的になったよ うに見えた。外で遊んだり、プールに行ったりすることも拒んだ。
少女Rは、11歳の誕生日にもらったiPhoneを肌身離さず持ち歩いており、母親のHは次第にその端末に不審を抱くようになった。(ワシントン・ポスト紙は、Rが未成年であ…

