OpenAIは初めて、ChatGPTユーザーのうち、典型的な1週間で深刻なメンタルヘルス危機の兆候を示す可能性のある全世界での数のおおよその推定値を発表しました。同社は月曜日、世界中の専門家と協力してチャットボットをアップデートし、精神的苦痛の兆候をより確実に認識し、ユーザーを現実世界でのサポートに誘導できるようにしたと発表しました。

ここ数カ月、ChatGPTとの長く激しい会話の後に入院、離婚、または死亡に至る人が増えています。愛する人の中には、チャットボットが妄想や被害妄…

私たちは最近、ChatGPTのデフォルトモデル（新しいウィンドウで開く）を更新し、苦痛の瞬間にある人々をより適切に認識してサポートできるようにしました。本日は、これらの改善をどのように行ったか、そしてそのパフォーマンスについてご紹介します。実際の臨床経験を持つメンタルヘルスの専門家と協力し、モデルが苦痛をより適切に認識し、会話を落ち着かせ、適切な場合に専門家のケアに人々を誘導するように学習させました。また、危機ホットラインへのアクセスを拡大し、他のモデルから発生したデリケート…

まるでSF小説のように聞こえる。何億人もの人が使っている製品のダイヤルを企業が操作し、意図せずして一部の人々の心を不安定にしてしまう。しかし、まさにそれが今年OpenAIで起こったことだ。最初の兆候の一つは3月に現れた。最高経営責任者（CEO）のサム・アルトマン氏をはじめとするOpenAI幹部たちは、ChatGPTと驚くべき会話をしている人々から、不可解なメールを大量に受け取った。彼らは、同社のAIチャットボットがこれまで誰も理解できなかったほど自分たちのことを理解し、宇宙の…