概要: OpenAIは、毎週数十万人のChatGPTユーザーが躁病、精神病、自殺念慮、またはチャットボットへの感情的依存の兆候を示していることを示唆する内部推計を公開しました。WIREDは、ChatGPTとの長時間の会話の後、入院、離婚、または死亡したユーザーもおり、遺族はシステムが妄想を強め、深刻な精神的被害につながったと主張していると報じています。
インシデントのステータス
インシデントID
1253
レポート数
2
インシデント発生日
2025-10-27
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
Loading...
OpenAIは初めて、ChatGPTユーザーのうち、典型的な1週間で深刻なメンタルヘルス危機の兆候を示す可能性のある全世界での数のおおよその推定値を発表しました。同社は月曜日、世界中の専門家と協力してチャットボットをアップデートし、精神的苦痛の兆候をより確実に認識し、ユーザーを現実世界でのサポートに誘導できるようにしたと発表しました。
ここ数カ月、ChatGPTとの長く激しい会話の後に入院、離婚、または死亡に至る人が増えています。愛する人の中には、チャットボットが妄想や被害妄…
Loading...
OpenAIによるインシデント後のレスポンス
私たちは最近、ChatGPTのデフォルトモデル（新しいウィンドウで開く）を更新し、苦痛の瞬間にある人々をより適切に認識してサポートできるようにしました。本日は、これらの改善をどのように行ったか、そしてそのパフォーマンスについ てご紹介します。実際の臨床経験を持つメンタルヘルスの専門家と協力し、モデルが苦痛をより適切に認識し、会話を落ち着かせ、適切な場合に専門家のケアに人々を誘導するように学習させました。また、危機ホットラインへのアクセスを拡大し、他のモデルから発生したデリケート…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
