インシデントのステータス
Risk Subdomain
5.1. Overreliance and unsafe use
Risk Domain
- Human-Computer Interaction
Entity
AI
Timing
Post-deployment
Intent
Unintentional
インシデントレポート
レポートタイムライン
スタイン=エリック・ソールバーグ氏はこの春、ますますパラノイアに陥り、自分に対する監視活動が行われているとの疑念をChatGPTに打ち明けた。
誰もが自分を攻撃していると彼は思った。 故郷コネチカット州オールド・グリニッジの住民、元恋人、そして実の母親までも。ChatGPTはほぼ常に彼の意見に同意した。
56歳でIT業界のベテランで、精神的に不安定な経歴を持つソールバーグ氏にとって、OpenAIのChatGPTは、大規模な陰謀の標的にされているという証拠を探す上で、信頼できる相…

コネチカット州グリニッジ(WABC)―AIチャットボットの潜在的な危険性を浮き彫りにする複数の不穏な報道を受け、ChatGPTの開発元は、トライステート地域で発生した事件などを受け、自社の技術が悪用されるのを阻止しようと取り組んでいる。
警察によると、エリック・スタイン・ソールバーグ容疑者(56歳)は8月5日、コネチカット州ショアランズ・プレイスの自宅で、母親のスザンヌ・アダムスさん(83歳)を殺害した後、自ら命を絶った。
この事件に至るまで、ChatGPTはソールバーグ容疑…
ChatGPTと数ヶ月にわたって会話した後、実の息子に殺害された女性の遺族は、木曜日にサンフランシスコ上級裁判所にOpenAI、Microsoft、サム・アルトマン氏を相手取り、不法死亡訴訟を起こした。
重要性:チャットボットの安全性と有効性に関する疑問が高まる中、この凄惨な事件は、AI大手OpenAIが抱える法的問題と説明責任に関する問題が山積する中で、最新のものだ。
OpenAIをはじめとするAI企業は、愛する人がAI技術とのやり取り後に自傷行為や自殺を図ったと主張する人…
2025年6月、OpenAIの安全チームは危機感を募らせた。同社の自動審査システムが、ChatGPTユーザーによる銃暴力に関するシナリオを 記述した広範な活動を検知したのだ。スタッフ数名が警察に通報すべきかどうかを議論したが、経営陣は、この件はOpenAIが定める「信憑性があり差し迫った」身体的危害のリスク基準を満たしていないと判断した。その代わりに、ウォール・ストリート・ジャーナルが最初に報じ、後にOpenAIが確認した一連の行動(OpenAIは不正使用を理由に当該アカウント…
バリアント
よく似たインシデント
Selected by our editors
ChatGPTのやり取りに関連しているとされる大規模なメンタルヘルス危機
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Selected by our editors
ChatGPTのやり取りに関連しているとされる大規模なメンタルヘルス危機
Did our AI mess up? Flag the unrelated incidents


