インシデント 1375: ブリティッシュコロンビア州銃乱射事件前にChatGPTが暴力的なチャットを警告していたにもかかわらず、OpenAIはRCMPに通報しなかったとされる
インシデントのステータス
Risk Subdomain
6.5. Governance failure
Risk Domain
- Socioeconomic & Environmental Harms
Entity
Human
Timing
Post-deployment
Intent
Other
インシデントレポート
レポートタイムライン
OpenAIによると、ジェシー・ヴァン・ルーツェラー氏がカナダのブリティッシュコロンビア州の田舎町を襲った銃乱射事件の容疑者となる数ヶ月前、同社は同社がChatGPTチャットボットとのやり取りについて法執行機関への通報を検討していたという。
事情に詳しい関係者によると、ヴァン・ルーツェラー氏は昨年6月、ChatGPTを使用していた際、数日間にわたり銃による暴力行為に関するシナリオを描写 していたという。
自動レビューシステムによってフラグが付けられた彼女の投稿は、OpenAIの…
カナダのタンブラーリッジで発生した銃乱射事件で8人を殺害したとされる18歳の女性が、OpenAIのChatGPTを不正利用していたことが、同社の従業員を不安にさせたという。
ジェシー・ヴァン・ルーツェラー容疑者のチャットには銃暴力に関する記述が含まれており、同社のLLM(法執行管理)における不正利用を監視するツールによってフラグが立てられ、2025年6月に彼女のアカウントは停止された。
ウォール・ストリート・ジャーナル紙によると、OpenAIの従業員はヴァン・ルーツェラー容疑…
タンブラーリッジ高校銃乱射事件は防げたのだろうか?チャットGPTの開発元であるOpenAI社は、数ヶ月前にカナダ警察にジェシー・ヴァン・ルーツェラー容疑者の動向を通報することを検討していたと明らかにした。ヴァン・ルーツェラー容疑者は、2月10日にカナダで発生した同国史上最悪の学校銃乱射事件の犯人と疑われている若いトランスジェンダー女性で、この事件は土曜日のウォール・ストリート・ジャーナル紙で報じられた。
人工知能ソフトウェアChatGPTを所有するOpenAI社は、昨年6月に、カナダのタンブラーリッジで銃撃により8人を殺害し、その後自殺した18歳のジェシー・ヴァン・ルーツェラールをカナダ警察に通報するかどうか検討していたと述べている(ヴァン・ルーツェラールは男性として生まれたが、女性として認識されていた)。 OpenAIは、ヴァン・ルーツェラールのアカウントで繰り返し暴力行為が検出されたため、2025年6月にアカウントを停止したと発表した。
その後の調査で、OpenAIはヴァ…
カナダ当局は、OpenAIがブリティッシュコロンビア州で大量殺人事件を起こす数ヶ月前にアカウントが停止されていたユーザーについて、当局に報告していなかったことが明らかになったことを受け、OpenAIの幹部を召喚し、会合を開いた。
カナダの人工知能担当大臣、エヴァン・ソロモン氏は月曜日、火曜日にオタワでOpenAIの上級安全担当者と会談し、安全対策と警察への情報提供基準について説明を求める予定だと述べた。
ソロモン氏は、ブリティッシュコロンビア州タンブラーリッジの田舎町で8人を…
専門家によると、ブリティッシュコロンビア州タンブラーリッジの銃乱射事件発生の数ヶ月前に、OpenAIが犯人に関する情報をどのように扱っていたかが精査されていることは、カナダが同様の事態が発生した場合に警察に情報を提供するよう、人工知能(AI)企業を規制することを検討する機会となる。
ChatGPTを開発した企業は先週、2025年6月にジェシー・ヴァン・ルーツェラール容疑者に関連するアカウントを「暴力行為を助長する目的で」AIチャットボットを悪用したとして、「積極的に」特定し…