OpenAIによると、ジェシー・ヴァン・ルーツェラー氏がカナダのブリティッシュコロンビア州の田舎町を襲った銃乱射事件の容疑者となる数ヶ月前、同社は同社がChatGPTチャットボットとのやり取りについて法執行機関への通報を検討していたという。
事情に詳しい関係者によると、ヴァン・ルーツェラー氏は昨年6月、ChatGPTを使用していた際、数日間にわたり銃による暴力行為に関するシナリオを描写していたという。
自動レビューシステムによってフラグが付けられた彼女の投稿は、OpenAIの従業員に不安を抱かせた。社内では、約12名のスタッフがヴァン・ルーツェラー氏の投稿に対して何らかの措置を講じるかどうか議論した。事情に詳しい関係者によ ると、一部の従業員はヴァン・ルーツェラー氏の投稿を現実世界の暴力行為の可能性を示唆するものと解釈し、幹部に対し彼女の行動についてカナダの法執行機関に通報するよう促したという。
OpenAIの幹部は最終的に当局に連絡しないことを決定した。
OpenAIの広報担当者は、Van Rootselaar氏のアカウントを凍結したが、彼女の活動は法執行機関への通報基準を満たしていないと判断したと述べた。法執行機関への通報基準には、他者に深刻な身体的危害を加える確実かつ差し迫ったリスクを構成することが必要だった。
2月10日、Van Rootselaar氏は、8人が死亡、少なくとも25人が負傷した銃乱射事件の現場（学校で発生）で、自傷とみられる遺体で発見された。王立カナダ騎馬警察は、18歳のトランスジェンダー女性であるVan Rootselaar氏を容疑者として特定した。
広報担当者によると、同社は銃乱射事件の発覚後、RCMPに連絡を取り、捜査を支援しているという。
「タンブラーリッジの悲劇で影響を受けたすべての方々に心よりお見舞い申し上げます」と同社は声明で述べた。
事件発生から数日後、ヴァン・ルーツェラー容疑者のデジタルフットプリントの他の側面が明らかになった。その中には、彼女がプラットフォーム「ロブロックス」上で作成した、銃乱射事件を再現したビデオゲームも含まれていた。容疑者はソーシャルメディア上で、性転換のプロセスや、アニメや違法薬物への関心について懸念を表明していた。
オンラインプラットフォームは、特定のユーザーを法執行機関に通報する決定において、ユーザーのプライバシーの問題と公共の安全のバランスをどのように取るべきかについて、長年議論を重ねてきた。この議論は今、人々がプライベートな考えや生活の最も親密な詳細を打ち明けるチャットボットを動かすAI企業にも降りかかってきている。
OpenAIは、ユーザーが現実世界で危害を加えないようモデルを訓練し、ユーザーが危害を加える意図を示した会話を人間の審査員に回していると述べた。審査員は、深刻な身体的危害の差し迫ったリスクがあると判断された場合、法執行機関に通報することができる。
同社は、暴力のリスクとプライバシーへの配慮、そして不必要に警察を介入させることで個人や家族に生じる可能性のある苦痛を天秤にかけていると述べている。
ヴァン・ルーツェラー容疑者は、銃撃事件の前から既に地元警察に知られていた。彼らは精神衛生上の懸念に対処するため、彼女の自宅を複数回訪問し、自宅から銃器を一時的に撤去した。
カナダ王立騎馬警察（RCMP）のドウェイン・マクドナルド長官によると、専門の捜査チームは、銃乱射事件に関する手がかりを求めて彼女のオンライン活動やデジタルフットプリントを精査するとともに、警察や精神保健専門家との過去のやり取りも精査している。
アーカイブされたソーシャルメディアの投稿には、ヴァン・ルーツェラー容疑者が射撃場で射撃をしている自身の写真を投稿したり、3Dプリンターで弾丸の薬莢を作成したと主張したり、銃愛好家が作成したYouTube動画についてオンラインで議論したりしていたことが確認されている。