2026年2月26日
差出人: アン・M・オリアリー OpenAI グローバル政策担当副社長
宛先: エヴァン・ソロモン閣下（下院議員、下院議員） 人工知能・デジタルイノベーション大臣 下院 オンタリオ州オタワ K1A 0A6 カナダ
CC: ゲイリー・アナンダサンガリー閣下（下院議員、下院議員） 公安大臣
ショーン・フレーザー閣下（下院議員、下院議員） 法務大臣兼カナダ司法長官
マーク・ミラー閣下（下院議員、下院議員） アイデンティティ・文化大臣
ソロモン大臣殿
タンブラーリッジでの事件は言葉に尽くせない悲劇であり、私たちは犠牲者の方々、そのご家族、そして地域社会全体に心を寄せています。
火曜日の会議を開 催していただき、誠にありがとうございます。また、ミラー大臣、アナンダサンガリー大臣、フレーザー大臣、そしてヌールモハメド政務官と共に、今後このような悲劇を防ぐ方法について率直な議論を主導していただき、感謝申し上げます。
本日、OpenAIはこれらの事件を受けて得られた知見に基づき、直ちに講じている措置についてお知らせいたします。タンブラーリッジの悲劇の捜査において、法執行機関への協力を継続するとともに、連邦政府および州政府との継続的なパートナーシップにも尽力してまいります。
皆様とカナダの法執行機関にお知らせしたとおり、2025年6月、OpenAIは利用規約違反を検知したことを受け、タンブラーリッジの悲劇の犯人のChatGPTアカウントを閉鎖することを決定しました。OpenAIの自動システムがこのアカウントを検知し、その後、利用規約違反の有無、および法執行機関への通報の必要性を判断するため、人間による審査に送られました。 2025年6月にアカウントが停止された時点で確認できた情報に基づき、法執行機関に通報するための基準を満たす、信頼性が高く差し迫った計画は確認できませんでした。
OpenAIは、深刻な暴力の潜在的な警告シグナルを特定するために継続的に取り組むとともに、当社のツールを責任を持って使用する大多数の人々のプライバシーとセキュリティを保護しています。私たちは、プラットフォーム上で人命への脅威を含む重大な危害リスクを特定し、対処するための措置を講じるよう努めています。また、当社の製品が安全かつプライベートであり、世界中の何億人ものユーザーが安全に使用できることを保証する必要がありま す。OpenAIは、すべてのモデルの開発と展開において、人々の安全と人権の両方を促進することを要求しています。
過去数ヶ月にわたり、私たちは安全対策を強化するための措置を講じ、暴力行為に関する事案の法執行機関への通報プロトコルを変更してきましたが、今週の大臣との対話では、カナダ国民が継続的な具体的な行動を期待していることが強調され、そのメッセージは明確に聞き取れました。会談において、大臣と他の大臣は、いかなるコミュニティもこのような悲劇に直面すべきではないと強調しました。私たちもこれに賛同します。
OpenAIは以下の取り組みを実施します。
● 強化された法執行機関への通報プロトコルの強化を継続します。 ChatGPTとの会話に基づく法執行機関への通報は、ユーザーのプライバシー保護に努めると同時に、公共の安全のために必要に応じて措置を講じるという、複雑で困難な判断を伴います。そのため、通報プロトコルの継続的な改善に取り組んでいます。数か月前、私たちはメンタルヘルス、行動、法執行の専門家と提携し、会話が法執行機関への通報に値する差し迫ったリスクに該当するかどうかを判断する基準を見直しました。
メンタルヘルスと行動の専門家は現在、困難なケースの評価に協力しており、ユーザーはChatGPTでの会話において、計画されている暴力行為の対象、手段、タイミングについて話し合うことはないものの、差し迫った暴力行為の潜在的なリスクが存在する可能性があることを考慮し、通報基準をより柔軟にしました。継続的な学習に基づき、2025年6月に停止されたアカウントが本日発見された場合、強化さ れた法執行機関への通報プロトコルに基づき、法執行機関に通報いたします。
本日、私たちはカナダ政府および専門家と協力し、タンブラーリッジの悲劇とカナダの状況に基づき、強化された法執行機関への通報基準を継続的に強化することをお約束します。これには、差し迫ったリスクと確実なリスクの評価方法、そして法執行機関への通報に関する透明性の継続的な分析が含まれます。
● カナダの法執行機関との直接連絡窓口の設置 大臣の要請に基づき、カナダの法執行機関との直接連絡窓口を設置し、現実世界の暴力の可能性に基づいて法執行機関への通報を行った場合に、カナダ当局に迅速に情報を提供できるようにします。
● エスカレーション対策に国とコミュニティの状況を反映 ユーザーが苦しんでいる場合や禁止行為を行っている場合、エスカレーションの緩和とユーザーの安全を重視し、私たちのモデルは適切に対応する必要があります。 ChatGPTは、ユーザーが支援を必要としていると判断した場合、ユーザーがそれぞれのコミュニティ内で適切なサポートを見つけられるよう支援したいと考えています。ユーザーの所在地が判明している場合は、地域のヘルプラインなど、適切なサポートリソースにユーザーを誘導するという取り組みを強化し、ユーザーの国や地域に特化したサポートを提供できるようにします。
● ポリシー違反を繰り返し行うユーザーを検出するシステムの強化: OpenAIは、暴力行為に関するポリシー違反によりChatGPTアカウントが停止された後に新規アカウントを作成しようとするユーザーを含む、ポリシー違反を 繰り返し行うユーザーを特定するためのシステムを導入しています。この検出システムにもかかわらず、タンブラーリッジ事件の犯人の名前が公表された後、犯人が別のChatGPTアカウントを使用していたことが判明しました。このアカウントは発見後、法執行機関に共有しました。OpenAIは、安全対策の回避をより効果的に防止し、最もリスクの高い違反者の特定を優先するために、検出システムを強化することをお約束します。さらに、潜在的な暴力行為を検知するために自動化システムが使用する閾値を定期的に評価することを約束します。
これらの即時の取り組みは、AIの安全性向上に向けてカナダ政府と連携して取り組むべき取り組みの第一歩に過ぎません。私たちは継続的な対話を求めており、カナダ政府と協力して地域の関係者や業界を招集し、青少年特有の配慮を含む、潜在的な暴力行為を含む事案における法執行機関への照会やAIモデルの挙動に関するベストプラクティスを策定したいと考えています。
今後数か月間、OpenAIは連邦政府、州政府、業界関係者、そして様々な分野やコミュニティの地域の関係者と連携し、モデルと安全ポリシーの改善を継続する中で、カナダ国民のニーズに総合的に応えられるよう努めていきます。
この重要な対話の機会を設けていただき、改めて感謝申し上げます。AIの安全性を強化するために、私たちは力を合わせ、あらゆる努力をしなければならないと認識しています。
敬具
アン・M・オリアリー
OpenAI グローバルポリシー担当副社長