市警察は、地元の高校でAIが生成した未成年の生徒のヌード写真が出回っているという報告を調査している。
ウィニペグ警察署の職員は、児童ポルノ捜査の一環として、水曜日にウィンザーパークにある7年生から12年生までの高校、コレージュ・ベリヴォーを訪問した。
これまでのところ、刑事告訴は行われていない。
「捜査はまだ初期段階であり、AIは複雑です。法律では、さまざまなニュアンスが今まさに開発されているところです」と、ウィニペグ警察署広報室のダニ・マッキノン巡査は述べた。
マッキノン巡査は、状況のデリケートな性質と被害者に関する懸念を理由に、木曜日にさらなるコメントを控えた。
ウィニペグ警察署の広報担当、ダニ・マッキノン氏。
高校の管理者は、生徒の加工された写真が月曜日遅くにオンラインで共有されたことを初めて知ったと家族に警告する手紙を書いた。
「元の写真は、公開されているソーシャルメディアから収集され、明らかに改変されたようです」と、校長のアンドレア・コロディと副校長のジェニファー・オールドフィールドが署名したメモには記されている。
コロディとオールドフィールドは共同声明で、ルイ・リエル学区の適切なインターネット使用と生徒の行動に関する方針に違反する深刻な問題について名乗り出た生徒に感謝し、誇りに思うと述べた。
管理チームは、その後の調査には内部と外部の両方のソースが関与していると述べた。
前者には、学区長室、情報システム部門、臨床サービススタッフが含まれます。後者のグループには、WPSインターネット児童搾取ユニットと、カナダ児童保護センターが運営する全国通報ラインが含まれます。
「学校が受け取ったすべての画像は、この種のオンライン画像の削除を専門とするProject Arachnidを通じて、Cybertipに安全にアップロードされます」と校長は手紙に記した。
「これは初期段階の調査であり、AIは複雑です。 「法律には、今まさに発展しつつあるさまざまなニュアンスがある」–ダニ・マッキノン巡査
「多くの場合、（加害者は）自分がやっていることの重大さを理解していないと思います。彼らが出力している画像は、厳密に言えば児童性的虐待の素材です」と、サイバーティップとプロジェクト・アラクニッドを運営する ウィニペグに拠点を置く組織の情報技術ディレクター、ロイド・リチャードソン氏は述べた。
リチャードソン氏は、いわゆるディープフェイク（偽情報の拡散を含むがこれに限定されない悪意のある目的で通常作成されるデジタル改変コンテンツ）を作成するアプリが、過去2年間でますます高度化し、アクセスしやすくなっていると指摘した。
AI画像生成ブームは、笑いのためであれ悪意のある目的であれ、親密な画像を同意なしに共有するという従来の行為の「派生」を生み出しており、その影響は被害者にとって同様に有害であると彼は述べた。
「画像が本物かどうかは、あまり問題ではありません。同じように露出されるのです」とリチャードソン氏は述べ、技術が進歩し、本物の画像とディープフェイクを見分けるのが難しい場合が多いと付け加えた。
これらのツールが改良され、より広く利用可能になるにつれて、AI 生成ヌードの違法性について一般の人々に啓蒙することが非常に重要になると、IT ディレクターは付け加えた。
水曜日に制服警官が高校に到着するのを目撃した 10 年生のグループは、正午の訪問の余波を感情的なものと表現した。
ウィニペグ ジェッツの試合日には、ホッケー ライターのマイク マッキンタイア氏とケン ウィーベ氏が、朝のスケートのニュース、メモ、引用、負傷者の最新情報、ラインナップの決定などを送信する。パックドロップの数時間前に到着する。
10 代の少年たちは、クラスメートが廊下で泣いているのを見たと報告し、他の少年たちは、当初はおしゃべりな教師や被害者から地域住民に伝えられたとされる初期の報告に怒 りを表明した。
「私たちが行くところ、通り過ぎる人全員が、そのことを話していた」とある生徒は語った。
別の生徒は、未成年の同級生の偽造画像の作成を「非常に奇妙でめちゃくちゃだ」と呼んだ。
高校生たちは、地元の十代の少女数十人の顔を使って300枚以上の写真が作成されたと思われると述べた。
ルイ・リエル学区は木曜日、画像がどのように変更されたか、または合計で何枚公開されたかは確認できないと述べた。
ベリヴォーの指導者たちは、高校でのデジタル市民権に関する追加教育の必要性を認め、既存のカリキュラムを補完する学習機会を組織しているところだと述べた。
校長は「怒り、悲しみ、侵害の感情は正常である」と述べたが、自警行為や報復的な暴力の脅迫は容認されないと警告した。
「学校としての私たちの責任は、すべての生徒の安全を確保することです。学校当局は、部門の職員と協議の上、これらの画像を共有した特定された個人の行動に対応するために必要な措置を講じています。」
ソーシャルワーカーやその他の学生サービス専門家が、この状況の影響を受けた学生を支援するために派遣されています。