コレージュ・ベリヴォーは、AIが生成した未成年生徒のヌード写真がウィニペグの学校で流通しているのが発見された後、人工知能のダークサイドに取り組んでいる。
木曜日の午後に保護者に送られた電子メールによると、学校当局は月曜日遅くに、7年生から12年生のフランス語イマージョンスクールの女子生徒の加工された写真がオンラインで共有されていることを知り、警察に連絡したとのこと。
「私たちは、この問題を指摘するために名乗り出た生徒に感謝し、誇りに思っています」と手紙には書かれている。
流通した写真の中に加工された写真があったある少女の母親は、CBCニュースに対し、責任者が責任を問われることを望んでいると語った。彼女は、なぜ人工知能企業がこのようなことが起こるのを許しているのか疑問を呈した。
コレージュ・ベリヴォーの12年生の息子を持つ別の保護者は、このニュースにショックを受けたと語った。
「男の子よりも女の子の方が怖いと思います。これは私の意見です」とノニ・コプチェフスキーさんは語った。
「私には3人の男の子がいますが、子供たちへの一番のアドバイスは常に敬意を払うことです。… 相手の立場になって考えてください。これは傷つくことですし、それがもたらすダメージは長期にわたります。」
学校当局は、何枚の写真がシェアされたか、何人の少女が被害を受けたかを把握していない。（CBC）
コプチェフスキーさんは、人工知能について、それを使用することに伴うリスクを含め、家庭内で議論されていると語った。
「世の中はますます恐ろしくなってきています。私たちはもっと勉強しています」と彼女は語った。
「未知の領域」：警察
学校は、元の写真は公開されているソーシャルメディアから収集され、その後明示的に変更されたようだと述べた。
学校は、何枚の写真がシェアされたと考えているか、何人の少女が被害を受けたかについては明らかにしなかった。
学校は「何が起こったのか、誰が関与したのかをより深く理解するために調査中」であり、当局は「これらの画像を共有した特定された個人の行動に対応するために必要な措置を講じている」と保護者へのメールで述べた。
「加工された写真の証拠をすべて持っているとは想 定できませんが、証拠がある生徒の保護者には直接連絡します。」
ウィンザーパーク地区にあるこの学校のウェブサイトによると、生徒数は600人弱。
学校当局は、ウィニペグのカナダ児童保護センターが運営するオンライン虐待の通報ラインであるCybertip.caとも連絡を取っている。
学校が受け取った画像は、サイバーチップのProject Arachnidにアップロードされ、削除される予定。
ダニ・マッキノン巡査は、警察の反搾取部隊が捜査中だが、捜査が本格化していないため詳細を明らかにするにはまだ時期尚早だと述べた。
「AIは私たちの世界の微妙で複雑な新しい部分です」と彼女は述べた。「それは確かに新しい形の秘密の行動です。私たちは未知の領域にいます。」
現時点では告訴は行われていない。
「この問題は悪化するだろう」
学校関係者は、今回の事件で直接的または間接的に影響を受けた生徒のためにサポートチームが対応していると述べた。
追加のサポートとリソースは、Cybertip.ca および Need Help Now を通じて利用できると、学校からの電子メールには記載されている。これらは、若者と家族向けの別のカナダのリソースである。
写真編集プログラムで若者の知らないうちに作成され、その後オンラインで共有される画像による若者の搾取は、何年も前から問題になっていると、Cybertip のディレクターは述べた。
しかし、「AI はそれを本当に加速させました」と、Stephen Sauer 氏は述べた。
カナダでは、ケベック州など、AI が児童性的虐待素材の作成に使用された事例があるが、ザウアー氏は、この国で学校の 10 代の若者が他の 10 代の若者からこのような被害を受けたという過去の事例を知らない。
現時点では、犯人が同級生であるかどうかは明らかではない。警察と学校は、その点についてコメントしていない。
ザウアー氏は、コレージュ ベリヴォーでの捜査について具体的には語らなかったが、露骨な画像を作成する人々は、その結果や長期的な影響を理解していないことが多いと述べた。
「たとえ、この素材が、人々が面白いと思ったり、少し悪意のある行為だと思ったりして作成されたとしても、法律上は児童ポルノまたは児童性的虐待素材とみなされる可能性があります」と同氏は述べた。
「この素材が個人情報とともにオンラインで共有された場合、被害者の人生の他の段階で再び悩まされる可能性があります。」
Project Arachnid は、インターネットをスキャンして児童性的虐待の既知の画像を探し、企業に削除通知を出すウェブクローラーで、オンラインでの児童性的虐待素材の拡散を減らすことができるが、鍵はそれがより広く配布される前に迅速に対処することだとザウアー氏は述べた。
「確かに特効薬はないが、このプロジェクトは、素材がサービスに投稿されたときに企業に通知し、ネットワークをクリーンな状態に保つことができるようにしている」と同氏は述べた。
マウラ・グロスマン氏は、偽の画像を作るのは非常に簡単になったが、それを制御する のは非常に困難になっていると述べている。（ウォータールー大学）
ウォータールー大学コンピューターサイエンス学部の研究教授で、AI 生成画像の現実世界への影響を研究しているマウラ・グロスマン氏は、カナダの学生が他の学生のディープフェイクを作成するのはこれが初めてだとも述べた。
最近、米国ではニュージャージー州とシアトルで数件の事例があったが、「カナダにまで来たとは聞いていなかった」と同氏は語った。
「かなり憂慮すべきことだが、難しくはなく、無料でできる。オンラインサイトはたくさんある」
顔を他の体に入れ替える機能は以前からあったが、技術が貧弱だった。今では誰でも説得力のある画像を作成できるとグロスマン氏は語った。
今難しいのは、それをどう制御するかを考えることだ。
「世界中の人々を相手にしている。法的な問題でその人を管轄するのは非常に難しい」と同氏は語った。
「非常に困難で、この問題は改善するどころか悪化するだろうと思う」