昨年12月、ウィニペグの学校コレージュ・ベリヴォーは、女子生徒の露骨な画像がオンラインで公開された件について調査中であると保護者に通知した。元の画像はソーシャルメディアのアカウントから盗用され、その後AIを使用してヌードに見えるように加工されていたようだ。
また昨年4月、ケベック州の男性がAI生成の合成児童ポルノを作成したとして懲役刑を受けた。スティーブン・ラルーシュは4月、いわゆるディープフェイク技術を使用して少なくとも7本の動画を作成した罪を認めた。ディープフェイク技術は、ある人物の顔を別の人物の体に重ね合わせるために使用される。
「犯罪者の手に渡ったディープフェイク技術の使用は恐ろしい。この種のソフトウェアは、私たちのコミュニティのほぼすべての子供を巻き込む可能性のある犯罪を犯すことを可能にする」と、州裁判所のブノワ・ガニオン判事は4月14日の判決で述べた。 「ソーシャルメディアで公開されている子供の動画の抜粋や、公共の場で撮影された子供の動画は、彼らを児童ポルノの潜在的な被害者にする可能性があります。」
ウィニペグ事件について680 CJOBに語った警察巡査のダニ・マッキノンは、彼女のチームがこの件を調査中であると述べたが、AIの使用は古い犯罪に新たなひねりを加えたと付け加えた。
「リベンジポルノや同意のない画像の配布などの問題は以前にもありました」と彼女は述べた。「しかし、それらは実際の画像が送信された状況でした。私たちは今、AI生成を使用して拡張され、修正された画像について話しています。彼女は、法律が定めることとテクノロジーの仕組みの間にギャップがあると付け加えました。
CBC のウィニペグ校の事件について、ウォータールー大学コンピューターサイエンス学部の法律専門家で研究教授のマウラ・グロスマン氏は次のように語った。「これは非常に難しい問題であり、この問題は改善するどころか悪化するだろうと思います。」
グロスマン氏はこの問題を間近で見てきました。別のインタビューで、彼女はナショナルポスト紙に次のように語りました。「数年前、このような状況に陥った生徒がいました。実際の画像です…誰かがそのような目に遭うのを見ると…自分では制御できないことが起きているのでパニックに陥ります。」
「平均的な人にとって、人生全体が崩壊していくように感じます。そして、親がこれを恥じる文化、あるいは自分がこれを恥じる文化から来た場合、それは精神衛生にひどい影響を及ぼす可能性があります。」
1月、ブリティッシュコロンビア州は、同意なしにオンラインで共有される親密な写真から人々を保護するのに役立つ法律を制定した最新の州になりました。しかし、親密な画像保護法は、単に裸、裸に近い、または性行為を描写したもの以上のものを対象としています。デジタルで変更された画像、ディープフェイク、AIで生成された画像に具体的に言及しています。
同様の法律はサスカチュワン州、ニューブランズウィック州、プリンスエドワード島ですでに存在しており、他のほとんどの州では、変更または生成された画像に明示的に言及していないバージョンがあります。しかし、ダニエル・ツァイ氏は、それらのどれも、新しいテクノロジーの急速なペースに対処するのに十分ではないと言います。
ツァイ氏は、トロント大学とクイーンズ大学ビジネススクールの非常勤教授であり、元知的財産弁護士であり、かつて連邦政府の上級政策顧問でした。彼はかつて、映画館でビデオカメラを使用することの違法性を扱った刑法の条項を起草したことがある。これは、生成型 AI の現在の問題と比較すると、ほと んど古風な響きを持つ法律である。
簡単に言えば、AI はテキスト プロンプト (「裸のテイラー スウィフトを見せてください」) のみに基づいて画像を生成するために使用できる。また、既存の画像を取得して修正し、顔、体、その他の詳細をシームレスに交換して、比較的無害なもの (たとえば、厚手のコートを着た教皇) から本当に恐ろしいものまで、非現実的な画像を作成することもできる。服を着た画像を裸のように見せることに特化したプログラムさえある。
「これがテクノロジーの本質です」とツァイ氏は言う。「テクノロジーは大きな善のために使用できます。また、信じられないほどの破壊にも使用できます。これは人間の心の邪悪さを示しています。」
ブリティッシュコロンビア州の法律や同様の法律では、本物か偽物かを問わず、個人が民事解決裁判所に訴えて私的な画像を削除してもらうことができる。また、そのような画像を削除する命令に従わなかった場合、個人には1日最大500ドル、ウェブサイトには1日最大5,000ドルの罰金を科すことができる。
「ある意味でブリティッシュコロンビア州は時代を先取りしています」とツァイ氏は言う。「しかし、法律には少し抜け穴があります。裁判所命令を取得して、個人とウェブサイトが従うことを期待しなければなりません。」
加害者が他の州や国外にいる場合は特に厄介です。「もし彼らがロシアや北朝鮮にいて、あなたに危害を加えようとしているとしたらどうでしょう？ どうでしょう？ あなたにできることはあまりありません。彼らはカナダの裁判所命令など気にしないでしょう。」
米国のようなより近く 、友好的な国でさえ、法律の対象外になる可能性があるとツァイ氏は言う。 「画像が第三者のサイトにあり、そのサイトが米国に拠点を置いている場合、彼らは事実上、ブリティッシュコロンビア州の裁判所命令を無視することになります。そして、通信品位法第230条の下では、そうすることが認められています。」
グロスマン氏は、執行は難しいかもしれないことに同意しますが、より楽観的な見方をしています。
「裁判所命令を受けた場合、それを無視することはないと思います」と彼女は言います。「少なくとも、裁判所に出向き、『あなたには私に対する管轄権はありません』と主張するか、他の法的主張をするでしょう。」
彼女はさらに、「また、このようなものを削除することを拒否することで生じる評判の損失を望みますか？」と付け加えます。彼女は、最近オンラインで共有されたポップスターのテイラー・スウィフトの露骨なディープフェイク画像に対するファンの反発を指摘します。「しかし、おそらく訴訟になるでしょう」と彼女は結論付けています。」
グロスマン氏は、死者やライブストリーミングまでカバーするブリティッシュコロンビア州の新しい法律の範囲にも満足しています。
しかし彼女は、未成年者が親に告げずにシステムにアクセスできる規定があり、すべてのケースで被害者が法廷に出廷する必要があるわけではないと指摘する。「法廷に行きたくない人はたくさんいます」と彼女は言う。「彼らはただ、それが消え去ることを望んでいるのです。」
ツァイ氏は、法的責任の欠如の理由の一部は、新しいAI技術が解き放たれたスピードに関 係していると言う。
「これは、危険性や社会的に否定的な影響を本当に理解することなく、私たちがいかにして新しい技術から利益を得ようと急いでいるかを示しています」と彼は言う。テクノロジー企業は「利益を追求するAIを作ることに固執しており、倫理や法律に必ずしも従うものではありません」。
彼はさらにこう付け加える。「技術を解き放てば、社会の不和とそれがもたらす害という混乱を刈り取ることになります。」
グロスマン氏も、望まない画像操作を個人的に経験したことがある。数年前、誰かが彼女の法律サービスの広告を悪意のあるバージョンに加工したのだ。
最近では、彼女はいわば自らの手で問題を解決した。アメリカ法曹協会主催の講演中、彼女は他の講演者の一人である有名な連邦判事の画像をオンラインで見つけ、ディープフェイクで2つの画像に修正を加えた。
「1つはまあまあでした」と彼女は認める。「でも、たった2分でできました」
その後、彼女は音声クローンのウェブサイトに行き、自分のかなりユニークなニューヨーカー風の声をコピーし、他の講演者について侮辱的なことを言わせた。「私ではないと見分けるのは非常に難しいでしょう」と彼女は言う。「2分で無料でこんなことができるなんて、ただただ驚きました」
蔡氏は、特に欧州連合で導入され、テクノロジー企業にさらなる透明性と説明責任を求める規制の一部に希望を感じている。
「これはカナダと米国が従うべき良いモデルですが、現時点での問題は、馬がすでに納屋から出ていて、今度は彼らが私たちの社会規範を踏みにじり、どんな泥を空中に投げつけ るかを見ることになるということです」
ツァイ氏の提言は、大まかに言えば、あらゆる面での強化だ。昨年夏、ホワイトハウスでの会議でグーグル、マイクロソフト、メタなどが約束したような、大手テクノロジー企業による自主規制の強化だ。
「プラットフォームに対する巨額の罰金が必要だ」と同氏は続ける。「規制体制を整える必要がある。罰則を強化する。まだそこまでには至っていない」。
そして、近いうちにそうなることはないのではないかと同氏は懸念している。ブリティッシュコロンビア州の新法以外では、カナダ人が同意なくオンラインで共有された画像に対する補償を求める場合、名誉毀損やいわゆる人格の不正使用に対する不法行為に対する古い法律に頼ることができる。
「しかし、結局のところ、こうした請求を追求するのは非常に費用がかかり、非常にストレスがたまり、非常に時間がかかる」と同氏は言う。「一般人は諦めてしまうかもしれない。残念ながら、政治家が真剣に受け止めるには、何か重大なことが起きるのを見なければならないのが現実だ」