ニュータウン郡警察とバックス郡地方検事局は、ある中学生がAI技術を用いてクラスメートのポルノ画像ディープフェイクを作成したという疑惑について捜査を行っている。
この事件は3月にニュータウン中学校の生徒が関与したと報じられている。容疑に詳しい関係者によると、未成年の少女12人の画像が偽のヌード画像の作成に使用されたという。
これらの画像が他者と共有されたか、オンラインで入手可能だったかは現時点では不明である。
カウンシルロック学区の広報担当者、アンドレア・マンゴールド氏は、ニュータウン郡警察が事件を担当していると述べた以外、この事 件に関するコメントは控えた。
ニュータウン郡警察のジェイソン・ハリス警部は、未成年者に関する捜査が進行中であることを確認したが、事件の進展を阻害しないよう情報は公開しないと述べた。
ハリス警部は、カウンシルロック学区の職員が警察にこの件を通報したことを確認した。州の児童虐待ホットラインであるチャイルドラインに通報されたかどうかは不明である。
バックス郡地方検事局の広報担当者も、検察当局がこれらの疑惑を認識していることを確認しました。広報担当者は、捜査中だが、未成年者の関与を理由に詳細な情報は公表できないと述べました。
もしこれらの疑惑が事実と認められれば、この学生は、いわゆるポルノディープフェイクの配信を禁止したペンシルベニア州の新法に基づき、起訴される最初の人物の一人となる可能性があります。
ディープフェイクとは？
ディープフェイクとは、人工知能（AI）ツールによって生成される画像、動画、音声で、実在の人物と架空の人物の両方を模倣したものです。これらのディープフェイクは、人物の顔や声を使って本物らしく見せることができます。場合によっては、人物の画像が本人とは全く関係のないヌード画像やポルノ画像に重ね合わされ、オンラインで共有されることもあります。
こうしたハイテクなデジタル偽造は、金融詐欺、個人の評判の毀損、政治プロセスの混乱に利用されてきました。
ペンシルベニア州法は、AI生成のデジタルディープフェイクの使用についてどのような規定を設けていますか？
昨年、ペンシルベニア州はデジタルディープフェイクを 取り締まる州として初めてとなりました。
ペンシルベニア州の新法では、裸の状態や性行為中のディープフェイク画像を同意なく配布し、他者に嫌がらせをすることを犯罪と定めています。被害者が未成年の場合、刑罰はさらに重くなります。
AI生成画像の追加は、同意なく性的な画像を配布することを犯罪とする州の既存法を強化するためのものです。
上院通信技術委員会の委員長を務めるモンゴメリー州選出の共和党上院議員、トレイシー・ペニークイック氏は、この法案は2023年にニュージャージー州ウェストフィールドで発生した、高校生のAI生成ヌード画像がソーシャルメディアで拡散された事件に一部着想を得たものだと述べています。
火曜日、州上院司法委員会の委員たちは、偽造デジタル肖像画やなりすましを州の偽造法の対象に含める新たなAI関連法案を可決しました。
議会議員もディープフェイク技術を厳しく検証しています。
昨年、上院議員は、合意のない性的に露骨なディープフェイクの被害者が、画像を作成、共有、受け取った人物を訴えることを可能にする連邦法案「ディファイアンス法」を可決しました。下院版の法案は最近再提出されました。
今年初め、下院議員は同様の法律「テイク・イット・ダウン法」を可決し、上院の承認も得ました。この法律はトランプ大統領が先月署名しました。この法律は、合意のないディープフェイクポルノを犯罪とし、プラットフォームに対し、通知を受けてから48時間以内にそのようなコンテンツを削除することを義務付けています。
学校は生徒の間で拡散するディープフェイク画像にどのように対処していますか？
民主主義技術センターの最新の調査によると、調査対象となった高校生の約40%が、ディープフェイク画像を含む、他人の性的な画像を許可なく作成・共有している人について聞いたことがあると回答しました。
「子どもたちは、お互いにこのようなことをするのが一番多いのです」と、デジタル時代の公民権と自由権に焦点を当てた超党派の非営利団体、同センターの政策顧問、クリスティン・ウォルフェル氏は述べた。
同センターの調査によると、性的な画像（本物かディープフェイクかを問わず）を共有しているところを見つかった生徒のほとんどが、法執行機関への通報や長期停学といった処分を受けていることが明らかになった。
しかし、ウォルフェル氏によると、学校職員は被害者支援と予防に十分な対策を講じていないという。2023～24年度の調査対象となった生徒のうち、画像に描かれた被害者に学校が支援を提供していると答えたのはわずか約10%だった。
ウォルフェル氏によると、調査ではまた、大半の学校が、本物かディープフェイクかを問わず、性的な画像の共有に関する方針や手順を生徒、職員、保護者と共有していないことも明らかになった。
調査対象となった教師の半数以上は、自分の学区にそのような方針が存在するかどうかを知らなかった。
同センターはまた、事件発生後に学校が性的画像の共有に関する方針を策定する可能性が2倍以上高いことも明らかにしたと、ウォルフェル氏は述べた。
（この記事は最新情報を正確に反映するために更新されました。）