フィラデルフィア（WPVI）― 裁判所は今、AIが生成したディープフェイクという、ますます深刻化する脅威に直面している。
メリッサ・シムズさんは、元恋人がAIで偽のテキストを作成し、そのせいで刑務所に入れられたと語った。
「本当に恐ろしい経験でした」と彼女は語った。
シムズさんは、フロリダの刑務所で2日間地獄のような日々を過ごしたと語った。
「映画『オレンジ・イズ・ニュー・ブラック』のようです」と彼女は言った。「まるで一般囚人と同じ場所に収監されたんです」
彼 女の体験はフロリダで大きく報道された。
シムズさんと恋人は最近、ペンシルベニア州デラウェア郡からフロリダに引っ越してきたばかりだった。
彼女によると、悪夢は2024年11月、恋人との口論中に警察に通報したことから始まったという。彼女は、恋人が自分の家を荒らしたと訴えたという。
「次に気がつくと、彼を見ると、彼は自分の顔を平手打ちしていました」と彼女は語った。
彼は自分の体も引っ掻いていたと彼女は語った。警察が到着すると、彼女は暴行容疑で逮捕されました。
保釈条件として、裁判官はシムズさんにボーイフレンドから離れて話をしないよう命じました。
数ヶ月後、彼女はボーイフレンドがAIで生成したテキストメッセージで彼を罵倒し、軽蔑的なコメントをしていたと語りました。
「保釈違反で逮捕されてしまいました」と彼女は言いました。「誰も証拠を確認してくれませんでした。」
ハーバート・ディクソン判事は、シムズさんの苦難はますます頻繁になっていると述べています。
「数年前は、偽の音声録音だけでしたが、今では偽の動画や偽の画像まで作られるようになりました。」
ディクソン判事は、コロンビア特別区上級裁判所の上級判事です。彼はまた、元フィラデルフィア警察本部長のチャールズ・ラムジー氏と共に、刑事司法評議会の委員も務めています。同評議会の使命は、刑事司法制度における政策の推進です。
「私たちが取り組んでいることの一つは、人工知能の責任ある利用のための枠組みを構築することです」とディクソン判事は述べました。
彼は、AI時代の今、検察官と警察は起訴前 にもう少しデューデリジェンス（注意義務）を行う必要があると考えている。
ドレクセル大学でAIフォレンジックを教えているロブ・ドヴィディオ教授は、
「恐ろしいことですが、私たちはもはや目の前にあるものを信じることができないでしょう」と述べ、
AIが生成した動画、テキスト、その他の証拠を見つけるのは難しいと指摘した。AIはあまりにも優秀になりすぎているのだ。
「問題は、検出ツールがそれらの能力に追いついていないことです」とドヴィディオ教授は述べた。
例として、彼はAIが生成した写真を見せた。彼はそれを3つの異なる有名なAI検出ソフトウェアプログラムに入力した。3つとも、写真が合成写真またはAI生成写真である確率が1%から62%まで、それぞれ異なる結果を返した。
「現代では、反証されない限り信じるのが常識ですよね？ それを逆転させ、検証できるまでは信じないようにする必要があると思います」とドヴィディオ教授は述べた。
シムズ氏の物語はハッピーエンドを迎えた。
弁護士による8ヶ月に及ぶ法廷闘争の後、検察は保釈金違反の容疑を取り下げた。そして先月、彼女は暴行容疑で裁判にかけられ、無罪となった。
シムズ氏は、AI証拠の基準と罰則を定める新たな法律の制定を求める運動の道のりについて語った。
「もし私にこんなことが起こり得るなら、誰にでも起こり得る」と彼女は付け加えた。
7月、ペンシルベニア州知事ジョシュ・シャピロ氏は、州内で人を傷つけたり、搾取したり、詐欺行為を目的としたAIディープフェイクの作成を重罪とする新たなデジタル偽造法に署名した。
WPVI-TVはシム ズ氏の元ボーイフレンドに連絡を取ったが、返答はない。