QAnon陰謀論に深く関わっているユーザーがXに投稿した投稿は、ミネソタ州知事ティム・ウォルツの元生徒であるマシュー・メトロが、1997年に学生だったときにウォルツから性的暴行を受けたと主張していると主張している。この動きは、右派がAI生成ビデオを使用して政治的アジェンダを推進するという、より広範な現象の一部である。
「速報：ティム・ウォルツの元生徒であるマシュー・メトロが衝撃的な主張を表明。1997年、ウォルツがマンケート・ウェスト高校で教師をしていたときに、ウォルツから性的暴行を受けたと主張している。メトロは当時、高校3年生だった。これが事実であれば、政治的激震だ」とユーザーは述べた。
しかし、ユーザーはすぐにこの投稿にコミュニティノートを追加し（その後Xから削除）、この動画はAIによる捏造であると説明しました。ディープフェイク検出ウェブサイトはすぐにこの動画をフラグ付けし、ユーザーはすぐにこの動画に不自然な顔の動きとロボットのような声、メトロが学校に通っていた年数などの基本的な事実のいくつかの誤りがあることを指摘しました。
「あの動画はディープフェイクだ。ほとんどの人がすぐにディープフェイクだと気づかなければ、私たちはすぐに深刻な問題に直面することになる」とBBCの偽情報ジャーナリスト、シャヤン・サルダリザデ氏は語った。
「この話し方は、AIが生成したプロンプトであることを強く示唆している。例えば、彼が最初の30秒以内に『性的暴行』を3回言っているのを聞いてみてほしい。毎回、まったく同じピッチ、トーン、イントネーションで言っている…」
「顔の動きがおかしい。筋肉の動きが一貫していない、目が垂れている、眉が不規則に動いている、動画全体を通して歯が消えたり現れたりしている」とコミュニティノ ートの下にリンクされているユーザーが語った。
さらに、メトロのLinkedInプロフィールによると、彼は動画で主張されている1997年ではなく、1993年から1996年までマンケート・ウェスト高校に通っていた。彼のFacebookプロフィールにも彼の写真が掲載されているが、動画の男性とはまったく別人のようだ。
ワシントン・ポストの調査チームはメトロと連絡を取り、ディープフェイクについて尋ねた。彼は「明らかに私ではありません。歯も髪も目も鼻も違います。どこからこんな情報を得たのかわかりません」と語った。
ゲイであることを公表しているメトロは、学校でウォルツが彼を触ったりキスしたりしたなど、フェイク動画で取り上げられている事件は起こっていないと強調した。
動画では、自分が高校時代にカミングアウトしていなかったことや、両親が離婚しようとしていることが語られているが、どちらも嘘だと語った。彼は高校時代にカミングアウトしており、両親は今も結婚している。
「高校時代は完全にカミングアウトしていた」と彼は語った。
彼は、自分の名前と身元がオンライン上の動画と永遠に結び付けられることを考えると、動画で誤って表現されたことへの怒りを語った。「これは私のプライバシーと私生活の侵害だ」と彼は語った。
これは、ウォルツをめぐる一連の虚偽で詐欺的な性的暴行の申し立ての最新のものに過ぎず、多数のアカウントが証拠に裏付けられていない他の主張を広めている。 何人か より主流派 保守派コメンテーター は、ウォルツは同性愛者であると主張しており、彼は 1990年代にミネソタ州の高校でゲイ・ストレート同盟を支持したことや、知事としてトランスジェンダーの若者を支持したことで、保守派を非難した。
国土安全保障省によると、AIディープフェイクは、特にデジタル政治の分野で一般的になりつつある。彼らは、国民がこれらの増大する脅威を認識し、ディープフェイクを最も効果的に検出する方法に関する教育をさらに広める必要性が高まっていると指摘している。これは、選挙の際には特に必要となる。
ある2019年の研究によると、「ディープフェイクは、真実と偽のニュースを選別しようと奮闘するジャーナリストにプレッシャーをかけ、選挙に干渉するプロパガンダを広めることで国家安全保障を脅かし、当局の情報に対する国民の信頼を損ない、人々や組織にとってサイバーセキュリティの問題を引き起こすため、社会、政治システム、企業にとって大きな脅威となっている。」
この研究の著者は、ディープフェイク対策技術と規制の必要性についても概説している。合法的なものを見分けることがますます困難になるなど、人工知能を取り巻く技術の拡大を連邦政府が規 制するよう求める声が高まっている。ディープフェイクを見分ける方法に関する教育とトレーニングは、非常に必要であると強調されている。
LGBTQ Nationはメトロに連絡を取ったが、この記事の公開前には返答がなかった。
ハリス・ウォルツ陣営は、誤情報についてはコメントしないと述べ、コメントを控えた。