Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる

レポート 4191

関連インシデント

インシデント 82416 Report
Purported Deepfake Allegedly Misattributes Claims to Former Student in Attack on Vice-Presidential Candidate Tim Walz

Loading...
ウォルツに対するウイルス攻撃では、偽の元生徒が虚偽の主張をしている。
washingtonpost.com · 2024

マシュー・メトロは、先週友人からテキストで送られてきたリンクをクリックしたときに携帯電話の画面に表示された顔に見覚えがなかった。しかし、オンライン動画の再生ボタンを押した後、彼は見たものに落胆した。

「私の名前はマシュー・メトロです」と動画の男性は言い、数十年前、民主党副大統領候補のティム・ウォルツが教師をしていたミネソタ州の高校での学生生活について語った。ウォルツが働いていたときに学校にいたことなど、いくつかの詳細は本物のメトロの経歴と一致した。しかし、動画の男性はさらに踏み込み、本物のメトロがウォルツに会ったことはないと言ったにもかかわらず、ウォルツに対して捏造された主張を展開した。

水曜日にX(旧Twitter)で動画が公開されて以来、何百万人もの人々がこの動画を含むソーシャルメディアの投稿を閲覧した。一部の視聴者にとって、メトロの名前と検証可能な経歴の詳細の使用は、虚偽の主張に信憑性の雰囲気を作り出した。ワシントンポスト紙がハワイ州ヒロで突き止めた本物のメトロはそうではない。

「明らかに私ではありません。歯も違うし、髪も違うし、目も違うし、鼻も違うのです」と、これまで公の場で発言したことのない45歳のメトロは語った。「どこからこんな情報を得たのかわかりません」。メトロは身元確認のため、ワシントンポスト紙にハワイの運転免許証を見せた。

メトロはワシントンポスト紙に対し、ウォルツから教わったことはないと語った。自分の名前と経歴が、不気味な虚偽の告発を補強するために使われ、自分は永遠にネット上でその告発と結び付けられるかもしれないことに憤慨していると語った。「これは私のプライバシーと私生活の侵害です」と彼は語った。

メトロの名前を偽って公開された謎のXアカウントによる4分間の動画は、大統領選の最後の数週間にソーシャルメディアで飛び交ったウォルツや他の候補者に対する数々の突飛な中傷の1つである。 X は最終的に、動画の下に内容が操作されたことを示すラベルを追加したが、このクリップの複数のバージョンがオンラインに残っている。プラットフォームが公開しているエンゲージメント データによると、この動画を取り上げている投稿は合計で少なくとも 500 万回の視聴回数を獲得した。

著名人の洗練された偽動画など、虚偽の主張が溢れる政治環境において、このデマは、現在注目されている候補者と歴史的にわずかなつながりがある一般人の身元を粗雑に盗むためにオープンソースの調査を利用したと思われる点で異例である。さらに、この元学生が選ばれたのは、彼の実際の生活に関する個人情報(性的指向など)が捏造された主張に含まれており、それを裏付けるものと見なされたためと思われる。

メトロによると、動画の公開後、ウォルツの上級補佐官から連絡があったという。メトロによると、補佐官は、ウォルツのチームが調査中で、彼が動画に登場した人物ではないことはすでに知っていたと述べた。

ハリス・ウォルツ陣営の広報担当者は、この連絡を確認した。

X は、ワシントン ポスト紙からの電子メールによる質問には回答しなかった。

ポスト紙がオンラインで発見したこの動画の最も古い例は、水曜日の正午過ぎに、メトロの名前をユーザー名と表示名として使用した X アカウント によって公開された。メトロはポスト紙に対し、自分はこのアカウントとは何の関係もないと語った。ユーザー名と表示名はいつでも変更できる。このアカウントは 2023 年 10 月に作成された。先週から始まったウォルツ氏を批判する投稿を除けば、このアカウントは主に犬に関するコンテンツを共有している。

ウォルツ氏に対する虚偽の申し立てを含むこの動画は、投稿されてから数時間後、QAnon 陰謀論に関連する匿名で運営されている X アカウントによって再パッケージ化されて共有されるまで、ほとんど注目されなかった。この動画は、トランプ支持者の間で人気のプラットフォームである Rumble、Truth Social、Gettr でも共有された。これらのアカウントのプロフィール情報によると、これらのアカウントは X アカウントも含むネットワークにリンクされている。

これらのアカウントの運営者に残されたメッセージには応答がなかった。

Xアカウントの動画を含む投稿は、削除されるまでの22時間で540万回以上視聴された(アーカイブ表示)。動画は、1970年代にビル・クリントン元大統領から性的暴行を受けたと告発したフアニータ・ブロードリックなど、多くの読者を持つ他のアカウントによって共有された。

動画に関する投稿を削除したブロードリックは、コメントを求めるメッセージにすぐには反応しなかった。

フォロワー数が少ないトランプ支持者の多くは、この投稿を、カマラ・ハリス副大統領の副大統領候補が教師時代に生徒に対して行った行為に関する衝撃的な暴露として宣伝した。ウォルツが教えた学校に通っていた告発者が名前を挙げていたため、信憑性が高まった。

他の人たちは、学校の年鑑やソーシャルメディアでメトロについて調査し、動画の男性は本物のメトロの写真とは似ていないと結論付けた。 Xユーザーの中には、男性の口の周りなど、視覚的に歪んでいるように見えることを証拠として挙げ、この動画を「ディープフェイク」だと否定する者もいる。

複数の専門家は、この動画はディープフェイクではなく、本物の男性がメトロになりすましていると考えているとワシントンポスト紙に語った。

コンピューターサイエンスの教授でバークレー人工知能研究所のメンバーでもあるハニー・ファリド氏は、この動画は「安っぽい偽物」である可能性が高いと述べた。典型的なディープフェイクとは異なり、偽のメトロは、声に強いアクセントが付けられており、見た目も声も本物とは似ていないと同氏は指摘した。

ファリド氏は、同氏のチームがコンピューター支援検出ツールで行った分析で、ディープフェイクの作成に使われる技術である生成AIの証拠は見つからなかったと述べた。同氏は、見た目の歪みは、実際には元のサイズから圧縮された低品質の動画であることを示すものだと述べた。

ニューヨーク州立大学バッファロー校のコンピューターサイエンスおよびエンジニアリングの教授であるシウェイ・リュ氏は、同氏の学生数名による動画の分析で同様の結論に至ったと述べた。 「当社のアルゴリズムでは、このビデオがAIで作成または操作されたことを示す明確な証拠は見つかりませんでした」とリュウ氏は述べた。分析の結果、このビデオが顔の入れ替えやリップシンクで作成された可能性は低いと判断されたと同氏は述べた。

人気のディープフェイク検出ツールを開発する非営利AI企業True Mediaの創設者オレン・エツィオーニ氏は、同社の分析で音声操作の重要な証拠が見つかったと述べた。「おそらく、このビデオは本物だが、音声はさまざまな形で変換されているということを示していると思います」とエツィオーニ氏は述べた。

ビデオに映っている男性が誰なのか、なぜメトロを装ってウォルツ氏に対して虚偽の告発をしたのか、あるいは他に誰が関与していたのかは特定できなかった。

メトロ氏によると、ウォルツ氏はペンシルベニア州中部で生まれた。家族はオハイオ州、その後ニューヨークに移り、その後ミネソタ州マンケートに移り、両親はミネソタ州立大学に就職した。メトロ氏によると、ウォルツ氏は1994年からウェスト高校に通い、2年後に教師としてウォルツ氏も同校に加わった。

動画の中で、メトロを装った男は、1997年に高校4年生の難しい時期にウォルツに助言を求めたところ、教室でウォルツに体を触られキスされたと主張している。しかし、本物のメトロは、そのようなやり取りはなく、高校4年生は「楽勝だった」と述べている。

偽のメトロは動画の中で、その年に両親が離婚することになり、自分の性的指向を秘密にしなければならなかったと述べている。ゲイである本物のメトロは、ワシントンポスト紙に、真実はその逆だと語った。「高校では完全にカミングアウトしていた」と語り、両親は今も幸せな結婚生活を続けていると付け加えた。

メトロによると、彼はミネソタ州に住む古い友人から初めてこの動画の存在を知らされたという。「これは偽物だとわかっている」と、先週のテキストメッセージで友人が述べたという。メトロによると、彼はそれ以来、友人や親戚から大量のメッセージを受け取り、全員が彼が動画に映っている人物ではないと認識したという。

彼は、なぜ自分が動画に映るよう狙われたのか「全く分からない」と述べた。彼は、Facebook やその他のプラットフォーム上の休眠アカウントから、自分の経歴や関心事に関する画像や情報が収集された可能性があると推測した。

彼は 11 月にハリス氏とウォルツ氏に投票する予定だと述べた。

情報源を読む

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd