Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる

レポート 4069

関連インシデント

インシデント 62815 Report
Fake Biden Voice in Robocall Misleads New Hampshire Democratic Voters in 2024 Primary Election

Loading...
民主党の活動家がAIを使った偽バイデンロボコールを依頼したことを認める
nbcnews.com · 2024

ライバル候補のために働くベテラン政治コンサルタントのスティーブ・クレイマー氏は日曜日、人工知能を使ってジョー・バイデン大統領になりすましたロボコールを依頼したことを認め、彼がNBCニュースの報道の背後にいたことを認めた。 cal](https://www.nbcnews.com/politics/2024-election/fake-joe-biden-robocall-tells-new-hampshire-democrats-not-vote-tuesday-rcna134984)l。

クレイマー氏は声明とNBCニュースのインタビューで、大統領の声を真似てニューハンプシャー州の民主党大統領予備選挙への参加を阻むディープフェイクを作成したことについて何ら後悔の念を示していない。この電話は複数の法執行機関による捜査を開始し、選挙管理当局や監視団体からの抗議を引き起こした。

「証言を恐れることはない。自分がなぜすべてをやったのかはわかっている」と、同氏は日曜遅くのインタビューで語った。同氏は名乗り出てから初めてのインタビューだった。「下院監視委員会が私に証言を求めたら、私はテレビで放送するよう要求するつもりだ。私の方が彼らより詳しいからだ」

クレイマー氏は、連邦通信委員会から召喚状を受け取っており、6人から訴えられるかもしれないと疑っており、刑務所行きの可能性もあるが、政治活動は続けると語った。

NBCニュースはFCCにコメントを求めている。

クレイマー氏は、最初から偽のロボコールを計画したのは、政治におけるAIの危険性に注意を喚起するための公民的不服従行為だと主張した。同氏は自分をアメリカ独立戦争の英雄、ポール・リビアとトーマス・ペインになぞらえた。同氏は、自分のような人間が自分のしたことをやめさせるには、より厳しい取り締まりが必要だと語った。

「これは私が変化をもたらす方法であり、実際にそうしてきた」と同氏はインタビューで語った。 「500ドルで、メディアの注目や規制措置など、約500万ドル相当のアクションが得られた」

クレイマー氏は、このいたずらのアイデアは完全に自分一人で思いついたもので、彼のクライアントであるバイデン氏の予備選で大差で敗れた対立候補のディーン・フィリップス下院議員(民主党、ミネソタ州)とは一切関係がないと述べた。フィリップス氏の選挙資金報告書によると、フィリップス氏は1月にロボコールが行われたころ、クレイマー氏に25万ドル以上を支払っていた。

フィリップス氏と彼の選挙陣営は、クレイマー氏の関与を全く知らず、知っていたら直ちに彼を解雇していただろうとして、ロボコールを非難した。

フィリップス氏の報道官ケイティ・ドラン氏は、クレイマー氏の日曜日の声明を受けて、「私たちの選挙陣営は、これらの電話や投票抑制の試みを改めて非難する」と述べた。

フィリップス氏のチームは、12月と1月にニューヨークとペンシルベニアでの投票アクセス業務のためにクレイマー氏を雇った。この業務には、候補者が投票資格を得るために有権者から何千もの署名を集めることが含まれる。

「6人ほどが私を訴えようとするだろうが、彼らは自分たちのような人間と付き合うことに慣れている」とクレイマー氏はインタビューで語った。「彼らは私に慣れていないと断言できます。大学でレスリングをしていた」

彼はまた、サウスカロライナ州選出の共和党上院議員リンジー・グラハムを装ったディープフェイクのロボコールを以前に依頼したことを認めたが、これは単なるテストだったと述べた。

この電話はサウスカロライナ州の共和党予備選挙の有権者300人にかけられた。それはグラハムの声で受信者に共和党予備選挙で誰を支持するかを尋ねる世論調査だった。クレイマー氏によると、グラハムの馴染みのある声からの応答率は、自動電話の応答率の4倍だったという。

クレイマー氏が偽のバイデンロボコールに関与していたことは、金曜日のNBCニュースの報道で初めて明らかになった。

では、これが最初から彼の計画だったのなら、なぜクレイマー氏は捕まるまで名乗り出なかったのか?そして、なぜ彼はポール・カーペンター氏にメールのやり取りを削除するよう指示したのか?

「私はサウスカロライナ州が「カロライナ州の予備選挙が終わったと思っていたので、邪魔したくなかった」と同氏はインタビューで語った。また、ニューハンプシャー州の有権者5,000人以上に大統領になりすまして投票しないよう呼びかけた電話は、予備選挙で「何も変えなかった」とも述べた。

「すぐに名乗り出ていたなら、電話の目的が台無しになっていた」と同氏は付け加え、規制当局が行動を起こすには時間が必要だったと主張した。

カーペンター氏が名乗り出るまでは、大統領選で初めてAIディープフェイクが使用されたことが世界が知ることになるかどうかは不明だった。

ニューオーリンズのストリートマジシャンであるカーペンター氏は、クレイマー氏がAIソフトウェアを使用して、クレイマー氏が用意して提供した台本を読み上げるバイデン氏の声を再現する音声ファイルを作成するよう同氏を雇ったと述べた。

NBCニュースに提供されたVenmoの取引とテキストメッセージによると、カーペンター氏はその仕事に対して150ドルを支払われた。

クレイマー氏はインタビューで、カーペンター氏を雇ったのは、マジシャンが「運が悪かった」のでクレイマー氏が手伝いたかったからだと語った。

同氏は、顧客からAIの仕事について尋ねられ始めたことがきっかけで、このアイデアを思いついたと語った。

投票率向上の専門家で自身の小さな会社の社長でもあるクレイマー氏は、過去20年間に連邦、州、地方の選挙運動に何十回も携わってきた。同氏は主に民主党のために働いており、そのキャリアはアメリカ民主党青年団との関わりから始まったが、最も有名な顧客はおそらく、以前はカニエ・ウェストとして知られていたラッパーのイェ氏だろう。イェ氏は2020年の大統領選の短期独立選挙運動でクレイマー氏を雇った。

放浪芸人であるカーペンター氏は、昨年共通の知人を通じてクレイマー氏と知り合い、最終的にロボコールとなった音声ファイルの作成を依頼したとき、クレイマー氏がバイデン陣営のために働いていると思っていたと語った。

ニューハンプシャー州当局は、投票抑圧を禁じる州法に違反する可能性があるとして、ロボコールを調査している。ロボコールに重点を置く州司法長官の複数州タスクフォースは、この技術が普及する中で早期の模範となるよう、バイデンのロボコールに関与した人々を厳しく取り締まろうとしている。また、連邦通信委員会は、バイデンのロボコールを受けてAIロボコールを禁止する計画を加速させた。

1月22日、ニューハンプシャー州ラコニアで行われた予備選挙で有権者が投票する。マット・ナイスワンダー/NBCニュース ファイル

声明の中で、クレイマー氏は、電話を配信するために、捜査官が電話の発信元として名指ししたテキサスのテレマーケティング会社ライフ社を雇ったことを認めた。

「彼らは、配信前にこの電話の内容を知らなかった」とクレイマー氏は書いた。「また彼らを利用するつもりだが、もう私の仕事は終わっている」

また、偽のバイデンのロボコールの内容を指示したというカーペンター氏の説明を認め、この電話は「私が特別に選んだ台本を使って」作成されたと述べた。

「個人でも、AIを誤解を招く目的で、また混乱を招く目的で、迅速かつ容易に使用できる」とクレイマー氏は付け加えた。

情報源を読む

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd