ニューオーリンズ — ライバルの大統領選キャンペーンで働いていた民主党のコンサルタントが、ニューオーリンズのマジシャンにお金を払って人工知能を使ってジョー・バイデン大統領になりすましてロボコールを行うを依頼した。このロボコールは、現在、複数の州で法執行機関による捜査の対象となっている。作成者がNBCニュースに提供したテキストメッセージ、通話記録、Venmo取引によると。
ポール・カーペンター は、民主党大統領候補ディーン・フィリップスの投票アクセスに携わってきたスティーブ・クレイマー氏に1月に雇われ、AIソフトウェアを使って、ニューハンプシャー州の民主党員に同州の大統領予備選で投票しないよう促すバイデン氏の声を真似て作ったと述べている。
「ロボコールで使われた音声は私が作った。配布はしていない」とカーペンター氏は現在住んでいるニューオーリンズでのインタビューで語った。「誰かが私に何かをやるように金銭を提供したので、それをやった。悪意はなかった。どのように配布されるかは知らなかった」カーペンター氏は、フォーク曲げや拘束衣からの脱出で世界記録を保持しているが、住所不定である。NBCニュースに偽のバイデン氏の音声を作成した経緯を明かし、この事件に関わったことを後悔しており、AIを使っていかに簡単に人を惑わすことができるかを人々に警告したいため名乗り出たと述べた。
偽の音声の作成には20分もかからず、費用はたった1ドルだったとカーペンター氏は語り、クレイマー氏と父親のブルース・クレイマー氏からVenmoで支払われた金額によると、150ドルを受け取ったという。
「こんなに簡単にできるなんて、とても怖い」とカーペンター氏は語った。「人々はそれを受け入れる準備ができていない」。
カーペンター氏は、Eleven Labs で作成されたというオリジナルの音声ファイルを共有した。これは、NBC ニュースが以前報じた通話録音の完全版で高画質版と思われる。
この ロボコールは、州の有権者抑圧法および連邦電気通信法に違反している可能性があるとして、ニューハンプシャー州および連邦法執行当局から強い注目を集めている。当局は、州の予備選挙を前に有権者に自動電話をかけるために使用されたダラスの会社の名前を挙げ、AI 生成のディープフェイクがアメリカの政治キャンペーンで悪意を持って使用された最初の例に関与した人々を見せしめにしたいとして、調査することを誓った。当局は、カーペンター氏やスティーブ・クレイマー氏を捜査対象として挙げていない。
記事の公開後、ニューハンプシャー州司法長官の広報担当者はコメントを控えたが、「捜査は引き続き活発に行われている」と述べた。
出演者
スティーブ・クレイマーは長年の政治活動家で、20年以上にわたり数十の選挙運動に携わってきた。その中には、かつてカニエ・ウェストとして知られていたラッパーのイェの2020年大統領選挙運動も含まれる。
スティーブ・クレイマーは当初、複数のコメント要請に応じなかった。数日後、彼は土曜日に意見記事を発表するまでこの件について話すのを待つと述べた。「私の論説ですべてを説明する」と彼はテキストで述べた。
フィリップス陣営と候補者自身は、スティーブ・クレイマーの関与疑惑について尋ねられると憤慨し、二度と彼と協力することはなく、疑惑が確認されれば法的措置を取る可能性があると述べた。
「私の選挙運動の投票用紙へのアクセスを支援するために雇われたコンサルタントが、ジョー・バイデンになりす ましたロボコールを偽装したとされていることに憤慨している」とフィリップス氏は、この記事が掲載された後の金曜日にツイートした。「私はその人物を知らないが、このような行為は卑劣であり、当局が捜査してくれると信じている」
「党が州の投票用紙へのアクセスを積極的に制限し、私のような挑戦者と協力するであろう評判の良いコンサルタントを排除していることも卑劣だ。政治の腐敗は蔓延しており、暴露され、対処されなければならない」と同氏は付け加えた。
NBCニュースは、選挙運動がスティーブ・クレイマー氏にロボコールの作成または配布を指示したという証拠は見つかっていない。
連邦選挙委員会の記録によると、スティーブ・クレイマー氏は12月と1月にフィリップス陣営から25万9946ドルの報酬を受け取った。この報酬はニューヨークとペンシルベニアでの投票用紙アクセス作業に対するもので、投票資格を得るために必要な署名を集める活動も含まれる。陣営によると、この作業にはフィリップス氏の声をフィーチャーしたロボコールの制作と配信も含まれていた。
選挙資金報告書に記載された支払いは、スティーブ・クレイマー氏が投票促進活動を行っていたことを示している
「クレイマー氏がディープフェイクのロボコールの作成に関与していたのが事実であれば、彼は自らの意志でそうしたのであり、我々の選挙運動とは何の関係もない」とフィリップス氏の広報担当ケイティ・ドラン氏は述べた。「 我々の選挙運動の基本的な考え方は、競争、選択、民主主義の重要性だ。クレイマー氏がこの電話の背後にいると知り、我々は憤慨している。もしこの疑惑が真実なら、我々は彼の行為を断固として非難する」
フィリップス氏の選挙運動は、スティーブ・クレイマー氏が担当州で候補者を投票用紙に載せるための署名を集める契約を終え、木曜遅くまで連絡がなかったため、数週間前にクレイマー氏との関係が終わったと述べた。
バイデン陣営のシニアアドバイザー、リズ・パーディ氏は、公表後の声明で、選挙運動は偽情報の「差し迫った脅威」に対して「非常に警戒している」と述べた。
「我々は、ニューハンプシャー州の法執行機関を含む、民主的な選挙を妨害しようとする者たちに責任を負わせようとする取り組みを支持します」と彼女は付け加えた。
マジシャンと政治コンサルタント
ヒューストン生まれで自らを「デジタル遊牧民の人生アーティスト」と呼ぶカーペンターは、昨年スティーブ・クレイマーに会ったとき、全国的な政治スキャンダルの真っ只中に巻き込まれるとは思っていなかったという。
「政治サーカスに欠けているのはマジシャンだけ。そしてここに私がいる」とカーペンターは語った。カーペンターはポッドキャストの司会者でもあり、メンタリズムの指導ビデオを作成し、24か国でパフォーマンスを行ったことがあるという。
過去数年間、彼はコンピューター プログラムを構築し、NFT、コンテンツ作成、AIの実験を行ってきたという。
彼は、犬用ゴーグルを着けたダックスフントとチワワのミックス犬と一緒にバイクに乗っている。彼の政治的見解は風変わり。
彼は「ディープステート」などの右翼の陰謀論を信じており、初の月面着陸には「いくつかの問題」があると語るが、ハリウッド・ウォーク・オブ・フェイムにあるドナルド・トランプ前大統領の星の上に陶器の便器を置き、その上で排便するふりをするパフォーマンスアートを上演したとも述べている。
彼は挑発を目的としたスタントを何度か行ってきたと語る。例えば、ニューヨーク市のタイムズスクエアで「過激な本物らしさ」を表現するためにイチジクの葉だけを身につけたスタントや、額にスワスティカをつけた白人至上主義者など、さまざまなアメリカ人の典型を演じた自分自身を撮影スタントは、お互いをどれだけ憎んでいても、私たちは皆人間であることを示すためだったという。
カーペンター氏によると、彼とスティーブ・クレイマー氏は共通の知人を通じて紹介された。カーペンター氏はその知人のためにウェブデザインやソーシャルメディア管理の仕事をしており、クレイマー氏のAIに関する経験に興味を持ったという。
カーペンター氏は、 スティーブ・クレイマー氏は声を真似るよう依頼された人々のために働いており、音声プロジェクトは選挙陣営の許可を得ていると考えていると述べた。同氏はミネソタ州選出の下院議員フィリップス氏については聞いたことがなく、スティーブ・クレイマー氏が候補者のために仕事をしていることも知らなかったと述べた。
カーペンター氏によると、最初の2つのプロジェクトはリンジー・グラハム上院議員（共和党、サウスカロライナ州）になりすましたもので、共和党の大統領予備選挙の有権者にどの候補者を支持するかを尋ねるロボポールで使われる予定だったようだ。3つ目は、民主党員にニューハンプシャー州で投票しないよう告げる偽のバイデン氏の音声だった。
カーペンター氏がNBCニュースに共有したテキストメッセージによると、スティーブ・クレイマー氏は9月27日にカーペンター氏に「AI音声プロジェクトがある」とテキストメッセージを送った。スティーブ・クレイマー宛てのテキストメッセージに書かれていた電話番号は、オンライン記録検索と一致し、コメントを求めて連絡を取った際にも確認された。その後、スティーブ・クレイマーはカーペンターにサウスカロライナ州上院議員の声の音声サンプルを送り、「前述のサウスカロライナ州の声と一致する大統領選の台本」を送ると述べた。
1月、ニューハンプシャー州大統領予備選の3日前、スティーブ・クレイマーはカーペンターに再びテキストメッセージを送り、台本をメールで送ったと伝えた。その後、スティーブ・クレイマーはカーペンターに支払いを父親のブルース・クレイマーに依頼したが、その理由はカーペ ンターには分からない。
Venmoの取引では、ブルース・クレイマーという名前の口座が1月20日に2回の取引でカーペンターに150ドル支払ったことが示されている。
「この件については何も言うことはありません」とブルース・クレイマーは木曜日の短い電話インタビューで語った。
1月22日、NBCニュースが初めて偽バイデンロボコールのニュースを報じたとき、スティーブ・クレイマーはカーペンターに記事へのリンクと「シーッ」というメッセージをテキストで送った。カーペンターは「Gtfooh」と返信した。これは驚きを表す頭字語だ。
通話記録のスクリーンショットには、その後数時間にわたってスティーブ・クレイマーとカーペンターの間で何度も電話が交わされたことが記録されている。カーペンターは、スティーブ・クレイマーの要請に従い、偽バイデンロボコールのスクリプトやその他の指示を含むメールのやり取りをすべて削除したと述べている。
スティーブ・クレイマー氏を個人的に知らないベテラン民主党戦略家は、1月30日に彼から緊急のメッセージを受け取った。バイデン氏のロボコールについて話すよう要請するものだ。プライベートな会話について話すために匿名を求めたこの戦略家は、応答しなかった。
スティーブ・クレイマー氏とは誰か?
自身の小さな会社の社長であるスティーブ・クレイマー氏は、投票促進の専門家で、過去20年間に数十の民主党系の選挙運動に携わってきた。その中には有名なものも含まれている。州および連邦の選挙資金記録によ ると、同氏はロボコールに関する豊富な経験がある。
以前はニューヨークを拠点としていた同氏は、ニューヨーク市の政治活動に携わった経歴がある。同氏のFacebookページには、休暇中や、派手なシャツを着て飲み物を手にニューオーリンズやマイアミでナイトライフを楽しんでいる姿がよく見られる。
スティーブ・クレイマー氏は数多くの主要選挙運動に携わってきたが、物議を醸すのは今回が初めてではない。
2020年、スティーブ・クレイマーはイェ氏の独立系大統領選挙運動に携わる傍ら、複数の州でイェ氏の投票用紙へのアクセスを支援し、選挙運動のトップ戦略家として公式に発言した。イェ氏は最終的に3つの州で投票用紙へのアクセスをめぐって問題を抱え、奴隷制に関する発言でも批判された。
2021年、元クライアントでニューヨーク市長選に立候補していた共和党員のサラ・ティルシュウェル氏がスティーブ・クレイマー氏を訴えた。彼女はクレイマー氏が署名を届けたが、その署名の大半が結局無効となり、投票用紙に載ることができなかったとして選挙運動を妨害したと非難した。同氏は係争中の訴訟についてコメントを拒否したが、裁判所への提出書類では容疑を否定しており、訴訟は未解決のままである。
ディープフェイクの作成方法
カーペンター氏はNBCニュースに対し、記者の声を代役として使い、バイデン氏の声の真似をした様子を見せた。これは、人の声の無断使用を禁じるAIプラット フォームの利用規約に違反しないためだ。
同氏は、NBCニュースの分析と外部の専門家によってバイデン氏のロボコールの作成に使用されたツールとして特定された、AIテキスト読み上げ音声生成ツールのEleven Labsを使用した。同氏はまた、主に無料の他のAIツールも使用し、人が話している動画に音声を追加し、それに合わせて唇を動かす方法を示した。
「YouTubeで学べないことは何もお見せしません」とカーペンター氏は述べた。
カーペンター氏はまた、メインのメールアドレスにリンクされた以前のEleven Labsアカウントが同社によって「異常なアクティビティのためアカウントを閉鎖しました」というメッセージとともに閉鎖されたことも明らかにした。カーペンター氏は、アカウントがロックされたのはNBCニュースが最初にこの件を報じた数日後だったと述べており、これはEleven Labsが1月26日にロボコール音声を作成したアカウントを禁止したというブルームバーグの報道と一致している。
彼はRedditで見つけたデトロイトを拠点とする刑事弁護および憲法修正第1条弁護士のブランドン・キジー氏に無償で弁護してもらっている。
「ポールはAIが生成したコンテンツが何に使われるのか事前に知らなかったし、選挙や投票活動に潜在的に影響を及ぼしたり、関連して使われたりするとは知らなかった」とキジー氏は語った。
これまでのところ、この通話に関する法執行機関の捜査の公開部分は、ロボコールを配信したとされるテキサス州のテレマーケティング会社に焦点を当てている。ニューハンプシャー州当局は、この通話が電話消費者保護法、発信者番号の真実法、テレマーケティングおよび消費者詐欺・濫用防止法に違反していないか連邦当局に調査を依頼したと述べている。
当局によると、偽のバイデン電話は5,000人から25,000人に届き、発信番号を「偽装」した。発信者番号には、当時バイデン支持の記名投票キャンペーンを展開していたニューハンプシャー州民主党の元議長からの電話のように表示される。
「これほど選挙が近い時期に、これほど露骨に有権者を欺こうとする試みは見たことがない」と、ニューハンプシャー州のジョン・フォルメラ司法長官は今月初めに述べた。「これが多くの最初の事例にならないようにしたい」