1月21日日曜日の午後遅く、キャシー・サリバンさんは、サリバンさんまたは夫から電話があり、その後連絡を取っているという家族からのテキストメッセージを受け取った。
ニューハンプシャー州予備選挙でジョー・バイデン大統領の記名投票キャンペーンを展開するスーパーPACの会計係であるサリバンさんは、わずか2日後に迫った選挙を前に仕事で忙しかった。彼女はテキストメッセージを無視し、友人が誤って電話したのだろうと思った。
数時間後、サリバンさんが夕食に出かけようとしたとき、別の電話がかかってきた。今度はニューハンプシャー州の有権者からで、なぜバイデンの自動音声メッセージを自分の携帯電話に送っているのかと尋ねられた。困惑したサ リバンさんは、そのような電話はかけていないと答え、それ以上深く考えることなくその場を去った。
夕食の途中で、サリバンさんは携帯電話に目をやると、知らない番号からの不在着信が12件入っているのに気づいた。そのとき彼女は、「ああ、私が気づいている以上に何かがある。何かが起こっている」と思った。
誰かがニューハンプシャー州の有権者にロボコールを大量に送り始めていた。それはバイデンが民主党員に火曜日の予備選挙で投票しないよう警告しているように聞こえる。なぜなら、それは「共和党がドナルド・トランプを選出しようとするのを手助けするだけだ」からだ。その声は忠実な民主党員に「あなたの投票が影響を及ぼすのは11月であり、今週の火曜日ではない」ことを忘れないように促していた。
ジョー・バイデン大統領になりすまし、ニューハンプシャー州の有権者を狙ったロボコールの音声録音。
さらに奇妙なことに、発信者番号に表示された電話番号は、元ニューハンプシャー州民主党議長のサリバンのものだったようだ。電話を仕組んだ人物が彼女の携帯電話番号を偽装し、サリバンはニューハンプシャー州の有権者から質問や苦情の嵐にさらされた。
サリバン氏が心配していたことは、2024年の米国選挙におけるマイルストーンとなる可能性があることが判明した。米国の有権者をターゲットにしたAI生成の音声偽情報の初の事例と思われる。これが最後となる可能性は低い。
技術者、サイバーセキュリティの専門家、政府機関は、AIツールが、人々が実際にしたことや言ったことのないことをしている、または言っているリアルな画像、動 画、音声を作成するために使用される可能性があると何年も前から警告してきた。ニューハンプシャー州のロボコールは、2024年の選挙で悪意のある人物がディープフェイクを利用する可能性が本能的に現実になった瞬間を示している。
「ニューハンプシャー州で今目にしているのは、この技術の大規模な適用です」と、サイバーセキュリティ・インフラセキュリティ庁と国家サイバー長官室の元職員であるレックス・ブース氏はCyberScoopに語った。
この場合、電話の背後にいる人物やその最終的な動機は不明のままである。電話が投票行動に及ぼした影響は不明のままであり、バイデン氏は投票用紙に記載されていないにもかかわらず予備選挙で楽勝した。
米国の有権者はすでにディープフェイク、誤報、偽情報にさらされているが、ニューハンプシャー州の事件は、AIが「より多くの潜在的な有権者に、より速く、より即座に、より関連性が高く直接的な方法で影響を与えることができる方法で適用できる」ことを示していると、現在はソフトウェア会社セイルポイントの最高情報セキュリティ責任者を務めるブース氏は述べた。
過去1年間で、スロバキア、英国、台湾などの国々で、AIが生成した偽情報が爆発的に増加しました。ディープフェイクは、共和党全国委員会が、バイデン氏が2024年に再選された場合の米国の未来についての終末論的なビジョンを描写するためにAI生成の広告を発表したときなど、以前にも米国の選挙で使用されたことがあるが、ニューハンプシャー州の事件は、米国の有権者を直接標的にし、投票所での行動を変えるために使用された初めてのケースだ。
「これは予測可能で、予測されていた」と、ドイツ・マーシャル基金の民主主義確保同盟の新興技術担当シニアフェローで、元ホワイトハウスのAI、民主主義、国家安全保障担当上級顧問であるリンジー・ゴーマン氏はサイバースクープに語った。 AIシステムの普及と、ディープフェイク技術を使って人物を模倣することが比較的容易であること（通常は約1時間、時には3分程度の音声が必要）を考えると、ニューハンプシャー州のロボコールはおそらく2024年の選挙で何が起こるかを示唆している。
「これが私たちが目にする最後の事件になるとは到底思えません」とゴーマン氏は述べた。
サリバン氏らは、ニューハンプシャー州司法長官事務所にこの電話について苦情を申し立てたが、州法や連邦法のどの法律に違反したのかは定かではないと認めた。ニューハンプシャー州の法執行機関はすでにこの事件の捜査を開始している。民主党議員らは、メリック・ガーランド米司法長官に対し、連邦捜査を開始するよう要請した。
「これらのメッセージは、ニューハンプシャー州大統領予備選挙を妨害し、ニューハンプシャー州の有権者を抑圧しようとする違法な試みと思われる」と、同州司法長官事務所は1月23日の声明で述べた。
ある意味で、サリバン氏はこのような事件に対処する準備が独自にできていた。2002年、サリバン氏は民主党の州党議長を務めていたが、上院選で接戦となった選挙運動で共和党の工作員が同氏の党の投票促進作戦を妨害することを目的とした電話妨害計画を実行した。ニューハンプシャー共和党の事務局長チャールズ・マギーを含む4人が、事件における役割に起因する罪で起訴され有罪判決を受けたか有罪を認めた。
別の意味で、サリバン氏は、多くの州および地方当局者がAIの脅威に対処する準備がいかに不十分であるかを象徴している。彼女は自分自身を「技術者ではない」と表現し、今週まで人工知能、ディープフェイク、およびそれらが選挙に及ぼす可能性のある影響について一般的な認識しか持っていなかった。
「もちろん、今は非常に興味があり、もっと注意を払うつもりです」とサリバン氏は語った。
ニューハンプシャー州のような選挙運動に対する最初の防衛線は州および地方の選挙管理当局であり、彼らの多くはすでにリソース不足や選挙制度に疑念を抱く有権者からの敵意の高まりに対処している。
CISAのような連邦機関は過去の選挙で偽情報と戦う上で重要な役割を果たしてきたが、最も顕著なのは2020年の選挙に至るまでのさまざまな選挙関連の陰謀説を暴いた「噂コントロール」ウェブページを通じてである。
しかし、連邦政府が偽情報の取り締まりに携わるべきではないと主張する共和党議員による最近の一連の裁判所の判決と徹底的な法廷闘争により、CISAのような機関がソーシャルメディア企業と関わり、偽情報に関して外部の関係者と調整する能力が大幅に妨げられています。
選挙関連の偽情報に反対した後、2020年に創設ディレクターが即時解雇された機関にとって、政治的な傷跡と反発は消えることなく残っている。
「CISAには、再びその水域に踏み込む意欲も権限もないと思う」とブース氏は述べた。
Foreign Affairsに掲載された1月の論説で、CISAディレクターのジェン・イースタリー、上級選挙セキュリティ顧問のケイト・コンリー、カンザス州務長官のスコット・シュワブは、連邦政府の支援は必要だが、「この脅威に対処する責任の大部分は、国の州および地方の選挙当局にかかってくるだろう」と書いている。
「私たちはこれを解決しなければならない。 「私たちにはそれを行う能力がないので、全国からの支援に頼らざるを得ない」とサリバン氏は述べ、全国政党組織と連邦議員に対し、研修、リソース、法律を通じてこの問題に対処するよう求めた。
ニューハンプシャー州のロボコールは混乱を招いたが、サリバン氏は州や地方当局がこの事件から、また彼女や他の当局者がそれにどう対応したかから学ぶことができると考えている。多くの選挙運動ではすでに急速な展開に対応するために迅速対応チームを採用しているが、そのチームは偽メディアや偽メディアの可能性があるメディアの出現に対処するための何らかの計画を準備しておくべきだとサリバン氏は述べた。
「すぐに行動できる人材が必要だ。メッセージングの準備もしておかなければならない。そうすれば、一斉メールに何を書けばよいか考えるのに3時間もかかることはない」とサリバン氏は主張した。
ニューハンプシャー州の場合、サリバン氏と他の党幹部は直ちに支持者に偽の音声について警告し、火曜日の予備選挙で投票するよう促すメールを送った。また、事件をより広く報道してもらうためにメディアにも働きかけた。
スタッフの弁護士は、法執行機関と州司法長官事務所の関係職員を迅速に特定して連絡し、電話を報告した。サリバン氏は、これらの連絡先を用意しておいたことで貴重な時間を節約し、月曜日に州法執行機関がこの事件を捜査中であるという迅速な発表に役立ったと述べた。もし当局に突然電話をかけてAIを利用した選挙詐欺を主張していたら、このようなことは起こらなかったかもしれない。
しかし、小規模な選挙運動や選挙事務所には、これらの事件にリアルタイムで効果的に対応するリソースが不足している可能性がある。そして、2024年の選挙戦が長引くにつれ、より無名の政治キャンペーンがAI偽情報の標的になりやすくなるかもしれない。これは、あまり精査されていない選挙戦では見分けるのがより難しいかもしれない。
ニューハンプシャー州のロボコールの単調でロボットのようなリズムは、何十年にもわたるメディア露出でバイデンの話し方に慣れている有権者を騙すことはできなかったかもしれないが、州公職に立候補しているあまり知られていない候補者のディープフェイクには、有権者はより簡単に騙されるかもしれない。その候補者が公の場で演説したり、テレビのインタビューに出演したりしたことがあれば、説得力のあるディープフェイクを作成するのに十分な音声と動画が公の場にある可能性が高い。
「もし誰かがそれを実行する能力を持っていたとしても、誰もこれが起こるのを止められたかどうかはわかりません」とサリバン氏は語った。「では、私たちはどのように最善の備えをすればよいのでしょうか？」